首页
学习
活动
专区
工具
TVP
发布

绿盟科技研究通讯

专栏作者
500
文章
622431
阅读量
87
订阅数
我们与「邪恶GPT」的距离
自然语言逻辑注入是通过语言描述绕过安全审查机制。由于大模型的训练数据,输入数据和输出数据都以自然语言为主,因此,其本身的安全审查机制也沾染了许多“人类的气息”。在使用自然语言交互的过程中,通过各种言语欺骗的方式绕过安全审查,是自然语言注入的独特方式。
绿盟科技研究通讯
2024-03-13
540
大模型内容安全:敢问路在何方?
2023年年8月15日,由国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、广电总局公布的《生成式人工智能服务管理暂行办法》正式施行[2],为提供和使用生成式人工智能服务制定了明确的规范。在服务的全过程中,数据提供者被明确要求采取有效措施,以确保尊重知识产权、他人合法权益,并提高生成内容的准确性与可靠性。
绿盟科技研究通讯
2024-02-26
3000
车联网移动应用安全攻守道
车联网实现了车与车、车与人、车与路、车与服务平台之间的网络连接,提升了交通服务的智能化水平,使得汽车不再只是孤立的交通工具。而移动应用(App)作为智能汽车的标配,承载着车与人之间的连接,各品牌汽车手机/车机App不仅可以提供商城、维修、保养等基础服务,还能够实现汽车的远程启动、车门解锁、空调开关以及自动驾驶等功能,为用户提供安全、舒适、智能、高效的驾驶感受与用车体验,显著提高车辆整体的智能驾驶水平。
绿盟科技研究通讯
2024-01-11
1520
【公益译文】英国《国家量子战略》(下)
让英国成为开办量子公司的首选地、全球供应链必不可少的组成部分以及投资者和全球人才的不二之选。
绿盟科技研究通讯
2023-12-20
1420
让安全启动更加安全
在上篇文章中,我们介绍了安全启动Secure Boot的几个核心的概念。在现实中,用户的计算机通常是加密的,使用TPM来保存加密口令是一个很好的解决方案——用户可以拥有一个加密磁盘,但不必在每次重启时重复输入口令。此外还可以确保当硬盘被恶意者从电脑上拔出来时,由于密钥保存在TPM中,密钥不会泄露。
绿盟科技研究通讯
2023-12-12
2220
《安全的人工智能系统开发指南》解读
11月26日,由英国国家网络安全中心(NCSC)、美国网络安全与基础设施安全局(CISA)联合美国国家安全局、美国联邦调查局以及澳大利亚、加拿大、新西兰、德国、法国、日本等10余个国家的网络和/或信息安全部门发布了“安全的人工智能系统开发指南”(Guidelines for secure AI system development [1])。亚马逊、微软、IBM、google等10余家机构参与了指南的制定。该指南旨在为使用人工智能(AI)的任何系统的提供商提供指导原则,帮助提供商构建能够按预期工作、在需要时可用、在不泄露敏感数据的前提下工作的人工智能系统。本文对其主要内容进行解读,以供普通读者阅读了解。人工智能专家或人工智能系统开发人员可根据需要,参阅原文[1]以获取更详细、全面的信息。此外,指南的末尾注记中列出的资料可作为延伸阅读材料,感兴趣的读者可以自行参阅。
绿盟科技研究通讯
2023-12-11
2930
SecureBoot101:初始安全启动
几十年来,个人电脑一直受到病毒、蠕虫和其他恶意软件的困扰。最早的一些个人电脑病毒是以引导扇区病毒的形式传播的:它们以代码形式存在于软盘的引导扇区中,当用户使用受感染的 DOS 软盘启动计算机时,病毒就会从一台计算机传播到另一台计算机。虽然随着软盘的淘汰和互联网连接的普及,其他病毒传播方式也逐渐受到重视,但预启动的恶意软件对系统安全仍造成巨大威胁。通过在操作系统内核获得计算机控制权之前执行,恶意软件可以 "隐藏 "起来,从而使病毒扫描程序几乎无法检测到恶意软件。
绿盟科技研究通讯
2023-12-05
2210
绿盟科技星云实验室参与编制的《中国联通云原生安全威胁分析与能力建设白皮书》正式发布
11月21日,中国联通网络安全现代产业链共链行动计划暨战新共创启航大会在京召开。联通研究院网络安全研究部围绕战略性新兴产业和未来产业,发布一系列重要的网络安全白皮书,凭借在云原生安全领域的丰富实践及积累,绿盟科技星云实验室作为核心参编单位,深度参与了中国联通研究院牵头的《中国联通云原生安全威胁分析与能力建设白皮书》的编制工作。
绿盟科技研究通讯
2023-11-30
1650
应对攻击面的未来之路:持续威胁暴露管理(CTEM)
Gartner于10月中旬发布2024年企业机构需要探索的10大战略技术趋势,如图1所示。
绿盟科技研究通讯
2023-11-27
5590
机密计算:大数据时代的隐秘守护者
在当今信息时代,数据已经成为了无处不在的宝贵资源。从金融机构到医疗保健领域,从科学研究到政府机构,巨大的数据集用于支持决策制定、创新发展和提供各种服务。然而,随着数据的不断增长,数据隐私和安全问题也变得日益突出。
绿盟科技研究通讯
2023-11-20
2030
【公益译文】定位面向未来的汽车网络安全
软件定义汽车开启了无限可能,即使汽车型号已经过时,终端客户仍然可以通过软件更新享受到市场上最新的安全、舒适和便利功能。在整个部署和操作过程中保护该软件至关重要。
绿盟科技研究通讯
2023-11-15
1870
大模型与软件供应链安全的融合探索
软件供应链安全指的是确保软件供应链中的各个环节和组件不受恶意攻击或未经授权的篡改,以保证软件交付的完整性、可信性和可靠性。软件供应链是指涉及开发、测试、集成、部署等多个环节的软件开发和交付过程,其中包括了供应商、开发者、第三方库、依赖组件、工具和用户等各种参与者。
绿盟科技研究通讯
2023-11-05
5010
浅谈绿盟数据保险箱与隐私计算
数据互联互通是当下数字化时代发展的一个必然趋势,那么如何顺应时代潮流,更好地保障数据安全流通、尽可能减少数据泄露风险呢?在此背景下,隐私计算顺势而生。
绿盟科技研究通讯
2023-10-24
2320
安全行业大模型解读|SecLLM在外部攻击面管理中的应用之道
安全行业大模型(SecLLM)可以应用于攻防模拟中,大模型的突出能力将帮助防御团队了解攻击者的策略,提高防御的针对性,给出防御策略和规划等建议,整合多种安全防御措施形成多层次、多角度的全面防御体系。
绿盟科技研究通讯
2023-10-24
3950
数据共享如何实现“可用而不可见”?答案在这里→
随着数字经济的蓬勃发展,数据已经成为新时代的重要生产要素,并成为国家基础性战略资源。与此同时,数据泄露事件呈现出愈演愈烈的态势,层出不穷的数据安全事件轻则为企业带来资金及名誉损失,重则影响国家安全。
绿盟科技研究通讯
2023-10-18
2370
论文解读:《From ChatGPT to ThreatGPT》
来自田纳西理工大学的五位作者于7月3日发表了一篇名为《From ChatGPT to ThreatGPT: Impact of Generative AI in Cybersecurity and Privacy》的论文[1]。该文广泛介绍了生成式人工智能(GenAI)技术在网络安全领域的应用方向,以及围绕GenAI自身的安全对抗。
绿盟科技研究通讯
2023-09-21
3690
为什么云原生环境下需要零信任安全
零信任安全不是一种特定技术、产品,而是一种基于“不相信任何人”理念的安全模型。Forrester[1]将零信任定义为“默认情况下拒绝访问应用程序和数据的信息安全模型。威胁预防是通过仅使用策略授予对网络和工作负载的访问权限来实现的,并通过跨用户及其相关设备的持续、上下文、基于风险的验证来通知”。包含以下四个原则:
绿盟科技研究通讯
2023-09-12
2310
论文解读:《From ChatGPT to ThreatGPT》(上)
来自田纳西理工大学的五位作者于7月3日发表了一篇名为《From ChatGPT to ThreatGPT: Impact of Generative AI in Cybersecurity and Privacy》的论文[1]。该文广泛介绍了生成式人工智能(GenAI)技术在网络安全领域的应用方向,以及围绕GenAI自身的安全对抗。
绿盟科技研究通讯
2023-08-31
3590
5G网络SBA架构HTTP2安全威胁分析
5G网络的出现大幅提高了网络的传输速率和带宽,正在为广泛的新兴产业提供服务。在5G网络中,其核心网的控制面采用服务化架构(SBA,Service Based Architecture)设计,其信令传输使用第二版超文本传输协议(HTTP/2),应用程序接口(API)则用于各种服务的交付,因此核心网架构的转变也给5G网络带来了很多潜在的网络安全挑战。本文解读了2022年12月发表在《IEEE Communications Magazine》(IF=11.2)杂志上的一篇文章《A Security Assessment of HTTP/2 Usage in 5G Service Based Architecture》,由于篇幅问题,本文首先对5G SBA架构及其安全特性进行了介绍,并对5G SBA架构中HTTP/2协议安全威胁进行了分析。
绿盟科技研究通讯
2023-08-31
4030
智能安全运营:大模型工具协同与学习框架
大模型技术的快速发展,给智能安全运营技术提供了全新的交互范式、任务分析范式与思路,并从分析维度、整合维度、协同维度,为经典网络空间人工智能技术栈的升级提供了重大机遇。包括:
绿盟科技研究通讯
2023-08-31
4180
点击加载更多
社区活动
Python精品学习库
代码在线跑,知识轻松学
【玩转EdgeOne】征文进行中
限时免费体验,发文即有奖~
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·干货材料·成员作品·最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档