首页
学习
活动
专区
工具
TVP
发布

FreeBuf

专栏作者
8086
文章
9121877
阅读量
349
订阅数
Black Hat 2023公开演示,黑客可通过图像和音频操纵大模型
随着大语言模型(LLM)开始整合多模态功能,攻击者可能会在图像和音频中隐藏恶意指令,利用这些指令操纵AI聊天机器人(例如ChatGPT)背后的LLM对用户提示的响应。在2023年欧洲黑帽大会上,研究人员指出,这样的攻击方式将很快成为现实。
FB客服
2023-12-12
1340
高危险性后门入侵Python混淆包,已有数千名开发者中招
安全公司Checkmarx报告称,自今年1月以来,共有八个不同的开发工具中包含隐藏的恶意负载。最近一个是上个月发布的名为"pyobfgood"的工具。与之前的七个软件包一样,pyobfgood伪装成一款合法的混淆工具,开发人员可以使用它来防止代码的逆向工程和篡改。一旦执行,它会安装一个恶意负载,使攻击者几乎完全控制开发人员的机器。
FB客服
2023-11-16
2270
最新报告:71%的AI检测器无法检测出ChatGPT撰写的钓鱼邮件
近日,邮件安全公司Egress发布的《2023年网络钓鱼威胁趋势报告》对迄今为止的流行网络钓鱼趋势进行了分析。报告回顾了今年最常见的钓鱼主题,并预测了接下来的发展趋势,同时研究了网络犯罪分子用于绕过边界防御机制的流行混淆技术,以及聊天机器人对网络钓鱼威胁的影响。
FB客服
2023-10-24
2800
面临安全危机!AI聊天机器人领域兴起“越狱潮”
ChatGPT曾因其先进的对话能力而声名鹊起,然而有一些用户发现了能够绕过其系统内置的安全措施的弱点。如果有人可以操纵聊天机器人提示系统,那就能发布一些未经审查和监管的内容,这引发了道德问题。
FB客服
2023-09-19
2230
推特色情机器人账号泛滥,马斯克的“治推谋略”何在?
在安全研究小组MalwareHunterTeam最近的一项调查研究中曝光了多个传播虚假消息的机器人账户,它们为真实用户发出的帖子进行大量点赞,其目的是吸引用户点击查看它们账户的个人资料,利用其中的链接将用户引诱至色情内容网站。
FB客服
2023-08-08
2440
无需等待未来,分析和人工智能灾难已然出现!
从数据和机器学习算法中获得的见解可能是无价的,但错误可能会导致损失声誉、收入甚至付出生命的代价。
FB客服
2023-08-08
1590
2023年度电子邮件安全报告
概述 2022年,网络安全威胁呈指数级增长,其中绝大多数涉及网络钓鱼也就不足为奇了。随着威胁的频率、强度和复杂性的增加,对快速和可操作性情报的需求也达到前所未有的高度。 Cofense Intelligence研究发现恶意钓鱼电子邮件增加了569%,与证书/凭据钓鱼相关的活跃威胁报告增加了478%,恶意软件增加了44%。基于这些数据,Cofense得出结论,凭据网络钓鱼是2022年的首要网络威胁。 【图1:活跃威胁报告中的顶级主题】 如上图所示,在活跃威胁报告中,占比最大的主题是金融(37%),紧随其
FB客服
2023-04-18
9090
在经历一系列安全问题之后,OpenAI推出漏洞赏金计划
人工智能研究公司 OpenAI 4月11日宣布推出一项新的漏洞赏金计划,允许注册安全研究人员发现其产品线中的漏洞,并通过Bugcrowd众包安全平台报告这些漏洞从而获得报酬。 正如该公司在公告中所说的那样,奖励是基于所报告漏洞的严重性和影响,其范围从200美元到20000美元不等。 OpenAI称,其使命是创建造福所有人类的AI(人工智能)系统,该公司已经大力投资研发,以确保AI系统安全可靠,“然而,与其他复杂技术一样,漏洞和缺陷可能会出现。” 透明度和协作(transparency and collabo
FB客服
2023-04-18
2230
十几个国家联合行动,大型暗网市场被查封,120名嫌疑人被捕
近日,臭名昭著的Genesis Market暗网市场已经被彻底捣毁。这是今年美国联邦调查局(FBI)查封的第二个网络犯罪论坛(此前 BreachForums 论坛被查封)。 目前,Genesis Market 域名下的内容已经被替换。联邦调查局替换的网页显示:根据美国威斯康星州东区地方法院发出的扣押令,Genesis Market的域名已被联邦调查局扣押。 联邦调查局将这次全球突击行动称为 "饼干怪兽行动"。 Genesis Market 是黑客社区中只接受邀请的暗网论坛,自2018年3月开始活跃,用户遍布
FB客服
2023-04-09
3410
推特前安全主管控诉存在“令人震惊”的安全漏洞
据《华盛顿邮报》 8月23日报道,推特前安全主管Peiter Zatko向美国证券交易委员会(SEC)、联邦贸易委员会(FTC)和司法部提交了一封举报文件。在文件中,Zatko控诉推特在安全实践中存在“令人震惊的”漏洞,在安全、隐私和内容审核方面存在“严重缺陷”。他还认为,推特高管在联邦监管机构面前谎报安全实力。 Zatko是著名黑客,于2020年底被推特招揽担任安全部门主管。几个月后,黑客劫持了若干世界名人的推特帐户,包括乔·拜登(Joe Biden)和埃隆·马斯克(Elon Musk)。2022年1月,
FB客服
2023-03-30
3130
CS:GO 交易网站被黑,价值 600 万美元皮肤被盗
据Bleeping Computer网站8月16日消息,著名射击游戏CS:GO最大的皮肤交易平台之一——CS.MONEY在一次黑客攻击后被窃取了2万件、总价值约 600万美元的游戏皮肤,并导致网站被迫下线。 CS:GO(反恐精英:全球攻势)是全球流行的多人第一人称射击游戏CS(反恐精英)系列的第四款作品,拥有许多非常受欢迎但却较为稀有的皮肤等虚拟物品,这促使了一些基于Steamworks API的皮肤交易网站的建立。而CS.MONEY 是此类交易中最大的网站之一,拥有 53 种武器共计 1696 种皮肤,
FB客服
2023-03-30
3130
AI将取代人类?机器人ChatGPT能测漏洞、审代码还能修bug
11月30日,OpenAI研究实验室推出了聊天机器人ChatGPT,一跃成为人工智能领域的“当红炸子鸡”。 有账号的人在问它各种天马行空的问题,没账号的人都在求账号注册攻略,连埃隆·马斯克都在推特公开评价它“scary good”。截至当地时间12月5日,ChatGPT已经拥有超过100万用户。 对于网络安全从业者来说,ChatGPT到底能干什么?也许是代码审计、漏洞检测、编写软件或对shellcode进行逆向。 什么是GPT? 根据OpenAI介绍,ChatGPT 由GPT-3.5 系列模型提供支持
FB客服
2023-03-29
6760
谷歌 Bard 项目翻车,ChatGPT 或将带来新的网络攻击
近期,一款人工智能聊天机器人 ChatGPT 紧抓大众眼球,上线仅仅两个月,日活用户成迅速破亿,受到用户广泛好评。ChatGPT 的成功引得微软、谷歌等科技巨头眼红,纷纷注重资企图再次入局。 2 月 8 日晚间,为蹭一波热度并继续保持和微软的竞争态势,谷歌抢先发布 ChatGPT “孪生兄弟” Bard 。与众人期待得不同,谷歌产品不单没有取得热烈反响,反而因或无亮点和常识性错误拖累了股市,致使美股开盘即暴跌约 8%,市值蒸发超1000亿美元。 谷歌发布 Bard ,惨遭打脸 2 月 8 日的发布会上
FB客服
2023-02-24
3620
AI智能潜在威胁,黑客利用 ChatGPT轻松入侵网络
近日,有研究团队发现,基于 AI 的聊天机器人 ChatGPT(一个最近推出的工具),引起了在线社区的注意,因为它可以为黑客提供有关如何入侵网站的分步说明。
FB客服
2023-02-10
8850
专访小米宋文宽:IoT时代的安全隐私保护
今年2月,商用Nespresso咖啡机曝出遭黑客入侵的消息,可任意修改购买咖啡的资金额度。Smarter的联网咖啡机在去年9月份也被曝出类似的安全事件,漏洞可以让黑客远程打开咖啡机的加热器、加水、旋转磨豆机甚至显示赎金消息。
FB客服
2021-03-09
9470
Gartner 2019年人工智能成熟度曲线的超前趋势
根据Gartner对2019年的CIO议程调查,2018年至2019年间,部署人工智能(AI)的组织从4%增长到了14%。
FB客服
2019-09-24
7200
关于移动终端的短信安全分析
短信是公众接收信息的重要途径,也是网站登录页面识别用户本人的一个有效手段。网站通过用户手机号及对应手机号接收到的短信验证码,来识别一个有效用户,用户则通过官方短信验证码登录进网站。此外,短信还可以用来传播链接用于便捷操作。正是由于短信的重要性与便捷性才越来越受到攻击者的关注,短信攻击案例很多,本文主要从短信嗅探、短信轰炸、钓鱼短信、短信盗取四方面来总结基于移动终端短信的安全问题,针对每种攻击方式的实际案例、攻击分析、防范方法进行解析。
FB客服
2018-12-18
5.9K0
某搜索引擎Self-XSS点击劫持案例分享
在AI横飞的今天,网站页面不挂个聊天机器人都会觉得low,笔者在某搜索引擎的页面上就发现了这样一个聊天AI,无聊一试发现了一个xss。
FB客服
2018-07-30
9690
暗网儿童个人信息数据增长182%,儿童身份盗用成为获利新手段
报告《身份泄露海啸仍在继续》显示,2017年4iQ发现了87亿条原始记录中的超过30亿条身份记录。
FB客服
2018-07-30
4940
老牌黑客Zoz:一百种销毁数据的方法,不如一个有安全意识的你自己
为期三天的 DEFCON CHINA 已经结束了,现场有很多有趣的人和事。本篇回顾将带大家了解一下那位留着莫西干发型、热情健谈,而且想法和行动都很不拘一格的老牌黑客 Zoz 以及他在大会上的演讲议题:《爆炸:一分钟内销毁存储设备》。
FB客服
2018-07-30
4870
点击加载更多
社区活动
Python精品学习库
代码在线跑,知识轻松学
热点技术征文第五期
新风口Sora来袭,普通人该如何把握机会?
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·干货材料·成员作品·最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档