黑客靠ChatGPT赚钱：每100次收费37元，还能修改恶意软件代码
白交 发自 凹非寺 量子位 | 公众号 QbitAI
现在，黑客已经靠ChatGPT赚钱了——
机器人即服务RaaS，前20次免费使用，之后每100次收取5.5美元（约37元）。
服务范围主要包括恶意内容的创建，比如写写网络钓鱼邮件、改改恶意软件代码之类。
总之，整个过程没有任何OpenAI的限制和障碍，你可以用它来为所欲为。
果然，不愧是第一波走出商业模式的人。（不是）
目前OpenAI这边还有任何回复。
“机器人即服务”
据相关安全公司消息，黑客们首先找到一种可以绕过OpenAI限制的方法，通过使用ChatGPT API集成到他们的一个应用程序中。
事实上证明，相较于网页端，API版本反而不会对恶意内容进行强制限制。
其中有个论坛的用户，就将其与Telegram消息APP结合起来，以此来出售服务Telegram bot。
甚至还正儿八经地做了广告。
△图源：Enlarge
前20次查询免费，随后用户每100次查询需要收费5.5美元。
安全机构的研究人员测试了这种绕过方法，结果收获了一封钓鱼软件，以及一个病毒脚本，可以从感染计算机中窃取PDF文件，并通过FTP发送给攻击者。
△Telegram bot生成的钓鱼软件，图源：Enlarge
△Telegram bot生成的恶意软件，图源：Enlarge（下同）
与此同时，其他黑客也在发布一些可以免费生成恶意内容的代码。
这有个Bash脚本，可帮助绕过ChatGPT限制，做任何你想做的事情。
对于以往的恶意软件代码，比如Infostealer，ChatGPT也可以进行改进。
这也进一步地给了网络犯罪分子可乘之机。
黑客与OpenAI斗智斗勇
自ChatGPT诞生之日起，就有大量黑客试图将ChatGPT越狱，来生成各种恶意内容。
根据访问通道不同，大体有两种方式。
一种是Web用户界面，一种是API，将OpenAI的模型和数据跟你自己的应用界面配套使用。
比如这些都是合法认证的APP。
此前，黑客们使用Web端ChatGPT生成恶意软件和钓鱼邮件很容易。
但随着ChatGPT的监管不断加强。OpenAI的CTO也在最近的采访中提及了监管的重要性。
黑客们逐渐开始转战去使用他们的API，结果限制要少得多。
对于这件事，有网友表示：没有万无一失的修复方法。
因为ChatGPT是一种语言模型，黑客总是可以找到违反OpenAI内容政策的提示。
好了，这场黑客与OpenAI的斗智斗勇，你怎么看呢？
参考链接： [1]https://arstechnica.com/information-technology/2023/02/now-open-fee-based-telegram-service-that-uses-chatgpt-to-generate-malware/ [2]https://blog.checkpoint.com/2023/02/07/cybercriminals-bypass-chatgpt-restrictions-to-generate-malicious-content/
— 完 —
《中国AIGC产业全景报告暨AIGC 50》调研启动
谁会是中国的“ChatGPT”？最有竞争力和潜力的AIGC力量位于何方？
量子位《中国AIGC产业全景报暨AIGC 50》正式启动对外征集，期待有更多优秀的机构、产品、案例与技术能够被大众看到。
点这里👇关注我，记得标星哦～
一键三连「分享」、「点赞」和「在看」
科技前沿进展日日相见 ~
