首页
学习
活动
专区
工具
TVP
发布

AI大戰/歐洲刑警組織警告 ChatGPT恐助長犯罪

圖:馬斯克簽署公開信,呼籲暫停訓練超強AI系統。\路透社

【大公報訊】綜合路透社、法新社、《華盛頓郵報》報道:ChatGPT母公司OpenAI創辦人之一、美國富豪馬斯克與逾千位人工智能(AI)專家及行業高層29日發表公開聯署信,呼籲停止訓練比GPT-4性能更強的AI系統至少6個月,因為該類系統將對社會及人類構成潛在危險。與此同時,歐洲刑警組織(Europol)27日警告,ChatGPT等AI聊天機器人可能被犯罪分子濫用,進行網絡釣魚、散步虛假信息及開發病毒軟件等。

美國OpenAI公司去年11月推出的ChatGPT受到熱捧,用戶對它明確回答困難問題、編寫詩句和程式,甚至是通過考試等能力驚嘆不已。歐洲刑警組織新成立的「創新實驗室」從整體上研究了聊天機器人的使用,並將ChatGPT列為重點關注對象。

騙徒用ChatGPT生成虛擬角色

歐洲刑警組織發現,犯罪分子可以利用ChatGPT大幅加速對未知領域的研究進程,包括草擬欺詐計劃,或查詢如何闖入民宅、執行恐怖行動、網絡犯罪、兒童性虐待等信息。該組織指出,ChatGPT快速生成逼真的語音文本的能力對於網絡釣魚攻擊特別有效,犯罪者可藉此引誘使用者點擊電郵連結,再試圖竊取他們的資料。

ChatGPT還可用於撰寫計算機代碼,讓那些對編碼和開發知之甚少,或一竅不通的不法分子能夠「輕鬆犯罪」。歐洲刑警組織指出,儘管ChatGPT具備內容審查等防護措施,會拒絕回答被歸類為有害或有偏見的問題,但犯罪分子可以通過巧妙的提示加以規避。

網絡安全平台GBHackers此前披露一宗黑客利用ChatGPT詐騙的案例。犯罪分子利用ChatGPT在短時間內生成完整的詐騙話術,迅速創建一個「虛擬角色」,並生成自我介紹、聊天內容及精心製作的「情書」,讓受害人以為自己墜入愛河,最終遭受金錢詐騙。

ChatGPT技術助長電話騙案

美國聯邦貿易委員會(FTC)最新統計顯示,「冒名詐騙」已成為美國第二大熱門的欺詐類型,2022年報告的案件超過3.6萬起,其中約5000起為電話詐騙,損失金額超過1100萬美元。除了成本低廉,只要一部電話就能展開詐騙,AI技術的進步也助長了電詐風氣。

美媒5日報道,一對加拿大夫婦遭電話詐騙,騙徒利用AI模仿他們兒子的聲音,從二人手上騙取2.1萬加元。受害夫婦表示,他們某天接到「兒子」的電話,對方稱自己駕車撞死一名美國外交官,現身處監獄,急需金錢支付律師費。受害夫婦雖覺得事有蹺蹊,但由於對方聲線非常像自己的兒子,仍提取現金並換成比特幣,交予騙徒。

加州大學伯克利分校數字鑒證教授法理德表示,隨着AI技術的發展,兩年前還需要長時間樣本才能將人的聲音複製得維妙維肖,現在只需短短30秒音頻,就能捕捉到一個人的聲音特徵,包括年齡、性別、口音等。

AI系統恐對人類構成風險

非營利機構「未來生命研究所」29日發布一封公開信,呼籲全球AI實驗室立即暫停訓練比GPT-4更強大的AI系統,至少中止6個月,必要時政府應當介入。截至目前,這封信已有超過1000名科學家和研究人員簽名,其中包括馬斯克、蘋果聯合創辦人沃茲尼克、圖靈獎得主本吉奧、Stability AI行政總裁莫斯塔克等。有網友發現,GPT-4開發商OpenAI的行政總裁阿爾特曼的名字短暫出現在公開信上,但很快被移除,疑似他人冒簽。據美國《時代周刊》報道,暫時沒有OpenAI員工在這封信上簽名。

公開信中寫道,廣泛研究表明AI系統可能對人類構成深遠風險,只有當確保強大的AI系統的效果是積極的、風險是可控的才能繼續開發。AI實驗室和獨立專家應在暫停期間,共同制定和實施一套先進的AI設計和開發的共享安全協議,由獨立的外部專家進行嚴格監督。有網友質疑,簽署公開信的專家是為了阻礙OpenAI研發更先進的GPT-5,以免自己落後太多。

  • 发表于:
  • 原文链接https://kuaibao.qq.com/s/20230330A00NUD00?refer=cp_1026
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券