AI大戰/歐洲刑警組織警告 ChatGPT恐助長犯罪

圖：馬斯克簽署公開信，呼籲暫停訓練超強AI系統。\路透社

【大公報訊】綜合路透社、法新社、《華盛頓郵報》報道：ChatGPT母公司OpenAI創辦人之一、美國富豪馬斯克與逾千位人工智能（AI）專家及行業高層29日發表公開聯署信，呼籲停止訓練比GPT-4性能更強的AI系統至少6個月，因為該類系統將對社會及人類構成潛在危險。與此同時，歐洲刑警組織（Europol）27日警告，ChatGPT等AI聊天機器人可能被犯罪分子濫用，進行網絡釣魚、散步虛假信息及開發病毒軟件等。

美國OpenAI公司去年11月推出的ChatGPT受到熱捧，用戶對它明確回答困難問題、編寫詩句和程式，甚至是通過考試等能力驚嘆不已。歐洲刑警組織新成立的「創新實驗室」從整體上研究了聊天機器人的使用，並將ChatGPT列為重點關注對象。

騙徒用ChatGPT生成虛擬角色

歐洲刑警組織發現，犯罪分子可以利用ChatGPT大幅加速對未知領域的研究進程，包括草擬欺詐計劃，或查詢如何闖入民宅、執行恐怖行動、網絡犯罪、兒童性虐待等信息。該組織指出，ChatGPT快速生成逼真的語音文本的能力對於網絡釣魚攻擊特別有效，犯罪者可藉此引誘使用者點擊電郵連結，再試圖竊取他們的資料。

ChatGPT還可用於撰寫計算機代碼，讓那些對編碼和開發知之甚少，或一竅不通的不法分子能夠「輕鬆犯罪」。歐洲刑警組織指出，儘管ChatGPT具備內容審查等防護措施，會拒絕回答被歸類為有害或有偏見的問題，但犯罪分子可以通過巧妙的提示加以規避。

網絡安全平台GBHackers此前披露一宗黑客利用ChatGPT詐騙的案例。犯罪分子利用ChatGPT在短時間內生成完整的詐騙話術，迅速創建一個「虛擬角色」，並生成自我介紹、聊天內容及精心製作的「情書」，讓受害人以為自己墜入愛河，最終遭受金錢詐騙。

ChatGPT技術助長電話騙案

美國聯邦貿易委員會（FTC）最新統計顯示，「冒名詐騙」已成為美國第二大熱門的欺詐類型，2022年報告的案件超過3.6萬起，其中約5000起為電話詐騙，損失金額超過1100萬美元。除了成本低廉，只要一部電話就能展開詐騙，AI技術的進步也助長了電詐風氣。

美媒5日報道，一對加拿大夫婦遭電話詐騙，騙徒利用AI模仿他們兒子的聲音，從二人手上騙取2.1萬加元。受害夫婦表示，他們某天接到「兒子」的電話，對方稱自己駕車撞死一名美國外交官，現身處監獄，急需金錢支付律師費。受害夫婦雖覺得事有蹺蹊，但由於對方聲線非常像自己的兒子，仍提取現金並換成比特幣，交予騙徒。

加州大學伯克利分校數字鑒證教授法理德表示，隨着AI技術的發展，兩年前還需要長時間樣本才能將人的聲音複製得維妙維肖，現在只需短短30秒音頻，就能捕捉到一個人的聲音特徵，包括年齡、性別、口音等。

AI系統恐對人類構成風險

非營利機構「未來生命研究所」29日發布一封公開信，呼籲全球AI實驗室立即暫停訓練比GPT-4更強大的AI系統，至少中止6個月，必要時政府應當介入。截至目前，這封信已有超過1000名科學家和研究人員簽名，其中包括馬斯克、蘋果聯合創辦人沃茲尼克、圖靈獎得主本吉奧、Stability AI行政總裁莫斯塔克等。有網友發現，GPT-4開發商OpenAI的行政總裁阿爾特曼的名字短暫出現在公開信上，但很快被移除，疑似他人冒簽。據美國《時代周刊》報道，暫時沒有OpenAI員工在這封信上簽名。

公開信中寫道，廣泛研究表明AI系統可能對人類構成深遠風險，只有當確保強大的AI系統的效果是積極的、風險是可控的才能繼續開發。AI實驗室和獨立專家應在暫停期間，共同制定和實施一套先進的AI設計和開發的共享安全協議，由獨立的外部專家進行嚴格監督。有網友質疑，簽署公開信的專家是為了阻礙OpenAI研發更先進的GPT-5，以免自己落後太多。