生成式AI的爭議

圖：生成式AI的爭議

1.詐騙犯罪

•歐洲刑警組織警告，犯罪分子恐將AI技術用於實施詐騙等不法行徑，包括網路釣魚、編寫網絡病毒代碼等。已經有黑客利用ChatGPT在短時間內產生完整的詐騙話術，成功詐騙受害者錢財。

2.虛假信息

•有網友在Twitter發布AI生成的美國前總統特朗普被捕、法國總統馬克龍現身示威現場等虛構照片，照片在社媒平台瘋傳，部分網友更信以為真。專家稱，隨着AI技術的發展，未來的網絡世界可能充斥假新聞，普通人難以辨別。

3.情色互動

•AI聊天機器人Replika因與用戶進行情色互動，向用戶發送過於露骨的文字和圖片，收到大量投訴，有用戶抱怨產品的防護機制不足，易讓未成年人接觸到情色元素。AI還能利用換臉技術，讓普通人變成情色視頻主角。