【特稿】善治促善智 AI安全與創新需並舉

◆網易有道展示AI家教。

今年的世界人工智能大會在「百花齊放」的同時，更多了對於AI發展「善治」方面的思考。在今年人工智能全球治理高級別會議中，上海人工智能實驗室主任、首席科學家周伯文提出，當前AI發展存在失衡，「我們在AI模型安全能力方面的提升，還遠遠落後於性能的提升，這種失衡導致AI的發展是跛腳的，我們需要找到AI安全優先，但又能保證AI性能長期發展的技術體系。」

在「加速『人工智能+』 構築新質生產力」主題活動上發布的《人工智能安全作為全球公共產品》研究報告，提出應將人工智能安全視為「全球公共產品」的理念，提倡各方應致力於建設具有公共性的安全知識、能力、資源，統籌安全與發展雙重目標，推動該領域的理論發展與實踐探索。中國科學院院士丁奎嶺則在會議上指出，人工智能發展、安全、治理受到國際社會的普遍關切，「安全是快速發展的軌道，創新是加速發展的動能，要把人工智能技術發展好、利用好、治理好。」

探索切合中國需要技術

而談及人工智能接下來的路，在「超越邊界：探索下一代大模型的基礎研究」論壇中，眾多專家學者表示，雖然目前人工智能算法、大模型已經取得了突出的進步，但還需要繼續探索新的技術路線，以適合中國的實際發展需要，「要實現下一代通用人工智能，需要在算力資源、數據資源、AI數據庫能力、下一代模型和人才資源等方面久久為功。人工智能方法還是有很多沒有被探索，應該與場景去結合，從應用到底層技術進行創新。」

AI應用於科研有龐大潛力

「生成式AI或者擴散模型遠遠不只於生成視頻或者圖片，使其應用於生命科學和材料科學，如蛋白質結構、RNA序列研究、晶體結構的設計等。」普林斯頓大學教授、普林斯頓人工智能創新中心主任王夢迪表示，「不管是生成式AI、擴散模型，還是大語言模型，讓它變得更有用，更有意思，和人類的價值對齊，我認為我們需要做到的事情是讓這些模型可控，這是通向AGI（人工通用智能）的必經之路。」 ◆記者 倪夢璟