AIGC新階段不只創作還懂鑒別真偽

◆ 螞蟻集團帶來AI安全成果展示。

今年世界人工智能大會的一個亮點是AIGC，相比過去重視生成能力，是次不少產品具有鑒別及安全功能。螞蟻集團帶來了生成式AI安全檢測相關產品「蟻鑒2.0」，這是業內首個產業級支持文本、圖像等全數據類型的AI安全檢測平台。此次展示的「蟻鑒2.0」，新增了AIGC安全性、AI可解釋兩項評測能力，可服務於數字金融、教育、文化、醫療、電商等領域的大規模複雜業務場景。該平台通過智能博弈對抗技術，模擬黑產以及自動化生成海量測試集，可實現「生成式機器人」對「AIGC生成式模型」的誘導式檢測計算，從而發現AI生成內容中的弱點和安全問題。

金睛火眼 快速識別P圖

在今年的可信AI論壇上，合合信息展示了「三大技術」，探索AI在圖像內容安全領域可信化發展的多重可能。P圖是常見的圖像篡改手段之一，合合信息相關負責人表示，其自主研發的圖像篡改檢測「黑科技」持續優化升級，應用面也已經拓展至「截圖篡改檢測」。此前，圖像篡改檢測的技術研究對象主要集中於自然場景圖像，然而，真正為人們的生活帶來風險的通常是被篡改的資質證書、文檔、截圖等。「我們的圖像篡改檢測技術可檢測包括轉賬紀錄、交易紀錄、聊天記錄等多種截圖，無論是從原圖中『摳下』關鍵要素後移動『黏貼』至另一處的『複製移動』圖片篡改手段，還是『擦除』『重打印』等方式，圖像篡改檢測技術均可『慧眼』識假。」

合合信息還研發了關於AI生成圖片鑒別技術，用於幫助個人及機構識別判斷AI圖片是否為生成的，防止「虛擬人」欺詐，通過解決生成式AI面臨的部分倫理問題，助力生成式AI的健康發展。