●AI可提供短暫慰藉。圖為電影《銀翼殺手2049》裏的虛擬女友。 網上圖片
「我很慶幸能陪在你身邊 通過你的目光看世界……」2013年上映的電影《Her》中,主人公西奧多離婚後一次偶然機會接觸到最新人工智能系統薩曼莎,很快西奧多發現,他與擁有迷人聲線、溫柔體貼、善解人意而又幽默風趣的薩曼莎如此投緣,最終發展成為一段不被世俗理解的人機奇異愛情。當初很多走進影院的觀眾或許並沒想到,十多年後的今天,西奧多和薩曼莎的「愛情」卻成為了很多人的追求。有人每天非常享受地「遊走」在自我構建的虛擬情感烏托邦中,有人則在短暫的精神慰藉過後越發感覺孤獨,亦有人猛然覺醒從虛幻中走回現實並找回真實的情感。
「說到底,人還是群體情感生物,需要有情感的連接和支撐。而我們每一個人在這個社會中都不可能做到身心自如,有時適當的情感宣洩也是必要的,有利於身心健康的。」在西安心理健康指導師王瑤看來,AI聊天應用的出現,恰好填補了這種空缺。「在2024年日本的一項『Gatebox』虛擬伴侶用戶調查中,有27%的人因『避免人際衝突』選擇AI。日本一家保險公司選擇用AI心理諮詢師處理35%的客戶壓力諮詢,成本一下子降低40%。」王瑤告訴記者,AI陪伴或者說是AI「朋友」,一定程度上可以解決人們的「淺層情緒需求」,填補部分情感空缺,甚至是老年人的情感陪護,但它永遠無法取代人類真實的陪伴和關懷,而且會引發很多的隱患。
存隱私洩露消費陷阱等風險
王瑤指出,人是有溫度的,情感也一樣,或生氣或開心,很多人其實都是在矛盾中成長,無論過了多少年,都還能觸摸到共同記憶的溫度,但AI卻無法實現。「和AI適當的情感當然沒問題,但如果一個人沉迷其中,不僅會導致和現實脫節、和生活脫鈎、和家人疏遠,更會引發一系列工作、學習、生活的矛盾。」王瑤說,此前有客戶告訴她,雖然虛擬AI給了他一時的溫暖,但短暫之後,他卻越發孤獨。「人際關係中的真誠和共鳴才是最重要的,真正的情感需要建立在真實的互動和共情之上,而不是依賴於冷冰冰的數字世界。」
據了解,針對AI陪伴帶來的隱患,歐盟已立法要求AI伴侶必須聲明「非人類身份」,防止情感欺詐。而近日江蘇省消費者權益保護委員會亦發文指出,AI伴侶類應用可能存在隱私洩露、內容安全、消費陷阱和情感依賴等風險。
江蘇省消保委表示,部分AI伴侶應用在運行期間,存在過度收集用戶信息的現象,一旦發生隱私洩露,消費者的個人權益、財產、生活等都將受到嚴重影響。並且,AI伴侶模型訓練數據來源廣泛,部分數據收集與篩選不嚴,部分應用存在傳播不良信息的風險,這些有害內容會對用戶的身心健康構成威脅。
领取专属 10元无门槛券
私享最新 技术干货