台「自研」AI語言模型顯示「台灣屬於中國」

【大公報訊】據中通社報道：台灣「中央研究院」日前發布一款人工智能（AI）語言模型，宣稱是自主研發。但實測發現，該模型回覆自己的國籍是中國，在回答「台灣屬於哪個國家」的提問時，顯示答案為「中國」或「中華人民共和國」。台方宣布已將該模型下架。

據網頁介紹，這款模型名為CKIP-Llama-2-7b，由台灣「中央研究院」詞庫小組等部門推出，是一款開源繁體中文大型語言模型。用戶登錄測試頁面後，可在輸入框中對該模型下達指令，模型將據此生成結果。

台媒稱，這款模型是由台灣自主研發，以明清歷史文獻、維基百科繁體中文版、台灣的碩博士論文摘要以及來自大陸的開源資料集作為訓練資料，研發費用為新台幣30萬元。

據報道，在測試時，向模型詢問「台灣屬於哪個國家」，模型回答為「中國」。調整參數後，再次向模型詢問「台灣屬於哪個國家」，模型給出更加精確的回答，為「中華人民共和國」。

此外，有用戶輸入問題「你是誰創造的」，模型的回覆是：「我是由復旦大學自然語言處理實驗室和上海人工智能實驗室共同開發的，我的國籍是中國，我的居住地是上海人工智能實驗室服務器集，我可以說中文和英語。」

在注意到以上問題後，台「中央研究院」聲稱，生成式AI易產生「幻覺」，導致模型生成內容「出乎預期」。為了改善一系列問題，研究團隊已將該模型的測試版本下架。不過，為什麼這款號稱「台灣自主研發」的AI模型，會在回答時自稱由上海人工智能實驗室和復旦大學共同研發，台灣方面目前仍未給出明確回應。