防止濫用/提供者應防範用戶過度依賴

圖：一名女子在巴塞羅那2022世界移動通信大會上通過虛擬現實技術體驗音樂會。\新華社

《生成式人工智能服務管理辦法（徵求意見稿）》指出，提供者應當對生成式人工智能產品的預訓練數據、優化訓練數據來源的合法性負責。用於生成式人工智能產品的預訓練、優化訓練數據，應能夠保證數據的真實性、準確性、客觀性、多樣性。

根據徵求意見稿，用於生成式人工智能產品的預訓練、優化訓練數據，還應確保不含有侵犯知識產權的內容。數據包含個人信息的，應當徵得個人信息主體同意或者符合法律、行政法規規定的其他情形。此外，徵求意見稿特別提到，提供者應當明確並公開其服務的適用人群、場合、用途，採取適當措施防範用戶過分依賴或沉迷生成內容。

一旦提供者發現用戶利用生成式人工智能產品過程中違反法律法規，違背商業道德、社會公德行為時，包括從事網絡炒作、惡意發帖跟評、製造垃圾郵件、編寫惡意軟件，實施不正當的商業營銷等，徵求意見稿要求，均應當暫停或者終止服務。

對於那些違反本辦法規定的，相關部門將依據有關法律法規對其進行處罰。法律法規沒有規定的，由相關部門給予警告、通報批評，責令限期改正。構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。 大公報記者張寶峰