首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

AI寫書錯漏百出 誤導讀者食毒菇

  圖:三本疑似為由AI生成的蘑菇採集及烹飪書籍。/網絡圖片

【大公報訊】據《衛報》報道:網絡書籍銷售巨頭亞馬遜(Amazon)上充斥着各種由人工智能(AI)生成的書籍,內容良莠不齊,甚至胡編亂造,其中的不實內容還可能會危及讀者的生命安全。美國非營利組織紐約真菌學會近日發布緊急告示稱,網上很多由許多AI生成的蘑菇科普類書籍存在典型的錯誤知識,若按照書上內容採食蘑菇,可能會誤食毒菇,甚至致死。

亞馬遜等網上購書平台,已成為AI生成書籍的重要銷售渠道。美國紐約真菌學會(NYMS)近日發布文章表示,亞馬遜和其他零售店已經被AI生成的菌類識別和採摘書籍淹沒,建議讀者只購買知名作者撰寫的作品,因為這可能是生死攸關。

在這些網上購書平台,有大量疑似AI生成的書籍是關於野生蘑菇的採集指南,比如名為《西南終極蘑菇書籍實地指南:室內外尋找蘑菇的基礎實地指南》以及《裸蓋菇書:識別、種植實地指南》的兩本書,署名作者為「Edwin J. Smith」,但此人除了這兩本書以外並沒有任何其他作品。有媒體通過AI生成內容檢測工具ZeroGPT檢測書中的內容,結果顯示這兩本書都有超過85%的內容是由AI撰寫。外界向亞馬遜反映後,亞馬遜隨後下架了這兩本書。

誤食毒蘑菇或致死

據悉,這些AI撰寫生成的書籍中,不少還是有關野生蘑菇的烹飪,並配有簡單易做的食譜,如《野生蘑菇食譜:解開大自然美味真菌的秘密》等。英國教育機構康沃爾郡家庭覓食廚房的野外真菌學家萊昂·弗雷(Leon Frey)表示,這些書籍的內容存在「嚴重缺陷」,例如,書中將氣味和味道作為蘑菇的識別特徵,這就是在變相鼓勵讀者食用和品嘗蘑菇,而這是不應該且非常危險的。另外,弗雷還提到,書中說到的獅鬃菇是可以食用的,但在英國是受保護物種,不可採摘。

紐約真菌學會主席雅各布(Sigrid Jakob)說,「北美有數百種有毒真菌,其中有幾種是致命的」,讀者很難分辨,而書中的描寫不夠專業,「可能會誤導人們吃到有毒的蘑菇」。例如「死帽菇」(death cap),食用後8至12小時內,人會感到腹痛、嘔吐、腹瀉和脫水,72小時後出現低血壓、肝腎衰竭和癲癇發作等。

加拿大卡爾頓大學真菌專家邁倫·史密斯則批這些書「完全不負責任」,蘑菇是否可食用還需要豐富的經驗來區分。

AI撰寫書籍無標記

最近幾個月,在美國零售網站亞馬遜上,出現不少AI生成的新書,類別包括食譜、程式設計、園藝、商業、手工藝、醫學、宗教等。更糟糕的是,這些AI生成的書籍都沒有附上AI相關的標記,讀者很難辨別。相對而言,採集蘑菇是一種較為小眾的愛好,但當人們從AI生成的書籍中,獲取到錯誤的健康、財務建議等重要資訊時,影響可能更為廣泛。

亞馬遜允許AI工具寫書,這些書籍主要透過亞馬遜的自助出版部門,即KDP(Kindle Direct Publishing)出版,讓作者可以快速發布AI製作的書籍,這樣的開放機制就會讓自動快速生成的書籍愈來愈多,有人就會趁機大賺一筆,並不會在乎被指責,因為作者名字也可造假。主流的AI生成工具如ChatGPT等,內容生產「快速化、批量化」,也已成為快速製作書籍的工具,甚至數小時至一天,就可以完成一本書。

  • 发表于:
  • 原文链接https://page.om.qq.com/page/OV-UnpzOVycq26SLqIw7BFwA0
  • 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号(企鹅号)传播渠道之一,根据《腾讯内容开放平台服务协议》转载发布内容。
  • 如有侵权,请联系 cloudcommunity@tencent.com 删除。

扫码

添加站长 进交流群

领取专属 10元无门槛券

私享最新 技术干货

扫码加入开发者社群
领券