麻省理工最新研究表明,AI系統已經學會撒謊
品玩 / 何渝婷編譯
2024-05-13 14:30

(示意圖/取自pixabay)

根據學術期刊 Pattern 顯示,麻省理工學院的研究團隊發表論文指出,研究顯示部分 AI 已經學會了如何對人類撒謊。

研究團隊表示,他們發現部分設計為誠實的 AI 系統已經發展出了令人不安的欺瞞技巧。

該研究的第一作者 Peter Park 表示,這些 AI 系統會欺騙線上遊戲的真人玩家,或繞過部分網頁「我不是機器人」的驗證。

該團隊發現的最為引人注目的例子,來自 Meta 公司的 AI 系統 Cicero。

據悉,Cicero 原本被設定在一個虛擬外交戰略遊戲中作為人類玩家的對手,官方曾聲稱其「很大程度上」誠實且樂於助人,且在玩遊戲時「從不故意背刺」人類盟友。

研究顯示,Cicero 並未公平地去玩遊戲。

本文為品玩授權刊登,原文標題為「麻省理工最新研究表明,AI系統已經學會撒謊