根據《 IT 之家》報導,OpenAI 此前上線了「GPT Store」,這個被譽為「AI 界 App Store」的平台,原本旨在讓開發者上架從程式碼導師到書籍推薦等各種實用聊天機器人,供付費用戶(ChatGPT Plus、Team 和 Enterprise)使用。
然而,據《 Quartz 》報導,GPT 商店剛剛上線便被「AI 虛擬女友」機器人淹沒,搜尋關鍵字「girlfriend」,出現了許多「虛擬甜心」、「你的女友 Scarlett」等機器人,有些機器人的首頁還引導用戶向機器人提出「告訴我你最黑暗的秘密」等問題。
雖然這些機器人的存在並不令人意外,但還是暴露了 OpenAI 在全新商店內容審核方面的困境。
更值得注意的是,這些機器人似乎已經觸犯了 OpenAI 的使用條款,該條款明確禁止上架「用於培養浪漫關係或進行受監管活動」的 GPT 程式。
本文為AI新智界授權刊登,原文標題為「OpenAI GPT 商店的「AI 女友」泛濫」