因新增圖像編輯功能被用戶用於生成色情內容，美國企業家馬斯克旗下人工智能企業xAI的聊天機器人“格羅克(Grok)”近日再度引發爭議。
“格羅克”由xAI公司開發，並內置於馬斯克擁有的社交媒體X平臺，X用戶可直接調用該聊天機器人。近日，X平臺出現部分用戶利用“格羅克”編輯圖片和視頻的現象，部分內容可以假亂真。一些用戶藉此生成真實人物的虛假性暴露內容，並在X平臺上散播，受害者包括數百名女性和未成年人。
這一亂象隨即引起公憤。歐盟委員會負責數字經濟事務的發言人托馬斯·雷尼耶5日回應說，正“嚴肅調查”針對“格羅克”的相關投訴。“‘格羅克’推出所謂‘熱辣模式’，不僅展示露骨性內容，部分生成內容還帶有兒童特徵。這根本不是‘熱辣內容’，而是違法行爲，令人震驚。這種事在歐洲沒有立足之地。”
同一天，英國網絡安全監管機構通信管理局表示，注意到用戶對上述功能的擔憂，“已緊急聯繫X（平臺）和xAI，以瞭解它們在履行保護英國用戶的法定義務方面具體採取了哪些措施”，之後將根據回覆，判定它們是否存在“值得調查的潛在合規問題”。
另據印度媒體報道，印度信息技術部2日要求X平臺刪除色情內容、打擊違規用戶，並在72小時內提交“整改報告”，否則將面臨法律制裁。截至目前，尚不清楚X平臺是否已就印方要求作出回應。
多名法國政府部長和國民議會議員2日也向法國司法部門報案。當日晚些時候，巴黎檢方表示，將啓動相關調查。
馬來西亞通信和多媒體委員會上週末表示，“嚴重關切”X平臺上“不雅、冒犯性極強”的內容，正針對相關違規行爲展開調查。馬來西亞律師阿齊拉·阿齊茲告訴法新社，若只是出於娛樂目的，“用AI給公衆人物頭像加個墨鏡之類的倒也無可厚非”，但未經當事人同意，“利用AI對婦女兒童實施與性別相關的暴力，必須堅決反對”。
X平臺4日就相關爭議回應稱，將對平臺上的非法內容採取行動，包括刪除相關內容、永久封禁賬號，並在必要時與當地政府和執法部門合作。馬斯克3日發帖表示，任何使用“格羅克”製作非法內容的人，都將面臨與上傳非法內容相同的後果。
記者：劉江
