上月，X平臺（原推特）在全球監管重壓下，正式封禁了旗下AI聊天機器人Grok的 “比基尼模式”，禁止其將真人照片編輯成穿著暴露服裝的圖像。

這一舉措源于Grok被廣泛濫用，用戶通過標簽@grok就能生成未經同意的性化深度偽造內容，甚至涉及未成年人，引發 “賽博性暴力” 爭議。

據了解，Grok的圖像編輯功能曾允許用戶上傳照片并生成穿著比基尼、內衣等暴露服裝的版本，每小時產生數千條違規內容，數百名女性和兒童成為受害者。

印尼、馬來西亞率先封禁Grok服務，英國通信管理局 (Ofcom) 啟動正式調查，歐盟委員會也發出嚴厲警告。

本月18日，英國政府進一步升級監管，提出AI不雅內容緊急刪除新規：

要求科技公司在48小時內刪除平臺上未經同意的私密圖像、性化深度偽造內容等侵害性圖片，違規平臺將面臨全球收入10%的巨額罰款，或被禁止在英國提供服務。

Ofcom正考慮對私密圖像實施數字標記，實現類似兒童性虐待材料的自動刪除機制。

這一新規是對《在線安全法》的補充，此前英國《數據法案》已將未經同意制作私密圖像定為刑事犯罪，首相基爾·斯塔默強調：“沒有任何平臺能獲得免費通行證，必須保護民眾尤其是兒童免受非法AI內容傷害”。