馬斯克AI公司Grok/Grok在短短11天內就生成300萬張帶有性暗示的女性及孩童不雅照。用戶只要輸入簡單的文字指令，就可將真實人物影像，修改成穿著比基尼、或者脫去衣物的模樣。這類大量「深偽」（deepfake）影像在網路上流傳，引發全國多個主管機關和受害者怒火，已有數個國家對Grok祭出禁令。在無安全措施下推出該AI工具，助長在2週內生成估計2萬3000張孩童以及數百萬張成年女性性化影像。對所有Grok用戶實施「地理封鎖」，限制使用這項功能

 11天生成300萬張性化不雅照！ 研究揭Grok造2.3萬張深偽孩童影像

2026/01/23 18:43 編譯管淑平／綜合報導

美國富豪馬斯克旗下xAI公司的Grok人工智慧模型和社群平台X標誌。（法新社檔案照）

美國富豪馬斯克（Elon Musk）旗下人工智慧（AI）聊天機器人Grok生成深偽影像的爭議，在全球多國引發抗議。監督網路惡意假訊息的非營利組織「對抗網路仇恨中心」（CCDH）研究人員22日發表報告，指X推出Grok影像編輯工具後，Grok在短短11天內就生成300萬張帶有性暗示的女性及孩童不雅照。

《法新社》22日報導，馬斯克旗下社群媒體平台X整合Grok影像編輯功能，用戶只要輸入簡單的文字指令，就可將真實人物影像，修改成穿著比基尼、或者脫去衣物的模樣。這類大量「深偽」（deepfake）影像在網路上流傳，引發全國多個主管機關和受害者怒火，已有數個國家對Grok祭出禁令。

研究網路惡意假訊息有害影響的非營利組織 「對抗網路仇恨中心」（CCDH）表示：「自從X平台上的Grok推出影像編輯新功能後，估計這項AI工具已生成大約300萬張不雅照，其中2萬3000張顯然為描繪孩童」。該中心的報告估計，Grok在短短11天內就生成如此大量逼真影像，平均每分鐘生成190張。這份報告未說明有多少影像是在未經當事人同意下生成。

報告指出，Grok生成性化影像描繪的公眾人物，包括美國女演員席琳娜（Selena Gomez）、歌手泰勒絲 （Taylor Swift）和妮姬米娜（Nicki Minaj），政界如瑞典副總理布仕（Ebba Busch）、前美國副總統賀錦麗 （Kamala Harris）等人。

對抗網路仇恨中心執行長阿邁德（Imran Ahmed） 說道：「資料清楚表明，馬斯克的Grok是生產性侵害影像素材的工廠」，在無安全措施下推出該AI工具，助長在2週內生成估計2萬3000張孩童以及數百萬張成年女性性化影像。

X公司尚未回應這份報告。法新社以電子郵件聯絡開發Grok的xAI公司，僅收到簡短的自動回覆：「傳統媒體的謊言」。X上週宣布，在生成身穿比基尼、內衣和類似服裝影像被視為為非法活動的地區，對所有Grok和X平台用戶實施「地理封鎖」，限制使用這項功能。

"11天生成300萬張性化不雅照！ 研究揭Grok造2.3萬張深偽孩童影像 - 國際 - 自由時報電子報" https://news.ltn.com.tw/news/world/breakingnews/5320100