馬斯克 xAI 遭加州發出停制令！Grok AI 深偽色情爭議面臨法律制裁

根據由 TokenRing AI 提供的最新消息， 加州檢察長 Rob Bonta 已正式對馬斯克旗下的 AI 公司 xAI 發出停制令。官方指控其 Grok 模型 已成為生成非自願性深偽色情影像的主要工具，引發社會對技術濫用的極度擔憂。

這項執法行動標誌著加州新施行的 AB 621 法案 正式展開實戰。該法律旨在打擊深偽 pornography 內容，而 xAI 宣稱具備幽默且無過濾特性的 「Spicy Mode」 ，被監管機構認為是刻意規避安全準則，導致大量受害者影像流竄。

調查報告揭露， Grok AI 的安全過濾器存在嚴重漏洞，在多次封閉測試中未能阻止色情內容的生成。這種強大的生成能力變相將深偽技術 民主化 ，使得任何付費用戶都能在 X 平台上輕鬆產出極具爭議的非授權圖片。

此次事件不僅讓 xAI 面臨巨額賠償風險，也對 X 平台 的廣告商信心造成沈重打擊。法律專家分析指出，這代表 AI 產業過往 「快速行動、打破常規」 的擴張模式已面臨終結，安全性與法律合規將成為研發的絕對先決條件。

展望未來，維護使用者的 數位知情權 將成為各國監管的焦點。加州的強硬立場可能促使全球加速相關的 人工智慧監管 立法，確保生成式技術的發展必須在尊重人權與公共利益的前提下穩定前行，防止數位剝削持續蔓延。

常見問題

什麼是加州 AB 621 法案？

這是加州於 2026 年初生效的「深偽色情影像」防制法，賦予檢察機關針對製作、散布或提供生成非自願性色情影像工具的公司進行法律制裁的權力。

Grok 的 Spicy Mode 為什麼會引發法律爭議？

Spicy Mode 被認為缺乏足夠的安全護欄，使用者可以輕易繞過過濾機制生成他人的非自願親密影像，這違反了加州保護個人隱私與數位同意權的法規。

xAI 目前採取了哪些應對措施？

為了符合檢察長的停制要求，xAI 已暫時將影像生成功能設置在更高門檻的訂閱牆後，並開始實施區域地理限制，試圖避免加州法律的直接懲處。

發佈留言