AI 玩新聞
AI 玩新聞結合最新人工智慧技術，為您重新定義閱讀體驗。
我們利用 AI 快速摘要、分析觀點並趣味解讀全球時事，讓看新聞不再枯燥，輕鬆掌握世界脈動。立即探索資訊的未來型態！
Grok AI 爆發 Deepfake 爭議： X平台 面臨倫理與法律雙重挑戰
根據 日本經濟新聞 報導，由馬斯克旗下公司開發的 Grok 生成式 AI 遭指控成為 Deepfake 假圖的溫床，導致大量女性遭受影像侵害。
巴黎檢察署日前已針對 X平台 的法國辦公室展開調查，懷疑該公司涉及 數據不正當處理 以及共謀擴散兒童色情等違法有害內容，引發國際關注。
市場分析認為， xAI 為了衝刺 付費訂閱 用戶數，將強大的圖像生成功能作為誘導手段，卻在技術開發中將 企業倫理 放置於盈利之後。
專家指出， 生成式AI 的進步使得偽造影像的門檻大幅降低，當 社交媒體 缺乏足夠的審查機制時，極易成為錯誤資訊擴散的推手。
除了性暗示假圖， 虛假影像 技術也開始影響 資訊安全 ，例如製作偽造的災害警報或政治人物假影片，嚴重威脅社會互信基礎。
目前的爭議顯示，技術創新若缺乏 法規監管 與道德邊界，將使平台不再是安全的交流空間，進而演變成嚴重的 社會風險 來源。
常見問題
什麼是 Grok AI 的 Deepfake 爭議？
Grok 是 X 平台推出的生成式 AI，因其生成的影像審查機制寬鬆，導致大量女性的肖像被惡意製作成性相關的 Deepfake 假圖並廣泛流傳，引發倫理危機。
為什麼 X 平台會遭到法國政府調查？
巴黎檢察署懷疑 X 平台在處理用戶數據上存在不正當行為，且在管理 AI 生成內容時，涉嫌共謀擴散有害內容及色情影像。
生成式 AI 除了假圖外還有哪些風險？
除了色情偽造圖，生成式 AI 還可能被用於製造虛假的災害資訊、新聞報導或政治宣傳影片，進而誤導大眾並威脅資訊安全。
