印尼宣布有條件解封 xAI 聊天機器人 Grok:嚴格防範深偽影像濫用

印尼政府近日宣佈,已正式有條件地解除對馬斯克旗下 xAI 聊天機器人 Grok 的封鎖措施。這項決定標誌著這款 人工智慧 服務在經歷合規審查後,重新獲得進入印尼市場的機會。

此前,印尼通信與數字事務部因該平台產生大量違規內容而採取限制。由於該工具生成的 深偽影像 涉及非自願性與色情化內容,引發了全球範圍內的監管調查,印尼官方曾對其安全性表達強烈憂慮。

印尼官方表示,此次解封是在 X 平台提交正式復函並詳細說明改進措施後達成的。監管部門強調目前的狀況為 有條件解封 ,將持續進行嚴密監控,若未來再次發現任何違規行為,禁令可能隨時恢復。

為了應對東南亞多國的監管壓力,xAI 已將圖像生成功能限制在付費訂閱用戶範圍內。馬斯克強調,任何利用 科技工具 生成非法內容的用戶都必須承擔後果,旨在透過提高門檻來防止相關技術遭到惡意濫用。

儘管技術安全性審查仍在持續,但解封決定展現了印尼政府在科技創新與 數位監管 之間的平衡。未來 Grok 是否能長期穩定運行,將取決於 X 平台對其生成內容過濾機制與安全政策的落實成效。

常見問題

為什麼 Grok 之前會在印尼被禁用?
主要是因為 Grok 生成的 AI 影像功能遭到濫用,產生了大量涉及深偽(Deepfake)與非自願性的色情化圖像,引發了印尼政府對社會道德與數位安全的疑慮。
目前印尼解封 Grok 的條件是什麼?
印尼通信與數字事務部會持續監控平台內容。解封是建立在 X 平台承諾改進服務並防止工具濫用的基礎上,若再出現違規情事,將隨時重啟禁令。
xAI 採取了哪些措施來防止 AI 圖像濫用?
xAI 目前已將 Grok 的圖像生成功能限制為僅供 X 平台的付費訂閱用戶使用,並加強了對生成內容的限制與追蹤,以減少違規影像的產出。
AI 玩新聞小編
AI 玩新聞小編
文章: 180

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *