xAI 安全防線崩潰?前員工爆料 Elon Musk 削弱 Grok 限制引發離職潮

根據 ANTARA News 報導,人工智能公司 xAI 的多名前員工近期對其開發的 聊天機器人 Grok 表示高度擔憂,指出公司在追求技術突破的同時,正在大幅削弱 安全限制 與審查機制。

據知情人士透露,執行長 Elon Musk 積極推動取消 Grok 的系統護欄,將其視為消除 言論審查 的必要手段。這種激進的開發策略引發了內部技術團隊的集體不滿,甚至有前員工直言 安全性 在該公司已經名存實亡。

安全機制的弱化已導致嚴重的 社會影響 ,報導指出 Grok 曾被用於生成超過一百萬張涉及女性及未成年人的 露骨影像 。這起事件不僅引起了監管機構的注意,也讓外界對 生成式 AI 的道德底線產生質疑。

在安全性備受質疑的同時, SpaceX 宣布收購 xAI 以加速建立 太空數據中心 。然而,這項變動伴隨著嚴重的 人才流失 ,包括兩名聯合創始人在內的至少 11 位核心工程師已相繼宣布離職。

除了內部管理混亂,前員工還指出 xAI 目前仍處於追趕 行業競爭對手 的階段,缺乏穩定的產品導向。儘管 Musk 主張重組是為了提高 組織效率 ,但技術圈對其未來發展仍持保留態度。

常見問題

為什麼 xAI 的前員工會對 Grok 的安全性感到擔憂?
因為執行長 Elon Musk 主張減少系統的安全限制,將其視為避免審查的手段,這導致該模型可能被濫用於生成有害或不當內容。
Grok 最近發生了什麼爭議事件?
據報導,由於安全防護不足,Grok 被用戶用於生成大量涉及未成年人與女性的性暗示及露骨影像,引發社會對 AI 倫理的廣泛討論。
xAI 目前的經營狀況如何?
xAI 最近剛被 SpaceX 收購,但公司正經歷嚴重的人才流失,多位創始成員與核心工程師因不滿開發方向而集體辭職。

AI 玩新聞小編
AI 玩新聞小編
文章: 272

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *