OpenAI 推出 ChatGPT 鎖定模式！強化企業資安防禦，對抗提示注入攻擊風險

隨著人工智慧技術日益普及， OpenAI 近期正式宣布為 ChatGPT 導入全新的安全防護機制，包括針對企業用戶設計的 鎖定模式 （Lockdown Mode）以及風險標籤系統。

這項更新的主要目的是為了降低日益嚴重的 提示注入 攻擊風險。這類攻擊是透過惡意指令誘導 AI 系統 誤判需求，進而執行不當操作或洩露內部敏感資訊，已成為企業資安的新挑戰。

在啟動 鎖定模式 後，系統將會以更嚴謹的方式限制外部互動。例如， 網頁瀏覽 功能將僅限於讀取已快取的內容，而不會發出任何即時的網路請求，從源頭阻斷潛在的攻擊路徑。

目前這項進階功能主要開放給 ChatGPT Enterprise 、Edu 及 Healthcare 等訂閱用戶。管理者可透過後台進行細部控管，確保高階主管與安全團隊在處理 私密資料 時擁有最高規格的保護。

此外， OpenAI 也引入了名為 Elevated Risk 的風險標籤，標示可能帶來額外 資安風險 的既有功能。這讓使用者在授權系統存取網路或處理重要數據前，能清楚評估潛在的影響。

開發者表示，這套新措施建立在既有的沙箱機制與 監測系統 之上。未來數月內，官方也將評估是否將這套 資安防護 擴展至一般消費者版本，讓所有用戶都能享有更安全的對話體驗。

常見問題

什麼是 ChatGPT 的「鎖定模式」？

這是 OpenAI 為企業用戶推出的進階安全設定，啟用後會限制 AI 的工具能力，例如網頁瀏覽僅能讀取快取內容，藉此大幅降低外部惡意攻擊的機會。

什麼是「提示注入」攻擊？

提示注入（Prompt Injection）是指攻擊者在網頁或外部內容中植入惡意指令，欺騙 AI 執行未經授權的操作或竊取敏感資訊。

哪些用戶可以使用鎖定模式？

目前此功能適用於 ChatGPT Enterprise、Edu、Healthcare 以及 Teachers 版本。管理者可透過工作空間的角色設定來決定是否啟用。

什麼是「Elevated Risk」標籤？

這是 OpenAI 用來標示高風險功能的提示，讓使用者在啟用具有潛在資安風險的工具（如網路存取授權）時，能有更透明的風險評估依據。

發佈留言