趋势科技解析OpenAI最新ChatGPT AI代理功能及其资安风险

趨勢科技解析OpenAI最新ChatGPT AI代理功能 及其資安風險 August 01, 2025 Page 2 of 7| August 01, 2025 趨勢科技解析 OpenAI 最新 ChatGPT AI 代理功能及其資安風險 OpenAI 最近推出了 ChatGPT AI 代理。它具備哪些功能，以及相關的網路資安風險有哪些？我們利用趨勢科技的 Digital Assistant Framework 進行檢視，協助企業應對這項新的數位助理可能帶來的變化與風險。 重點摘要： • 新推出的 ChatGPT AI 代理提供了升級後的能力，但也帶來了傳統助理從未面臨過的資安挑戰。 • 該代理具有較高的操控潛力，且更容易受到隱私風險影響，使企業可能面臨非預期操作和資料外洩的風險。 • 利用該代理能力的企業與個人，應保有嚴格的人工監督，以協助管理這些風險。 • 趨勢科技的 Digital Assistant Framework 提供了一個清晰的方法，將這些新能力對應到其帶來的風險，幫助讀者更好地評估 OpenAI 最新 AI 助理的影響。 OpenAI 最新發表的 AI 代理標誌著 AI 系統能力的一次低調卻重要的轉變。與以往專注於回答問題或生成媒體內容的 AI 助理不同，這個新代理更進一步。它可以代表使用者執行各種操作，例如：管理行事曆、發送電子郵件、執行程式碼，甚至與外部應用互動。 簡單來說，這個新助理不僅僅是提供協助，而是能夠「主動行動」。 這一演變帶來了顯著的益處。它使數位助理(digital assistants, DAs)更加多才多藝，能夠處理跨系統和應用程式的任務；然而，它卻也引來了新的風險，因為 AI 開始自主行動，直接與人類的數位生活服務相互動。 此篇部落格聚焦討論兩個主題。首先，我們檢視了 OpenAI 發布的內容，並利用我們過去一份研究報告中所介紹的趨勢科技 Digital Assistant Framework 來整理出這款新 AI 代理的功能全貌。然後，透過將這些功能與早期 ChatGPT 助理進行比較，展示了變化的程度，以及這一躍進所帶來的風險。 這些風險既不是理論，也不是在許久的未來才發生。OpenAI 的新 AI 代理早已上線，⽽它以多種方式改變了威脅局面，值得我們高度關注。 OpenAI 最新的 ChatGPT AI 代理是一個主動採取行動的助理！ Page 3 of 7| August 01, 2025 趨勢科技解析 OpenAI 最新 ChatGPT AI 代理功能及其資安風險 新的 ChatGPT AI 代理不僅僅是另一個版本的聊天機器人，它是一個可以即刻自主採取行動的助理，從頭到尾執行複雜、多步驟的任務，使其更趨近於具代理能力的人工智慧（Agentic AI）。 它可以計劃和預訂旅行，檢查行事曆並向你報告即將到來的客戶會議，甚至創建可編輯的簡報與講稿。它透過一個虛擬機來完成這些工作，讓它能夠瀏覽網站、生成和執行程式碼，以及整合資訊，完美結合推論和執行，這是過往的助理無法做到的。 因此，使用者不再是被動的答案接收者，他們主動與 AI 代理合作，並准許關鍵的執行並在需要時拿回掌控權。AI 代理能理解文字和口語輸入，使用文本輸出和視覺內容做回應，且可以在智慧手機等攜帶式裝置上使用，隨時等候差遣。它結合了先前各種專業工具的優勢，如網路互動、深入研究及流暢對話等，整合成一個能代表使用者執行行動的統一系統。 在引擎蓋下，AI 代理展示了先進的計劃和推理能力：它可以適應不熟悉的任務，並在過程中學習。它隨著時間的推移建立對使用者的工作理解，根據上下文了解其偏好。 而且，由於它直接整合電子郵件、行事曆及各種網路平台等外部服務，它不僅僅是回答問題，而是作為更廣泛數位生態系的一部分，能夠在真實應用中執行各種任務。 用趨勢科技 Digital Assistant Framework 彙整 ChatGPT AI 代理的功能 為了回顧 OpenAI 新助理的能力並以清晰、易於視覺化的方式呈現，現在來看看一個用於評估 DAs 獨特能力的工具：趨勢科技 Digital Assistant Framework。 此框架最初於我們 2024 年 12 月的文章中提出。自那之後，我們將「代理（A1）」能力拆分為兩部分：代理與自主性。自主性的等級定義如下： A2. 自主性 自主性能力被定義為 DAs 在無需人類輸入的情況下執行決策的能力。 • A2.0 – 被動回應：DA 僅依據使用者的請求行動。 • A2.1 – 監督式工作：DA 在監督下運作，需要使用者明確確認。 • A2.2 – 完全自主：DA 可獨立管理任務，無需使用者監督。 參考原文連結的 Figure 1.互動式圖表，展示了新的 ChatGPT AI 代理如何對應至該框架，並突顯其主要特點與進展等級。 Page 4 of 7| August 01, 2025 趨勢科技解析 OpenAI 最新 ChatGPT AI 代理功能及其資安風險 圖⼀：ChatGPT AI 代理功能相對應於趨勢科技 Digital Assistant Framework 理解這場躍進：能力與風險對應分析 OpenAI 最新 AI 代理帶來的能力躍進並非毫無代價。隨著 AI 助理變得更加自主，並與我們的數位生態系統更緊密整合，風險也隨之與帶來的好處一同增加。 要清楚了解這些風險，我們首先需要看看發生了哪些變化：新的 AI 代理是如何在早期版本的 ChatGPT 基礎上演進，以及這些新增加的能力如何開啟新的挑戰，而這些是傳統 AI 助理從未面對過的風險。 自主式（A2）能力的風險 早期版本的 ChatGPT 已經展現出一定程度的代理能力，它會自行選擇如何以最佳方式完成使用者的請求。但這些 AI 助理本質上仍是被動的，即它們會等待明確的指令才採取行動。 新的 AI 代理在此基礎上更進一步，明顯提升了自主性（A2）：它不僅能代表使用者行動，還能主動出擊，在最少的監督下管理任務，無需持續下指令。 正如我們在《通往 Agentic AI 之路 (The Road to Agentic AI) 》的研究中所解釋的，這正是將 AI 助理與真正具「代理性」的系統區分開來的關鍵轉變。當傳統 AI 助理（如 Gemini）依然保持被動時，新的 ChatGPT AI 代理已開始跨越這條門檻來主動採取行動，並在極少指令輸入的情況下管理任務。 Page 5 of 7| August 01, 2025 趨勢科技解析 OpenAI 最新 ChatGPT AI 代理功能及其資安風險 然而，自主性提升也帶來了新風險，這是早期版本的 ChatGPT 從未遭遇的。由於系統現在在較少使用者監督下運作，惡意攻擊者可能把握機會來操縱它的行為，而使用者未必能立即察覺，這使得 AI 代理更容易背離使用者的意圖。 任務複雜度（A3）能力的風險 這種危險因任務的複雜性（A3）而進一步放大。與先前版本僅限於提供指令不同，新的 AI 代理能代表使用者採取具體行動，其中部分可能造成不可逆