點選藍字 關注我們
SUBSCRIBE to US
想象一下，有一種人工智慧（AI）不僅僅遵循你的指令，還能自行決定如何實現你的目標。代理型人工智慧（Agentic AI）正是如此：這是人工智慧的一個新前沿領域，在這個領域中系統可以獨立執行。代理型人工智慧有潛力革新諸多行業。但其高度的自主性伴隨著重大的責任——以及潛在的倫理困境。確保自主導向系統中的責任性、公平性和安全性是建立對這些技術的信任和可靠性的核心所在。
Keeley Crockett是IEEE會員以及《IEEE計算智慧新興話題雜誌》的前任副主編，下文中他將重點探討什麼是代理型人工智慧、它正在如何被使用以及在未來幾年可能會如何發展。
你會如何向沒有技術背景的人解釋代理型人工智慧呢？
代理型人工智慧指的是能夠獨立行動以實現目標而不需要持續人類控制的人工智慧系統。這些系統能夠基於其程式設定和所處理的資料來做決策、執行操作並適應各種情況，通常不需要人類輸入。一個目標可能包含若干個子目標。
關於這些系統在未來可能的應用有幾個例子。想象一下你有一個家庭清潔機器人，你只給它下達“保持房屋清潔”的指令。然後這個機器人就會在適當的時候執行任務，比如當它判定地板髒了就進行吸塵，飯後就去洗碗，以及定時把東西放回原位。這個機器人理解目標並且不需要持續的指令就能自主行動。
另一種情形涉及使用代理型人工智慧來運營一個營銷專案。你可能會告知該系統要將銷售額提高20%。然後，一個代理型人工智慧系統能夠獨立分析特定時間段內的客戶資料，以識別趨勢和偏好。接著，該人工智慧將分析客戶資料，基於這一分析開展營銷活動，並且如果發現活動未達到預期效果就進行調整。
代理型人工智慧與傳統人工智慧模型或自動化系統有何區別？
傳統人工智慧模型遵循通常從資料中發現的預定義規則。如果沒有某種形式的重新訓練、測試和驗證，這類模型無法自動適應意外的變化。而且還需要人類的監督和干預。傳統模型通常是為一項特定任務而構建的，例如分類任務，即構建一個模型來判定一個人是否有可能拖欠貸款還款。
代理型人工智慧系統能夠獨立行動以實現特定目標，不需要持續的人類干預。它們可以從資料中學習、適應新情況並動態調整自身的行動。它們的行為是目標驅動的，並且必須弄清楚如何實現主要目標和子目標，這就要求它們獨立於人類對任務進行優先順序排序和解決問題。
代理型人工智慧有哪些倫理影響？
代理型人工智慧的使用引發了幾個關鍵問題。在如此複雜的系統中，如果出現問題，誰來負責？需要哪些資料和隱私保護措施？當代理型人工智慧系統要做出具有現實世界影響的“道德”決策時，它應該如何應對？
這些問題對於傳統人工智慧系統也是一樣的。儘管有倫理原則以及現行/新興的立法作為指導，但我們仍在努力理解並剖析這在實際運作的系統中意味著什麼。最大的倫理問題是，人類處於何種位置？
當今是否有正在使用的代理型人工智慧模型？它們具備何種程度的自主性？
如今，代理型人工智慧被應用於自動駕駛汽車中，基於對車輛周邊環境的持續分析來做出駕駛決策。每一次出行都是一次學習體驗。
一些網路安全公司使用代理型人工智慧透過對網路活動的即時分析來檢測組織內的威脅並進行關聯。然後，人工智慧會自動自主地對潛在的入侵做出響應。
我個人的觀點是，隨著研究的進展以及資料獲取量的增加，代理型人工智慧的應用案例將迅速發展。這些系統的準確性取決於一個人願意分享多少個人資料。
微訊號｜IEEE電氣電子工程師學會
新浪微博｜IEEE中國
· IEEE電氣電子工程師學會 ·
往
期
推
薦