詹文男／你的AI Agent有沒有身分證？

好友老張最近很得意地跟我說，他已經開始訓練自己的AI Agent。以後朋友約吃飯、學生約時間、公司要開會，他都不想自己處理了。他說：「未來不是我跟你約時間，而是我的ＡＩ跟你的ＡＩ約。」這聽起來有點玄，卻可能很快就會變成現實。

近年來最熱門的ＡＩ趨勢之一，就是AI Agent（ＡＩ代理人或智能體）。它和一般聊天機器人不同，過去你問ＡＩ問題，它回答；你要它寫信，它擬一封草稿給你。但AI Agent不只是回答問題，而是會拆解任務、規畫步驟、調用工具，甚至幫你把事情做完。

簡言之，一般ＡＩ像是很會回答問題的高材生，AI Agent則是會自己跑流程的數位同事。你跟它說：「幫我安排下周到高雄出差。」它會查高鐵時間、比對行事曆、預訂飯店、通知同事，甚至整理會議資料。聽起來很美好，因為人類終於可以從瑣事中解脫。

但問題也從這裡開始。當ＡＩ只是幫你寫一段文字，錯了頂多重寫。但當ＡＩ開始替你訂位、採購、轉帳、審核、回覆客戶，甚至代表公司與外部系統互動，它就不再只是工具，而像是一個有行動能力的「數位分身」。這時候就必須問：它到底是誰？代表誰？可以做到哪裡？出了事誰負責？

最近國際電信聯盟也開始重視這個問題，成立有關人類與AI Agent信任及身分的工作小組。此事意義重大，代表國際社會已經意識到AI Agent的治理，不能只靠模型比較聰明，或企業自己小心。未來ＡＩ若要在金融、醫療、政府服務與企業流程裡行動，光會做事是不夠的，還必須能被辨識、授權、追蹤及約束。因為若其沒有被規範，組織將面臨以下幾個風險：

其一是冒名，例如假使未來你收到一封信，說是「董事長的ＡＩ」，請你立刻付款，你怎麼知道那真的是董事長授權的ＡＩ？其二是越權，它可能為了完成任務而自動尋找捷徑；例如你叫它降低採購成本，它可能找到最便宜的供應商，卻忽略品質、勞動條件或資安風險。其三是責任，假設AI Agent幫公司回覆客戶，承諾了一個公司做不到的條件造成損失，這時候是使用者負責、公司負責、系統商負責，還是ＡＩ自己「負責」？

因此，AI Agent也要有身分證。這張身分證不只有名字，還應包括：一、要知道它代表誰。這個ＡＩ是個人助理、公司代理，還是外部服務商的機器人？不同身分，權限不該一樣。二、要知道它能做什麼。它可以查資料，但能不能刪資料？ＡＩ的權限必須像公司印鑑一樣分級管理，而不是一把萬能鑰匙走天下。三、要留下行動紀錄。要能回答是哪一個ＡＩ、根據哪一個指令、調用了哪些資料、在什麼時間做出這個動作。四、高風險決策必須有人類確認。涉及金錢、法律、個資、醫療、公共安全與重大人事時，ＡＩ可以建議，但不能逕自決定。

一個成熟的ＡＩ社會，不是任由ＡＩ橫衝直撞，也不是把它鎖進籠子裡。而是讓ＡＩ在清楚身分、明確授權與可追蹤責任之下，成為可信任的力量。ＡＩ可以代你跑腿、整理，甚至談判；但那些關乎判斷、價值與後果的責任，終究不能外包。畢竟，ＡＩ可以代人行動，但不能替人負責。（作者為數位轉型學院共同創辦人暨院長、台大商學研究所兼任教授）