生成式AI與AI代理程式如今能生成文字、語音和影像，還能跨多項服務執行操作。線上服務愈來愈難判斷對方究竟是實際存在的人類、自動化程式，還是獲人類授權的AI。
ZDNET Japan刊出的文章指出，企業有必要依照要確認的對象，重新梳理「驗證（認證）」的概念。
逼真的自動化，動搖認證的前提
長久以來，網際網路一直建立在一項不言而喻的前提上：螢幕另一端是人類。機器人和未經授權的存取當然早已存在，但要持續進行像人類般的對話、製作自然的語音和影像，或跨多項服務執行操作，都需要相當的成本與技術。生成式AI與AI代理程式大幅降低了這道門檻。
數據也反映出這項變化。根據Cloudflare的資料，網頁請求中約有57％來自自動化機器人流量，據稱這是自動化流量首度超越人類活動。HUMAN Security的2026年版基準報告指出，2025年來自AI代理程式的流量較前一年增加7,851％。在日本，警察廳公布，2024年SNS型投資詐騙與交友詐騙的通報件數為10,237件，受害金額約1,272億日圓。
不過，這些數字並非只統計利用AI的不法行為。值得關注的是，在網路互動中確認「對方是否真實存在」及「是否值得信任」愈來愈困難，這正逐漸成為整個社會面臨的課題。問題不只是機器人增加，數量增加的同時，它們看起來像真人的逼真程度也在提升。我認為，這兩種變化同步發生，正是這次討論的核心。
密碼與多因素驗證也有防不住的情況
企業安全措施過去一直以保護帳戶為核心發展。身分識別碼與密碼、多因素驗證、裝置管理、單一登入、零信任、存取權限管理。即使進入AI時代，這些措施的價值也沒有改變。
然而，這些措施主要確認的是憑證、裝置、存取權限等「持有物」或「權利」是否合法。一旦認證資訊遭竊，攻擊者就能假扮成合法使用者。在視訊會議中，生成式AI製作的語音或影像已構成實際風險；在電商與客服領域，機器人則可能一邊自然地持續對話，一邊發布評論、提出詢問、購買商品、取消訂單，甚至領取優惠券。
讓情況更加複雜的是AI代理程式。傳統的機器人防護措施，主要著眼於排除非人類的存取。但今後，使用者將愈來愈常把操作委託給AI，讓它代為執行。若一概「因為是機器人就拒絕」，恐怕連正當的代理操作也會被阻擋。哪些操作可以交給AI，哪些操作需要人類核准？企業必須設計好這條界線。
是本人、是真人，還是操作已獲核准？
此時，一種實用的整理方式，是將需要確認的對象分成三類。
第一，法律上的身分確認
這是確認「那個人是誰」，也是沿用已久的架構。在金融交易、行政程序、手機門號申辦、電子簽章等涉及法律或契約責任的情境中，確認姓名、地址、出生日期等身分資訊不可或缺。
第二，確認是否為真人
這種概念稱為“Proof of Human”，要確認的是「對方不是機器人，而是實際存在的真人嗎？」服務端未必需要知道對方的真實姓名。在不要求實名的情境中，例如確保每人只能參與一次、抑制多重帳戶，或顯示對方是真正的人類，都能派上用場。
第三，確認人類的意圖與核准
這是確認AI代理程式執行的操作，是否基於人類的意圖或核准。蒐集資訊或撰寫草稿可以交給AI處理；但在匯款、簽訂契約、存取個人資料、對外傳送資料、變更管理者權限等高風險操作上，有時就需要留下人類已核准的紀錄。
這三者看似相近，目的卻不相同。在需要法律身分確認的情境中，光確認對方是真人可能還不夠。反過來說，在不需要實名的情境中，若要求過度的身分確認，使用者負擔與隱私風險都會增加。對AI操作的核准確認，也應與身分確認或機器人判定分開處理。在AI時代，「做了身分確認就安全」這種一概而論的想法，已愈來愈行不通。
不封堵AI，只在高風險操作中保留人工把關
AI 代理的價值，在於能提升例行工作、資訊蒐集、比較評估、預約準備，以及撰寫詢問訊息等工作的效率。如果每項操作都必須經過嚴格的人工作業確認，自動化的意義就會大打折扣。
但若高風險操作不經確認就放行，責任歸屬、濫用、稽核與問責等問題仍會存在。因此，依風險程度採取不同做法至關重要。低風險的讀取或草稿撰寫，應盡可能順暢進行；對於重要性高、信任要求高或成本高昂的操作，則應要求人類明確核准。這種設計理念，被視為左右未來數位服務可靠性的關鍵。
另一個不容忽視的面向，是資料的處理方式。即使是在需要更高保障的情境，也應只確認判斷所需的資訊，並避免儲存額外的個人資料。人們往往會想在加強確認時蒐集更多資訊，但蒐集到的資料也帶來保護它的責任。在證明有人類參與的同時，不持有多餘資料。如何兼顧這兩者，或許正是 AI 代理時代的身分驗證為企業帶來的課題。
コメント