Anthropic表示，已加強防禦措施，防止他人大量竊取對話式AI「Claude」展現其推理過程的資訊（推理 token），並使遭抽取的資訊量減少90％至99％。除了限制存取推理資訊，Anthropic也啟用了可辨識抽取跡象的分類器，並導入自動停用相關帳戶的機制。據稱，截至目前已停用數萬個帳戶。
如何防止他人大量存取Claude
事件的核心在於「蒸餾」：以強大AI模型的輸出作為教材，訓練規模較小的另一個模型。這原本是將自家模型輕量化的正當技術，但也有人大量向其他公司的模型提問，再以其回答為線索，將整套能力複製下來。Anthropic所關注的，正是後一種有組織的抽取行為。
據Anthropic說明，攻擊方利用由數十萬個假帳戶組成的網絡。每個帳戶的活動都控制在看起來像一般使用者的程度，整體則藉此蒐集海量回應。這種手法簡直可稱為「帳戶海戰術」，而非人海戰術。
被鎖定的是推理 token，也就是模型得出答案前所經歷的內部思考步驟。若不只取得最終答案，連思考脈絡也一併掌握，就能教另一個模型「如何思考」。打個比方，這就像不只是模仿一道料理的成品滋味，還把整份食譜步驟也一併帶走。
Anthropic採取的措施主要有三項：限制存取Claude內部的推理步驟；啟用能偵測抽取行為的分類器；以及自動停用被判定為可疑的帳戶。
數字呈現的措施成效與其侷限
Anthropic表示，防禦措施啟用後，遭抽取的推理 token 數量減少了90％至99％。該公司也指出，蒸餾成功的案例在措施啟動後大幅下降。雖然數字有一定範圍，但其主張至少已將抽取量壓低至原本的十分之一以下。
另一個不容忽視的問題，是Anthropic也坦承措施帶來了副作用：正當使用者有時也會被誤判而納入偵測範圍。防止不當行為的網子織得越密，一般使用者或企業也越容易被網住。這是安全措施難以避免的宿命，AI服務也不例外。
大量使用服務的開發者，或整合自動化工具的業務系統，其行為模式有時可能看起來像是抽取跡象。今後，如何在不當行為防範強度與不妨礙正常使用之間取得平衡，將影響服務的易用性。
點名企業意味著什麼
Anthropic此次點名中國企業Zhipu（智譜）和Moonshot，稱兩者涉及相關行為。據Anthropic主張，Zhipu從美國主要模型中取得網路安全相關能力，並將其用於自家的GLM-5.3。Anthropic則指稱，Moonshot曾暗中透過中介方式轉送對Claude的詢問。這些都是Anthropic方面的說法，本次資料中並未確認兩家公司的觀點。
Anthropic還提到，這些被抽取的能力可能流入外國的軍事與監控系統。值得注意的是，該公司將此事定位為國家安全問題，而不只是商業上的模仿。
另一項動向是，Anthropic呼籲其他AI開發公司也採取類似的防禦措施。原因在於，若只有一家公司築起防線，卻讓他人從其他入口竊取，防禦效果就會大打折扣。整個產業能否步調一致，將成為關鍵。
生成式AI的競爭，正從打造更聰明模型的較量，擴展為辨識並控管模型由誰、以何種方式使用的較量。偵測假帳戶、限制存取等看似不起眼的防禦技術，未來可能愈來愈常左右AI公司的競爭力。
コメント