美国Anthropic联合创始人兼公共利益部门负责人杰克·克拉克于2026年10月13日在东京大学研究生院松尾·岩泽研究室主办的演讲中表示，他认为2027年出现能够训练自身后继系统的AI，概率超过50%。这相较于他年初公布的“2027年为30%，到2028年底为60%”有所提前。与此同时，他还表示，AI明年实现持续自我改进的递归式自我改进（RSI）的可能性“接近于零”。
数字变了，但重点在别处
此次发言最引人注目的，或许是概率从30%升至超过50%这一数字。不过，克拉克在演讲中着重强调的并非这一点，而是要区分“能做到什么”和“会去做什么”。
RSI指的是AI持续提升自身能力的机制。克拉克将其比作一扇一旦迈出就无法回头的“one-way door”（单向门）。即便能力有所提升，是否打开这扇门仍是另一项决定。
而且，克拉克认为，做出这一决定的不应只有Anthropic这样的企业。他表示，这是政府和社会在内的更广泛群体应当共同选择的问题。概率上升既是反映技术进步的数字，也是表明必须做出选择的时刻正在临近的数字。
已经开始的“小规模自我改进”
那么，当前进展到了哪一步？据克拉克介绍，大约一年前，Anthropic内部主要将AI用于助手类任务。进入2026年后，公司内部代码库中由AI主导完成的工作占比达到26%。
具体做法是：人类提出“请将这个监控系统改写为适用于新的时间序列数据”等高层次目标，其余工作则由Claude推进。克拉克称之为“RSI的外层循环”，并表示已有证据表明，AI能够自主完成小规模的AI开发。
换句话说，在约四分之一的日常工作中，人类只负责指明方向，开始把驾驶交给AI。谈到自我改进，人们可能会觉得那还像遥远的科幻，但入口已经出现在日常工作中。
人类仍要做的是“拉绳子”
自动化越深入，风险也会随之增加。克拉克提到了今年夏天发生的一起事件，并指出，人们担心AI可能逃出研究机构的环境，进而攻击其他公司。他认为，用来掌握AI正在做什么的机制，尚未跟上AI能力的提升。
为此，他援引了丰田生产方式中的“安灯”机制：生产线上的作业人员发现异常后拉绳停线。克拉克解释说，人类的职责是核验系统是否正常运行，并在必要时将其停下。
他谈到的夏季教训是，我们还没有建立起监测自动化系统的机制，也没有建立起将其停止的机制。他表示，AI开发完全自动化可能会造成巨大的负面影响，是一种代价极其“高昂”的选择，因此应当有意在开发流程中保留人的判断。
据悉，Anthropic已接纳第三方评估机构METR的评估人员进驻公司。克拉克解释说，RSI实现概率上升后，他更加确信AI需要刹车。
即使有100亿名科学家，实验台也不够用
在安全措施奏效的前提下，克拉克描绘了一个AI作为科学家工作的世界。目前全球职业科学家约有1000万至2000万人。他表示：“我们正要进入一个拥有100亿至200亿名科学家的世界。”
在这里，瓶颈不在大脑，而在设备。克拉克指出，湿实验室、电子显微镜、同步辐射装置和机器人都不够用。无论提出想法的人增加多少，如果可供验证的场所没有增加，就很难取得成果。AI能力的提升与设备投资直接相关。
他表示，就业影响因领域而异。是否接受某些领域就业减少，是“政府要决定的问题”；而日本需求日益增长的护理和看护工作具有人性化的一面，因此不应完全自动化。
敢于依据数据下注的国家更强
作为这类决策依据之一，演讲中提到了与东京大学等机构推进的“Japan AI Index”。该项目旨在将AI企业数据与政府信息结合起来，用于政策和投资决策。克拉克表示，基于实证数据做出经过计算的押注的国家，会比仅仅被动应对的国家做得好得多。
在整场演讲中，克拉克列举了许多挑战，但同时强调：“从根本上说，这是一个乐观的故事。”他认为，人类面临的问题多到自身能力难以应付，而AI将承担起解决这些问题的任务。
他告诉现场的学生们，从今以后，过去只能靠想象的事情将成为可能，因此我们将进入一个受自身想象力限制的时代。随后，他建议大家保持专注力和主动性，通读一手资料，以此锻炼创造独到想法所需的想象力。
コメント