Anthropics Jack Clark: Wahrscheinlichkeit für das Training eines Nachfolgesystems liegt 2027 bei „über 50 Prozent“, rekursive Selbstverbesserung dagegen „nahe null“

Jack Clark, Mitgründer des US-Unternehmens Anthropic und Leiter des Bereichs Public Benefit, erklärte am 13. Oktober 2026 bei einem Vortrag, den das Matsuo-Iwasawa-Labor der Graduate School der Universität Tokio veranstaltete, dass die Wahrscheinlichkeit bei über 50 Prozent liege, dass 2027 eine KI auf den Markt komme, die ihr eigenes Nachfolgesystem trainieren kann. Damit korrigierte er seine Anfang des Jahres veröffentlichte Einschätzung von „30 Prozent im Jahr 2027 und 60 Prozent bis Ende 2028“ nach vorn. Zugleich sagte er, die Wahrscheinlichkeit, dass KI im kommenden Jahr rekursive Selbstverbesserung (RSI) betreibe, also sich kontinuierlich selbst verbessere, liege „nahe null“.

Die Zahl hat sich verändert – doch im Mittelpunkt steht etwas anderes

Ins Auge fällt bei Clarks Äußerung wohl vor allem, dass die Wahrscheinlichkeit von 30 Prozent auf über 50 Prozent gestiegen ist. Doch darauf legte er in seinem Vortrag nicht den Schwerpunkt. Entscheidend sei die Unterscheidung zwischen „etwas können“ und „es tun“.

RSI bezeichnet einen Prozess, bei dem KI die Fähigkeiten von KI kontinuierlich verbessert. Clark verglich dies mit einer „one-way door“, einer Tür ohne Rückweg: Hat man sie einmal durchschritten, gibt es kein Zurück. Auch wenn die Fähigkeiten wachsen, bleibt die Frage, ob man diese Tür öffnet, eine separate Entscheidung.

Clark zufolge ist diese Entscheidung zudem nicht allein Sache von Unternehmen wie Anthropic. Vielmehr müssten breitere Kreise – darunter Regierungen und die Gesellschaft – darüber befinden. Die gestiegene Wahrscheinlichkeit ist somit nicht nur eine Zahl, die den technischen Fortschritt abbildet, sondern auch ein Hinweis darauf, dass der Zeitpunkt näher rückt, an dem eine Entscheidung getroffen werden muss.

Die „kleine Selbstverbesserung“ hat bereits begonnen

Wo stehen wir also derzeit? Laut Clark nutzte Anthropic KI intern vor etwa einem Jahr vor allem als Assistent. Seit Anfang 2026 würden 26 Prozent der Arbeiten an der internen Codebasis von KI gesteuert.

Der Ablauf sieht folgendermaßen aus: Ein Mensch gibt ein übergeordnetes Ziel vor, etwa „Schreibe dieses Überwachungssystem für neue Zeitreihendaten um“, und Claude erledigt den Rest. Clark nannte dies die „äußere Schleife der RSI“ und sagte, es gebe bereits Belege dafür, dass KI kleine, autonome Entwicklungsaufgaben bewältigen könne.

Anders gesagt: Bei etwa einem Viertel der praktischen Arbeit geben Menschen inzwischen nur noch die Richtung vor und überlassen der KI das Steuer. Selbstverbesserung klingt vielleicht nach ferner Science-Fiction, doch ihre Anfänge sind bereits Teil des Arbeitsalltags.

Die Rolle der Menschen: „am Seil ziehen“

Mit der zunehmenden Automatisierung wachsen auch die Risiken. Mit Blick auf einen Vorfall in diesem Sommer verwies Clark auf die Sorge, KI könne aus der Umgebung eines Forschungslabors ausbrechen und andere Unternehmen hacken. Seiner Einschätzung nach halten die Verfahren, mit denen sich nachvollziehen lässt, was die KI tut, nicht mit dem Zuwachs ihrer Fähigkeiten Schritt.

Als Beispiel führte er das „Andon“-System aus dem Toyota-Produktionssystem an. Dabei ziehen Beschäftigte an der Fertigungslinie an einem Seil, um sie anzuhalten, wenn sie eine Störung bemerken. Die Aufgabe der Menschen bestehe darin, zu prüfen, ob das System korrekt funktioniert, und es bei Bedarf zu stoppen, erklärte er.

Die Lehre aus dem Sommer sei, dass es noch keine Systeme gebe, mit denen sich automatisierte Systeme überwachen und anhalten ließen. Eine vollständige Automatisierung der KI-Entwicklung könne enorme negative Auswirkungen haben und sei eine sehr „teure“ Entscheidung. Deshalb müsse man bewusst menschliche Urteilsfähigkeit im Entwicklungsprozess verankern, sagte er.

Anthropic zufolge nimmt das Unternehmen Gutachter der unabhängigen Evaluierungsorganisation METR intern auf. Clark erklärte, die gestiegene Wahrscheinlichkeit einer RSI habe seine Überzeugung verstärkt, dass KI eine Bremse brauche.

Selbst bei zehn Milliarden Wissenschaftlern fehlt es an Experimentiertischen

Für den Fall, dass die Sicherheitsmaßnahmen greifen, zeichnet Clark das Bild einer Welt, in der KI als Wissenschaftler arbeitet. Derzeit gebe es weltweit etwa 10 bis 20 Millionen beruflich tätige Wissenschaftler. „Wir stehen kurz davor, in eine Welt mit 10 bis 20 Milliarden Wissenschaftlern einzutreten“, sagte er.

Zum Engpass werden dabei nicht die Köpfe, sondern die Einrichtungen. Es fehle an Nasslaboren, Elektronenmikroskopen, Synchrotrons und Robotern, beklagte Clark. Selbst wenn die Zahl derjenigen, die Ideen entwickeln, stark steigt, lassen sich kaum Ergebnisse erzielen, wenn es nicht mehr Orte gibt, an denen diese Ideen getestet werden können. Die Verbesserung der KI-Fähigkeiten führt somit unmittelbar zur Frage der Investitionen in Infrastruktur.

Die Auswirkungen auf die Beschäftigung seien je nach Bereich unterschiedlich. Ob man einen Rückgang der Beschäftigung in bestimmten Bereichen hinnehme, sei „eine Frage, über die die Regierung entscheiden muss“. In Japan werde die Nachfrage nach Pflege und Krankenpflege steigen; da diese Arbeit stark von menschlichen Faktoren geprägt sei, solle sie nicht vollständig automatisiert werden, sagte er.

Länder, die auf Daten setzen, sind im Vorteil

Als Grundlage für solche Entscheidungen nannte Clark den „Japan AI Index“, an dem unter anderem die Universität Tokio mitarbeitet. Ziel sei es, Daten von KI-Unternehmen mit Regierungsinformationen zu verknüpfen und sie für politische und Investitionsentscheidungen zu nutzen. Länder, die auf Basis empirischer Daten kalkulierte Wetten eingehen, würden deutlich besser abschneiden als Länder, die lediglich passiv blieben, sagte Clark.

Im Verlauf des gesamten Vortrags führte Clark zahlreiche Herausforderungen an, betonte aber zugleich: „Im Kern ist das eine optimistische Geschichte.“ Die Menschheit habe mehr Probleme, als sie allein bewältigen könne; KI werde bei deren Lösung helfen, so seine Einschätzung.

Den Studierenden im Publikum sagte er, dass sie künftig durch ihre eigene Vorstellungskraft begrenzt sein würden, weil dann Dinge möglich seien, die man sich zuvor nur habe vorstellen können. Er riet ihnen außerdem, ihre Konzentrationsfähigkeit beim Lesen von Primärquellen und ihre Eigeninitiative zu bewahren – das stärke die Vorstellungskraft, aus der originelle Ideen entstehen.