Ethik, Recht und Sicherheit– category –

Wie leistungsfähig KI wirkt, unterscheidet sich je nachdem, ob Menschen sie für die Suche und das Verfassen von Texten nutzen oder ihr Entwicklungsaufgaben übertragen. Anhand von Karpathys Einteilung der Nutzer und der Aussagen der Entwickler von Claude Code beleuchten wir, wie die Art der Anweisungen die Unterschiede in der Nutzung prägt und welche Sicherheitsmaßnahmen für lange laufende KI nötig sind.

Amazon hat angekündigt, bei Verhandlungen mit Kommunen über Rechenzentren künftig auf Geheimhaltungsvereinbarungen zu verzichten. Während KI-Agenten für Privatnutzer ebenfalls Zugriff auf vertrauliche Informationen verlangen, geht es darum, die Voraussetzungen für Vertrauen in KI sowohl unter dem Gesichtspunkt der Offenlegung von Informationen als auch der Zugriffsrechte zu betrachten.

Das australische Unternehmen Apate zieht Betrüger mit einer KI, die sich als Opfer ausgibt, in lange Gespräche und sammelt Informationen über ihre Methoden und Empfänger von Überweisungen. Ziel ist es, den Betrügern Zeit zu stehlen. Die Gesprächsdauer und die Wirkung auf die Schadenshöhe müssen jedoch getrennt betrachtet werden.