Metas KI „Muse“ erlaubt Gespräche für Erwachsene – OnlyFans-Creator empfinden die Ausdrucksregeln sozialer Netzwerke als unfair

Metas KI-Agent „Muse“ soll in einer App, die Personen ab 18 Jahren vorbehalten ist, explizite sexuelle Textgespräche mit erwachsenen Nutzern führen können. Creator des Erotik-Abodienstes OnlyFans berichten dagegen, dass ihre Konten in Metas sozialen Netzwerken eingeschränkt oder ihre Beiträge gelöscht wurden. Was einer KI an Ausdruck erlaubt ist und was menschliche Creator veröffentlichen dürfen – dieser Unterschied hat eine Debatte über die Fairness der Plattformen ausgelöst.

Muse erlaubt Gespräche für Erwachsene in Textform

Muse ist ein KI-Agent, den man in einer Oberfläche ähnlich einem Nachrichtendienst nutzt. Erlaubt man ihm den Zugriff auf persönliche Daten wie Kalender und E-Mails, kann die KI selbstständig aktiv werden. So könnte sie etwa einen Workout-Kurs absagen, der mit einer Tischreservierung zum Abendessen kollidiert. Mit Rückenwind durch die riesige Reichweite von Instagram und Facebook schaffte es die App im ersten Monat nach ihrer Veröffentlichung in die oberen Ränge der Download-Charts. Für Millionen war es der erste Kontakt mit einem KI-Agenten.

Meta erlaubt Nutzern, in dieser App für Erwachsene sexuelle Gespräche mit Muse zu führen. Ein Unternehmenssprecher hatte zuvor erklärt, man werde „legales Verhalten von Erwachsenen nicht blockieren“. Muse generiert allerdings nur explizite Texte, keine Bilder oder Videos.

Auch wenn es nur um Text geht: Damit steht Millionen erwachsener Nutzer ein Zugang zu sexuellen Gesprächen offen. Hier setzt die aktuelle Debatte an.

Creator sehen ein Ungleichgewicht in sozialen Netzwerken

Die New Yorker OnlyFans-Creatorin Vanniall empfindet diesen Gegensatz als befremdlich. Sie berichtet, dass KI-generierte Deepfake-Bilder und -Videos, die ihr täuschend ähnlich sehen, im Netz kursieren und Löschanfragen oft erfolglos bleiben. Auch auf Instagram sei sie ständig mit Meldungen und Einsprüchen beschäftigt. Ihr Konto mit mehr als 100.000 Followern ist derzeit eingeschränkt und nur nach dem Einloggen sichtbar.

Nachdem sie von Muse erfahren hatte, sagte sie, es sei unfair, dass eine KI Menschen Geld abnehmen könne, während echte Erwachsene nicht einmal ein wenig erotische Selbstdarstellung erlaubt sei.

Auch andere Creator teilen diese Einschätzung. Jiz Lee, seit Langem hinter den Kulissen der queeren Pornobranche tätig und ebenfalls mit einem OnlyFans-Konto, berichtet, dass Meta bereits Beiträge von ihr gelöscht habe. Sie sagte sinngemäß: „Es wirkt, als wäre der KI mehr erlaubt als Menschen.“ Der Filmschauspieler Tony Genius erzählt, dass er in den vergangenen fünf Jahren bereits sein siebtes Instagram-Konto hat. Schon sich eine Plattform für die eigene Präsenz zu sichern, kostet offenbar regelmäßig viel Aufwand.

Metas Unterscheidung zwischen „Gespräch“ und „Werbung“

Zu diesen Vorwürfen erklärte Meta-Sprecherin Tracy Clayton, ein privates Einzelgespräch zwischen einem Erwachsenen und einem personalisierten KI-Agenten auf einer Plattform, die Personen ab 18 Jahren vorbehalten ist, unterscheide sich deutlich davon, einen Dienst in sozialen Netzwerken zu bewerben oder anzupreisen.

Nach Metas Darstellung gelten also unterschiedliche Regeln, je nachdem, wo etwas stattfindet. Für ein öffentliches soziales Netzwerk, in dem Beiträge ein breites Publikum erreichen, seien andere Rücksichten nötig als für einen geschlossenen Gesprächsraum, in dem das Alter überprüft wird.

Für Creator geht es jedoch nicht nur darum, was sie ausdrücken dürfen. Soziale Netzwerke sind ein Zugang zu neuen Abonnenten. Ist dieser Zugang schwer nutzbar, wirkt sich das auch auf die Einnahmen aus. Andere soziale Netzwerke in den USA erlauben durchaus Inhalte für Erwachsene. X ist für viele OnlyFans-Creator eine der wichtigsten Plattformen, um Abonnenten zu gewinnen und mit Fans in Kontakt zu bleiben. Zahlreiche Darsteller aus dem Erotikbereich sind zu Bluesky gewechselt. Auch die Tatsache, dass Metas Regeln nicht die einzige Option sind, prägt die Debatte.

Aus Sicht der Creator liegt der Kern des Ärgers in diesem Widerspruch: Während dialogorientierte KI sexuelle Gespräche mühelos führt, werden sie selbst bei der Werbung für ihre Inhalte eingeschränkt.

Im Fokus stehen das KI-Training und der Platz des Menschen

Die Debatte geht über die Regeln sozialer Netzwerke hinaus. Jiz Lee möchte wissen, mit welchen Daten Muse trainiert wurde und ob jemand für diese Daten bezahlt wurde. Die Branche habe insgesamt nur langsam reagiert, sagt Lee. Zugleich begännen Unternehmen im Erotikbereich, in ihren offiziellen Verträgen Richtlinien zur Nutzung von KI festzuhalten. So sollen Darsteller davor geschützt werden, vollständig als Trainingsdaten für KI verwendet zu werden.

Laut Tony Genius wird Werbung für KI-Agenten bei Preisverleihungen im Saal mit lautem Buhen quittiert. Er befürchtet, dass vollständig KI-generierte Pornografie künftig menschlichen Darstellern die Arbeit wegnehmen könnte. Zugleich hält er aktuelle KI-Tools für nützlich, wenn unabhängige Creator Marketingaufgaben automatisieren – etwa Ausschnitte aus Videos für soziale Netzwerke erstellen.

Interessant ist, dass sich in derselben Person zwei unterschiedliche Sichtweisen auf KI zeigen. Genius zufolge wäre sie auch offen dafür, gemeinsam mit einem Tech-Unternehmen eine KI-Version von sich zu entwickeln, der Fans Nachrichten schicken können. Sie wolle nach einer Lösung suchen, bei der menschliche Performer weiterhin Geld verdienen können und weder verdrängt noch ohne ihre Zustimmung zum Training herangezogen werden. Derzeit seien es gerade die Menschlichkeit und Authentizität, die den Kern der Verbindung zum Publikum ausmachten, sagt sie.

Vannialls Haltung ist dagegen eindeutig. Zumindest in Bezug auf Metas Muse fordert sie: „Ladet die App nicht herunter.“ Ihrer Ansicht nach gibt es keinen Grund, Meta noch mehr Geld oder persönliche Daten zu überlassen.

Genius fragt, warum es nicht auch in sozialen Netzwerken einen Bereich für Erwachsene geben könne, wenn Muse auf Personen ab 18 Jahren beschränkt ist. Scherzhaft schlug sie sogar den Namen „Instacam“ vor. Warum gibt es einen Bereich ausschließlich für Erwachsene für KI-Gespräche, aber keinen für menschliche Beiträge? Es wird sich zeigen, wie Meta diese Frage beantwortet.