Der US-Konzern Meta hat am Donnerstag Ortszeit das Open-Weight-Modell „Muse Spark Open“ vorgestellt. Es verfügt über 816 Milliarden Parameter und ein Kontextfenster von einer Million Tokens. Entwickelt wurde es für die lokale Ausführung auf Apple-Computern. Über mehrere API-Plattformen ist es bereits verfügbar.
Läuft auf dem Mac – aber nicht unbedingt auf dem eigenen
Wer „KI, die auf dem Mac läuft“ hört, denkt womöglich daran, sie auf den eigenen Laptop herunterzuladen und auszuprobieren. Doch so einfach ist es diesmal nicht. Berichten zufolge braucht ein Modell dieser Größenordnung mit 816 Milliarden Parametern mindestens 1 TB Arbeitsspeicher, um lokal ausgeführt zu werden. Das ist eine ganz andere Größenordnung als der Arbeitsspeicher eines gewöhnlichen Laptops.
Als optimale Umgebung gilt ein Mac Studio mit M5-Ultra-Chip. Was Meta mit diesem Modell zeigt, ist weniger die einfache Nutzung als vielmehr die Möglichkeit, ein riesiges Modell nicht der Cloud anzuvertrauen, sondern es auf einem Gerät auf dem eigenen Schreibtisch zu betreiben.
Dennoch ist die Tatsache, dass es diese „Möglichkeit“ gibt, nicht zu unterschätzen. Bisher waren ultr Große Modelle auf der anderen Seite des Rechenzentrums angesiedelt. Nun beginnen sie, auf dem Desktop Fuß zu fassen. Die Anforderungen an die Ausführung sind zwar hoch, doch die Richtung dieser Entwicklung ist bemerkenswert.
Von KI, die Code schreibt, zu KI, die Videos betrachtet
Muse Spark Open ist von Grund auf multimodal konzipiert und kann auch Bilder verarbeiten. Das Modell wurde für komplexe Programmieraufgaben und agentische Arbeitsabläufe entwickelt. Agentisch bedeutet, dass die KI nicht nur einmal eine Frage beantwortet, sondern selbst mehrere Arbeitsschritte plant und ausführt.
Meta zufolge wurde das Modell mit dem eigenen KI-Programmierterminal „Muse Code“ kombiniert und in verschiedenen agentischen Workflows eingesetzt. Als Beispiel nennt das Unternehmen Änderungen an einem Client für das dezentrale soziale Netzwerk „Mastodon“. Das Modell habe dabei den gesamten Ablauf bewältigt – von der Fehlerbehebung über das Hinzufügen neuer Funktionen bis hin zum Build.
Auch zur Bedienung der Videoschnittsoftware „DaVinci Resolve“ kam das Modell zum Einsatz. Es konnte demnach Material sichten und zuschneiden. Vom Programmieren bis hin zu professionellen Videoschnitt-Tools: Die Einsatzmöglichkeiten von KI, die Anwendungen auf dem Bildschirm bedient, nehmen eindeutig zu.
Interessant finde ich persönlich, dass beide Beispiele Arbeiten am Desktop betreffen. Von einer KI, die in einem Chatfenster Antworten gibt, hin zu einer KI, die wie ein Kollege am PC aktiv Aufgaben erledigt: Vielleicht liegt auch darin der Grund, warum Meta auf die lokale Ausführung auf dem Mac setzt.
Der Wert von Open-Weight-Modellen bemisst sich nicht allein an ihrer Leistung
Meta zufolge übertrifft das Modell laut den veröffentlichten Evaluationsergebnissen andere wichtige Open-Weight-Modelle. Das Unternehmen bezeichnet es als das leistungsstärkste Open-Weight-Modell in den USA.
Die Bedeutung von Open-Weight-Modellen lässt sich jedoch nicht allein anhand von Ranglisten beurteilen. Da die Gewichte – also das eigentliche, trainierte Modell – veröffentlicht werden, können sie gegenüber geschlossenen Modellen Kostenvorteile bieten. Zudem lassen sich Transparenz und Flexibilität bei der Nutzung leichter gewährleisten.
Für Unternehmen stellt sich die Frage, ob sie das Modell bequem über eine API nutzen oder in der eigenen Umgebung betreiben. Ersteres lässt sich schnell einführen, Letzteres ermöglicht es, Daten nicht nach außen zu geben. 1 TB ist eine hohe Hürde. In Bereichen, in denen sensible Entwicklungsdaten oder Videomaterial verarbeitet werden, könnte sich die Investition jedoch für manche lohnen.
Muse Spark Open erweitert die Entscheidungsgrundlage. Erst per API testen und bei Bedarf lokal einsetzen: Eine solche Nutzung in zwei Stufen könnte sich zum gängigen Umgang mit Open-Weight-KI entwickeln.
コメント