La estadounidense Meta presentó el jueves, hora local, el modelo de pesos abiertos Muse Spark Open. Cuenta con 816.000 millones de parámetros y una ventana de contexto de un millón de tokens, y está diseñado para ejecutarse localmente en ordenadores Apple. Ya está disponible a través de varias plataformas de API.
Funciona en Mac, aunque no necesariamente en el tuyo
Al oír «una IA que funciona en Mac», es fácil imaginar que basta con descargarla en el portátil que usamos ahora y probarla. Pero esta vez no es tan sencillo. Según se ha informado, ejecutar localmente un modelo de 816.000 millones de parámetros requiere al menos 1 TB de memoria. Es un orden de magnitud por encima de la memoria de un portátil corriente.
El entorno recomendado es un Mac Studio con chip M5 Ultra. Más que ofrecer una opción sencilla, lo que Meta plantea con este modelo es la posibilidad de manejar un modelo gigantesco en el propio dispositivo, sobre el escritorio, sin dejarlo en manos de la nube.
Aun así, el hecho de que exista esa opción no es poca cosa. Hasta ahora, los modelos de tamaño descomunal estaban al otro lado de los centros de datos. Ahora empiezan a aparecer en el horizonte de los ordenadores de sobremesa. Aunque los requisitos para ejecutarlos sean elevados, es una tendencia que merece atención.
De una IA que escribe código a otra que ve vídeos
Muse Spark Open tiene un diseño multimodal nativo, capaz de procesar imágenes, entre otros contenidos, y está pensado para tareas complejas de programación y trabajos de tipo agéntico. Se habla de uso agéntico cuando la IA no se limita a responder una pregunta y dar por terminada la interacción, sino que organiza por sí misma varios pasos y lleva a cabo la tarea.
Meta explica que lo ha combinado con su terminal de programación con IA, Muse Code, y lo ha empleado en diversos flujos de trabajo agénticos. Como ejemplo, cita la modificación de un cliente para la red social descentralizada Mastodon. Según la empresa, el modelo realizó todo el proceso: corrigió errores, añadió funciones y compiló el programa.
También se utilizó para manejar el programa de edición de vídeo DaVinci Resolve, donde pudo revisar el material y recortarlo. Del mundo del código a las herramientas profesionales de edición de vídeo: cada vez es más habitual que la IA interactúe con las aplicaciones que tenemos en pantalla.
Personalmente, me parece interesante que los dos ejemplos sean tareas realizadas en un ordenador de sobremesa. De una IA que responde en una ventana de chat a otra que trabaja frente al PC como un compañero. Quizá sea por ahí por donde se entiende el propósito de insistir en la ejecución local en Mac.
El valor de los pesos abiertos no se mide solo por su rendimiento
Meta afirma, basándose en los resultados de las evaluaciones que ha publicado, que el modelo supera a otros modelos principales de pesos abiertos. Además, lo presenta como el modelo de pesos abiertos más avanzado de Estados Unidos.
Sin embargo, la importancia de los pesos abiertos no se refleja únicamente en una tabla de clasificación. Como se publican los pesos —es decir, el contenido del modelo una vez entrenado—, suelen ofrecer ventajas de coste frente a los modelos cerrados y facilitan una mayor transparencia sobre su funcionamiento y flexibilidad de uso.
Las empresas deben decidir si quieren utilizarlo cómodamente a través de una API o ejecutarlo en su propio entorno. La primera opción permite una implantación rápida; la segunda evita que los datos salgan de la empresa. El requisito de 1 TB supone un obstáculo considerable, pero en sectores que manejan desarrollos confidenciales o material de vídeo, puede haber casos en los que se considere que la inversión merece la pena.
Muse Spark Open añade un elemento más a tener en cuenta para tomar esa decisión. Probarlo mediante una API y, si hace falta, llevarlo al propio equipo: esta fórmula en dos etapas podría convertirse en la manera habitual de trabajar con la IA de pesos abiertos.
コメント