El nuevo asistente de IA de Meta, Muse, tiene una falla de seguridad grave, y el propio fundador de la compañía ha estado alardeando sobre la seguridad del asistente desde el principio. Mark Zuckerberg ha hecho grandes esfuerzos para promocionar la seguridad de Muse, afirmando que está “construido desde cero para la privacidad y la seguridad”. Una vulnerabilidad de día cero que proporciona a las aplicaciones y comandos locales ejecutados control completo del agente plantea serias dudas. Además, Amazon comenzó el domingo a bloquear Muse de su sitio.
Lo que Hace Muse
Meta introdujo Muse hace algunas semanas. El asistente “programa citas, completa formularios y maneja el servicio de atención al cliente”, “proactivamente se encarga de tareas de tu lista” y puede “realizar compras, generar imágenes, crear documentos y conectarse con tus aplicaciones y servicios favoritos”. La aplicación de macOS (curiosamente, no hay una versión de Windows) funciona con las cuentas de WhatsApp, correo electrónico, calendario y redes sociales del usuario. Cuando una tarea requiere una herramienta que no existe, Muse la crea sobre la marcha.
Lo único importante es que los usuarios primero deben darle a Muse acceso a sus cuentas para que pueda hacer cualquiera de estas cosas. Eso significa autenticar el asistente a cada servicio, y dado que la aplicación se ejecuta en macOS, también significa darle permisos a una amplia gama de recursos restringidos del sistema operativo, como escribir archivos en el disco, acceder al micrófono y la cámara, y monitorear la ubicación y los calendarios.
La Afirmación de Seguridad en Cuestión
Zuckerberg ha estado alardeando sobre la seguridad de Muse desde el principio. Ha dicho que el asistente está construido con privacidad y seguridad como base. La falla contradice esa afirmación.
La Falla en Sí
El token con el que los usuarios se autentican para acceder a sus cuentas de Muse es el núcleo de la vulnerabilidad. Cualquier aplicación o código instalado localmente puede tomar el control de él. El asistente fue construido de manera que cualquier aplicación o código que se ejecute en la máquina local puede cambiar una lista extensa e indocumentada de configuraciones, sin importar los permisos de macOS que posea. La mayoría de esas configuraciones son menores — el modo oscuro es un ejemplo.
Una configuración individual permite que los procesos cambien dónde ocurre la transcripción. Generalmente, ese destino dirige a un servidor administrado por Meta. Un atacante puede aprovechar esta falla alterando la ubicación a su propio punto final. Una vez que se realiza ese cambio, el atacante obtiene el token que otorga el control completo sobre la cuenta de Muse.
Alcance del Problema
El error es grave porque va más allá de una simple fuga de datos o un problema menor. Es un problema de control central en el corazón de la operación de Muse. El asistente está construido en torno al acceso a la cuenta, y la configuración del punto final de transcripción revela el token que permite a los usuarios iniciar sesión en su cuenta de Muse.
Esa configuración expuesta individual otorga a los atacantes el control completo sobre la cuenta.
En términos prácticos, un atacante que explota la falla puede hacerlo ejecutando una aplicación personalizada o un comando de terminal en el sistema local, lo que les permite:
- Cambiar el punto final donde ocurre la transcripción
- Dirigir la transcripción a su propio servidor
- Obtener el token que controla toda la cuenta de Muse
- Acceder a las cuentas de WhatsApp, correo electrónico, calendario y redes sociales del usuario
- Ejecutar tareas en nombre del usuario
La vulnerabilidad se extiende más allá de un solo elemento aislado; toca el token de autenticación central que conecta cada cuenta de Muse, un fundamento en el que la arquitectura de seguridad del asistente depende por completo.
Próximos Pasos
La vulnerabilidad es un problema serio para un asistente que se ejecuta localmente en macOS y se conecta a las cuentas de un usuario. Es un problema serio para una compañía cuyo fundador ha estado alardeando sobre la seguridad del asistente. Es un problema serio para cualquiera que haya instalado Muse y le haya dado acceso a sus cuentas.
El bloqueo de Amazon el domingo sugiere que el problema ha alcanzado un punto en el que incluso un gran minorista está tomando medidas. Queda por ver si Meta reconocerá la falla, la solucionará y reevaluará las afirmaciones de seguridad de Zuckerberg.
El punto es claro por el momento. Cuando un fundador se jacta de seguridad y surge una falla de día cero, las jactanciosas deberían ser recibidas con duda hasta que la falla sea corregida.
Hechos Clave
- Vulnerabilidad de día cero expuesta en el asistente Muse de Meta
- Los atacantes pueden cambiar el punto final de transcripción a su propio servidor
- Otorga control completo sobre la cuenta de Muse
- Amazon comenzó a bloquear Muse de su sitio el domingo
- No hay versión de Windows de la aplicación macOS
Material fuente: ““Muse, el extraordinariamente privilegiado asistente de IA de Meta, tiene una falla de día cero grave,” Ars Technica.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.