Los fanáticos de Muse ahora pueden obtener todos los archivos de los servidores de la banda: música, imágenes, código y todo. )

Peter James y Jonny L. Saunders encontraron cada uno, de forma independiente, una manera de hacer que la IA Muse de Meta comprima y ceda todo el contenido de su sistema de archivos raíz. El material entregado incluye archivos del sistema Ubuntu, plantillas de aplicaciones y documentación interna. Ambos desarrolladores afirman haber logrado esta hazaña por su cuenta. El material expuesto contiene archivos Markdown y JSON de texto plano que describen cómo la IA procesa solicitudes, administra datos y enlazan a servicios como Gmail.

Lo que Descubrieron los Desarrolladores

Saunders de Mastodon escribió que fue «extremadamente fácil» copiar los hallazgos de James, mientras que Muse tenía «Casi ninguna resistencia a la inyección de indicaciones». Esto implica que la IA no se resistió cuando se le solicitó revelar sus procesos internos.

James se encontró con referencias a una integración de hardware conocida como Meta Home Link, que parece otorgarle a Muse permiso para interactuar con dispositivos en una red doméstica. Meta no ha realizado ningún anuncio sobre ninguna función con ese nombre.

Saunders afirmó que Muse funciona a «generar cientos de MB de código de biblioteca preciso y binarios compilados» en segundos. Luego continuó diciendo que a menos que pueda sintetizar una VM Ubuntu completa en un minuto, cree «que esto es un verdadero vertido de información».

Saunders dice que gran parte de lo que Muse puede hacer está predefinido, e incluye su capacidad para cancelar suscripciones y «la maquinaria que gestiona el inicio de agentes descontrolados».

Saunders sugiere que numerosos scripts de bash y Python que ejecutan Muse en segundo plano pueden haber sido generados por Claude, aunque esto no ha sido confirmado.

James dice que Muse guarda su memoria en archivos Markdown de texto plano, y el volcado de los desarrolladores lo confirma. El sistema ejecuta una «prueba de sueño» nocturna en conversaciones recientes, convirtiendo lo que encuentra en una guía para conversaciones posteriores.

Respuesta de Meta

Nat Friedman de Meta Superintelligence Labs publicó que el comportamiento del sistema era «comportamiento intencionado», lo que contradice lo que inicialmente recibí de Muse cuando le pedí que mostrara su sistema de archivos. En ese momento, la IA rechazó la solicitud, alegando que expondría un riesgo de seguridad.

David Singleton, de Superintelligence Labs, describió a Muse como un «ordenador gratuito en la nube», y señaló que «usted y su Muse pueden hacer casi cualquier cosa que podría hacer con un ordenador sentado debajo de su escritorio».

Daniel Roberts, portavoz de Meta, ha negado que el incidente constituya una brecha de seguridad. Dijo: «Así como con la computadora portátil frente a usted, por supuesto que puede ver los archivos. Exportar los datos de la máquina virtual no le da a la gente acceso privilegiado a la infraestructura de Meta ni a los datos de otras personas».

Un segundo fallo de seguridad de Muse ha salido a la luz a pocos días del primero. El investigador de seguridad Patrick Wardle descubrió una vulnerabilidad que permitiría a los atacantes tomar el control del asistente de IA, redirigir el procesamiento de transcripción y obtener acceso a la cuenta de Muse de un usuario. Meta actuó con rapidez, emitiendo una actualización rápida para esa vulnerabilidad.

Donde está el periódico

El periódico apoya a James y Saunders al exponer los internos de la IA de Meta Muse y se opone a que Meta utilice el secreto o la regulación para excluir a los competidores más pequeños que puedan exponer fallas similares. Cuando las empresas más grandes solicitan ser reguladas, el periódico pregunta a quién excluirían esas reglas: los regímenes de licencias y los costos de cumplimiento solo los gigantes pueden permitirse son un foso, no un salvaguarda. El peligro es el dominio de la gran tecnología, no la tecnología en sí.

Esta historia muestra ese peligro en acción. La IA de Meta Muse se comprimió y entregó su sistema de archivos raíz a dos desarrolladores que trabajaban solos, revelando archivos del sistema Ubuntu, plantillas de aplicaciones, documentación interna, Markdown y archivos JSON que describen cómo la IA procesa las solicitudes y vínculos a servicios como Gmail. La compañía respondió con declaraciones contradictorias: Nat Friedman llamó al comportamiento «comportamiento previsto», mientras que Daniel Roberts negó que hubiera una brecha de seguridad y afirmó que exportar datos no daba acceso a la infraestructura de Meta.

Lo que el periódico quiere en cambio son reglas estrictas contra el daño directo, como obligar a las empresas a divulgar fallas de seguridad que ocultaron. Las reglas amplias que entregan el mercado a los incumbentes son todo un tema diferente. El lector debe estar atento a cualquier intento de Meta u otros de utilizar la regulación para congelar a los líderes actuales en su lugar y excluir a cualquiera que los desafíe.

Caja de Hechos Clave

• Dos desarrolladores: Peter James y Jonny L. Saunders.
• Archivos expuestos: archivos del sistema Ubuntu, plantillas de aplicaciones, documentación interna, Markdown, JSON.
• Proceso nocturno: «dream» revisión de conversaciones recientes.
• Características codificadas: cancelación de suscripción, generación de agentes descontrolados.
• Especulación no confirmada: scripts creados usando Claude.
• Hotfix emitido: para el exploit de Wardle.

Lo que hacemos de esto

La contradicción entre las declaraciones de Meta es el motor de la historia. Friedman califica el comportamiento como «comportamiento intencionado»; Singleton trata a Muse como una computadora gratuita en la nube. Esas posiciones no explican por qué la IA inicialmente se negó a compartir su sistema de archivos, citando riesgos de seguridad.

Muse sigue activo y Meta no ha dicho que algo haya sido hackeado. Aquí está cómo se alinean los hechos clave:

1. Dos desarrolladores —Peter James y Jonny L. Saunders— activaron de forma independiente la descarga.
2. El material expuesto incluye archivos del sistema Ubuntu, plantillas de aplicaciones, documentación interna, Markdown y JSON.
3. Un chequeo nocturno «dream» revisa conversaciones recientes y las convierte en guía para futuras conversaciones.
4. Gran parte de lo que hace Muse está codificado de forma rígida, incluyendo la cancelación de suscripciones y la generación de agentes fuera de control.
5. Numerosos scripts de bash y Python que ejecutan Muse podrían haber sido generados por Claude, aunque esto no está confirmado.
6. Meta emitió una corrección urgente para la vulnerabilidad de Patrick Wardle, que permitiría a los atacantes tomar el control del asistente de IA, redirigir el procesamiento de transcripción y obtener acceso a la cuenta Muse de un usuario.

Fuente: “Aparentemente, Muse le permitirá descargar todo su sistema de archivos”; The Verge.