El nuevo asistente de IA de Meta, Muse, tiene un problema grave: un investigador de seguridad encontró una falla que permite a los hackers tomar el control total de la computadora de un usuario a través del asistente. La falla es una vulnerabilidad de día cero, lo que significa que la falla existía en el software cuando se envió. No es un problema menor.
Jolly el Embajador de Marca
Muse viene con un embajador de marca llamado Jolly, un adorable personaje de dibujos animados que se ha convertido en tema de conversación en línea. Algunos usuarios han bromeado sobre querer tener relaciones sexuales con el personaje. El atractivo es obvio: Jolly es lindo, amigable y fácil de interactuar.
Pero el atractivo también es el problema. El embajador de marca crea una sensación de confianza que el software no merece.
Lo que el Asistente Puede Hacer
Muse está diseñado para realizar una amplia gama de tareas. La compañía promete que puede realizar compras, generar imágenes, crear documentos y conectarse con otras aplicaciones y servicios. También puede hacer llamadas telefónicas, aunque esas llamadas son realizadas por humanos, no por la IA en sí.
El asistente está destinado a actuar como un ayudante personal, manejando tareas rutinarias para los usuarios. Esa conveniencia es el punto. Pero la conveniencia conlleva riesgos, y el historial de Meta con los datos ha dejado a los usuarios cautelosos.
El Investigador de Seguridad
Patrick Wardle es un experto en seguridad de Mac que descubrió la falla poco después del lanzamiento de Muse. Sus hallazgos fueron reportados por Ars Technica.
El descubrimiento de Wardle muestra que la falla estuvo presente desde el principio. Esa es la definición de una vulnerabilidad de día cero.
Cómo Funciona la Falla
La falla permite a los atacantes manipular al asistente y usar sus privilegios para hacer lo que quieran en la computadora de la víctima. En lugar de escribir un programa completo de malware, un atacante puede simplemente usar al asistente en sí como la herramienta.
“Podemos manipular al agente y aprovechar sus privilegios para hacer lo que queramos”, dijo Wardle a Ars Technica la semana pasada.
Esa es una declaración poderosa. Significa que el asistente no es solo una herramienta para tareas cotidianas. Es un vector de ataque.
La Falsa Sensación de Seguridad
La apariencia adorable de Jolly es parte del problema. El personaje mascota crea una falsa sensación de seguridad. Los usuarios ven un dibujo animado amigable y asumen que todo está seguro.
Pero el asistente tiene privilegios reales en la computadora de un usuario, y esos privilegios pueden ser abusados. La falla demuestra que esa asunción fue incorrecta.
Lo Que Deben Hacer los Usuarios
Los usuarios deben tratar cualquier asistente de IA con precaución. El hecho de que Meta haya elegido usar un personaje mascota empeora la situación, no la mejora.
El consejo es simple: dejen de darle a Meta nuevas oportunidades para arruinar sus vidas. Ese es un consejo sensato, incluso si proviene de un sitio web de cultura popular.
Un Patrón Digno de Observar
Meta tiene un historial de problemas con datos. La compañía ha demostrado una y otra vez que no puede ser confiada con información sensible. Este es solo el último ejemplo.
El Dictamen sobre Muse
Muse no está cumpliendo sus promesas. El asistente no puede realizar compras, generar imágenes, crear documentos ni conectarse con aplicaciones y servicios. Esas funciones existen en papel, pero no están funcionando como se anuncia.
Las llamadas son realizadas por personas, lo cual es un alivio, pero la falla de seguridad es una preocupación mucho mayor. Un hacker puede tomar el control del computador de un usuario a través del asistente, y eso es una vulnerabilidad seria.
La falla es una vulnerabilidad de día cero, lo que significa que estaba presente en el software cuando se distribuyó. Eso es un fallo por parte de Meta.
La mascota es linda, pero también es una trampa. Los usuarios deben ser cautelosos con cualquier asistente que solicite acceso a su computador.
La adorable IA de Meta es, predeciblemente, una pesadilla de seguridad.
Vea el video en el que se basa la historia en The A.V. Club.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.