La aplicación de Mac de ChatGPT tenía un agujero que podría haber permitido a un hacker leer todo lo que la aplicación sabía. El error, descubierto por investigadores de la Objective-See Foundation, permitía a un atacante tomar el control de la aplicación y acceder a registros de chat, sesiones de navegador e incluso ejecutar comandos como si fueran la propia aplicación.
El Alcance del Error
La falla, corregida desde el 25 de septiembre, se encontraba en un intérprete de scripts de confianza dentro de la aplicación. Ese intérprete tomaba comandos de otros lugares y los ejecutaba dentro del proceso principal de ChatGPT. Un hacker podría configurar el intérprete para ejecutar un script tres veces, cumpliendo con las comprobaciones de la aplicación sobre los procesos padre y abuelo en el camino.
Patrick Wardle, un analista de software de Objective-See, dice que el problema era fácil de explotar. Su prueba de concepto necesitaba solo alrededor de una docena de líneas de código. Una vez dentro, un atacante podría:
- Leer registros de chat
- Acceder a sesiones de navegador
- Ejecutar comandos que parecían provenir de la aplicación misma
- Dirigirse a otras aplicaciones sensibles en la máquina de la víctima
Cómo Se Rompieron Las Comprobaciones
La aplicación de macOS de ChatGPT utiliza firmas digitales para verificar que los procesos que se comunican entre sí sean verdaderamente componentes de OpenAI, no algo que pretenda serlo. El diseño del sistema llega a tres capas de profundidad para protegerse contra un script malicioso que configure un componente de OpenAI como un proxy.
Wardle descubrió que un componente de confianza, un intérprete de scripts, aceptaría un script o lista de comandos no confiados. Al generar el intérprete tres veces, un script malicioso podría cumplir con las comprobaciones de los procesos padre y abuelo de la aplicación y pasar de todos modos.
Lo Que Dijo OpenAI
OpenAI reconoció públicamente la falla y la corrección en su registro de cambios del sistema el 25 de septiembre. Un portavoz, Shane Bauer, le dijo a WIRED en un comunicado: «Continuamos evolucionando nuestras prácticas de seguridad, pero reconocemos la necesidad de avanzar más rápido».
Más de un Agujero
Wardle tiene un historial de encontrar problemas en aplicaciones de IA. Recientemente descubrió una falla en el nuevo asistente de IA Muse de Meta, que podría haber permitido a un atacante local tomar un token de autenticación mal gestionado y acceder a los datos del usuario. Ese error ya ha sido solucionado.
También ha presentado un nuevo hallazgo de vulnerabilidad a OpenAI sobre la integración entre ChatGPT y el nuevo asistente de IA siempre activo de la compañía, Dots. OpenAI está revisando actualmente ese informe.
El Patrón es Preocupante
Wardle dice que las empresas de IA se están enfocando en agregar funciones en este momento. Pero más funciones significan una superficie de ataque más grande. Argumenta que la seguridad sigue siendo un factor secundario para muchas de estas empresas.
«Las empresas de IA están obsesionadas con agregar funciones en este momento», dice Wardle. «Pero como siempre, cuanto más funciones, más amplia es la superficie de ataque. Entonces, todas estas empresas deben estar completamente enfocadas en la seguridad, y por lo que puedo ver, a menudo todavía parece ser un factor secundario».
La Conferencia
Wardle presentará un análisis de varios errores de aplicaciones de IA para macOS en Objective by the Sea, una conferencia de seguridad centrada en Apple en noviembre.
Lo que Esto Significa para los Usuarios
La falla muestra cuánta confianza depositamos en el software de IA en nuestras computadoras. ChatGPT se ejecuta con un acceso profundo al sistema para hacer su trabajo, y ese acceso crea un objetivo.
El parche ya está disponible, pero la lección no lo está. A medida que las aplicaciones de IA se vuelven más comunes, el riesgo también crece.
Caja de Datos Clave
- Fecha reconocida: 25 de septiembre
- Error detectado por: Objective-See Foundation
- Líneas de prueba de concepto: Alrededor de una docena
- Declaraciones de: Shane Bauer, portavoz de OpenAI
- Conferencia: Objective by the Sea, noviembre
La historia es una advertencia sobre el ritmo del desarrollo de la IA. Las empresas están apresurándose a añadir funciones, y la seguridad a menudo queda en segundo plano. Ese es un patrón que vale la pena observar, no solo para ChatGPT, sino para toda aplicación de IA que solicite acceso profundo al dispositivo de un usuario.
La solución está aquí, pero la pregunta de si las empresas disminuirán el ritmo y primero asegurarán sus sistemas sigue en debate.
Material de origen: “A Flaw in ChatGPT’s Mac App Could Have Let Hackers Grab Sensitive Data,” WIRED.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.