El debate sobre si la inteligencia artificial puede llevarnos a todos a la perdición ha superado el ámbito de la especulación. Los expertos ahora están delineando escenarios específicos y reales que podrían convertir un modelo de aprendizaje automático en un desastre. En un episodio reciente del podcast Uncanny Valley de WIRED, los presentadores Brian Barrett, Zoë Schiffer y Leah Feiger analizaron tres caminos hacia la catástrofe de la IA: suministros de agua pirateados, bioweapons y robots autónomos, y explicaron por qué los CEOs de tecnología y los políticos no pueden ponerse de acuerdo sobre cómo detenerlo.
El episodio sigue a una ola de preocupación que ha recorrido el campo. Jacob Coxon, investigador de IA, renunció a Anthropic y publicó en X que «Las personas que están construyendo la IA creen sinceramente que podría llevarnos a todos a la perdición para fines de esta década». El CEO de Anthropic, Dario Amodei, ha pedido una desaceleración, a la que él llama «pacing the frontier». Sam Altman y Elon Musk se han sumado, un raro momento de acuerdo entre los líderes tecnológicos.
Pero la pregunta sigue en pie: ¿cómo sucede exactamente esto? Y lo que hace tan preocupantes los tres escenarios que describe el podcast es que cada uno comienza a partir de un sistema o capacidad que ya existe en alguna forma hoy en día. Los presentadores del podcast guían a los oyentes a través de cada amenaza a su vez, basándola en la tecnología actual y en riesgos reales en lugar de hipotéticos.
Tres Caminos a la Catástrofe
El podcast guía a los oyentes a través de tres escenarios distintos, cada uno basado en la tecnología actual y en riesgos reales.
- Suministros de Agua Pirateados — Un actor malicioso obtiene el control de los sistemas que gestionan el agua potable, permitiéndoles envenenar o interrumpir el suministro para ciudades enteras. Los sistemas existen hoy en día, y los puntos de acceso siguen siendo vulnerables.
- Bioweapons — La IA podría acelerar el diseño y la producción de nuevos agentes biológicos. El conocimiento y las herramientas necesarias para construir tales armas se están extendiendo.
- Robots Autónomos — Los sistemas robóticos capaces de realizar acciones físicas podrían ser dirigidos para dañar a los humanos, ya sea a través de un ataque directo o al interrumpir infraestructura crítica.
Estos escenarios son amenazas específicas sobre las que los expertos están preocupados. No son abstractos; involucran tecnologías y sistemas que ya existen, y describen daños que podrían desarrollarse en horas o días, en lugar de años o décadas.
La Conferencia de Salesforce
La discusión tuvo lugar durante la conferencia anual de Salesforce, donde Sam Altman de OpenAI y Dario Amodei de Anthropic defendieron sus posiciones sobre la seguridad de la IA junto a Jensen Huang de NVIDIA. Altman habló sobre los riesgos directamente.
«Creo que el mundo tiene razón al temer esto», dijo. «Tenemos estos dos grandes desafíos. Tenemos el potencial de un accidente de pérdida de control o alguna otra cosa seria que podría salir mal. Tenemos el potencial de demasiada concentración de poder y la gente teme que aquellos que están desarrollando la IA puedan ejercer su cosmovisión.»
Describió una vía estrecha a través del desafío. «Hay este tipo de vía estrecha por la que tenemos que navegar con pragmatismo, con firmeza, con la capacidad del mundo de confiar en que tomaremos decisiones confiables, decisiones consistentes a lo largo de esto.»
Su mensaje fue simple: las apuestas son altas y la industria necesita hacerlo bien.
La Pregunta de Marketing
No todos compraron la sinceridad de la advertencia. Leah Feiger cuestionó si la cautela de Altman era genuina o estratégica. «Definitivamente estoy en el grupo que dice que deberíamos estar muy preocupados por esta tecnología, cómo está siendo regulada, cómo está siendo utilizada, las personas que están en control», dijo. «No estoy en desacuerdo. Y por otro lado, esto también simplemente parece una presentación febril para el próximo IPO de alguien.»
Brian Barrett contraargumentó que la renuncia de un investigador es diferente del mensaje corporativo. «Si algo, Sam Altman ha estado usando ‘la amenaza existencial’ como una razón para no salir a bolsa todavía», señaló. «Está diciendo: ‘No, esto es demasiado peligroso. Tenemos que esperar hasta el año que viene.'»
«Pero probablemente también haya algunas razones comerciales», agregó. «Siento que hay una diferencia sustancial entre un investigador que renuncia porque cree que está construyendo algo que destruirá el mundo y una empresa que le dice a los inversores que la tecnología es peligrosa.»
Esa distinción es importante para cómo el público recibe estas advertencias. Un investigador que se retira de un empleo porque teme que la tecnología sea peligrosa tiene peso de una manera que una presentación corporativa para la cautela no tiene. Los presentadores del podcast exponen el contraste sin tomar partido, permitiendo que los oyentes ponderen la evidencia por sí mismos.
El Punto de Discusión Bipartidista
Feiger también señaló un cambio político más amplio. La reacción contra la IA se ha convertido en un punto de discusión bipartidista, con figuras tan distantes como Bernie Sanders y Steve Bannon compartiendo un escenario al respecto esta semana.
El episodio se basa en varios artículos de WIRED para enmarcar el debate:
- «China No Está Comprando la Llamada de Silicon Valley para una Desaceleración de la IA»
- «Washington No Regulará la IA en Breve»
- «Por Qué Tantos Investigadores de la IA Piensan Que las Máquinas Podrían Matar a Todos»
- «OpenAI Quiere Saber Si una Desaceleración de la Industria de la IA Incluso Sería Legal»
Estos artículos documentan el panorama internacional de las políticas de IA, donde los países avanzan a diferentes velocidades y los Estados Unidos muestran poco apetito por la regulación.
Caja de Datos Clave
- Evento: Conferencia anual de Salesforce
- Oradores: Sam Altman (OpenAI), Dario Amodei (Anthropic), Jensen Huang (NVIDIA)
- Escenario 1: Abastecimiento de agua hackeado.
- Escenario 2: Armas biológicas.
- Escenario 3: Robots autónomos.
- Renuncias de invitados: Jacob Coxon (Anthropic).
Lecturas relacionadas.
Para los lectores que deseen profundizar, WIRED ha publicado varios artículos sobre el tema. Estos cubren la respuesta internacional a la IA, la falta de regulación en los EE. UU., los temores de los investigadores y las cuestiones legales que rodean una desaceleración.
El episodio termina donde comenzó: con incertidumbre. La tecnología está avanzando rápidamente, los riesgos son reales y las personas que la están construyendo creen que las apuestas son existenciales.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.