Sam Altman de OpenAI y Elon Musk han ambos coincidido con el jefe de Anthropic, quien quiere que toda la industria de la IA ralentice su marcha. Eso es un desarrollo significativo. Sin embargo, nadie ha ofrecido una explicación sobre cómo se llevaría a cabo en la práctica tal ralentización.
El coro de preocupación está creciendo más fuerte. El sábado, Dario Amodei, jefe de Anthropic, instó a ralentizar el ritmo de desarrollo. El domingo, Jacob Coxon, investigador de IA que abandonó Anthropic, le dijo a la BBC que los empleados que desarrollaban los sistemas estaban «realmente asustados» por el futuro de la humanidad. El mensaje es consistente: la tecnología avanza más rápido de lo que cualquiera sabe qué hacer con ella.
Lo que falta es el plan.
El Plan de Tres Puntos de Amodei
Amodei expuso un plan de tres partes: una supervisión independiente de los modelos durante su desarrollo, reglas compartidas a través de toda la industria, y controles mundiales. La propuesta abarca mucho terreno. También deja muchas preguntas abiertas.
Quién ejecutaría una ralentización es la cuestión principal. ¿Se esperaría que las compañías de IA den cuenta de su propia falta de actividad? Eso requeriría una gran cantidad de confianza, que la industria tecnológica probablemente nunca haya establecido.
Hay también un problema real con detener la formación de modelos. Cuando las empresas cesan de desarrollar sus sistemas de IA, estos se vuelven blancos fáciles para sus rivales. Las ganancias podrían subir, pero la tecnología misma queda congelada en el tiempo, estudiada y copiada por laboratorios chinos. Los precios podrían necesitar ajustarse también. Nadie puede decir con certeza cómo se saldrá todo esto.
Por qué Nadie Quiere Ser el Primero en Ralentizar
La competencia va más allá de la superioridad técnica. Estados Unidos es comúnmente considerado temeroso de quedar atrás de China en la lucha por la supremacía de la IA. A la conclusión del domingo, el presidente Trump expresó su propio punto de vista sobre el tema, afirmando que EE.UU. lidera a China en la carrera de la IA y sosteniendo: «Quienquiera gane la IA, gana».
Nadie quiere ser número dos en China. Cada persona con quien hablo dice que aunque su propia compañía se detenga, sus competidores no lo harán, y simplemente caerán atrás. Esa situación me recuerda al apogeo de la presión por la desarme nuclear. Entonces, la cuestión era que nadie quería ser el primero tampoco.
Qué Significaría una Ralentización para el Reino Unido
El Reino Unido ha visto que la inteligencia artificial gana terreno en muchos campos, incluido el cuidado de la salud, donde hay planes para ampliar su uso dentro del Servicio Nacional de Salud para beneficio de los pacientes. La tecnología también dio al economía británico un notable impulso durante el verano, mientras que las personas son cada vez más instadas a adoptarla para el trabajo, la educación y la vida cotidiana.
Impulsar el crecimiento económico está en el corazón de la estrategia británica, y esta industria desempeña un papel central en ella. «No hay plan B» un ex asesor gubernamental me dijo. La pregunta es si una desaceleración podría dañar las perspectivas futuras del sector aquí en Gran Bretaña.
El sector de inteligencia artificial está consumiendo sumas ingentes de dinero y recursos naturales. Aún no ha generado nada cerca de rendimientos equivalentes. Un número de informes indican que varias empresas que abrazan la tecnología han encontrado que resulta decepcionante.
La Pregunta de la Burbuja
Los economistas especulan ampliamente que incluso los actuales gigantes no son todos los que probablemente sobrevivirán. Algo de «nivelación» está por venir, también conocido como un estallido de burbuja. Pero aquellas firmas que logren hacerlo podrían terminar convirtiéndose en las corporaciones más poderosas que el mundo haya conocido jamás, y eso viene con sus propios problemas.
Detener su avance hacia el mercado accionario puede parecer que OpenAI finalmente acepta responsabilidad por la seguridad pública. O podría ser el movimiento de una empresa que ha llegado a darse cuenta de que tal vez no recibirá el lucrativo pago que necesita mientras que todo su producto siga siendo visto como letal.
Las Incertidumbres Por Venir
Alexander Voica, de la empresa británica de inteligencia artificial Synthesia, dice que uno de los seguramente mayores desafíos que enfrentamos hoy es que nadie puede prever con precisión hacia dónde se dirige esta tecnología. «Sabemos que estos sistemas están volviéndose más poderosos, pero no sabemos dónde ni cómo van a ser usados, y no hemos logrado realmente una manera de sacarles todo su potencial.»
«Mi única preocupación al apresurarnos a regular ahora, cuando aún hay muchas preguntas abiertas, es que podría terminar dando al revés.»
El Dinero de los Inversores Subyace Todo
La fundadora de Sustainable AI es Sasha Luccioni, quien dice: «No estoy preocupada por los riesgos existenciales de la inteligencia artificial, estoy preocupada por la codicia corporativa de las empresas que la están creando.»
La profesora Lady Wendy Hall, una destacada científica de la computación que ha aconsejado a la ONU sobre IA, sostiene que la actual crisis proviene de que las empresas no han actuado con responsabilidad. Esa misma situación es, según ella, como un granjero cuyo toro escapa de su corral y causa estragos, mientras el granjero culpa al animal en lugar de abordar el problema subyacente.
«Por supuesto que no es culpa del toro — es del granjero,» dice. Claramente, los cercos no fueron lo suficientemente sólidos, y eso es exactamente lo que está viendo ahora con los guardarrampas de la IA.
El Riesgo de Regular la IA Hasta Su Desaparición
Algunos creen que hay una más secreta, motivada políticamente, presión para imponer un sistema de reglas para clavarla en su desaparición. Parker Thayer, investigador de Capital Research Centre, un centro de pensamiento conservador, lo dijo en X esta semana.
El artículo recibió cerca de ocho millones de visitas. Propone un argumento muy amplio que carece de prueba alguna, pero demuestra que no todos están de acuerdo en que la regulación puede arreglar las cosas.
El Punto Final
Hay mucho discurso serio que pide un ritmo más lento. Pero esos mismos voces no han llegado a un acuerdo sobre qué aspecto tendría ese ritmo más lento.
Ed Zitron, CEO de EZ Primary Research, fue directo: «Nadie ha dado una explicación sustancial de qué significa ‘ritmo más lento’.» Cuestionó cómo funcionaría el plan de Amodei en la práctica, señalando que poner una planta de METR, donde uno de los que abandonaron Anthropic trabajaba, en cada empresa de IA sería difícil de coordinar. «Coordinación democrática y global? No significa nada para mí.»
Los que suenan la alarma están complacidos con la sensación, aunque el esquema que proponen deja mucho que desear.
Datos Clave
- Dario Amodei, jefe de Anthropic, urgió un ritmo más lento el sábado
- Sam Altman de OpenAI y Elon Musk dijeron que estaban de acuerdo
- Jacob Coxon, ex研究员, le dijo a los empleados de BBC que «realmente se sintió aterrado».
- Alexander Voica es de Synthesia, la empresa británica de inteligencia artificial.
- Sasha Luccioni es fundadora de Sustainable AI.
- La profesora Dame Wendy Hall ha proporcionado consultoría para la ONU sobre inteligencia artificial.
- El post de Parker Thayer en X ha sido visto casi ocho millones de veces.
Las luces de alarma se han encendido. El sector está siendo financiado a escala proporcional con sus objetivos. Los riesgos son mencionados sin ocultarlos. Pero el camino por delante aún no está pavimentado.
Una desaceleración económica podría provocar una explosión de burbuja. También podría hacer que la industria sea más frágil y difícil de competir con frente a rivales que siguen avanzando. Por ahora, apenas sabemos qué significa realmente una «desaceleración».
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.