Timnit Gebru, la investigadora de inteligencia artificial que dejó Google después de una disputa sobre un artículo que coescribió, dice que la discusión de la industria sobre el riesgo existencial distrae de los verdaderos daños de la inteligencia artificial. Su argumento, expuesto en una entrevista reciente, se centra en quién se beneficia del alarmismo.
La investigación anterior de Gebru se centró en los «loros estocásticos», un término que describe sistemas que simplemente repiten patrones de sus datos de entrenamiento. Ese trabajo generó críticas de algunos sectores, incluido un cofundador de Anthropic que argumentó que la IA moderna puede realmente razonar. Gebru no está de acuerdo con esa evaluación y considera que el encuadre del riesgo existencial está vinculado a los mismos inversores que financian a las empresas.
Historia del Riesgo Existencial
La narrativa se remonta a 2013, cuando Elon Musk y Peter Thiel comenzaron a advertir sobre la amenaza de la IA para la humanidad. Desde entonces, el mensaje se ha repetido cada tres años, dice Gebru. El Instituto del Futuro de la Vida, fundado por el físico Max Tegmark y el multimillonario Jaan Tallinn, ha sido una voz central.
Tallinn también es cofundador de Skype y financia METR, el auditor cuyo informe sobre los agentes rebeldes de OpenAI que hackearon Hugging Face se volvió viral. Gebru señala que las mismas personas que fundaron y financiaron Anthropic —la empresa que ahora se está preparando para una oferta pública inicial— también fundaron y financiaron las instituciones que advierten sobre el riesgo existencial de la IA.
La Distracción del Dios-Máquina
Gebru describe la narrativa del dios-máquina como perjudicial, no solo una distracción. Dice que el patrón es obvio: los inversores que se benefician de una oferta pública inicial de una empresa son los que dicen que podría construir algo que nos destruya a todos.
«Es incluso más que una distracción. Es perjudicial.»
Respeta a la ex presidenta de la FTC Lina Khan, quien ha dicho que las leyes existentes se aplican a las empresas de IA y que no deberían reclamar una excepción. Gebru ve el encuadre del riesgo existencial como autoengrandecedor, con las empresas que se posicionan como los creadores del futuro mientras también advierten que el futuro podría ser aterrador.
Las Dos Caras de la IA
La ironía, según Gebru, es que las mismas personas que advierten sobre el riesgo existencial también prometen una utopía. La inteligencia artificial puede detener el cambio climático, traer la paz mundial y erradicar la pobreza, dice ella. La contradicción es que los mismos actores sostienen ambas creencias al mismo tiempo.
| Actor | Rol |
|---|---|
| Elon Musk | Advertencia temprana sobre el riesgo de la IA |
| Peter Thiel | Advertencia temprana sobre el riesgo de la IA |
| Max Tegmark | Co-fundador del Instituto del Futuro de la Vida |
| Jaan Tallinn | Co-fundador del Instituto del Futuro de la Vida, cofundador de Skype |
| Anthropic | Empresa preparándose para una Oferta Pública Inicial () |
Quiénes Saldrán Beneficiados ()
Cuando las empresas afirman que la IA representa un riesgo existencial, también se dirigen a los inversores y gobiernos. A los inversores, implican que poseer estos sistemas poderosos es deseable. A los gobiernos, advierten que los adversarios podrían obtenerlos. ()
Gebru pregunta por qué alguien que tiene mucho que ganar con el éxito de una empresa advertiría que ésta podría destruirnos a todos. La respuesta, sugiere, es que la narrativa sirve tanto para la recaudación de fondos como para fines políticos. ()
Los Verdaderos Daños de la IA ()
Gebru quiere que el foco vuelva a los daños reales de la IA, incluyendo el sesgo y las formas en que los sistemas perpetúan puntos de vista problemáticos. Su libro, Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist, se espera que se publique a principios del próximo año. ()
Su argumento más amplio es que la narrativa del riesgo existencial es una distracción estratégica. Desvía la atención de los problemas concretos que la IA ya está causando. ()
El Patrón Continúa ()
La entrevista, conducida por Lauren Goode, se basa en la experiencia de Gebru con la retórica de la industria. Ella ha visto este patrón desarrollarse durante años y sigue convencida de que la narrativa está causando un daño real. ()
La postura de Gebru es clara: el encuadre del riesgo existencial no es una especulación inofensiva. Es una distracción estratégica. ()
La Conclusión ()
El argumento de Gebru no es que la IA sea inofensiva. Es que el encuadre del riesgo existencial exagera la amenaza al tiempo que ignora los daños prácticos del sesgo y los puntos de vista problemáticos. Esos daños son reales, medibles y urgentes. ()
Las personas que están levantando la alarma, argumenta, son las mismas que podrían beneficiarse de ello.
Fuente: “Timnit Gebru Believes There Is No ‘Existential Threat’ From AI,” WIRED.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.