Un grupo de investigadores de inteligencia artificial ha publicado una colección de videos advirtiendo que la superinteligencia podría acabar con la humanidad, con un experto afirmando que la probabilidad de extinción es aproximadamente a la mitad. Los videos provienen de empleados actuales y antiguos de OpenAI, Google DeepMind y Anthropic.
Palisade Research, que se describe a sí misma como una organización sin fines de lucro que estudia las capacidades y motivaciones de las IA, recopiló las entrevistas y las publicó en frominside.ai. El proyecto incluye una docena de conversaciones separadas con personas que trabajan dentro del campo.
La Advertencia de Geoffrey Irving
Geoffrey Irving, un exempleado de OpenAI y Google DeepMind, abrió la serie con una evaluación contundente. «La probabilidad de extinción humana es aproximadamente a la mitad, en mi opinión», dijo en una nueva entrevista.
Las Probabilidades de Neel Nanda
Neel Nanda, científico investigador de Google DeepMind, ofreció un número ligeramente más optimista pero aún alarmante. «Hay al menos un 10 por ciento de probabilidad de que cause la extinción humana, y eso es ridículamente alto», dijo.
La cifra del 10 por ciento de Nanda es inferior al «a la mitad» de Irving, pero él la presenta como absurdamente alta. Ambos investigadores están advirtiendo sobre lo mismo: el potencial de la IA para causar el fin de la humanidad.
La Afirmación Sombría de Daniel Kokotajilo
Daniel Kokotajilo, un exempleado de OpenAI, fue aún más lejos. Describió la IA superinteligente como de poder divino. «Desafortunadamente no sabemos cómo controlarlos en absoluto», dijo. «Y así probablemente nadie los controlaría. Esto es exactamente tan peligroso como suena y no debe permitirse que suceda».
La advertencia de Kokotajilo es contundente.
Por Qué Siguen Trabajando
Los videos también abordan una pregunta práctica: ¿por qué alguien trabajaría en algo tan peligroso? Algunas respuestas fueron directas.
- Google’s Mary Phuong reconoció el escepticismo que invita su posición. «Creo que absolutamente deberían ser suspicaces de lo que estoy diciendo porque estoy siendo pagada por el laboratorio», dijo.
- Neel Nanda ofreció un compromiso personal. «Si no creyera que mi trabajo está reduciendo directamente estos riesgos existenciales, renunciaría… Estas empresas no van a dejar de fabricar estos sistemas solo porque yo renuncie.»
Ambas declaraciones sugieren una tensión: estos investigadores ven el peligro claramente, pero creen que su trabajo es la mejor manera de reducirlo.
Lo Que Los Videos No Ofrecen
La colección incluye segmentos de múltiples oradores sobre temas similares, incluyendo si la preocupación es publicidad o marketing. El sitio también pregunta por qué los investigadores trabajarían en algo que creen que es tan peligroso.
«Esto es exactamente tan peligroso como suena y no debe permitirse que suceda.»
Los videos no proponen una solución única.
Leyendo Entre Líneas
Los videos muestran una división en cómo los investigadores se presentan a sí mismos. Algunos, como Phuong, reconocen la sospecha que invita su posición. Otros, como Kokotajilo, enmarcan el trabajo como una obligación moral.
El proyecto plantea una pregunta sobre la confianza. Cuando las personas que están construyendo IA están abiertamente preocupadas, ¿qué significa eso para todos los demás?
Esta es una admisión sorprendente por parte de las personas más capacitadas para dar forma al futuro. Los videos no ofrecen consuelo, ni ofrecen respuestas. Ofrecen una advertencia, y piden al espectador que la tome en serio.
Material fuente: “Investigadores de IA publican videos diciendo que la superinteligencia es ‘exactamente tan peligrosa como suena’,” The Verge.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.