Un estudiante universitario confesó una broma que puso en pánico a toda una sala de gente, y ahora ve el mismo dinámica jugando en la investigación de inteligencia artificial. La comparación no es abstracta. Es personal.
El autor, quien nunca había compartido esta historia antes, relata una noche de su primer año en la universidad cuando él y un grupo de compañeros decidieron propagar un rumor. Caminaron hacia una sala general de computadoras al lado y anunciaron en voz alta que un virus había escapado del laboratorio de ciencias de la computación. Los estudiantes allí deberían desconectar sus discos de florete para detener su propagación.
El pánico fue inmediato. Las personas apagaron máquinas, arrancaron cables de los enchufes, gritaron y salieron corriendo de la sala. Los bromistas intentaron detener el pánico. No pudieron. Algunos estudiantes respondieron con furia. Otros negaron que fuera una broma. Una vez que el miedo tomó posesión, ya no pudo ser borrado.
La consecuencia fue mala. Era semana de exámenes finales. Los estudiantes que habían apagado sus computadoras perdieron trabajo que habían estado escribiendo. Estaban furiosos. Los bromistas estaban en serios problemas.
Al día siguiente, se reunieron con el director de servicios. Él les reprendió severamente, los hizo escribir cartas de disculpa, y advirtió que otra repetición significaría abandonar la universidad por completo. Cuando el autor graduó cuatro años después, el director devolvió la carta. El autor permanece agradecido por la gravedad con que todo fue manejado.
La historia es ahora pública porque el autor cree que ha visto el miedo propagarse entre tecnólogos de una manera que siente irresponsable. Señala recientes afirmaciones sobre la inteligencia artificial causando la extinción humana.
La afirmación de extinción por inteligencia artificial
El ex-empleado de Anthropic Jacob Coxon afirmó que la probabilidad de que la inteligencia artificial «mate a todos los humanos» es «>10% en la próxima década.» El jefe de ciencia de alineación de Anthropic Evan Hubinger acordó con la cifra. El autor describe esto como una afirmación que, si es verdadera, significa que un niño recién nacido tiene una probabilidad mayor que diez por ciento de morir antes de alcanzar la escuela secundaria.
La afirmación no es que la IA podría matar a miles o millones de personas. Es que existe una probabilidad mayor al diez por ciento de que la IA mate a todos los humanos. El autor llama estas afirmaciones ghoulish. Dada la evidente importancia de la IA, han saltado al mainstream. Las personas naturalmente preguntan cómo podría suceder eso.
Las respuestas siempre se basan en extrapolaciones vagas hacia el futuro. Coxon cita «hackeo de infraestructura crítica» y «armas biológicas extintivas» sin más elaboración. El autor señala que Coxon no es un experto en infraestructura crítica, armas biológicas ni extinción.
El miedo se propaga más rápido que la evidencia.
El autor dibuja una paralela directa entre el truco y la situación actual. En ambos casos, un pequeño grupo de personas sembró temor entre un grupo mayor. En el truco, el temor se contenía a una sola habitación. En el caso de la IA, ha corrido por todo el campo.
El autor cita a Jonathan Swift, quien dijo, «El engaño vuela y la verdad arrastra sus pies tras él.» Cuando los expertos dominantes sembran temor, este se arraiga más fácilmente que cualquier evidencia que siga. El autor describe a Coxon como más vector que caso índice. Los temores de riesgo de extinción son generalizados, y Coxon probablemente tiene estos temores porque los ha escuchado de otra persona.
A medida que el temor se apodera, el simple número de expertos alarmados se convierte en su propio tipo de evidencia. Las voces contrarias son ahogadas por lo que parece ser una aparente consenso.
Construyendo computadoras, no robots.
El autor ofrece una réplica desde su propio estrecho dominio de conocimiento: construyendo computadoras. Reflexiona sobre su charla de Monktoberfest de 2023, «La inteligencia no es suficiente,» donde argumentó que las acciones de ingeniería no son acciones de inteligencia solas. Requieren acción humana en el mundo físico.
Aquellos que son firmes en su temor gustan de ignorar la realidad física. «Los robots harán esto,» dicen. Pero los robots no pueden hacerlo hoy. No parecen estar haciéndolo en un horizonte temporal consistente con estos temores de extinción.
Más generalmente, en la medida en que los sistemas digitales tienen agencia en el mundo físico, esa agencia es agencia que los humanos les conceden. Los humanos construyen las máquinas, las programan y controlan sus interacciones. El autor sostiene que la realidad física importa.
La Comparación Se Mantiene
El argumento central del autor es que el miedo se propaga más rápido que la evidencia. En la broma, unos pocos estudiantes crearon caos al mentir sobre un virus. En el caso de la IA, los expertos están creando caos al afirmar una alta probabilidad de extinción humana.
Las paralelas son llamativas:
- Un pequeño grupo crea temor en un grupo mayor
- El temor se propaga rápidamente y no puede ser detenido
- Las voces disidentes son ahogadas por la aparente consenso
- El temor se establece antes de que cualquier evidencia pueda alcanzarla
La preocupación del autor es que el temor está volviéndose bien establecido. Él quiere ofrecer una réplica desde su propio dominio de expertise. Quiere recordar a las personas que los robots no pueden hacer esto hoy.
La comparación es incómoda. El autor admite que podría haber mantenido la broma para sí mismo. Eligió compartirlo ahora porque ve la misma dinámica desempeñándose en la investigación de IA.
El temor se está propagando. El autor espera que su voz pueda formar parte de la respuesta.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.