El miércoles, DeepMind presentó un nuevo instituto diseñado para ampliar la discusión en torno a la inteligencia artificial general. El Instituto DeepMind reúne a investigadores de Google y Google DeepMind, cuyo objetivo es dar a conocer las posiciones divergentes mantenidas por las dos empresas y la comunidad de investigación global más amplia.
Shane Legg, cofundador de DeepMind; James Manyika, ejecutivo de Google; y Demis Hassabis, presidente de Google DeepMind, se encuentran en la junta directiva del instituto, con Legg asumiendo el cargo de editor en jefe. El objetivo declarado es hacer que la conversación sobre AGI sea más abierta, en lugar de mantenerla encerrada dentro de una sola empresa.
Cuatro Ensayos Inician el Debate
La colección inaugural de cuatro ensayos abarca una variedad de temas:
- Políticas económicas para gestionar la posible disrupción de la AGI
- Preservar el razonamiento de los modelos legible por humanos
- Principios para el florecimiento humano
- Un marco para evaluar modelos de IA de frontera
Una afirmación fundamental destacó en el anuncio, y se refería a la discrepancia: «No siempre estarán de acuerdo y es probable que cambien de opinión a medida que aparezca más datos e información en la vanguardia de rápido movimiento».
Esa apertura es todo el argumento. El instituto quiere revelar los desacuerdos, no suavizarlos.
Shah y Dragan sobre la Transparencia
Los investigadores de seguridad de DeepMind, Rohin Shah y Anca Dragan, han escrito un ensayo argumentando que la ventana de transparencia cada vez menor de la IA —la capacidad de ver y verificar el razonamiento paso a paso de un modelo— no es inevitable. El argumento se centra en cómo las nuevas arquitecturas están dificultando el monitoreo de los modelos más poderosos. Los autores dicen que los desarrolladores y los reguladores deben enfrentar de frente los compromisos de seguridad en lugar de asumir que se resolverán por sí solos.
Eso podría significar restringir la «profundidad serial opaca»—cuánto cálculo secuencial puede llevar a cabo un modelo antes de producir una traza de razonamiento legible—o exigir que los desarrolladores demuestren que los sistemas menos transparentes se mantienen igualmente monitorables.
El ensayo argumenta que la transparencia no se ha perdido para siempre. Los desarrolladores enfrentan decisiones que pueden medirse y gobernarse.
Propuesta del Organismo de Normas de Hassabis
Demis Hassabis presenta una propuesta liderada por Estados Unidos para un organismo de normas de IA de frontera que juzgará los modelos de IA más avanzados en un ensayo aparte. En su plan, los desarrolladores primero presentarían sus modelos para examen de forma voluntaria hasta 30 días antes de su lanzamiento.
Si el método de evaluación resulta ser eficaz, cumplir con sus pruebas podría eventualmente ser necesario antes de que los modelos de frontera puedan ponerse en uso en los Estados Unidos.
El organismo diseñaría inicialmente evaluaciones en consulta con empresas de IA, pero eventualmente desarrollaría evaluaciones independientes y no divulgadas—lo que el ensayo llama pruebas «held-out»—para evitar que los laboratorios adapten sus modelos a evaluaciones conocidas. Hassabis dijo que el marco podría «intensificarse si la seriedad de la situación lo exige», potencialmente incluyendo una desaceleración coordinada entre los desarrolladores de IA de frontera.
El Cambio de Declaraciones Amplias a Propuestas Concretas
Esta semana, la conversación sobre la seguridad de la IA ha evolucionado más allá de las expresiones generales de preocupación hacia propuestas específicas de transparencia, supervisión externa y, en caso de que las protecciones se queden atrás, pausas coordinadas. El cambio cobró impulso a medida que los líderes de la industria respaldaron partes del impulso de Dario Amodei, director ejecutivo de Anthropic, para «marcar el ritmo» del desarrollo de la IA de frontera.
El trabajo reciente de DeepMind proporciona un método específico para juzgar el progreso, mientras que anteriormente, Amodei solo había pedido marcar el ritmo. El contraste entre los dos enfoques es instructivo.
Lo que el Instituto Realmente Hace
El instituto dice que su objetivo es generar diferentes opiniones entre Google, Google DeepMind y investigadores de todo el mundo sobre AGI. Cuatro ensayos integran el primer resultado, tocando temas de economía, transparencia, florecimiento y evaluación de modelos.
Por Qué Esto Importa Ahora
Es importante destacar el momento. El instituto se lanza en un momento en que la industria pasa de emitir advertencias a tomar medidas concretas. El enfoque anterior implicaba generar alarmas sobre los riesgos de la AGI y confiar en que la gente las escucharía. Ahora el foco se ha desplazado hacia propuestas prácticas: organismos de normalización, pruebas reservadas, revisiones voluntarias, al tiempo que se abre espacio para la participación pública.
¿Qué vendrá después?
Un conjunto de ensayos ha sido compilado por el instituto, y ahora la pregunta es cómo reaccionará el resto de la comunidad de investigación. Se espera que otros laboratorios aporten sus propias opiniones.
El instituto ha expuesto su plan de acción. Ahora se queda a observar si el resto de la industria elegirá seguirlo.
La conclusión fundamental.
DeepMind ha abierto una puerta. El éxito de esa apertura depende totalmente de las ideas que se encuentren más allá.
El primer conjunto de ensayos del instituto marca un cambio en la empresa, pasando de expresiones generales de preocupación hacia planes específicos de divulgación, revisión independiente y, en caso de que las protecciones se retrasen, desaceleraciones coordinadas. Este movimiento ocurre en un momento en que la propia industria parece estar dirigiéndose en la misma dirección.
Ahora la cuestión en cuestión es si el instituto puede mantener una conversación abierta y honesta, incluso cuando las respuestas resulten incómodas.
Material fuente: ““Google DeepMind lanza instituto para ampliar el debate sobre la AGI,” TechCrunch.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.