El lunes, los legisladores de la Ciudad de Nueva York escucharán testimonios de antiguos investigadores de IA y principales ejecutivos tecnológicos mientras deliberan sobre nuevas regulaciones para la inteligencia artificial. Denunciantes y líderes empresariales aparecerán juntos ante el órgano de gobierno de la ciudad, cada uno presentando su argumento.
Denunciantes Primero
Tres antiguos investigadores que dejaron sus empresas después de expresar preocupación por el desarrollo de la tecnología abrieron la audiencia con testimonios. Se presentaron con inquietudes sobre la dirección del campo. Jacob Coxon, un antiguo investigador de Anthropic, advirtió que la inteligencia artificial podría volverse demasiado poderosa para que los humanos la controlen. Se le unirá Daniel Kokotajlo, un antiguo investigador de OpenAI, y Alex Turner, un antiguo investigador de Google DeepMind.
La aparición fue solicitada por la Presidenta del Concejo Municipal, Julie Menin, quien emitió una declaración. «Los denunciantes son la razón por la que el mundo conoció los peligros potenciales de la IA, y merecen ser protegidos, recompensados y escuchados», forma parte de sus comentarios. «Nos complace haber podido asegurar la participación de varios denunciantes destacados que, por primera vez, proporcionarán sus testimonios».
El consejo recibió de Menin el estímulo para que los trabajadores actuales y antiguos de empresas de IA contribuyeran con sus conocimientos, ya sean hechos públicos o mantenidos en secreto.
Ejecutivos Testifican Después
Cuatro principales ejecutivos están programados para aparecer después de los testigos que se presentaron, y el cuerpo espera testimonios de Morgan Dwyer de Anthropic, Logan Graham de OpenAI, junto con Alice Friend de Meta y Shane Cahill de Google.
Entre estas empresas se encuentran algunas de las operaciones de IA más importantes de la Ciudad de Nueva York, y en conjunto su influencia sobre la economía de la ciudad y su panorama tecnológico es considerable.
Lo Que El Consejo Está Considerando
Esta sesión es una parte de un examen más amplio de 10 leyes propuestas destinadas a establecer protecciones en torno a la inteligencia artificial. Las medidas incluyen:
- Un requisito de que los sistemas de IA sean capaces de ser desactivados por un operador humano a través de un «interruptor de parada»
- Multas de hasta $25,000 por infracciones
- Un programa de denunciantes que extendería protecciones a los empleados municipales, contratistas y subcontratistas que denuncien presuntas irregularidades relacionadas con el desarrollo de la inteligencia artificial (1).
- Un mandato para que la ciudad haga un seguimiento e informe sobre cómo la inteligencia artificial está afectando a su fuerza laboral, incluyendo empleos que han sido eliminados o desplazados (2).
SpaceXAI de Elon Musk declinó una invitación para participar, dejando a los legisladores sin otra opción que avanzar con una citación judicial para obtener testimonio de representantes de la empresa. La oradora Menin ha dicho que está considerando acciones legales para forzar el cumplimiento (3).
El contexto más amplio (4).
En varios niveles de gobierno, los responsables de la formulación de políticas están considerando cómo supervisar la inteligencia artificial. La administración encabezada por el alcalde Zohran Mamdani ya ha prohibido la inteligencia artificial generativa en las escuelas primarias y secundarias públicas. Mientras tanto, la gobernadora Kathy Hochul está impulsando un enfoque estatal para regular la IA (5).
La audiencia del consejo municipal en la ciudad de Nueva York trabaja junto con los esfuerzos nacionales, aunque su enfoque se centra en poner en práctica cambios a nivel local (6).
Qué esperar (7).
Un intercambio directo entre quienes están expresando preocupación y quienes están dirigiendo las empresas es lo que brinda la audiencia. El testimonio del denunciante abre la sesión con un tono de inquietud, antes de que los ejecutivos tomen la palabra para responder (8).
Sin SpaceXAI presente, la situación se vuelve más tensa. La citación judicial en sí es una señal poderosa de que el consejo está decidido a tomar medidas, aunque la empresa podría eventualmente negarse a cooperar con ella (9).
Lo que tenemos ante nosotros es un conjunto de propuestas audaces, y no hay certeza de que se lleven a cabo (10).
El lunes, ante el Concejo de la Ciudad de Nueva York, se llevará a cabo una audiencia con denunciantes de Anthropic, OpenAI, Google DeepMind y Meta testificando contra sus antiguos empleadores. Los testigos incluyen a Jacob Coxon de Anthropic, Daniel Kokotajlo de OpenAI y Alex Turner de Google DeepMind. Los ejecutivos de las empresas —Logan Graham de Anthropic, Morgan Dwyer de OpenAI, Shane Cahill de Meta y Alice Friend de Google— enfrentarán preguntas sobre su papel en la industria de la inteligencia artificial. Se podría imponer una multa propuesta de hasta $25,000 a las empresas. SpaceXAI, representada por Elon Musk, no estará presente en la audiencia.
La audiencia tiene como objetivo determinar si la ciudad puede gestionar las exigencias de la innovación junto con la responsabilidad. Quienes han expresado sus preocupaciones ya se han manifestado.
Material de origen: “Tech leaders, AI whistleblowers to face NYC Council questions at hearing,” ABC7 New York.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.