Donald Trump ha calificado los temores sobre la seguridad de la IA como una «farsa», rechazando las llamadas a establecer mayores restricciones en la tecnología de rápido desarrollo, tal como lo hizo en una serie de publicaciones el lunes. Sus comentarios se producen después de que un cofundador de Anthropic advirtiera que podría ser necesario un «interruptor de apagado» para la IA peligrosa.
Jack Clark, uno de los siete fundadores de Anthropic, dijo a la BBC que la sociedad «podría querer eventualmente establecer reglas sobre» una forma de desactivar por completo el software de IA si se vuelve demasiado peligroso. Dijo que la mayoría de los laboratorios, incluido Anthropic, ya tienen diferentes formas de «desconectar el sistema», pero que los legisladores podrían necesitar obligar a tener uno.
Publicaciones de Trump sobre la IA
En otra publicación, Trump escribió: «Hay una conspiración SICK en marcha contra la IA y los centros de datos, y el único que está contento con esto es China. ¡EL QUE GANE LA IA, GANA!». Más temprano el lunes, publicó que las únicas «restricciones» necesarias para la IA eran un «presidente fuerte e inteligente».
La discusión se ha centrado en la cuestión de si la IA debería estar sujeta a una mayor supervisión. Clark hizo sus comentarios después de las advertencias sobre los peligros que la tecnología podría representar para la humanidad, provenientes de varios ejecutivos y miembros del personal de empresas líderes de IA.
El lunes, las preocupaciones sobre el crecimiento de la IA provocaron que los inversores vendieran acciones de ciertas empresas de tecnología, mientras que los comerciantes evaluaban cómo una posible desaceleración en el desarrollo de la IA podría afectar a esas empresas.
El debate sobre el «interruptor de apagado»
El lunes, Microsoft AI se unió a la conversación más amplia en la industria en torno a la preocupación pública al publicar un documento con el esquema de lo que llama «IA humanista», siguiendo un patrón de empresas que expresan preocupaciones sobre los modelos que están construyendo. La solicitud de Clark de un «interruptor de apagado» surge después de esta ola de discusión en todo el sector.
Mustafa Suleyman, el director ejecutivo de la empresa, habló con el canal de noticias comerciales CNBC sobre las nuevas pautas, diciendo que habían estado en desarrollo durante meses y se publicaron ahora debido al debate actual en torno a la tecnología.
¿Quién más está pidiendo salvaguardias?
Steve Bannon, el ex asesor estratégico del presidente Donald Trump, y el senador Bernie Sanders, un político progresista de larga trayectoria, ambos abordarán el mismo encuentro en Washington el martes. El evento, conocido como la «Asamblea Pro-Humana», reúne a dos figuras destacadas de extremos opuestos de la vida política estadounidense, quienes defienden una reevaluación de las políticas de inteligencia artificial.
La propia página web del evento establece que «tiene como objetivo definir una visión compartida y articular un camino mejor, más centrado en el ser humano para el desarrollo de la IA». Sanders le dijo a Newsnight de la BBC la semana pasada que «tenemos que hacer algo de inmediato para detener el crecimiento descontrolado de la IA».
Dijo «Tienes la amenaza existencial de la posibilidad de que la humanidad sea eliminada,».
La Cadena de Advertencias Que Desencadenó el Debate
Una publicación de Jacob Coxon, un investigador que dejó Anthropic debido a preocupaciones de que la IA podría destruir a la humanidad, generó un aumento en la discusión. A raíz de eso, el científico de Anthropic Evan Hubinger intervino, afirmando que creía que la probabilidad de que la IA causara la extinción humana «en la próxima década» superaba el 10%.
El líder de Anthropic, Dario Amodei, una vez más ha solicitado que se desacelere el ritmo del desarrollo de la IA y que se supervise más de cerca. La empresa ha hecho tales solicitudes antes. Algunos han expresado dudas sobre por qué lo está haciendo.
Amodei también dijo que cualquier acción para frenar la IA debe hacerse «sin sacrificar la ventaja comercial». Los jefes de dos empresas rivales de IA, Sam Altman de OpenAI y Elon Musk de xAI, también han dicho que están de acuerdo con la propuesta de Amodei de desaceleración y regulación a nivel de la industria, así como con el monitoreo independiente del desarrollo de modelos de IA.
El Contexto Internacional
Según los medios estatales chinos, especialistas han advertido que «la creciente ansiedad de Washington sobre el rápido desarrollo de la IA en China parece estar distorsionando cada vez más sus prioridades de política».
«Saben que China se ha convertido en un fuerte competidor en IA, y temen que si Estados Unidos ralentiza el desarrollo o endurece la regulación, China podría ponerse al día aún más rápido», dijo Xin Qiang, profesor de Estudios Americanos en la Universidad de Fudan, a Global Times.
| Orador | Cargo |
|---|---|
| Donald Trump ) | Presidente de los Estados Unidos ) |
| Jack Clark ) | Co-fundador de Anthropic ) |
| Bernie Sanders ) | Senador ) |
| Mustafa Suleyman ) | Director ejecutivo de inteligencia artificial de Microsoft ) |
El martes, la Asamblea Pro-Humano reunirá a Bannon y Sanders, dos individuos que mantienen posiciones marcadamente divergentes. )
Los inversionistas observaron de cerca el lunes mientras las acciones de empresas de tecnología caían, sopesando cómo una posible desaceleración en el desarrollo de la inteligencia artificial podría afectar al mercado. )
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.