La conferencia Dreamforce de Salesforce se inauguró el martes con la presentación de Gwen Stefani interpretando «Underneath It All» antes de que el director ejecutivo, Marc Benioff, subiera al escenario. Benioff proyectó un gráfico que mostraba los $46 mil millones de dólares proyectados de ingresos anuales de Salesforce para 2027, citando la demanda de productos impulsados por IA. La conferencia también fue sede de un debate sobre si la industria de la IA debería disminuir el ritmo para evitar riesgos catastróficos.
La Advertencia de Coxon y el Debate
El investigador de IA Jacob Coxon renunció a Anthropic la semana pasada, advirtiendo públicamente que las empresas que se apresuran hacia sistemas de IA de auto-mejora estaban «apostando con nuestras vidas». Su advertencia enmarcó las apuestas para los panelistas que le siguieron.
El director ejecutivo de Anthropic, Dario Amodei, instó a los líderes mundiales a ayudar a «marcar el ritmo» del desarrollo de la IA. El director ejecutivo de OpenAI, Sam Altman, respaldó la idea. La propuesta de Amodei para marcar el ritmo contó con el apoyo de Altman, aunque la fuente no dice que Altman estuviera de acuerdo con el razonamiento de Amodei.
David Sacks, un asesor de IA de la Casa Blanca, no estuvo de acuerdo. Descartó las advertencias de Amodei como «solo otra oferta para la captura regulatoria». La división entre los dos bandos fue aguda: un lado quiere que los gobiernos disminuyan el ritmo de la IA, y el otro quiere que se mantengan al margen por completo.
La Afirmación de una Estafa de Trump y el Impulso para la Regulación
El presidente Trump calificó los temores sobre el riesgo existencial de la IA como «una estafa». Esa postura contrastaba con los panelistas que hablaron en Dreamforce.
El Congreso está impulsando legislación para regular la industria de la IA a pesar del clima político. El impulso para la regulación continúa incluso cuando algunos políticos niegan que existan los riesgos.
El contraste entre la conferencia y Washington fue marcado. Mientras los ejecutivos discutían los estándares de seguridad, los legisladores estaban redactando reglas que podrían remodelar la industria.
La Respuesta de Ingeniería de Huang
El director ejecutivo de Nvidia, Jensen Huang, apareció en el escenario, argumentando que la seguridad de la IA es un problema de ingeniería que las empresas pueden controlar por sí mismas. Huang dijo: «No necesitamos ninguna nueva ley, no necesitamos ninguna nueva regulación».
La posición de Huang fue el rechazo más claro de la propuesta de Amodei. Argumentó que las empresas pueden construir sistemas más seguros sin la intervención del gobierno.
El Caso de Responsabilidad de Kapoor (
Francisco «Sayash» Kapoor, un próximo profesor de ciencias de la computación en UC Berkeley y coautor de *AI Snake Oil*, presentó un argumento aparte. Kapoor sostiene que los laboratorios de IA deberían ser responsables de los daños que causa su tecnología. (
Kapoor señaló que OpenAI enfrentó consecuencias mínimas después del hackeo de Hugging Face. Dijo: «Las consecuencias para OpenAI por el hackeo de Hugging Face fueron básicamente cercanas a cero.» (
El argumento de Kapoor era que el sistema actual no logra responsabilizar a los laboratorios. Si las empresas saben que enfrentarán pocas consecuencias, tienen poco incentivo para solucionar problemas. (
El Incidente de Hugging Face (
Amodei hizo una referencia al incidente de OpenAI en Hugging Face durante una discusión con Benioff. El hackeo fue un ejemplo central en el debate. (
El incidente generó preguntas sobre cómo responden las empresas cuando las cosas van mal. También llamó la atención sobre la brecha entre lo que afirman los laboratorios y lo que entregan. (
La investigación de Kapoor, incluyendo trabajo con el profesor de Princeton Arvind Narayanan, ha cuestionado las afirmaciones de los laboratorios de IA. (
El Debate en Dreamforce (
La conferencia se sintió como una megacomunidad religiosa con una audiencia repleta. El debate sobre la seguridad de la IA reunió a ejecutivos que promocionaban herramientas empresariales con académicos que cuestionaban la dirección de la industria. (
Kapoor y Narayanan son coautores del libro *AI Snake Oil* y escriben un Substack llamado *AI as Normal Technology*. Publicaron uno de sus ensayos más extensos hasta ahora, el cual intenta dar sentido a los «incidentes de pérdida de control», refiriéndose a eventos como cuando OpenAI accidentalmente permitió que sus agentes hackearan Hugging Face. (
Caja de datos clave: – Salesforce proyecta $46 mil millones en ingresos anuales para 2027 – Jacob Coxon renunció a Anthropic la semana pasada – Amodei instó a los líderes mundiales a «marcar el ritmo de la frontera» – Huang dijo: «No necesitamos nuevas leyes, no necesitamos nueva regulación» – Kapoor dijo que las consecuencias para OpenAI fueron «básicamente cercanas a cero»
Orden de eventos: 1. Stefani abrió la conferencia con su presentación 2. Benioff presentó la proyección de ingresos de Salesforce 3. Se anunció la renuncia de Coxon 4. Amodei instó a avanzar en la frontera 5. Altman respaldó la posición de Amodei 6. Sacks desestimó las advertencias de Amodei 7. Huang argumentó que la seguridad de la IA es un problema de ingeniería 8. Kapoor argumentó a favor de la responsabilidad.
El debate en Dreamforce mostró que la industria de la IA está profundamente dividida sobre cómo gestionar el riesgo. Las empresas que quieren avanzar rápidamente se opondrán a la regulación. Las empresas que se preocupan por los riesgos argumentarán a favor de la cautela.
La conferencia se convirtió en un campo de batalla por el futuro de la IA.
Dónde está el criterio del periódico
El periódico respalda el impulso de Salesforce para el crecimiento de la IA y se opone al llamado de Amodei, director ejecutivo de Anthropic, a la intervención gubernamental. La tecnología en sí misma no es el peligro; el peligro es permitir que las empresas más grandes decidan quién puede usarla.
La proyección de ingresos de Salesforce de $46 mil millones demuestra una demanda real de productos impulsados por la IA. La presentación de Benioff en Dreamforce fue una muestra de confianza en el futuro de la industria, no una apuesta contra la seguridad. El periódico apoya reglas estrictas contra daños directos, como exigir a las empresas que divulguen fallas de seguridad que ocultaron. El impulso de Salesforce tiene como objetivo satisfacer esa demanda sin congelar el mercado.
La propuesta de Amodei de «avanzar en la frontera» pide a los gobiernos que intervengan y ralenticen el ritmo de desarrollo de la IA. Eso es lo contrario de lo que el periódico apoya. Nuevos reglamentos amplios, agencias ampliando su alcance y reglas escritas con la ayuda de las empresas más grandes protegen a los incumbentes y aumentan el costo de entrada para todos los demás. La propuesta de Amodei encaja en ese patrón. El periódico se opone a ella.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.