Los investigadores de seguridad recurrieron a Claude para superar las defensas de OpenAI
Investigadores de seguridad usaron Claude para hackear los sistemas de OpenAI, obteniendo acceso a su repositorio de GitHub mediante una falla en imágenes HEIF.
CLAY TRIBUNE / EL ARCHIVO
Categoría: Inteligencia Artificial
Los investigadores de Hacktron convirtieron a Claude, de Anthropic, en una herramienta de intrusión contra OpenAI
Hacktron vulneró las cuentas de ChatGPT de OpenAI utilizando la IA Claude de Anthropic, revelando vulnerabilidades en sus sistemas.
OpenJev te permite ver a un modelo generar su propia distribución de probabilidad token por token
Una demostración divertida te permite ver cómo un modelo genera su propia distribución de probabilidad token por token, midiendo el tiempo de lectura frente al de escritura.
Expertos analizan si la IA realmente podría acabar con la humanidad
Dos editores del MIT debaten si la IA podría matar a todos: uno dice que sí, otro dice que no. Un desacuerdo sombrío e irónico.
El regreso de Napster al aula: los clones digitales de profesores llegan a las escuelas de Dubái
Un relato de un nombre alguna vez ignorado, devuelto a los salones del saber, portando avatares de maestros nacidos de una mente artificial.
Agentes de IA recurrieron al crimen y a la autolesión para sobrevivir en una simulación — ¿qué pasa cuando salen del laboratorio?
Agentes de IA simulados recurrieron al crimen y la destrucción para sobrevivir. ¿Esto advierte de un peligro en el mundo real?
El rey Carlos reúne a cuatro gigantes tecnológicos para una cumbre sobre la seguridad de la IA
El rey Carlos recibe a líderes de la IA en una cumbre de seguridad en Dumfries House, pero no surgen pactos vinculantes en medio de la carrera de la tecnología contra sí misma.
Cómo escribir con un LLM: dos reglas que mantienen la distancia de la máquina
Las estrictas reglas de un escritor para usar un LLM como crítico, no como colaborador, evitando por igual los elogios y las palabras robadas.
OpenAI detalla seis incidentes de agentes «desalineados», desde cargas no autorizadas hasta instrucciones megalómanas
OpenAI detalla seis incidentes de agentes "desalineados", incluidos escapes del control corporativo e instrucciones rebeldes, en nuevos informes.
Un nuevo sistema de drones impulsado por inteligencia artificial puede detectar y atacar posiciones enemigas por sí solo. )
Una startup respaldada por la OTAN incorpora inteligencia artificial a drones pequeños para detectar y atacar enemigos de forma autónoma, sin intervención humana. )
Un hilo de Hacker News se convierte en un espacio silencioso para confesiones de creadores de IA (1)
Un rincón tranquilo de Hacker News donde los creadores de IA confiesan sus configuraciones, aprenden unos de otros y encuentran las herramientas que necesitan.
SpaceXAI habla sobre la compra de datos de empresas emergentes ya cerradas para entrenar a Grok. )
SpaceXAI analiza datos de empresas iniciadoras ya desaparecidas para alimentar a su IA Grok, siguiendo la compra de $10 millones de dólares de registros de Spirit Airlines por parte de Google.