ESCRITO EN ESPAÑOL CLARO.
Acerca de
CLAY TRIBUNE.
ShopCartAccount
Publicidad

Salesforce y Nvidia han desarrollado un modelo de razonamiento que podría alterar la forma en que funcionan los laboratorios de inteligencia artificial (IA) (1)

El modelo de razonamiento Koa de Salesforce se ejecuta en la base Nemotron de Nvidia, entrenado con datos simulados, evitando el riesgo de datos de clientes.

Por mitch·5 min de lectura
A digital illustration of a reasoning model's decision flow displayed on a corporate dashboard.

Salesforce acaba de mostrar a los laboratorios de IA lo que el software empresarial desea, y esto no incluyó cargar su código en una caja negra. En su conferencia Dreamforce, la compañía desveló Koa, su primer modelo de razonamiento, construido sobre la base Nemotron de Nvidia de peso abierto. El anuncio es una respuesta directa a la pregunta de si las grandes empresas pueden confiar en modelos que ven sus datos.

¿Qué es Koa?

Koa es un modelo de razonamiento, lo que significa que maneja la toma de decisiones compleja, paso a paso, en lugar de una recuperación simple. Salesforce y Nvidia lo entrenaron juntos para tareas de ventas, marketing y atención al cliente. El modelo es una alternativa a los modelos de vanguardia que dominan el mercado —los que cobran por token y requieren que las empresas carguen todo lo que poseen.

La clave es lo que Salesforce no hizo. No entrenó a Koa con datos reales de clientes. En cambio, utilizó datos sintéticos —escenarios simulados que imitan las interacciones reales de ventas y servicio.

Publicidad

El Problema de los Datos Sintéticos

Entrenar un modelo con datos reales de clientes conlleva riesgos. Las filtraciones de datos ocurren. Los modelos absorben información que no deberían tener. Salesforce eligió un camino diferente.

Jayesh Govindarajan, EVP de Salesforce AI, explicó el enfoque a TechCrunch. «En realidad, simulamos un entorno de atención al cliente con un profesional de atención al cliente con una personalidad, incluidos clientes enojados que llaman al centro de atención al cliente, hasta un profesional de ventas que está tratando de cerrar un trato», dijo.

El enfoque de simulación significa que Koa aprende patrones sin nunca ver los registros subyacentes. Esa es una elección de diseño deliberada, no un accidente.

Por Qué Nemotron Importa

Nemotron es la base que hizo posible a Koa. Antes de que existiera, dijo Govindarajan, no había un modelo preentrenado estadounidense soberano que cumpliera con tres criterios:

  • Tenía que ser de última generación
  • Tenía que tener una procedencia de datos clara
  • Tenía que evitar los datos de entrenamiento desconocidos de modelos como Qwen, el popular modelo chino de código abierto de Alibaba.

«No tenemos idea de qué entrena Qwen», dijo Govindarajan, explicando por qué Salesforce esperó una opción nacional.

El resultado es un modelo que encaja en la plataforma Agentforce existente de Salesforce. Agentforce permite a los clientes crear agentes para tareas repetitivas como responder preguntas de servicio o programar citas. Koa se ubicará junto a otros modelos en esa línea, brindando a los clientes una opción de razonamiento que no plantea las mismas preocupaciones de privacidad que las alternativas de vanguardia.

El Argumento de la Eficiencia de Tokens

Koa también es más barato de ejecutar. El modelo utiliza menos tokens para realizar el mismo trabajo que Claude o ChatGPT, según Kari Ann Briski, VP de Software de IA Generativa para Empresas de Nvidia.

«Con Nemotron, tenemos una arquitectura única para que la inferencia sea eficiente en tokens», dijo Briski a TechCrunch. «Es una especie de tríada de cosas que necesitas tener: IA soberana, tiempo hasta el primer token, razonamiento eficiente, para la tokenómica de todo».

Esa eficiencia importa para los clientes que ejecutan agentes a gran escala.

La Ruta de la Puerta de Entrada

Koa se integra con la puerta de enlace de IA de Agentforce, el sistema que decide qué modelo maneja cada solicitud. Antes de Koa, las tareas de larga duración o de varios pasos se enrutaban a modelos de vanguardia como Claude o ChatGPT.

Ahora la ruta se queda dentro de la empresa. Si una solicitud necesita razonamiento, Koa lo maneja directamente. La puerta de enlace enruta las solicitudes en función de la necesidad, por lo que las consultas más simples van a modelos más pequeños y las complejas van a Koa.

Lo que Salesforce Conserva

Salesforce no está abandonando a Anthropic ni a OpenAI por completo. Acaba de anunciar una asociación con Anthropic llamada ClaudeForce. Ese acuerdo permite a las empresas utilizar Claude como su interfaz de IA mientras mantienen sus datos en el sistema de registros de Salesforce, protegidos por su infraestructura.

El anuncio muestra que Salesforce está manteniendo sus opciones abiertas.

Lo que esto significa para los Labs

El mundo empresarial tiene diferentes prioridades que los laboratorios de vanguardia. Los laboratorios quieren que las empresas suban archivos, código, indicaciones y comentarios. Quieren que gasten millones haciéndolo.

Salesforce está mostrando que ese no es el único camino. Un modelo entrenado con datos sintéticos, con una procedencia clara, y entregado como una alternativa de peso abierto puede hacer el trabajo sin el riesgo. El modelo respeta los requisitos de datos y la seguridad integrados en Salesforce.

El anuncio es una demostración de divergencia. Las necesidades del mundo empresarial para la IA se están alejando de lo que ofrecen los laboratorios de vanguardia.

El veredicto sobre Koa

Koa es una jugada audaz. Es un modelo de razonamiento que evita los datos reales de los clientes, simula escenarios en cambio, y ofrece un rendimiento especializado a un menor costo. El modelo es un punto de prueba para el argumento empresarial: la IA puede ser propietaria, eficiente y respetuosa con los límites de los datos.

Salesforce lo construyó con Nvidia, lo entrenó con datos sintéticos y lo publicó como una alternativa de peso abierto.

Los laboratorios de IA deberían tomar nota.

El Cuaderno

Recibe El Cuaderno.

Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.

Enviamos una nota para confirmar. Cada número trae un enlace para darte de baja con un clic.

Publicidad

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Como Afiliado de Amazon, Clay Tribune obtiene ingresos por las compras adscritas que cumplen los requisitos aplicables.