Jev es el nuevo modelo de IA del que todo el mundo habla, y su trabajo es clasificar cosas. Ese es todo el planteamiento. Examina un fragmento de texto y decide en qué categoría pertenece.
No es difícil entender la popularidad del modelo una vez que ve hasta dónde ha llegado la clasificación de texto desde los primeros días del procesamiento del lenguaje natural. El campo ha dedicado décadas a construir sistemas que convierten el lenguaje humano en algo con lo que una computadora pueda trabajar realmente, y Jev está a la vanguardia de esa línea.
Lo que hace Jev
El trabajo de Jev es clasificar cosas. Su ventaja es que maneja esas tareas más rápido y más barato que los últimos modelos LLM de vanguardia y de código abierto GPT, que pueden realizar los mismos tipos de tareas de clasificación mientras también manejan la toma de decisiones generales.
Ese compromiso es todo el argumento. Jev no está tratando de reemplazar esos modelos de propósito general. Está tratando de superarlos en la tarea específica de ordenar el texto en categorías.
La Era del Modelo de Bolsa de Palabras
Antes de que los transformadores tomaran el control, la clasificación de texto se veía muy diferente. El enfoque dominante era el modelo de bolsa de palabras. Este método toma un fragmento de texto, elimina las palabras, cuenta cuántas veces aparece cada una y entrega el resultado a un clasificador como Naive Bayes, regresión logística o XGBoost.
La idea es simple. Un documento es una colección de palabras, y cada palabra lleva información sobre de qué trata el documento. Cuente las palabras, pèse las palabras y tendrá una predicción.
El inconveniente es que el modelo pierde por completo el orden de las palabras. «El perro muerde al hombre» y «el hombre muerde al perro» producen vectores idénticos, aunque las oraciones describen eventos opuestos.
El Ejemplo de Zentropa
El artículo ilustra el método con reseñas de películas del conjunto de datos de clasificación de reseñas de películas de IMDb. Una reseña elogia a Zentropa como la mejor obra del director, comparándola con El tercer hombre. Otra reseña califica la película de simplemente horrible, con una edición deficiente y una mala mezcla de sonido. Ambas se clasifican en función de las palabras que contienen, no del orden de esas palabras.
Esa es la aproximación de bolsa de palabras en acción. Funciona bien para conjuntos de datos de tamaño moderado y problemas particulares, pero falla estrepitosamente cuando el orden de las palabras importa.
¿Por qué Jev funciona?
La comparación con métodos anteriores demuestra hasta dónde ha llegado el campo. El modelo de bolsa de palabras fue alguna vez de vanguardia. Jev representa otro paso adelante, construido sobre el mismo principio de transformar el texto en algo útil.
El revuelo en torno a Jev
El revuelo en torno a Jev es real, y el autor argumenta que está justificado. El modelo es rápido, barato y eficaz para su propósito previsto. Esa es toda la historia.
| Modelo | Fortaleza | Debilidad |
|---|---|---|
| GPT / LLMs | Toma de decisiones generales | Costo más elevado |
| Jev | Clasificación más rápida y económica | Especializado. |
La conclusión es sencilla: Jev no es un reemplazo para todo lo demás. Es una mejor solución para un problema específico, y eso merece celebrarse.
Material de origen: “Modelos de lenguaje para la clasificación de texto: Desde el modelo de bolsa de palabras hasta Jev”, sebastianraschka.com.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.