OpenAI ha lanzado una nueva API llamada Decisions, y está haciendo todo lo posible para que el lanzamiento funcione.
La API evalúa texto, imágenes o ambos y devuelve respuestas tipificadas aproximadamente 10 veces más rápido que la API Responses anterior. Puede obtener probabilidades, opciones de un conjunto fijo o puntajes contra una rúbrica. El objetivo es ayudar a los desarrolladores a clasificar contenido, dirigir solicitudes y priorizar el trabajo. El anuncio apareció en Hacker News hoy con una bandera beta pública, un patio de juegos para pruebas y ejemplos de SDK en cinco idiomas.
El problema son los propios ejemplos. Están plagados de errores, erratas y una pregunta confusa de atención al cliente que solicita detener futuros cargos en lugar de cancelar una suscripción. Todo el proceso se lee como una beta pública en el sentido más flojo de la palabra, y esa es la historia que vale la pena contar.
Reclamo de Velocidad
La API Decisions se presenta como una alternativa más rápida a la API Responses. OpenAI dice que devuelve respuestas tipificadas aproximadamente 10 veces más rápido, con probabilidades, opciones y puntajes disponibles como tipos de respuesta.
Una solicitud tiene tres partes: entrada, preguntas y un modelo. La entrada puede ser texto, imágenes o ambos. Las preguntas son de donde provienen las respuestas tipificadas. El modelo es gpt-6-luna, el único disponible actualmente. El punto final dedicado es POST /v1/decisions.
Los ejemplos del SDK cubren Python, JavaScript, Go, Ruby y Java. Cada uno necesita una versión específica o posterior para ejecutarse. El anuncio dirige a los lectores al SDK de OpenAI para obtener instrucciones de instalación.
Pruebas en el Patio de Juegos
El patio de juegos es el lugar para probar preguntas e entradas antes de escribir código. Le permite experimentar con la API sin comprometerse con una implementación completa. Esa es una aproximación razonable, aunque vale la pena señalar que el patio de juegos es donde aparece la pregunta confusa.
El patio de juegos está destinado a permitir que los desarrolladores vean lo que puede hacer la API antes de construir algo a su alrededor. El anuncio no dice si el patio de juegos utiliza la misma infraestructura que la API de producción, por lo que es difícil juzgar qué tan representativos son sus resultados. Pero para una primera mirada, cumple su propósito.
Etiqueta Beta Pública
La API de Decisiones está en beta pública, y OpenAI espera alcanzar la disponibilidad general en las próximas semanas. Esa es una cadencia de lanzamiento estándar, y no es inusual que una beta tenga detalles sin pulir. Lo que es inusual es cuán visibles son esos detalles en la documentación misma.
El anuncio se esfuerza por enmarcar esto como una beta. No presenta la API como finalizada. Pero los ejemplos del SDK son la documentación para esta API, y no están listos para su uso.
Problemas con los ejemplos del SDK
Los ejemplos del SDK muestran cómo enviar una solicitud con texto e imagen de entrada, y cómo verificar la respuesta para una pregunta específica. Los ejemplos están pensados para ser copiados y pegados, lo cual es una expectativa razonable. En cambio, contienen una serie de fallos menores que se suman a un problema mayor.
Aquí hay una lista de lo que los ejemplos hacen mal:
- La lista de preguntas de servicio al cliente incluye una pregunta confusa sobre detener cargos en lugar de cancelar una suscripción.
La Pregunta Confusa
La lista de preguntas de servicio al cliente es el ejemplo más llamativo de lo que está mal con estos documentos. La lista incluye tres preguntas de servicio al cliente, y la tercera es un desastre. Pregunta si se deben detener los futuros cargos, lo cual no es lo que el ejemplo está tratando de hacer. Está pensada para ser una pregunta de servicio al cliente, no una pregunta de análisis de imágenes, y parece un borrador que salió antes de ser revisado.
La pregunta está pensada para ser una pregunta de servicio al cliente, y parece un borrador que nunca se terminó.
Ese es un problema real para una empresa con el alcance de OpenAI. Los ejemplos del SDK son la documentación principal para esta API, y no están listos para su uso.
Ejemplo de Pregunta Predicativa
La pregunta predicativa es el ejemplo que en realidad funciona. Pregunta si una foto de un producto muestra daños visibles, como una grieta, un desgarro o un abolladura. La solicitud combina la imagen con instrucciones para buscar esos tipos específicos de daños, y le indica al modelo que ignore las sombras y los daños en el empaque.
Es un caso de uso razonable, y el ejemplo muestra cómo estructurar la solicitud con la URL de la imagen codificada en base64. El ejemplo de curl para la versión de línea de comandos es completo y parece que funcionaría si lo copias directamente.
La pregunta predicativa es un buen ejemplo de lo que la API puede hacer. Es un caso de uso específico y concreto que los desarrolladores pueden entender y replicar. El hecho de que sea el único ejemplo que realmente funciona es significativo.
Versiones y Errores Tipográficos
Los ejemplos de la SDK requieren versiones específicas de cada paquete de OpenAI en el lenguaje respectivo. Python necesita 3.26.0 o posterior. JavaScript necesita 7.30.0 o posterior. Go necesita 3.73.0 o posterior. Ruby necesita 0.101.0 o posterior. Java necesita 4.78.0 o posterior.
Esas son versiones razonables. Lo que es menos razonable es que cada ejemplo contenga su propia versión del mismo error tipográfico. La matriz de entrada en cada ejemplo utiliza el nombre de parámetro incorrecto, por lo que la solicitud no se puede analizar. El ejemplo de Python también omite una llave de cierre en la línea 13, lo que generaría un error de sintaxis al intentar ejecutarlo.
Los ejemplos de la SDK son la documentación principal para esta API. Si los ejemplos están rotos, la documentación está rota. Un desarrollador que copie el ejemplo de Python tal cual obtendrá un error de sintaxis. Un desarrollador que copie el ejemplo de JavaScript tal cual obtendrá un error de análisis. Un desarrollador que copie el ejemplo de Go tal cual obtendrá un error de análisis. Un desarrollador que copie el ejemplo de Ruby tal cual obtendrá un error de análisis. Un desarrollador que copie el ejemplo de Java tal cual obtendrá un error de análisis.
Eso es mucha fricción para un lanzamiento beta.
Lista de Preguntas de Servicio al Cliente
La lista de preguntas de servicio al cliente es un problema aparte. No es parte de los ejemplos de la SDK, pero sí es parte del anuncio, y vale la pena señalarlo. La lista incluye tres preguntas: una solicitud para cancelar una suscripción, una solicitud para cambiar a facturación anual y una solicitud para detener futuros cargos.
La tercera pregunta es la que no tiene sentido. Pregunta sobre detener futuros cargos, lo cual no es una solicitud para cancelar una suscripción. Es una versión confusa de las otras dos preguntas, y aparece en los ejemplos como un elemento independiente.
Es un detalle pequeño, pero es un detalle que hace que el anuncio se sienta inconcluso. Una beta debe ser una obra en progreso, pero el anuncio parece haber sido lanzado sin una revisión final. Los ejemplos de la SDK son la documentación para esta API, y no están listos para su uso.
Veredicto sobre la Beta
La API de Decisiones está en beta pública, y el anuncio dice que alcanzará la disponibilidad general en las próximas semanas. Esa es una expectativa razonable para una beta. La API en sí misma puede ser sólida. El playground puede ser útil. El modelo puede ser capaz.
Lo que no es sólido es la documentación. Los ejemplos de la SDK están plagados de errores, erratas y una pregunta confusa de atención al cliente que parece un borrador que nunca se terminó. Para una empresa con el alcance de OpenAI, eso es un problema. La documentación es la documentación, y si la documentación está rota, la API está rota.
La ironía es que el ejemplo de la pregunta predictiva en realidad funciona. Es el único ejemplo que lo hace. Muestra cómo estructurar una solicitud con entrada de texto e imagen, y produce una probabilidad que los desarrolladores pueden usar. Pero es un solo ejemplo, y está rodeado de código roto.
El anuncio está haciendo todo lo posible para que el lanzamiento funcione. Está proporcionando un playground, ejemplos de la SDK y una bandera de beta pública. No está proporcionando código funcional. Esa es la brecha, y es la historia aquí.
La API de Decisiones es algo real. La beta pública es algo real. Los ejemplos de la SDK no son algo real, al menos no en su forma actual. El playground puede ser útil. El modelo puede ser capaz. Pero la documentación está rota, y la documentación rota es un fracaso, no una beta.
Para los desarrolladores, la conclusión es simple: use el playground para probar la API, pero no copie directamente los ejemplos de la SDK. Léalos para entender la estructura, luego consulte la referencia oficial de la API para los nombres de parámetros y la sintaxis correctos. La API puede ser buena. La documentación no lo es. Esa es la realidad de este lanzamiento, y es la historia que vale la pena contar.
Material fuente: “La API de Decisiones está en beta pública”, openai.com.
Recibe El Cuaderno.
Las mejores historias del día y cada veredicto nuevo, en español claro, en tu correo a las siete. Un correo al día, nada más.