POST /v1/chat/completions
Requiere clave
Chat, como en OpenAI. Envía el cuerpo de solicitud que le mandarías a OpenAI; la respuesta vuelve con el mismo formato.
model- El id de un modelo alojado, como
dulus-b-27b. Con un id desconocido, recibes un404. messages- Mensajes al estilo OpenAI, de 1 a 512 por solicitud.
tools, …- Los campos extra como estos pasan directo al modelo.
El recorrido de cada llamada
-
Reserva
Se reserva, de forma atómica, el máximo de Fuel que la llamada podría costar. ¿No te alcanza el Fuel? La llamada se detiene aquí con un
402, antes de que corra ningún modelo. -
Ejecución
El modelo responde a tu solicitud.
-
Liquidación
El cargo se calcula con los tokens de entrada, de salida y de razonamiento. Los tokens en caché son gratis.
-
Devolución
Lo que sobra de la reserva vuelve de inmediato a tu saldo. Una llamada fallida se reembolsa por completo.