Zhipu AI publica solución para la reparación de problemas en la llamada de herramientas de GLM-5.1

robot
Generación de resúmenes en curso

ME News Noticias, el 16 de abril (UTC+8), ZhiPu AI (Zai_org) publicó recientemente un aviso, dirigido a los usuarios que utilizan el marco vLLM o SGLang para ejecutar el modelo GLM-5.1 y habilitar la llamada a herramientas (tool calling), señalando que la conversión automática del marco de definiciones de herramientas en texto plano puede causar problemas de compatibilidad. La compañía ha proporcionado una solución, que consiste en actualizar la plantilla de diálogo basada en Jinja2 (chat template). Esta plantilla se utiliza para generar dinámicamente un historial de diálogo en el formato requerido, con el fin de soportar llamadas a herramientas por parte del modelo, razonamiento interno (reasoning) y gestión de diálogos en múltiples rondas. Los usuarios deben acceder al enlace especificado para obtener la plantilla actualizada. (Fuente: InFoQ)

Ver originales
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios
  • Anclado