Nuevo en llama.cpp: API de Mensajes de Anthropic
El servidor de llama.cpp ahora soporta la API de Mensajes de Anthropic, permitiendo utilizar clientes compatibles con Claude en modelos de lenguaje grandes ejecutados localmente. Esta característica fue contribuida por noname22 mediante la conversión interna del formato Anthropic a OpenAI, reutilizando el pipeline de inferencia existente. Incluye soporte completo para completaciones de chat, conteo de tokens, uso de herramientas, entradas de visión, pensamiento extendido y streaming. Facilita el uso con herramientas como Claude Code configurando la URL base al servidor local. Se recomienda modelos especializados como Qwen3-Next o Nemotron para cargas agenticas.
Transparencia: Este artículo ha sido generado con asistencia de inteligencia artificial bajo supervisión editorial de SAPIENSDATAAI.