Ir al contenido principalSaltar al contenido
Hugging Face

Nuevo en llama.cpp: API de Mensajes de Anthropic

El servidor de llama.cpp ahora soporta la API de Mensajes de Anthropic, permitiendo utilizar clientes compatibles con Claude en modelos de lenguaje grandes ejecutados localmente. Esta característica fue contribuida por noname22 mediante la conversión interna del formato Anthropic a OpenAI, reutilizando el pipeline de inferencia existente. Incluye soporte completo para completaciones de chat, conteo de tokens, uso de herramientas, entradas de visión, pensamiento extendido y streaming. Facilita el uso con herramientas como Claude Code configurando la URL base al servidor local. Se recomienda modelos especializados como Qwen3-Next o Nemotron para cargas agenticas.

Transparencia: Este artículo ha sido generado con asistencia de inteligencia artificial bajo supervisión editorial de SAPIENSDATAAI.

llama.cppAnthropic Messages APIClaudellama-servermodelos localesuso de herramientasvisión multimodal
Leer noticia original
Cookies esenciales

Necesarias para el funcionamiento del sitio. No se pueden desactivar.

Cookies analíticas

Nos permiten medir el tráfico y mejorar el sitio (Google Analytics).

Más info: Política de Cookies