jina-reranker-v3.5: Reclasificación listwise más rápida con atención híbrida y auto-destilación

Jina AI presenta jina-reranker-v3.5, un reclasificador listwise de 0.6B parámetros que mejora la velocidad y capacidad de su predecesor. Este modelo logra un nDCG@10 del 63.20 en BEIR, superando a modelos con más parámetros, y es hasta 1.56 veces más rápido en documentos largos. Las mejoras se deben a una programación de atención híbrida, una mezcla de entrenamiento curada y una receta de auto-destilación en tres etapas. El modelo destaca especialmente en la recuperación semi-estructurada, con una mejora de 9.6 nDCG@10 sobre la versión anterior.