В этом материале
Плотные векторы и токенные матрицы позднего взаимодействия требуют разных правил хранения и оценки, даже если получены из одного checkpoint.
Jina embeddings v4 предоставляет плотные и многовекторные представления, но эти выходы требуют разных индексных контрактов и не являются взаимозаменяемыми вариантами сериализации. До загрузки смешанного корпуса текста и изображений выберите задачу и нужную форму представления.
Разделить формы выхода
Авторская карточка модели различает единичный вектор и многовекторный late interaction. Плотный индекс ожидает один вектор объявленной единицы; матрице токенов нужен совместимый путь хранения и оценки. Выпрямление либо усреднение меняет метод. Преобразование можно исследовать отдельным контролем, но оно не сохраняет исходный многовекторный скорер автоматически. Это решение должно оставаться явно видимым в схеме, а не исчезать за общим названием одной embedding-модели.
Сохранить выбранный task adapter
Семейство поддерживает разные ориентированные на задачу настройки. Запишите выбор при создании документов и запросов. Retrieval и text matching не следует смешивать только по совпавшей размерности выходов. Технический отчёт объясняет предполагаемые представления, однако локальной приёмке нужны действительные обработка входа и скорер приложения. Одного указания общего checkpoint недостаточно, если связанные с ним роли и параметры менялись между индексацией и последующим обращением к коллекции.
Сделать текст и страницы проверяемыми
Для визуального документа сохраните страницу и обработку изображения перед кодировщиком. Для извлечённого текста — конечную сериализованную строку и идентичность документа. Изображение может содержать доказательство, отсутствующее в OCR, а текстовое представление — ошибки парсера. Сравнение без этих входов способно приписать разницу извлечения самой embedding-модели либо алгоритму поиска. Сохранённые артефакты позволяют установить, какие сведения были доступны каждому представлению до начала ранжирования.
| Представление | Нужное последующее решение |
|---|---|
| Плотный вектор | Метрика, размерность, идентичность единицы |
| Матрица multivector | Сохраняемые токены и late-interaction скорер |
| Разные модальности | Устойчивые source ID и обработка входов |
Создать мультимодальную проверку
Возьмите учебный набор с подписью графика на странице, ответом в прозе и фактом таблицы. Подготовьте вопросы к каждому виду доказательства. Сравнивайте только представления, поддержанные выбранной цепочкой. Сохраняйте идентификаторы кандидатов и финальные баллы, не ожидая общего порога для dense и multivector. Числовые выходы этих путей не обязаны иметь одинаковый масштаб или одну интерпретацию релевантности, даже если возвращают ссылки на тот же исходный документ.
Различить API и локальную библиотеку
Официальный embedding API описывает выбор task и output для собственного интерфейса. Локальная обёртка checkpoint может предоставлять их иначе. Сохраняйте действительные аргументы и форму результата, не предполагая, что поле API автоматически настраивает другую библиотеку. Модельной обработке входа нужны версия и fixture. Успешный разбор JSON не проверяет совместимость индекса, принимающего векторы, и не доказывает, что в нём применяется нужный способ сравнения полученных представлений.
Версионировать контракт представления
Храните ревизию модели, task, тип выхода, метрику и preprocessing с каждым поколением индекса. Миграция dense в multivector требует другой схемы и сравнения качества, а не только новой метки старых данных. Оставьте маленький исходный набор для проверки баллов и привязки источников. Полезный результат объясняет задачи доказательств каждого представления без выдуманного универсального преимущества по качеству, памяти или скорости.
Связанные материалы: Размерность эмбеддингов: как посчитать память индекса; Embeddings и rerankers: другие задачи для свободного GPU.