В этом разборе
Вопрос политики нужно версионировать вместе с результатом: неизменные веса могут отвечать на разные задачи модерации.
Shieldstral сделал вопросы политики частью входа мультимодального классификатора, что меняет способ регистрации и сравнения поведения модерации.
Августовский анонс
Анонс релиза представляет классификатор с открытыми весами, которому политику можно передавать через вопросы. Существенное изменение касается контракта между автором политики и классификатором. Модель может оставаться прежней, а отредактированный вопрос уже меняет запрашиваемое решение. Поэтому сами веса больше не определяют полную конфигурацию модерации и не объясняют каждое изменение результата.
Более ранние, но другие механизмы
Работа о водяном знаке описывает более ранний механизм происхождения текста, а не основание считать любой классификатор детектором такого знака. Анонс Granite даёт более ранний пример специализированных защитных моделей. Вместе эти предпосылки показывают, почему общая терминология безопасности не должна стирать различия семантики результатов у разных технических компонентов.
Вопрос происхождения касается свидетельств об источнике. Вопрос политики касается соответствия содержания указанному условию. Ни один логически не отвечает на другой. Человеческий материал может нарушать правило, а сгенерированный соответствовать ему; метка происхождения сама по себе не устанавливает нужную классификацию. Эти оси нужно сохранять отдельно и в интерфейсе проверки.
Пример изменения политики
Представим каталог, разрешающий техническое обсуждение и исключающий рекламные обещания. Общий вопрос о запрещённом содержании и узкий вопрос о рекламе способны классифицировать абзац по-разному без противоречия. Это разные задания, даже если запрос использует прежние изображение и текст. Заметное различие ответа не всегда указывает на изменение способности распознавания самого материала.
Формулировку политики следует сохранять вместе с решением. Иначе проверяющий примет смену меток за дрейф модели, хотя реальная причина заключается в отредактированной инструкции. Особенно легко потерять эту связь на панели, которая показывает категорию, но скрывает породивший её вопрос. Без исходной формулировки нельзя точно восстановить, какое решение вообще запрашивалось системой.
Классификация и применение решения
Оценка или метка является основанием для следующего решения, а не всей системой исполнения политики. Приложение определяет действия при неопределённости, противоречивых ответах и отсутствующих входах. Превращение ответа классификатора в универсальное разрешение скрывает суждение владельца политики внутри технического значения и усложняет объяснение причин, когда результат оказывается спорным для пользователя.
В приёмочный набор полезно включить ясные случаи и случаи неоднозначности самой политики. Последние способны выявить проблему формулировки, а не распознавания. Тогда исправление требует изменить вопрос, а не заменить модель или объявить бесполезным весь релиз. Такая диагностическая развилка экономит повторную работу и сохраняет связь между правилом, проверкой и ожидаемым действием.
Ретроспективный вывод
Релиз переносит часть конфигурации модерации в доступный для изучения текст. Это делает адаптацию политики явнее, если текст сохраняется и получает версию. Одновременно расширяется набор свидетельств для объяснения результата: важны содержание, модель и вход политики. Отбрасывание любого элемента оставляет неполную картину того, почему классификатор выдал конкретную метку.
Поэтому содержательное сравнение касается полных контрактов решения. Сопоставление меток без вопросов политики способно представить разные запрошенные действия как необъяснимое изменение качества модели. Ретроспектива должна показывать именно изменение контракта, сохраняя различие между техническим распознаванием, содержательным правилом и последующим применением его результата в конкретном приложении.
Дополнительный разбор: Воспроизводимый стек инференса: как сохранить результат GPU-пилота; GPU-хостинг для мультимодальных моделей: считайте не только текст.