ТЕХНОЛОГИИ

Silero VAD перед ASR: частота дискретизации и границы речи

В этом материале
ГЛАВНОЕ ЗА МИНУТУ

Изменение метки частоты дискретизации не является ресемплингом, а объединённым речевым фрагментам нужна карта смещений к исходной записи.

Определение речевой активности требует правильной дискретизации звука и привязки времени до безопасного удаления тишины. Передача отсчётов с неверно заявленной частотой меняет воспринимаемую длительность, а небрежное отображение оставленной речи сдвигает ссылки транскрипции относительно исходной записи и мешает проверке найденных подтверждений прямым прослушиванием.

Проверить действительную частоту входа

Официальный репозиторий Silero VAD описывает поддерживаемые частоты, включая 8000 и 16000 Hz. Параметр обязан соответствовать реально переданным отсчётам. Изменить подпись частоты — не значит выполнить resampling. Перед детектором проверяют декодированную частоту, каналы и длительность. Запись преобразований сохраняют, чтобы неожиданную границу можно было связать с подготовкой входа, а не автоматически объявить ошибкой модели без исследования того сигнала, который она фактически получила для анализа.

Сделать resampling явным этапом

Документация FFmpeg resampler описывает преобразование аудио. Сохраняют отношение исходного и обработанного времени, включая обрезку и склейку. Перевод стерео в моно тоже меняет вход и способен повлиять на слышимость, если разные каналы содержат разных участников. Нельзя считать любое моно-преобразование одинаково сохраняющим голоса. Политику проверяют на коротком многоканальном примере перед применением ко всей коллекции, отдельно прослушивая места, где существенная реплика присутствует только в одном исходном канале.

Проверить чувствительные границы речи

Выберем фразу с тихим начальным согласным, паузой и коротким финальным словом. Прослушаем предложенные границы VAD. Важна сохранность отвечающей речи, а не только объём удалённой тишины. Запас вокруг сегмента выбирают по задаче и проверяют обрезание, не принимая выход детектора за точную фонетическую сегментацию слов. Особенно полезно включить отрицание или короткий технический термин на границе: потеря такого элемента может изменить смысл при сохранении большей части распознанного предложения.

ПреобразованиеНеобходимая проверка
Заявленная частотаСоответствует реальным отсчётам сигнала
ResamplingСогласованы длительность и временное отображение
Преобразование каналовСущественные голоса остаются слышимыми
Обрезка речиСохраняются тихие пограничные слова

Сохранить исходное время транскрипции

Репозиторий faster-whisper описывает встроенное применение VAD. Если приложение отдельно склеивает речевые интервалы, оно хранит исходные смещения. Время сокращённого сигнала нельзя напрямую использовать как ссылку на запись. Карту сегментов применяют при создании воспроизведения. Иначе транскрипция может быть текстово верной, но каждый поисковый результат будет открывать неверную позицию. Проверяют прямое попадание в несколько исходных реплик, а не только монотонный рост времени внутри уже сокращённого обработанного файла.

Разделить пропуски и экономию обработки

Сравнивают транскрипции возле границ и рассматривают короткие реплики, тихую речь и перекрытия. Потерянную речь показывают отдельно от сокращённой длительности обработки. Агрессивное удаление тишины не означает лучшее распознавание. Артефакт приёмки содержит свойства сигнала, настройки преобразования, речевые интервалы и карту исходного времени. Так VAD остаётся контролируемой подготовкой, а не невидимой операцией, меняющей сохранённые подтверждения и их предполагаемое расположение для всех последующих инструментов поиска и цитирования аудиозаписи.

Связанные материалы: Длинное аудио в Whisper: сегменты, очередь и хранение результата; Whisper на CPU или GPU: как сравнить время и стоимость обработки.

← Все материалы