Хабрахабр

Огромный открытый датасет русской речи версия 1.0

image

Подробнее о нашей мотивации и о том, как всё начиналось,
можно прочитать в этой статье — Огромный открытый датасет русской речи. В начале этого года по ряду причин мы загорелись идеей создать самый большой открытый датасет русской речи. 0. С тех пор наш проект прошел через ряд масштабных изменений, мы в три раза увеличили количество данных, повысили их качество, добавили лейблы для спикеров и сейчас мы наконец готовы представить вам версию 1.

Версию 1. Также мы не готовы останавливаться на достигнутом и планируем продолжать делать интесивную работу над ошибками в последующих версиях и улучшать качество уже опубликованных данных. 1 мы планируем посвятить масштабной работе над ошибками.

  • Более 20 000 часов (изначально мы ставили себе планку в 10 000 часов) аудио русской речи, 2.3 Tb данных (в формате wav, в формате .mp3 конечно меньше);
  • Большое разнообразие доменов: начиная с аудио, записанных на профессиональный микрофон, заканчивая телефонными звонками:

Более детально со статистикой можно познакомиться в репозитории проекта.

  • Теперь данные можно скачать на высокой скорости как в .wav(mono, 16KHz, int16) формате через торрент, так и по прямой ссылке в .mp3;
  • Добавили небольшой вручную размеченный валидационный датасет (18 часов) для 3х основных доменов;

Мы приложили максимум усилий для повышения качества разметки:

  • Усовершенстовали модель для алайнмента новых доменов;
  • Использовали более качественные и тонко настроенные STT-модели для алайнмента;
  • Улучшили алгоритм нормализации цифр и латиницы;
  • Постепенно переразмечаем/убираем "грязные" данные из прошлых версий;
  • Вылечили ряд детских проблем датасета таких как:
    • "Болтающиеся" одиночные буквы в начале и конце предложений;
    • Низкий выход алайнмента вследствие низкого качества моделей;
    • "Правильная" работа со знаками препинания во время алайнмента;
  • (Скоро!) Появятся настоящие лейблы для спикеров;

Для каких задач может пригодиться наш датасет?

  • Распознавание речи;
  • Синтез речи;
  • Денойзинг, устранение шума в аудио;
  • Идентификация голоса;
  • Разделение дикторов;

Как планируем развивать датасет в дальнейшем?

  • Улучшить / перезалить существующие датасеты, почистить разметку;
  • Опубликовать модели для распознования речи и постпроцессинга;
  • Добавить разметку со speaker id. Для части новых доменов есть готовая разметка, но есть также идея добавить спикеров и в старые датасеты;
  • Возможно переключиться на другие языки;
  • Возможно добавить несколько новых доменов;

Подробнее познакомиться с новыми доменами можно в репозитории

Теги
Показать больше

Похожие статьи

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *

Кнопка «Наверх»
Закрыть