HuBERT

Открытая речевая модель (Hidden-Unit BERT), которую разработали исследователи Facebook AI (ныне Meta). Она учится без учителя на аудиозаписях без расшифровок: по аналогии с BERT для текста предсказывает для замаскированных фрагментов скрытые единицы — метки кластеров звуковых признаков. Полученные представления речи дообучают для распознавания речи и других речевых задач.