Объединенный семинар отдела интеллектуальных средств автоматизации и лаборатории компьютерной лингвистики «Вероятностные нейросетевые модели понимания и генерации текстов естественного языка»
2026-09-07 12:00
Дата и время проведения: 15 сентября 2026 г., вторник, 16:00
Место проведения: ВИНИТИ РАН, г. Москва, ул. Усиевича, д. 20, Малый зал Ученого совета, каб. 502
Руководитель семинара: Селюков Александр Сергеевич, заведующий Отделом интеллектуальных средств автоматизации ВИНИТИ РАН
К участию в работе семинара приглашаются научные сотрудники, преподаватели, аспиранты и специалисты в области обработки естественного языка, машинного обучения и интеллектуального анализа текстов. Обсуждение является открытым: вопросы и замечания по работе могут быть высказаны всеми присутствующими и будут учтены при подготовке отзыва ведущей организации.
Докладчик — Н. А. Скачков, Федеральный исследовательский центр «Информатика и управление» Российской академии наук (ФИЦ ИУ РАН).
ВИНИТИ РАН выступает в роли ведущей организации по диссертации Н. А. Скачкова. Доклад заслушивается в рамках подготовки отзыва (заключения) ведущей организации, в связи с чем после доклада состоится открытое обсуждение представленной работы.
Доклад посвящен разработке вероятностных и архитектурных методов обучения генеративных нейросетевых моделей машинного перевода, ориентированных на преодоление ключевых ограничений современных переводческих систем: нехватки и недостаточного качества параллельных обучающих данных, ограничений стандартной авторегрессионной постановки задачи перевода и некачественной сегментации входного текста при контекстном переводе.
В основе первого из предлагаемых подходов лежит метод совместного обучения прямой и обратной моделей перевода, теоретически выведенный из задачи максимизации правдоподобия циклических переводов; он не требует привлечения вспомогательных языковых моделей и набора эвристик и обеспечивает повышение качества перевода прежде всего для малоресурсных языковых направлений. Для борьбы с систематическими ошибками перевода предложен метод переупорядочивания переводческих гипотез, впервые объединяющий методологию контрастного обучения с ранжированиями переводов, выполненными человеком, что позволяет сокращать долю недостаточных, избыточных и некорректных переводов и удешевляет доменную адаптацию систем при отсутствии эталонных параллельных текстов. Дальнейшее повышение лингвистической и семантической корректности генераций достигается за счет метода маскировки входа: модификация вероятностной модели и обучающей функции потерь не только улучшает метрики качества, но и позволяет использовать при обучении одноязычные корпуса и объединять в единой модели задачи перевода и автоматического постредактирования. Для работы с длинными и сложно структурированными текстами разработан способ тематической сегментации на основе аддитивных тематических моделей, в котором сегментная структура документа впервые используется при пост-обработке E-шага и выводе регуляризатора; семантически мотивированное разбиение текста заметно улучшает качество контекстного перевода документов.
Эффективность предложенных методов оценивается по общепринятым метрикам качества машинного перевода (BLEU, BLEURT, COMET), а также по результатам экспертной разметки переводов, выполненной человеком. Практическая значимость полученных результатов связана с повышением качества нейросетевого перевода как для крупных языковых пар, так и для малоресурсных направлений, включая языки народов России, с удешевлением адаптации переводческих систем к предметным областям электронной коммерции, технического, медицинского и юридического перевода, с созданием моделей автоматического постредактирования для CAT-инструментов, а также с обработкой длинных документов в корпоративном документообороте, научно-техническом переводе и образовательных сервисах.