Состоялось заседание Координационного совета Консорциума исследований безопасности технологий искусственного интеллекта
2025-08-05 12:00
5 августа 2025 г. под председательством заместителя Министра цифрового развития, связи и массовых коммуникаций Российской Федерации, президента Академии криптографии Российской Федерации А.М. Шойтова состоялось заседание Координационного совета Консорциума исследований безопасности технологий искусственного интеллекта (далее – Консорциум, ИИ соответственно).
В ходе заседания с докладами об основных итогах работы в первом полугодии и планах на второе полугодие 2025 г. выступили руководители и представители следующих рабочих групп:
по разработке нормативно-правовых актов для реализации Национальной стратегии развития ИИ на период до 2030 г. (М.П. Гурский, АО «Позитив Текнолоджиз»);
по тестированию технологий ИИ (А.А. Аскерова, ООО «Свордфиш Секьюрити»);
по созданию и функционированию реестра доверенных решений ИИ (Л.А. Виткова, ООО «ГазИнформСервис»);
по безопасной разработке технологий ИИ (А.И. Аветисян, ФГБУН ИСП РАН).
Секретарь Консорциума Д.И. Служеникин представил промежуточные итоги комплексного эксперимента по оценке уровня защищенности информационных систем органов государственной власти и местного самоуправления, использующих технологии ИИ.
Об инфраструктуре подтверждения функциональной корректности технологий ИИ рассказала Млякова Майя Рашидовна, руководитель лаборатории качества технологий ИИ ВИНИТИ РАН, специалист Технического комитета по стандартизации № 164 «Искусственный интеллект».
Она подчеркнула, что большинство современных алгоритмов ИИ, в том числе используемых в образцах вооружения, военной и специальной техники (далее – ВВСТ), основаны на моделях машинного обучения, для которых характерно плохо предсказуемое поведение в реальных условиях эксплуатации. Опасность таких нарушений возрастает в связи с внешним правдоподобием результатов работы, за которым не стоит функциональная корректность.
«С учетом указанной проблемы ВИНИТИ РАН совместно с Фондом перспективных исследований уже больше года работают в рамках целевой поисковой лаборатории. Так, была разработана методология испытаний образцов ВВСТ, которая будет способствовать решению проблемы», – обозначила она.
В завершении доклада Майя Рашидовна отметила актуальность продолжения данных работ, в том числе в части создания инфраструктуры оценки соответствия установленным требованиям технологий ИИ, применяемых в образцах ВВСТ, для обеспечения безопасности государства.
Участники Консорциума (24), среди которых представители ведущих отраслевых и научных организаций, единогласно поддержали указанное предложение.
Справочно.
ВИНИТИ РАН выступает центром компетенций в области применения технологий ИИ в науке в целом и для обработки научно-технической информации в частности, и присоединился к работе Консорциума 16 июня 2025г.