На Инфофоруме-2025, одном из ключевых мероприятий в сфере информационной безопасности, прошедшем в Москве, был озвучен срок запуска реестра доверенных технологий искусственного интеллекта (ИИ) — 2027 год. Этот проект станет важным шагом в развитии надежных и безопасных ИИ-технологий для применения в государственных информационных системах и на объектах критической инфраструктуры.

Работа над созданием реестра ведется Консорциумом по исследованиям безопасности технологий ИИ, основанным в мае 2024 года при поддержке Минцифры России. Консорциум объединяет исследователей из ведущих технологических компаний и университетов.

Кто входит в Консорциум

В ноябре 2024 года к консорциуму присоединились эксперты ГК «Солар», Positive Technologies, Ассоциации ФинТех и РТУ МИРЭА. В 2025 году состав пополнили компании SwordFish и «АйТи Бастион». Первая отечественная компания в сфере информационной безопасности, вступившая в консорциум, — «Газинформсервис».
Знаковым событием стало подписание соглашения о присоединении к Консорциуму 8 октября на форуме «Кибертех».

Лидия Виткова, руководитель одной из рабочих групп консорциума и начальник аналитического центра кибербезопасности «Газинформсервиса», подчеркнула:

«Ключевая задача — формирование набора рекомендаций для профессионального сообщества. Первым шагом станет определение понятия «Доверие к ИИ», которое будет основываться на принципах контроля, ответственности, предсказуемости, эволюции, конфиденциальности и прозрачности технологий».

Дорожная карта реестра

Консорциум разработал дорожную карту, состоящую из трёх основных этапов:

1. Формирование концепции
   • Определение целей, аудитории, функций и ожидаемых результатов.
2. Разработка технического задания
   • Определение критериев успешности, архитектуры и функциональных требований реестра.
3. Проработка процессов верификации
   • Разработка методов проверки и регламентов экспертизы для включения технологий в реестр.

Основные принципы доверенных ИИ-технологий

Создаваемый реестр будет учитывать ключевые принципы:

• Контроль и ответственность — обязательность проверки работы ИИ и прозрачность его решений.
• Предсказуемость — минимизация рисков и неожиданных последствий применения ИИ.
• Эволюция и развитие — обеспечение возможности модернизации технологий.
• Конфиденциальность — защита данных пользователей.
• Прозрачность — доступность информации о работе алгоритмов.

Перспективы в сфере информационной безопасности

На Инфофоруме-2025 также обсуждались другие перспективные направления, включая квантовое и постквантовое шифрование. Эти технологии являются ключевыми для повышения безопасности информационных систем в будущем.

Запуск реестра доверенных технологий ИИ станет важным этапом в создании надежной инфраструктуры искусственного интеллекта в России и обеспечении защиты критически важных данных. Консорциум продолжает работу над формированием стандартов и рекомендаций для всех участников рынка, закладывая фундамент для безопасного использования ИИ в государственном и коммерческом секторах.

_{Источник: https://www.anti-malware.ru/news}