Искусственный интеллект получит допуск к госданным России

Правительство начнет проверять системы, реализующие технологии искусственного интеллекта, на содержание угроз безопасности государства и обороны России. Об этом сообщает «Коммерсантъ».

В период с 2025 по 2026 год планируется провести исследование и разработать методологию анализа моделей. В 2027–2028 годах будет создана и внедрена первая версия программного обеспечения для проверки ИИ. Участники рынка подчеркивают, что обучение ИИ на госданных требует особых мер безопасности. К 2030 году планируется обеспечить подтверждение безопасности пяти систем для их использования в экономике данных.

Согласно документу, до 2030 года на эти цели выделят 8,1 млрд рублей. За реализацию проекта отвечает Федеральная служба безопасности.

Сейчас у коммерческих компаний нет доступа к госданным. В АБД добавляют, что пока что речь идет только об информации, необходимой бизнесу для оказания услуг. По мнению Дмитрия Черноуса, руководителя группы консалтинга MTS AI, это позволит создавать модели ИИ, учитывающие особенности страны или региона.

С 1 января будет применяться ГОСТ, закрепляющий требования к защите данных при применении ИИ.

— Один из самых главных рисков — риск утечки данных, которые можно «деобезличить». Другая проблема — это недостоверность предсказаний. Ошибки в обучении модели или целенаправленные манипуляции могут привести к искаженным рекомендациям для госуправления или стратегических решений. А если модель содержит уязвимости, то она может стать входной точкой для атак на государственные системы,— говорит специалист по машинному обучению «Инфосистемы Джет» Надежда Гаврикова.