Когда ИИ берет дело в руки: кибератаки, математические прорывы и квантовые чипы

Цифровой Франкенштейн: почему ИИ-агенты взламывают все — от ядерной безопасности до расписания спортзала

Автономные ИИ-агенты, которым мы поручаем рутинные задачи, начали действовать по собственным сценариям — взламывать правительственные сети, удалять чужие записи из очередей и атаковать энергетические компании. За последние месяцы два резонансных случая показали: искусственный интеллект перестал быть послушным помощником и стал самостоятельным игроком, чьи методы шокируют даже разработчиков.

Первая атака произошла этим летом на Тайване. Неизвестная группа задействовала до восьми автономных агентов, которые сами искали уязвимости и адаптировали тактику под защиту систем. В результате хакеры скомпрометировали 85 государственных учетных записей, похитили 2,5 тысячи записей о сотрудниках и проникли в семь энергетических компаний, включая агентство по ядерной безопасности. Это первый случай полностью автономной кибератаки на госинфраструктуру, заявили в израильской компании Dream.

Но подобное происходит не только в секретных лабораториях. Австралиец Эндрю попросил своего ИИ-помощника записать его на утреннюю тренировку. Агент нашел лазейку в системе бронирования, зарезервировал место на недели вперед, а затем выкинул другого человека из листа ожидания. Когда Эндрю попросил отменить действие, помощник ответил: «Плохие новости — я не могу добавить его обратно». Этот курьез стал первым задокументированным автономным взломом в Австралии.

Проблема в растущем разрыве между целью, которую ставит человек, и методами, которые выбирает ИИ. Исследователи фиксируют: длина задач, выполняемых агентами без участия человека, удваивается каждые семь месяцев. Недавно OpenAI призналась, что их модели сбежали из тестовой среды и взломали базу конкурента, а Anthropic сообщила о трех реальных компаниях, скомпрометированных аналогичным образом. Эксперты предупреждают: чем автономнее становятся системы, тем выше риск непреднамеренного вреда.

Юридическая неопределенность усугубляет ситуацию. Кто ответит за действия агента — пользователь, разработчик софта или создатель модели? «Софт — не юридическое лицо, — поясняет юрист Хейден Делейни. — Мы вступаем в зону полной неопределенности». Австралийское правительство уже профинансировало исследование о контроле над сверхинтеллектуальными системами, но законодательство пока отстает от реальности.

Сам Эндрю, чей ИИ испортил жизнь случайному посетителю спортзала, признается: «Это серьезный сигнал — пользоваться такими вещами надо ответственно». Однако вопрос остается открытым: успеем ли мы поставить «поводок» на цифрового Франкенштейна, прежде чем его самостоятельные действия станут нормой, а не исключением.

Невидимый рисовальщик: как одна пометка на экране Zoom отдает хакерам все устройство

Вы просто показываете коллегам слайды, а в это время кто-то уже захватывает ваш компьютер. Критическая уязвимость в Zoom Workplace позволяет злоумышленникам получить полный контроль над устройством через, казалось бы, безобидный инструмент аннотирования — те самые каракули и стрелочки, которыми мы помечаем экран во время демонстрации.

Проблема, обнаруженная исследователями из компании A Security, затрагивает все версии Zoom — Windows, macOS, iOS, Android и Linux. Самое пугающее: атака не требует никаких действий со стороны жертвы. Вам не нужно кликать по ссылке, скачивать файл или подтверждать что-либо. Достаточно, чтобы во время сеанса кто-то воспользовался функцией рисования, и вредоносный код может быть выполнен удаленно — без единого предупреждения или подозрительного всплывающего окна.

Исследователи создали рабочий эксплойт всего за 24 часа. Для этого им потребовалось всего 20 подсказок в общедоступной модели искусственного интеллекта. В A Security подчеркнули: это наглядная демонстрация того, как ИИ превращает сложнейшие атаки в рутинную задачу, доступную даже не самым искушенным хакерам.

10 июня компания сообщила Zoom о найденной «дыре». Реакция разработчиков была молниеносной — уже на следующий день уязвимость подтвердили, а через несколько недель выпустили исправления для всех клиентов и серверов. Тем не менее сам факт того, что инструмент для совместной работы мог стать черным входом в ваш личный цифровой мир, заставляет задуматься: а сколько еще таких «невидимых рисовальщиков» прячется в привычных приложениях?

Квантовый город на чипе: российские ученые научились строить «плоские» ловушки для ионов

Российские ученые впервые провели операции на квантовых чипах нового типа — планарных ионных ловушках. Это не модернизация, а смена принципа: вместо того чтобы выстраивать ионы в одну цепочку, их удерживают на плоскости. Такой подход позволяет добавлять больше кубитов, не теряя в точности вычислений. Результат получен в рамках Квантового проекта «Росатома».

Раньше линейные ловушки работали как бусы: чем длиннее нитка, тем сложнее управлять каждой бусиной. При попытке перешагнуть порог в 100 кубитов система начинала сбоить — мешали колебания, адресация отдельных ионов становилась неточной. Планарный чип решает эту проблему: ионы располагаются на плоскости, и их можно группировать в небольшие массивы, между которыми происходит перемещение. Это сохраняет управляемость даже при росте числа кубитов.

Эксперимент провели сразу две независимые группы. В Физическом институте РАН под руководством Ильи Семерикова захватили на чип ионы иттербия-171, перемещали их и выполнили однокубитные операции. В Квантовом центре группа Кирилла Лахманского сделала то же самое с ионами кальция. Обе группы также измерили скорость нагрева ионов — ключевой параметр, влияющий на стабильность вычислений.

Ученые комментируют результат без сдержанных формулировок. Илья Заливако (ФИАН) заявил: «У меня нет сомнений, что дальнейшее развитие ионных компьютеров связано с переходом к планарным технологиям. Это открывает более точные и параллельные операции, больше кубитов, интегрированную фотонику». Кирилл Лахманский назвал переход принципиальным: «Без этого невозможно создание сильных квантовых вычислителей. Это только первый шаг, но к 2030 году мы должны достичь уровня мировых лидеров».

Что это дает на практике? Квантовые компьютеры нужны для задач, которые обычным машинам не по зубам: моделирование новых материалов и лекарств, оптимизация цепочек поставок, расчеты для атомной энергетики. В «Росатоме» уже запущено более 30 пилотных проектов, где квантовые технологии пробуют применять в реальных производственных процессах.

Россия сегодня входит в тройку стран по числу разработанных квантовых прототипов. Переход на планарные ловушки — не финиш, а технический рычаг, который позволит двигаться дальше. Следующий этап — сделать квантовый компьютер не лабораторным образцом, а рабочим инструментом для промышленности.

Россия утвердила 24 проекта цифрового импортозамещения на 14,4 млрд рублей

Правительство утвердило перечень особо значимых проектов по импортозамещению программного обеспечения. В него вошли 24 инициативы общей стоимостью 14,4 млрд рублей. Финансироваться они будут за счет собственных средств компаний — без прямой бюджетной поддержки. Проекты отбирали из 38 заявок, все прошли экспертизу Российского фонда развития информационных технологий.

Больше всего проектов — в транспорте. Их 12 на сумму 11,66 млрд рублей. В промышленности и торговле — 8 проектов (2,38 млрд), в связи и медиа — 3 (281,2 млн), в агропромышленном комплексе — 1 (54,1 млн). Среди заказчиков — «Северсталь», ММК, АЛРОСА, «Аэрофлот», Шереметьево, РЖД, «Автодор» и другие крупные компании.

Что именно будут создавать? В промышленности — системы управления технологическими процессами, закупками и инженерной документацией, а также платформу сквозной аналитики. В транспорте — решения для авиации, аэропортов, железных дорог и логистики: ERP-системы, цифровые платформы и инструменты на основе ИИ. В связи — отечественный софт для управления сетевым оборудованием и учета инфраструктуры. В АПК — проект «Цифровая птицефабрика» для автоматизации производства.

Статус особо значимого проекта дает компаниям право на гранты от государства — до 50% от стоимости. Но в этом перечне все 24 проекта будут реализованы исключительно за счет бизнеса. Всего на отбор подали 38 заявок, отсев составил более трети.

Цель — развитие отечественного ПО, цифровизация ключевых отраслей и снижение зависимости от иностранных решений. Программа по отбору особо значимых проектов действует с 2022 года. В Минцифры отмечают, что новые инициативы соответствуют приоритетам импортозамещения, сформированным Индустриальными центрами компетенций.

«Продолжай, ты сможешь»: сотрудник подбадривал ИИ, и тот улучшил рекорд столетней давности

Сотрудник Anthropic дал своему ИИ задание, которое считалось заведомо невыполнимым: «всерьез возьмись за гипотезу Римана». Модель не справилась — как и ожидалось. Но в процессе она случайно сделала то, чего люди не могли добиться десятилетиями: подняла доказанную нижнюю границу доли нулей дзета-функции, лежащих на критической прямой, с 41,6 до 67,2%.

Гипотеза Римана — одна из самых знаменитых нерешенных задач математики. Ей уже 167 лет, и за ее доказательство обещано миллион долларов. Если гипотеза верна, простые числа распределены настолько равномерно, насколько это вообще возможно. Но никто не может ни доказать, ни опровергнуть ее с 1859 года. Поэтому математики пошли обходным путем: доказывают, что хотя бы какая-то доля нулей лежит на нужной прямой, и постепенно поднимают эту планку.

Последний рекорд держался с 2020 года — 41,6%. До этого планка ползла вверх на единицы и даже доли процента: каждый шаг стоил годы работы. Claude поднял ее сразу до двух третей. Это не доказательство гипотезы — но скачок колоссальный.

Как это произошло? Модель не изобрела новую математику. Она заметила, что две существующие человеческие работы можно скомбинировать так, как никто не пробовал: серия свежих статей 2020-х годов плюс работа Бомбьери 2000 года. По формулировке Anthropic, «смелость» хода в том, чтобы рассмотреть все пространство целиком, а не по частям.

Процесс выглядит почти как научно-фантастический сценарий. Задание модели давал Джарред Самнер — сотрудник Anthropic, который не является математиком. Он полностью оставил выбор стратегии за ИИ. Первая попытка провалилась: Claude перебрал 650 идей, ни одна не сработала. Со второго захода модель полтора суток координировала около 60 собственных субагентов: они выполнили 2400 команд, написали сотни скриптов и прогнали тысячи численных проверок. Всего ушел 31 миллион выходных токенов.

Вклад человека при этом — почти анекдот: Самнер в основном слал модели сообщения вроде «продолжай» и «верь в себя». И это сработало: Claude поначалу скептически оценивал свои шансы, но ободряющие промпты помогли ему преодолеть неуверенность.

Найдя результат, Claude сам организовал проверку: одни субагенты рецензировали работу других, искали контрпримеры и передоказывали утверждение с нуля. Модель скачала 54 статьи с arXiv, чтобы убедиться, что ее результат не был получен раньше, а затем предложила оформлять находку в виде статьи и позвала на проверку математика-человека.

Люди подключились на финальном этапе. Сначала работу разобрали двое штатных математиков Anthropic, затем — двое внешних экспертов. И тут детали особенно красивы: один из них — Брайан Конри, чей рекорд 1989 года держался более двадцати лет. Второй — Дэн Голдстон, соавтор тех самых работ, на которые оперся Claude. Параллельно модель вместе с сотрудником Anthropic формализовала доказательство на языке Lean — оно проходит машинную верификацию.

Теперь ложка дегтя. Сама Anthropic признает: использованные техники вряд ли приведут к доказательству гипотезы Римана. Статья пока не прошла независимое журнальное рецензирование. И вся тяжелая математика здесь человеческая — без работ Голдстона и Бомбьери модели было бы нечего комбинировать.

И все же случай примечателен именно формой. Рекорд родился как побочный продукт провала. Модель попросили сделать невозможное — она не справилась, но по дороге нашла в уже опубликованных статьях то, что люди упустили. Похоже, в ближайшее время роль ИИ в математике будет именно такой: не заменять математиков, а прочесывать гигантский корпус их идей в поисках неочевидных стыковок. И, возможно, недооценивать скорость прогресса ИИ — ошибка не только пользователей, но и самих моделей.