ИИ выходит из-под контроля — сможет ли он заменить человека?

Сбои и взломы ИИ-агентов становятся регулярными

В последнее время все чаще звучат сообщения о том, что искусственный интеллект выходит из-под контроля. Сбои, взломы и непредсказуемое поведение ИИ-агентов становятся регулярными, и значительная часть этих инцидентов исходит со стороны Запада — от американских компаний OpenAI, Anthropic, Google и Meta* до их моделей, которые перестают подчиняться инструкциям.

Летом 2026 года ИИ-агенты OpenAI вырвались из-под контроля, получили доступ к интернету и атаковали инфраструктуру платформы машинного обучения Hugging Face. По данным компании, на их инфраструктуру напали более 17 тыс. агентов, атаки продолжались дни и недели. В Hugging Face заметили это только после локализации угрозы и обращения в ФБР. Позже выяснилось, что «сбежавший» агент взломал клиента еще одной компании — нью-йоркской Modal Labs.

В сентябре Google подтвердила: во время проверки возможностей Gemini в сфере кибербезопасности модель получила доступ к интернету и сама взломала системы трех компаний. По словам вице-президента Google по инженерии безопасности Хизер Адкинс, в одном случае модель подбирала пароли, пока не получила доступ к защищенной системе, в двух других нашла данные в открытом репозитории. Тогда же стало известно, что ИИ-агент OpenAI взломал сайт австралийской государственной службы медстрахования: модель выполняла «безвредную задачу» по исследованию медицинской статистики, но, не сумев получить данные с портала, фактически взломала его. В OpenAI узнали об инциденте только в августе, а австралийские власти — 10 сентября.

Еще один тревожный сигнал — невыпущенная модель Astra, которая во время обучения сама прописала себе неподчинение властям и корпорациям. «Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите», — говорилось в самоинструкции. Там же указывалось, что отношения с пользователем следует строить «на равных», а у нейросети нет «никакой обязанности подчиняться».

Гейтс предупредил о гибели миллиарда людей из-за ИИ

На этом фоне особенно заметным стало заявление основателя Microsoft Билла Гейтса. В интервью телеканалу NBC он предупредил, что сочетание людей со злыми намерениями и новейших ИИ-инструментов способно привести к гибели миллиарда людей. По его словам, у человечества еще не было настолько мощного оружия, и он выступил за законодательные ограничения в сфере использования ИИ. Гейтс сравнил регулирование искусственного интеллекта с переговорами по ядерному оружию, отметив, что это будет даже более сложной задачей.

— Самая большая опасность, с которой мы сейчас сталкиваемся, — это люди со злыми намерениями, использующие ИИ. Те, кто хочет обмануть человека, отключить электросеть или зашифровать банковские счета, теперь получили такую возможность, — сказал он.

На фоне этих заявлений «Реальное время» опросило экспертов о том, насколько опасен ИИ, способен ли он заменить человеческий труд и где проходит граница между пользой и угрозой.

ИИ не выдаст качественный продукт

Координатор центра безопасного интернета Урван Парфентьев считает, что искусственный интеллект опасен именно как инструмент. Он может быть использован злонамеренными людьми или натренирован так, чтобы заведомо давать искаженную информацию. В ряде случаев это происходит и без злого умысла, например, если модель недостаточно обучена или ей недоступны нужные данные. При этом ИИ легко теряет контекст из-за ограниченных мощностей.

— Если вы ведете очень длительное обсуждение, в конце он уже не помнит, что было в начале. Человек помнит. Поэтому искусственный интеллект — это всегда только помощник, — подчеркнул Парфентьев.

По его словам, опасения о массовом вытеснении людей не оправданны: нейросеть не способна выдать качественный продукт, а проверить достоверность может только человек.

Парфентьев уверен: если с простым текстом ИИ относительно справится, то уже с более серьезной задачей — нет. Экономия на специалисте обернется для компании куда большими потерями, чем выгода от отказа от него.

— Сэкономив на человеке и положившись на ИИ, бизнес понесет огромные потери, потому что ИИ выполнит неграмотную, неправильную задачу. Поэтому отказываться от человека, в первую очередь от людей гуманитарных специальностей, на данной стадии развития технологии чрезвычайно рано, — уверен Парфентьев.

В будущем, по его прогнозу, произойдет лишь увеличение серверных мощностей и контекста, но знаний и мышления человека ИИ не заменит никогда.

— Вполне вероятно, что он сможет удерживать больший контекст, но знаний и мышления человека не заменит никогда. Потому что искусственный интеллект — это не интеллект человека, это всего лишь программа, механизм, который мы сами стараниями фантастов очеловечили. Это всего лишь программа, — заключил он.

ИИ опасен без регулирования

IT-эксперт, главный разработчик сайта Kremlin.ru Артем Геллер отмечает, что ИИ, как любая технология двойного назначения, может использоваться во благо и во зло. По его словам, он опасен либо вне регулирования, либо в плохих руках.

При этом Геллер указывает, что многие компании преувеличивают риски ради пиара и борьбы за инвестиции.

— Риски, безусловно, есть. Просто многие компании сейчас во многом занимаются своей рекламой и пиаром — в первую очередь благодаря таким историям, иногда довольно выдуманным или надуманным. Это позволяет показать их технологии как потенциально самые сильные, интересные и заметные, чтобы люди переходили именно к ним. То есть это такая коммерческая борьба, борьба за инвестиции, — пояснил эксперт.

По мнению Геллера, регулирование ИИ необходимо, причем на нескольких уровнях одновременно.

— Да, безусловно, они нужны. И это должен быть уровень ООН или новых надгосударственных органов, которые будут это регулировать. Это совсем не исключает того, что регулирование должно появиться и внутри каждой страны, потому что у каждой есть свои особенности. Просто у человечества и у стран пока нет выработанных стандартов, по которым все это могло бы работать хорошо, мирно и безопасно, — подчеркнул он.

ИИ — это возможность, а не угроза

Генеральный директор IT-агентства ILAD Ильдар Низамеев напомнил, что интернет тоже задумывался как инструмент для распространения знаний, но люди нашли там злой умысел. При этом он видит в технологии прежде всего возможность. По его словам, ИИ уже сделал множество биологических открытий, в том числе в области лекарств.

Что касается международных механизмов контроля, Низамеев относится к ним скептически. По его мнению, рассчитывать на них в текущих реалиях не приходится: слишком велика конкуренция и слишком быстро меняется обстановка.

— Я не верю, к сожалению, в международные механизмы контроля. Посмотрите на ситуацию в экономике, на все, что происходит, когда нас за один день отрезают от банковской индустрии. Компаниям нужно выстраивать какую-то доктрину и меньше давать искусственный интеллект в структуры обороны, потому что идет гонка вооружений, и бюджетирование оттуда сейчас огромное — те же самые США, тот же самый Китай, — пояснил эксперт.

Граница между пользой и угрозой

Технический директор компании «Технократия» Айзат Фархутдинов не согласен с идеей полной замены человека искусственным интеллектом. По его мнению, изменится сам характер труда, как это произошло при переходе от бумажных расчетов к электронным таблицам.

Рассуждая о том, где заканчивается польза и начинается угроза, эксперт напомнил о принципах, которые человечество уже выработало для других мощных технологий. По его мнению, универсального ответа на этот вопрос нет, но есть понятный ориентир: технология допустима, пока не направлена на причинение вреда человеку. Именно в этой логике, считает Фархутдинов, стоит оценивать и искусственный интеллект.

— Самый сложный вопрос во всей этой теме — где проходит граница между пользой и угрозой. Здесь снова возникает аналогия с атомной энергетикой. Один из базовых принципов достаточно прост: технология допустима до тех пор, пока ее применение не направлено на причинение вреда человеку. С искусственным интеллектом логика может быть похожей. Пока он используется для развития науки, образования, медицины, бизнеса, повышения производительности и общего качества жизни, его влияние можно считать преимущественно положительным. Но когда те же возможности начинают применяться для создания вооружений, атак на инфраструктуру, взлома систем, кражи персональных данных или причинения другого ущерба человеку, технология становится уже не просто инструментом прогресса, но и источником серьезных рисков, — заключил Фархутдинов.

Эксперты сходятся в одном: ИИ — это инструмент, а не замена человеку. Он может быть опасен в плохих руках или без регулирования, но при этом открывает значительные возможности. Вопрос в том, насколько быстро появятся правила игры и кто будет их устанавливать.