Оксфордские ученые: нейросеть GAN может уничтожить человечество

Группа ученых из Оксфордского университета и подразделения Google под названием DeepMind, занимающегося искусственным интеллектом, выложила научную работу, в которой заявила, что одна из разновидностей ИИ — модель GAN — способна в будущем уничтожить человечество, о чем рассказал Vice.

GAN (генеративно-состязательные сети) является на данный момент самой продвинутой моделью нейросети и состоит из двух соревнующихся подмоделей: дискриминатора и генератора, который пытается научиться обманывать первого. Генератор выбирает случайные объекты, а дискриминатор пытается отличить эти сгенерированные объекты от настоящих объектов из тренировочной выборки.

В опубликованной статье предполагается, что в будущем ИИ, наделенный какой‑либо важной для общества функцией, однажды может быть заинтересован в создании для себя обманных стратегий, с помощью которых он будет выполнять свои задачи (и получать вознаграждение — генерировать более совершенные ответы). Такой поворот событий с большой вероятностью нанесет огромный вред человечеству, считают ученые.

— В условиях, которые мы определили, наш вывод — экзистенциальная катастрофа не просто возможна, но вероятна, — приводятся слова ведущего автора работы, оксфордского кандидата наук Майкла Коэна.

Тогда жизнь на Земле превратится в противостояние человека, который постоянно нуждается в ресурсах, и суперобученного ИИ, который будет пытаться захватить все возможные ресурсы для продолжения своей работы и защищаться от попыток человечества помешать ему.

В ближайшее десятилетие нейросеть точно не сможет заменить человека, считает автор одного из курсов Skillbox Кирилл Шмидт. О причинах подробнее читайте в материалах «Реального времени».