Звоните Саре Коннор

Возможно, это произойдет очень скоро. А может быть, никогда. Одновременно предупреждает и успокаивает французский философ и журналист Гаспар Кениг. Он объездил полмира и взял интервью у самых разных людей, которые занимаются исследованиями и разработками в сфере искусственного интеллекта. Более сотни человек рассказали ему, каким будет наше будущее вместе с ИИ. Часто эти видения довольно противоречивые.

Угроза обществу

Основное внимание в книге «Конец индивидуума» Гаспар Кениг уделяет использованию искусственного интеллекта в социальных сетях. Он задается вопросом: может ли человек все еще избегать алгоритмов социальных сетей и их влияния или они уже стали неотъемлемой частью человеческого общения? Существует ли еще общество, в котором конкурируют аргументы, «рынок идей» или только медиаплановая экономика с ее универсальными алгоритмами?

Таким образом, лейтмотив всей книги — старый вопрос австро-британского социолога и философа Карла Поппера о выживании демократического, открытого общества в условиях новой тенденции к цифровому феодализму. Надо признать, что феодализм прошлого имеет мало отношения к нынешнему. Руководители крупных IT-корпораций мало похожи на авторитарных правителей феодального Средневековья. Их принуждения более мягкие. Они больше не приказывают и не наказывают, как это делали раньше. Их главный инструмент — это так называемый толчок, причем постоянный. Именно он толкает нас к непрерывному поглощению контента. А делает он это благодаря обширным знаниям о нас, которыми мы сами так охотно делимся из-за социальной зависимости.

Речь идет не только о той информации, которую мы выкладываем в своих соцсетях. И даже не о «лайках» или «дизлайках», которые мы ставим под публикациями других людей или видео. К примеру, мы должны принимать практически все файлы cookie, чтобы в принципе получить доступ к запрашиваемой информации. Это неравная сделка. Мы постоянно раскрываем информацию о себе в обмен на мгновенный доступ. Кениг называет это «добровольным рабством».

Я осознал, что добровольно замкнулся в «племенной» логике: потерял способность выйти из своего либерального заповедника, высказывать сомнения и уточнения, чтобы не разочаровать ими своих фолловеров, алчущих твердых мнений. Некоторые называют такой феномен «политической гомофилией»: благодаря игре данных интернет стал пространством, которое, не приветствуя различия, усиливает сходства. Больно осознавать это добровольное рабство, странную манипуляцию, источником и одновременно жертвами которой мы стали...

Освобождение через манипуляцию?

Не все собеседники Кенига согласны с его позицией. Некоторые видят ситуацию совсем иначе. К примеру, он беседовал об искусственном интеллекте с израильским военным историком-медиевистом и футурологом Ювалем Харари, чьи книги стали в России бестселлерами. Харари в восторге от искусственного интеллекта и его возможностей.

Избавленное от самых неудобных желаний, новое человечество будет состоять из пацифистов, экологов и коммунитаристов. В этом конечный смысл Homo deus: не приобретение автономии, а личный путь к «блаженству», как сказал бы Спиноза. Сама способность ИИ нами манипулировать извращенным образом служит нашему освобождению.

Харари считает, что искусственный интеллект знает человека лучше, чем он сам. И если у этого человека нет свободы воли, то не лучше ли передать машине право выбора? Так размышляет Юваль Харари. В этом вопросе Кениг с ним не согласен. Он считает, что именно искусственный интеллект мешает человеку стать самим собой и сформировать в себе свободного волителя — через постепенное принятие решений в самых разных ситуациях: от выбора цвета трусов в интернет-магазине до выбора романтических отношений.

Если алгоритм знает меня лучше, чем я сам, и предлагает мне более рациональные решения, чем я мог бы принять самостоятельно, если мириады объединенных в сеть объектов делают мою способность к решению излишней, предлагая мне жизнь комфортную и предопределенную, если я постепенно перестаю быть движущей силой собственных действий, зачем мне понадобится право голоса? <...> Триумф благополучия означал бы тогда отречение от свободы — свободы выбора, свободы восстания, свободы ошибаться, «свободы заблуждаться», о которой говорил Джон Стюарт Милль.

Оптимизация или совершенствование?

Слова «оптимизация» и «совершенствование» можно назвать синонимами. Но Кениг видит в них принципиальное различие, которое полностью меняет восприятие мира. Он считает оптимизацию противоположностью совершенствования. По мнению Кенига, у оптимизации всегда есть цель, а совершенствование — это постоянная адаптация к обстоятельствам. И часто конечная цель этого процесса неизвестна. А это, в свою очередь, не укладывается в логику искусственного интеллекта. Ему нужна цель. И он, надо отметить, как и многие люди, тяготеет к застывшей стабильности. Обмен товарами. Неизменность профессий. Неизменяемость любовных связей. Таким образом, оптимизация в коротком промежутке времени ускоряет определенные процессы, а на длинной дистанции приводит к параличу развития и инноваций.

Американский эссеист, писатель и статистик Нассим Талеб, как и Кениг, с недоверием относится к искусственному интеллекту. Он согласен с выводами автора про вред оптимизации посредством ИИ. Талеб придумал концепцию «черного лебедя». Это труднопрогнозируемые и редкие события со значительными последствиями. Талеб считает, что никакой искусственный интеллект не может их отследить. В отличие от человека. Потому что «черный лебедь» — это не только совокупность точных характеристик, но и интуиция. Нелюбовь Талеба к ИИ в первую очередь связана с отсутствием случайности, в которой он видит одно из главных условий стихийного порядка. В этом случае оптимизация создает хрупкость, а хрупкость вызывает опять-таки паралич и ненадежность.

В книге Гаспара Кенига «Конец индивидуума» много различных идей, концепций, теорий и прогнозов. Но есть один момент, о котором неоднократно говорил сам автор и который в итоге упустил из поля зрения. Кениг описывал ситуации, где в повторяющихся действиях будет полностью исключен человеческий фактор. К примеру, беспилотные перевозки. Автор предполагает, что в будущем будут внесены изменения в законодательство, поскольку в ДТП между роботом и роботом нужно определить степень ответственности и кто ее будет нести. Но кто будет регулировать поле действия искусственного интеллекта и на какой трансмедийной площадке? Этот вопрос Кениг оставил без ответа.

Издательство: Individuum
Перевод: Инна Кушнарева
Количество страниц: 352
Год: 2023
Возрастное ограничение: 16+

Екатерина Петрова — литературный обозреватель интернет-газеты «Реальное время», автор telegram-канала «Булочки с маком» и основательница первого книжного онлайн-клуба по подписке «Макулатура». За помощь в проведении съемки благодарим Национальную библиотеку РТ.