Новости раздела

Будут ли жизнь и политику определять машины? Пять причин, почему это возможно

Какой будет цивилизация будущего и почему человек может уступить власть над миром машине?

Будут ли жизнь и политику определять машины? Пять причин, почему это возможно
Фото: realnoevremya.ru

О том, что всем будут управлять машины, нам предсказали еще в конце ХХ века в культовых фильмах — «Терминаторе» и «Матрице» (хотя это были далеко не первые художественные произведения на эту тему). В XXI веке к голосу фантастов и кинематографистов на полном серьезе присоединялись многие — от критиков «Фейсбука» до сторонников устранения сетей 5G. Недавно в этот хор добавился и Владислав Сурков, который написал целую программную статью, в которой предсказал: скоро нашу жизнь и политику будут определять машины. О том, каковы предпосылки к этому складываются в нашем обществе, в своей авторской колонке размышляет Анна Свирина, проректор по науке и развитию Университета управления ТИСБИ.

Определенное машинами будущее кого-то из нас радует, а кого-то — пугает. Но трудно не заметить, как мы все больше пользуемся автоматическими рейтингами, рекомендациями, поисковыми системами. Так что же, шаг к такому будущему уже сделан? Предпосылки к нему уже есть. Перечислю пять факторов, которые, на мой взгляд, говорят о возможности наступления «безлюдной демократии», о которой пишет Сурков.

  1. Фактор №1: больше рекомендаций богу рекомендаций

    Считается, что за последние 20 лет человечество сформировало больше контента, чем за весь предыдущий период своего существования. При таком колоссальном потоке информации совсем не удивляет желание человека отфильтровать хотя бы часть прилетающих со всех сторон данных.

    Поисковики Google начали этот процесс уже давно: попробуйте зайти с одинаковым запросом с компьютеров разных людей, и поисковая лента будет разной. Алгоритм выведет наверх то, что основной пользователь устройства считает приоритетным.

    Потом появились сервисы по подбору музыки, фильмов, литературы, магазинов, одежды, школ, университетов — словом, сейчас сложно найти сферу, в которой не было бы автоматического рейтинга, советующего, что вам больше подойдет. И мы с удовольствием этим пользуемся, сужая себе поле выбора и все больше делегируя это право алгоритмам.

    Если продолжить цепочку дальше — останется совсем недолго до того, что именно алгоритмы будут решать за нас, а не мы сами. При этом иллюзия свободы выбора у нас будет абсолютно полная. Но это будет лишь иллюзия.
  2. Фактор №2: человеку свойственно ошибаться

    Человек делает ошибки намного чаще, чем машина. Поэтому современная техника старается исключить его влияние из процессов, где цена ошибки особенно высока. Например, в авиации и космосе достаточно давно решения принимают не люди, а машины, и постепенно численность таких сфер расширяется.

    Уже не обязательно уметь рисовать анимированные ролики, делать презентации и визитки, создавать онлайн-курсы — есть конструкторы, которые безошибочно сделают это за тебя, надо только выбрать из предложенных вариантов и создать свой контент (хотя и строго в пределах шаблона).

    И мы видим, как с удешевлением алгоритмов и машин таких сфер становится все больше. В современном обществе человек все больше востребован там, где нужна эмпатия — и все меньше нужен там, где необходимо принимать четкие и точные решения.
  3. Фактор №3: человек склонен неверно оценивать вероятность событий

    Экспериментальная экономика, исследования поведения игроков казино и анализ иррационального поведения потребителей дали нам примерно одинаковые ответы на вопрос о том, рационально ли действует человек. И ответ чаще всего отрицательный.

    Мы склонны переоценивать вероятность маловероятных событий и недооценивать вероятность тех, которые почти гарантированно наступят. Мы очень часто считаем важными малозначимые вещи и, наоборот, не обращаем внимания на серьезные.

    Последние 50 лет исследований подтвердили, что человека рационального, на существовании которого строится экономика, не существует — мы принимаем решения на основе своего восприятия реальности, а оно почти никогда не совпадает с самой реальностью. У машин этот недостаток отсутствует. И там, где человек может удачно угадать с сотой попытки, машина четко рассчитает с первой. Так кто победит в таком случае?
  4. Фактор №4: человек корыстен

    И да, кажется, мы очень давно об этом знали — поклонение золотому тельцу описано еще в Библии. Из современных теорий на этом постулате стоит теория игр, математический подход к расчету того, к чему придет система, в которой каждый из игроков стремится к максимизации своей выгоды.

    В результате прекрасный мир, в котором всем было бы хорошо, становится почти невозможен, потому что всегда есть тот, кому выгодно использовать ресурсы в свою пользу. Он, а за ним и другие, это делают, и возникает большее неравенство.

    А машину можно ограничить в принятии определенных решений, и она всегда будет решать одинаково, по принципам справедливости, которые заложил в нее автор алгоритма. Ее не подкупить ничем: у нее нет желаний, ей не нравится блеск золота, ей достаточно ресурсов, которые ей дают.
  5. Фактор №5: не у всех людей есть критическое мышление

    Критическое мышление требует сначала рассмотреть ситуацию с разных сторон, а потом, на основании увиденного, принимать решения. Но это долго и дорого (в плане использования ресурсов организма). И мы часто поддаемся импульсу и принимаем решение исходя из первых доставшихся нам данных, не задумываясь, что у почти любого события может быть как минимум несколько объяснений.

    Машина, если мы ее правильно запрограммируем, не сделает такой ошибки и будет точнее в своих решениях. Она исходит только из заложенного алгоритма и не склонна отметать те или иные важные параметры просто потому, что они ей не понравились.

    Все эти факторы значимы и приводят к выводам, которые звучат все громче. В мире победившей рациональности меня смущает только одно — если побеждает целесообразность, должна получиться Спарта, в которой слабого ребенка нужно сбросить со скалы, чтобы он не проедал драгоценные ресурсы страны. Да и от взрослого немощного лучше избавиться, потому что на него приходится тратить время, деньги и силы. Но ведь человечество почему-то не пошло по этому пути в Древней Греции? И, кажется, у него получилось неплохо…
Анна Свирина, фото: realnoevremya.ru

Новости партнеров

комментарии 5

комментарии

  • Анонимно 23 окт
    Человека от животного отличает всего две "вещи".
    Во-первых, Человек хоронит умерших Человеков.
    Во-вторых, Человек "верит" в Творца сущего Мира.

    Поэтому никакая "машинная цивилизация" , управляющая Человеком, в принципе невозможна.

    Но машины могут управлять теми, которые не отличаются от животных двумя "вещами".
    Ответить
  • Анонимно 23 окт
    Человек уже многое уступил машинам
    Ответить
    Анонимно 23 окт
    Насмотрелись фильмов. Роботы это прогресс.
    Ответить
  • Анонимно 23 окт
    Люди создают роботов не для того, чтобы уступить власть, а чтобы облегчить себе жизнь
    Ответить
    Анонимно 23 окт
    Конечно!
    Ответить
Войти через соцсети
Свернуть комментарии