Сергей Марков: «Кажется, что сверхинтеллект появится вот-вот, но это куда более тернистая дорога»

Об автоматизации и сокращениях персонала

— Сергей, все мы видим, что автоматизация и сопутствующие ей процессы неизбежно ускоряются. Совсем недавно о крупном сокращении персонала объявил, например, Сбербанк. Есть ли в будущем место человеку в этой системе? Чем его занимать, когда рабочие места уходят роботам?

— У меня есть целая большая лекция на эту тему под названием «Электроовцы съели людей». Если интересно, можете потом посмотреть на YouTube. Дело тут вот в чем. Через волны технологической безработицы мы проходим не первый раз. В свое время появление новых технологий приводило к подобным проблемам неоднократно. И самая, наверное, известная история — это история о том, как овцы «съели» людей. С появлением в Англии ткацких станков и ткацкой промышленности оказалось, что выгоднее выращивать овец, а не отдавать землю крестьянам для возделывания. Естественно, большое количество людей лишились работы.

Конечно, есть серьезная проблема, связанная с технологической безработицей. Но если мы посмотрим на нее в долгосрочном масштабе, мы увидим, что сейчас уровень безработицы не сильно выше того, что было в XIX, XX веках. В долгосрочном плане проблема решается за счет того, что, например, появляются новые профессии и трансформируются старые, сокращается рабочий день. Если мы возьмем бухгалтера, то 100 лет назад это был человек, который вручную выполнял расчеты при помощи в лучшем случае каких-то примитивных механических устройств, а иногда и просто на бумаге или в уме. Сегодня мы используем при расчетах калькуляторы, компьютеры, но это не привело к тому, что бухгалтеры исчезли. В этом смысле прикладные системы искусственного интеллекта, которые мы сейчас создаем, — это просто очень сложные инструменты, которые способны скорее усилить возможности человека, которые позволяют ему не выполнять самому рутинную, примитивную работу, передоверив ее машинам.

Если говорить о современных трендах, то, безусловно, есть профессии, которые находятся под серьезным давлением технологической безработицы. Например, те же самые операторы call-центров. Понятно, что в типовых коммуникациях мы можем заменить человека на машину, она дешевле в эксплуатации примерно от 4 до 7 раз и на сегодняшний день не уступает ему. Люди больше не занимаются этой работой, но есть огромное количество задач, на которые они могут переходить. Например, задачи, связанные с обработкой и разметкой массива данных для тех же самых систем машинного обучения. Если брать конкретно наше подразделение, то люди, которые раньше сидели на линии, теперь все больше времени уделяют другим задачам — прослушиванию разговоров роботов, разметке речевых массивов, массивов для распознавания речи, для ее синтеза и так далее. Во-вторых, теперь появляется рабочее время там, где раньше его не хватало. Например, вы смогли автоматизировать стандартные случаи и можете уделить больше времени нестандартным ситуациям. То есть это, в принципе, может улучшить качество обслуживания. Если раньше операторы call-центра не особо вдавались в детали проблемы клиента — просто из-за того, что на них была огромная нагрузка, какие-то очень жесткие нормативы, то теперь они могут уделить ему больше времени. Можно сократить время ожидания клиента.

Ситуация абсолютно неудовлетворительная и каждый, кто сталкивается с медициной, об этом знает. Вот, пожалуйста — это та сфера, которая могла бы при необходимости вместить огромное количество людей

Если взглянуть на проблему более глобально, то в обществе есть огромное количество направлений, в которых людей не хватает самым радикальным образом. Скажем, в последние годы мы в России занимаемся оптимизацией системы здравоохранения, которая, давайте смотреть правде в глаза, означает снижение доступности медицинской помощи — врачам устанавливаются жесткие нормативы по обслуживанию и тому подобное. Ситуация абсолютно неудовлетворительная и каждый, кто сталкивается с медициной, об этом знает. Вот, пожалуйста — это та сфера, которая могла бы при необходимости вместить огромное количество людей, причем даже относительно неквалифицированных, в виде младшего медицинского персонала. Или, скажем, задача ухода за детьми или пожилыми людьми. В некоторых развитых странах, например во Франции, государство предоставляет какое-то количество часов няни для каждой женщины, родившей ребенка. Почему бы не ввести такие сервисы и не помочь молодым мамам получить свободное время? То есть, на самом деле, мы обнаруживаем огромное количество сфер применения человеческой рабочей силы. Плюс есть много направлений, в которых машины вряд ли в обозримом будущем вытеснят людей в силу самых разных причин.

Мы видим, что проблема приобретает скорее не технологический, а общественно-политический и экономический характер. Тут экономика и политика связаны неразрывно. Каким образом распределяются общественные ресурсы? На сегодняшний день определенные компании получают сверхприбыли за счет внедрения высоких технологий. Часть прибыли, безусловно, нужно распределять таким образом, чтобы заниматься переподготовкой людей на новые профессии, чтобы расширять, например, социальную сферу. Может быть, просто для того, чтобы сокращать рабочий день, вводить схему, подобную безусловному базовому доходу, увеличивать пособия и тому подобное. То есть часть сверхприбыли, заработанной крупными технологичными компаниями, должна использоваться в том числе и для того, чтобы контролировать социальные последствия этих изменений.

Но этот вопрос, конечно, нужно задавать не людям из сферы технологий, таким, как я. Это все-таки вопрос к политическим элитам.

— Вы сказали, что есть сферы, в которых роботы в обозримом будущем не смогут заменить человека. Какие, например?

— Няня для ребенка.

— Робот не сможет выполнять эту функцию?

— Во-первых, мы пока далеки от создания андроидов, которые будут решать задачи с той же точностью и эффективностью, что и люди. Во-вторых, тут есть чисто психологический барьер. То есть наверняка будет огромное количество людей, которые принципиально не захотят, чтобы за их ребенком следил робот.

В какой-то момент технологии превысят сложность организации человеческого тела, нашей биологии, и разница между машинами и людьми начнет стираться. Мобильный телефон уже сегодня стал в некотором роде частью тела человека

— Мне кажется, это все дело времени.

— Вообще, есть такая штука, как статусное потребление. В пищевой индустрии есть прогрессивные технологии, которые позволяют с маленькими затратами производить достаточно большое количество продуктов. Но есть люди, которые говорят: мы принципиально не хотим употреблять в пищу промышленно произведенные продукты, мы хотим, чтобы их вырастил фермер на своем огородике, нам это больше нравится. И на самом деле это некий неснижаемый остаток отрасли. Индустрия органик-фуд закрепилась на пороге нескольких процентов объема пищевого рынка и существенно эта доля не увеличивается и не снижается, хотя происходит дальнейший прогресс технологий. Все равно есть люди, которые хотят показать свой статус через принципиальное потребление чего-то, произведенного «вручную». Наверняка, люди будут точно так же говорить: а я не хочу, чтобы меня стриг робот-парикмахер, я хочу такого органик-парикмахера и готов за это переплачивать. На самом деле эти людские предубеждения не так уж и слабы и не так уж быстро исчезают. Мы живем в эпоху технологического прогресса, но кто-то по-прежнему плюет через плечо, стучит по дереву и так далее.

Думаю, что в более долгосрочном масштабе проблема будет решена иным образом. В какой-то момент технологии превысят сложность организации человеческого тела, нашей биологии, и разница между машинами и людьми начнет стираться. Мобильный телефон уже сегодня стал в некотором роде частью тела человека. Если у него отнять смартфон, мы увидим нечто подобное синдрому ампутации. Весь наш вид, если разобраться, занимается тем, что постоянно меняет себя, вмешивается в свою собственную биологию самым радикальным образом. Много миллионов лет назад изобрели огонь и стали варить на нем пищу, в результате стали выживать люди со слабо развитыми челюстями. За счет того, что мы перестали нуждаться в сильных челюстях, высвободилось место под мозг, и, возможно, это стало одним из факторов развития интеллекта.

То есть мы генетически себя модифицировали через технологию. Другое дело, что эта модификация не была такой прямой — мы просто поменяли среду, в которой живем, а потом под ее влиянием изменилась и наша биология. Но по мере того, как нам в руки попадали инструменты, позволяющие непосредственно вмешиваться в наш организм, мы обычно недолго раздумывали над их применением. Вы выпиваете таблетку аспирина и вмешиваетесь в биохимические пути вашего организма и вообще меняете его радикальным образом. Одежда, которая заменяет кожу и позволяет нормально существовать в холодном климате, инструменты, которые мы используем и которые являются продолжением нашего тела. Пока в силу примитивности технологий, которые мы используем, у нас существует явно различимый барьер. Мы понимаем, что здесь начинается рука, а здесь — молоток, здесь заканчивается ухо, а тут начинается смартфон. Но проблема ровным счетом в несовершенстве технологий. Грубо говоря, если завтра можно будет безболезненно и без побочных эффектов установить смартфон прямо в голову, то это будет гораздо удобнее — у вас освободятся руки, вы сможете получать перед глазами картинку любой сложности в любой момент. Поэтому, скорее всего, проблема будет решена таким образом, что через какое-то время у нас не будет отдельно машин и людей, все соединятся в некую постчеловеческую сущность. Но это, конечно, дело все-таки довольно отдаленного будущего.

— Может быть, не такого уж и отдаленного, с учетом скорости развития технологий?

— Да, технический прогресс в последнее столетие происходит очень быстро. Но, кстати, здесь есть разные мнения. Например, Нил Стивенсон и Питер Тиль считают, что научно-технический прогресс сильно замедлился, что в 60-е годы происходило больше инноваций, чем происходит сегодня. Тогда люди полетели в космос, но до сих пор топчутся на границах Солнечной системы и не более того — хотя в 60-е казалось, что мы вот-вот полетим к звездам. Любая технология провоцирует оптимистические ожидания. Когда происходит технологическая революция, всем хочется мысленно продолжить эту кривую дальше в небеса, но, на самом деле, есть определенные ограничения, с которыми мы сталкиваемся в развитии технологий, не ощущаемые на заре этого развития. С технологиями искусственного интеллекта, я думаю, будет то же самое, потому что есть определенные фундаментальные физические ограничения, связанные со скоростью вычислений, есть определенные барьеры, которые не получится преодолеть в принципе. Сейчас нам кажется, что у нас вот-вот появится сверхинтеллект, а на самом деле эта дорога может быть куда более тернистой и долгой. Тем не менее я думаю, что рано или поздно то, о чем я говорю, случится.

«Нил Стивенсон и Питер Тиль считают, что научно-технический прогресс сильно замедлился, что в 60-е годы происходило больше инноваций, чем происходит сегодня. Тогда люди полетели в космос, но до сих пор топчутся на границах Солнечной системы и не более того — хотя в 60-е казалось, что мы вот-вот полетим к звездам». Фото: mil.ru

О роли правительства и его замене на искусственный интеллект

— Понятно, что все говорят о прогрессе. А есть ли вероятность, что произойдет, напротив, откат?

— Как говорится, кровью не подпишешься, что прогресс стал таким уж устойчивым. Мы знаем, что та же самая эллинистическая культура в свое время демонстрировала впечатляющие темпы научно-технического прогресса, а потом наступило средневековье, когда произошел откат в ряде технологий. Вполне могут сработать определенные общественные механизмы, которые заведут нас в новое средневековье. Поэтому во многом ответственностью тех людей, которые поддерживают научно-технический прогресс, является борьба за поддержку прогрессивных тенденций в обществе. Дальнейшее развитие зависит от того, каким образом распределяются общественные ресурсы, сколько выделяется на науку, образование, просвещение. Эти деньги легко можно потратить на что-то другое — дворцы, яхты, проиграть в казино. В этом смысле многое зависит от того, какие тенденции победят, что окажется более важным — прогресс или «цацки». Посмотрим. Иногда и противоречия не бывает, благодаря прогрессу можно сделать новые цацки, это, может быть, всегда его и спасало.

Остается надеяться на лучшее, но я все-таки думаю, что откат маловероятен, потому что люди в своей массе осознали ценность прогресса. Но кто знает, мода может смениться, и завтра все скажут, что книжки читать плохо, прогресс плохо, давайте будем жить в пещерах.

— К слову об управлении ресурсами. Как вы думаете, в будущем искусственный интеллект может заменить правительство? Может быть, это слишком футуристично, но есть ли какие-то перспективы у этой идеи?

— На мой взгляд, ничего особо футуристичного тут как раз нет. Очень многие вещи можно сделать уже давно. Чисто технически мы можем организовывать прямое голосование всех жителей страны или даже мира по каким-то важным вопросам. У нас есть интернет, стойкие криптографические алгоритмы для того, чтобы защищать честность этого голосования. Но все это не делается, и не по техническим причинам. Понятно, что властные элиты не очень заинтересованы в том, чтобы какие-то вопросы решались не так, как им выгодно. С другой стороны, часто употребляется такой аргумент, что люди не готовы к демократии, что на самом деле мы не можем по всем вопросам устраивать голосование, потому что народ проголосует неправильно, поскольку чего-то не знает и так далее.

На мой взгляд, это несколько лукавая позиция. Почему многие люди не очень понимают и не разбираются, как устроен мир и какие решения правильные, а какие нет? Потому что существует неравный доступ к образованию. Люди получают плохое воспитание, плохое образование и потом не могут принимать решения, которые нужны обществу. Почему так получается, что общество тратит огромные деньги на оборону? Военный бюджет США — 600 с лишним миллиардов долларов. Каждый год эти деньги уходят, по сути, на то, чтобы защищать развитые страны от озлобленного большинства жителей третьего мира. Почему бы не потратить их на образование, просвещение, для того, чтобы через несколько десятилетий трансформировать этот третий мир в процветающие регионы, в которых будут жить люди, в полной мере принимающие ответственные решения?

Встает вопрос: насколько люди умнее этих бактерий? Каждый из нас в отдельности вроде умнее, но взятые все вместе — полные идиоты, и это очень хорошо видно на таких проблемах, как глобальное потепление

Вопрос, на самом деле, не очень простой, потому что общество зачастую, к сожалению, руководствуется планами, выстроенными на очень короткий промежуток времени. Люди, которым сегодня принадлежит бизнес, которые рулят в политике, не строят планы дальше, чем на 4, 5, 10 лет. Крупным корпорациям важно получать высокие прибыли в ближайшие несколько лет, а то, что через десятилетие это может привести к глобальной экологической катастрофе, никого особенно не волнует. Точно так же и в сфере образования. Сегодня нужны довольно большие средства, чтобы обеспечить в третьем мире нормальные условия, чтобы вырастить поколение разумных, грамотных, образованных людей. Но через 20—30 лет эти инвестиции обернутся огромным эффектом для всего человечества. Правда, никого это не волнует, потому что через 20—30 лет, как у Ходжи Насреддина, или ишак сдохнет, или падишах.

Поэтому очень многие проблемы, с которыми мы сталкиваемся, проистекают из отсутствия долгосрочной стратегии. Человечество, на самом деле, не первый вид в истории Земли, который вносит глобальный вклад во всю биосферу. Бактериальные маты, которые жили в первичной атмосфере Земли, радостно скушали весь метан, произвели большое количество кислорода и в этом кислороде радостно же погибли. Благодаря их глобальному вину, который превратился в фэйл, мы вместе с вами существуем. Но тут встает вопрос: насколько люди умнее этих бактерий? Каждый из нас в отдельности вроде умнее, но взятые все вместе — полные идиоты, и это очень хорошо видно на таких проблемах, как глобальное потепление.

— Или на проблеме мусора.

— Да, тоже очень характерный пример. Может быть, мы тоже засыплем себя мусором, выделениями CO2 и погибнем так же, как эти бактерии, потому что у них тоже не было никакого плана и стратегии развития, они просто жадно хапали и больше ни о чем не заботились. Поэтому перед нами очень серьезный вызов. Чем могущественнее мы становимся, тем сильнее возрастает и опасность.

— Вопрос с той же экологией сейчас хотя бы стали поднимать, говорить об этом.

— Просто говорить мало. Нужно, чтобы принимались решения, серьезно затрагивающие все мировое хозяйство. А как только появляются такие инициативы, у них тут же находится большое количество противников. И бизнес через систему лоббистов, через медиа их легко блокирует. Даже такие несмелые, половинчатые меры, как Киотский протокол, по большому счету закончились ничем.

«Думаю, реальность будет куда менее развлекательной, потому что сейчас роботизированные военные технологии активно применяются и обкатываются. Дроны с телеуправлением вообще стали нормой в войне развитых стран против неразвитых». Фото fpi.gov.ru

Об управлении массами и роботах-воинах

— Вы затронули тему демократии. Но та же Америка, выборы президента, слитые данные миллионов пользователей «Фейсбука». Что насчет управления массами с помощью новых технологий?

— Ни для кого не секрет, что массами можно манипулировать. За счет чего это возможно? За счет того, что есть кто-то, кому принадлежат медиа, а есть те, кому они не принадлежат. Именно поэтому, получается, у нас есть те, кому манипулировать, чем манипулировать и кем манипулировать. Но если бы те же самые медиа не принадлежали десятку магнатов, а управлялись демократическим путем, то тогда бы оказалось, что инструмент, который потенциально может употребляться для манипуляции, на самом деле для этого уже не употребляется, поскольку его не контролируют те немногие, кому выгодно манипулировать.

Здесь то же самое — современные технологии в области машинного обучения потенциально тоже в состоянии усилить власть немногих над многими. Вчера, чтобы манипулировать массами, просто брали каких-то продвинутых журналистов, длинноязыких ораторов, и те убеждали публику в том решении, которое ей невыгодно. Сегодня мы можем усилить эту машину алгоритмами, решающими эту задачу более эффективно, чем люди. Можно анализировать поведение людей в социальных сетях, опять же, и государству, и корпорациям стало доступно большее количество информации о каждом человеке. Естественно, это открывает более широкие возможности. Потенциально проблема, конечно, существует и не до конца понятно, что с ней делать. Тут ведь дело может так обернуться, что будет реализован катастрофический сценарий. И сейчас наша способность добиться того, чтобы технологии использовались во благо всем, а не немногим, и определяет во многом будущее всего нашего вида, не побоюсь таких пафосных слов.

— Интересно ваше мнение по поводу военных. Может быть, на смену армии людей придут роботы, и боевые действия перейдут несколько в иную плоскость?

— У Станислава Лема есть роман «Мир на Земле», в котором роботов отправили на Луну. Но, думаю, реальность будет куда менее развлекательной, потому что сейчас роботизированные военные технологии активно применяются и обкатываются. Дроны с телеуправлением вообще стали нормой в войне развитых стран против неразвитых. Эти тенденции, скорее всего, будут усиливаться и завтра, опять же, развитые страны получат эффективное средство для того, чтобы подчинять своей воле тех, кто живет беднее и кому не очень нравится существующее положение. Не думаю, что это приведет к снижению уровня агрессии, это скорее похоже на аутсорсинг насилия, когда расслоение в обществе становится достаточно сильным и представители элит уже могут не сами дубинками бить протестующих, а кого-нибудь для этого нанять. Здесь машины тоже могут выполнять роль таких наемников.

На самом деле развитые страны очень уязвимы в плане человеческих потерь. Соединенные Штаты поиграли войну во Вьетнаме во многом за счет того, что на родину стали приходить гробы, и это вызвало мощный протест и в результате привело к свертыванию этой военной операции. И представим себе такую же операцию сегодня — только воевать будут уже не граждане развитых стран, а роботы. Общественность будет смотреть на это так: ну подумаешь, мы там каких-то туземцев убили, наши-то не погибли, а значит, ничего, нормально, можем дальше воевать. К сожалению, мы больше тяготеем именно к таким сценариям, а не к тем, где мы будем устраивать турниры роботов и по их результатам определять, кто победил, а кто проиграл.

Продолжение следует