От биологического неравенства до киберрабства
Футуристы, экономисты, социологи о рисках человечества на ближайшие 100 лет
Футуристы, экономисты, социологи, глядя на меняющийся с невероятной скоростью мир, все чаще делают скорее предупреждения, чем радужные прогнозы о блистательном технологическом будущем. Лучшие из них честно говорят, что не знают, каким будет мир в 2050 году, — невозможно предсказать не только отношения людей и компьютеров, но и политический строй, и экономическую систему. В оценке такой неопределенности может быть только один путь: выявление основных рисков и попытка их снизить.
«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией. Перо сильнее меча!» Похоже на паранойю какого-то уличного предвозвестника армагеддона — что-то из серии «Покайтесь, грешники!» или «ИНН зло, ибо в нем число зверя». Но автор цитаты — Элон Маск, главный в мире по превращению фантастики в реальность и создатель одной из самых совершенных систем автоматического управления автомобилями. Он, может быть, лучше всех в мире знает про искусственный интеллект (ИИ), его возможности и применение.
Вкалывают роботы, счастлив человек
Совершенствование ИИ до уровня человеческого мышления и выше — один из глобальных рисков обозримого будущего, который порождает множество других, более локальных, если, конечно, локальным риском можно назвать массовую безработицу. Уже сейчас можно пройти по ссылке и узнать, отнимут ли роботы вашу работу к 2024 году. Информация на сайте базируется на обширном исследовании, которое свидетельствует: в ближайшие годы в США 47% рабочих мест будут затронуты влиянием ИИ. Все подобные прогнозы очень условны, и проблемы могут нагнать нас в 2034, а не в 2024 году, но очевидно, что если вы технический писатель, водитель такси или бухгалтер, то вам не поздоровится — алгоритмы уже в ближайшие годы смогут выполнять работу лучше, чем вы (и, конечно, дешевле). Сколько времени у вас останется, чтобы поменять профессию, зависит только от законодательного регулирования отрасли. Оно может сдержать напор роботов на год или даже на 10 лет, но прогресс не остановить.
Оптимисты, такие как Билл Гейтс, говорят, что не стоит противопоставлять компьютер и человека. Они дополняют друг друга, а не заменяют. По оценкам той же Microsoft, нынешние студенты в итоге станут зарабатывать на жизнь профессиями, о которых сейчас и не знают. Две трети рабочих мест через 20–30 лет будут обеспечены новыми профессиями или до неузнаваемости изменившимися старыми. Да, роботы отнимут многие рабочие места, но будут созданы новые — «человеческие». Это оптимистичный подход сам по себе. И в любом случае он не отвечает на вопросы о том, что делать таксисту, оставшемуся без работы, где взять финансовые, временные и интеллектуальные ресурсы для освоения профессии будущего.
Маск считает, что выходом может стать только введение безусловного базового дохода, то есть раздача денег населению просто так. «Вкалывают роботы, счастлив человек». К сожалению, пока не удалось построить непротиворечивых экономических моделей, которые бы обеспечили всем достойное существование просто так, по праву рождения и принадлежности к виду Homo Sapiens. В свое время для граждан Рима был введен аналог безусловного базового дохода, что внесло немалый вклад в падение великой империи и наступление Темных веков. Не исключено, что новая устойчивая экономическая модель будет все же найдена и система социального страхования охватит все человечество, но такой подход до неузнаваемости изменит экономическую, социальную, политическую реальность. А быстрые тектонические сдвиги не проходят безболезненно.
Ради всеобщего блага
По прогнозу одного из самых знаменитых футурологов современности Рея Курцвейла, искусственный интеллект достигнет человеческого уровня не позднее 2029 года, а потом, конечно, превзойдет этот уровень и устремится к вершинам, для биологических существ невиданным. Тут надо подчеркнуть, что интеллект и сознание вещи разные. Алгоритму необязательно обладать сознанием, чувствовать эмоции, чтобы быть умнее нас и чтобы руководить нами.
Мы, люди, заносчиво считаем себя сложными уникальными существами с неподдающейся анализу душевной организацией. Но алгоритмам понятие «душа» неведомо, и они раскладывают нашу психику на кирпичики без сантиментов. Небольшая исследовательская организация Cambridge Analytica под руководством Михаила Косински совмещала анализ больших данных и системы анкетирования для построения психологического портрета. Когда к этому набору прибавились соцсети, точнее говоря, анализ лайков разных людей, случилось удивительное: алгоритм стал представлять интересы человека буквально по десятку лайков в «Фейсбуке» и на основе этой очень ограниченной информации показывать куда более точную контекстную рекламу. Дальше — больше. По 20–40 лайкам он сможет предсказать ваше поведение лучше, чем ваши друзья, а по 100–150 лайкам — лучше, чем жена или муж.
Все это само по себе пугающе, а если довести размышление об ИИ до логического конца, то опасения Маска перестанут казаться параноидальным бредом. Сегодня мы предоставляем стартапам, использующим машинное обучение, составлять наше расписание. Завтра поручим подобрать подарок по нашему вкусу или банк понадежней и прибыльней. Послезавтра — сделать за нас нашу работу и решить, кого выбрать в партнеры. Мы с удовольствием делегируем машинам почти все наши функции, потому что они с ними справятся лучше.
Очевидно, возникнут новые системы хеджирования рисков или страхования, но главным риском, видимо, станет сбой программного обеспечения. Программы обычно надежней людей, и, например, дороги станут более безопасными, если по ним поедут машины-роботы. Но все же к кому мы будем предъявлять претензии, если из-за ошибки алгоритма попадет в аварию автономная машина? К ее производителям? А если они тоже роботы, и компания-владелец — лишь набор алгоритмов? Деньги с алгоритма можно взыскать, но если авария повлекла за собой тяжкие последствия, то сейчас они могут привести виновного на скамью подсудимых, а алгоритм не посадишь за решетку. Если подумать, то у нас вообще будет мало механизмов влияния на алгоритмы. А вот у них на нас — более чем достаточно.
Вполне логично, что алгоритмы будут нами манипулировать — без злого умысла, а для общей пользы. Уже сейчас некоторые обвиняют навигационные программы в том, что они не показывают кратчайший маршрут. Они, пользуясь своим влиянием, распределяют потоки машин так, чтобы минимизировать пробки. То есть уже сейчас, буквально из колыбели, пока еще очень юные и несовершенные, алгоритмы манипулируют нами ради общего блага. Если так пойдет и дальше, останемся ли мы высшей формой жизни?
Человек человеку бог
Возможно, человек сможет сохранить за собой контроль, если расширит собственные возможности с помощью кибернетических или биологических технологий. Вездесущий Маск тоже думает об этом — он возглавил компанию Neuralink, которая разрабатывает нейроинтерфейсы, объединяющие человеческий мозг и компьютер. Сейчас речь не идёт о киберсуществах и создании суперчеловека. Как обычно, цели ставятся более логичные и благородные — ускорение взаимодействий, удобство пользователей, борьба с болезнями нервной системы. Но действующий эффективный интерфейс мозг-компьютер — прямой путь к улучшению человека. Так же, как и биотехнологии.
Уже сейчас возможно что-то вроде программирования на уровне генов (не путать с «генетическим программированием» — еще одной пугающей технологией, в рамках которой программы самоулучшаются без участия человека). И ограничивается оно только законодательным запретом на эксперименты над людьми и эмбрионами. Но разве подобные запреты когда-то останавливали прогресс? Ученые давно просят дать им возможность экспериментов для победы над наследственными заболеваниями и младенческой смертностью. И закон постепенно отступает. В Великобритании с прошлого года можно ставить опыты на эмбрионах не старше 7 дней (и пока запрещено их вынашивать после этого). Всегда будут страны, где закон мягче, — как в Китае, например. Никто не захочет отставать в биотехнологиях или нейроинтерфейсах. И даже если сейчас все говорят о борьбе с болезнями, мы понимаем, что искушение улучшить Homo Sapiens будет слишком велико. Особенно если человечеству придется конкурировать с компьютерами.
Модный футурист, историк и философ Ювал Харари назвал свою последнюю книгу Homo Deus — «Человек божественный», и это очень пессимистичное чтиво. Харари развенчивает представления о том, что наши потомки будут улучшенным вариантом нас самих. Во-первых, биологические или кибернетические улучшения сделают из человека кого-то совсем другого — не только с новыми возможностями, но и с иным мышлением, иными ценностями и этикой (которая нам может сильно не понравиться). Во-вторых, проапгрейдят не всех. Любое сложное улучшение — будь то пластическая операция или престижное образование — доступно ограниченному кругу людей. Наивно думать, что власти, компании или еще кто-то не только снабдят всех людей безусловным доходом, но и оплатит апгрейд до сверхчеловека. А значит, мир ждет невиданная прежде степень неравенства: на биологическом уровне. Обычные люди, с точки зрения Homo Deus, будут как Homo Neanderthalensis или даже Homo Habilis. И это означает крайне, крайне незавидную участь для всех, кому не посчастливилось стать сверхчеловеком.
Будущее происходит сейчас
Все описанные риски — от целой планеты людей-бездельников до биологического неравенства и власти алгоритмов над человеком, а также множество рисков поменьше, описанных в сериале «Черное зеркало» (в отношении информационной продукции — ограничение по возрасту (16+) и бесчисленном множестве фантастических произведений — могут никогда не реализоваться по причине того, что их заслонит другой риск, и наша цивилизация не устоит перед какой-нибудь катастрофой. Поблизости может взорваться сверхновая звезда и истребить все живое на планете. Может прилететь метеорит и погубить большую часть живого. Может случиться пандемия — благо, биологические материалы и эксперименты над ними становятся все доступней, так что гибельная болезнь может быть создана террористами или школьниками или все тем же искусственным интеллектом. Что угодно может случиться: от зомби-апокалипсиса до старой доброй ядерной войны. Но один смертельный для планеты риск уже сейчас виден практически всем, кто пережил холодное лето 2017-го: изменение климата.
Если человечество не сможет остановить или резко затормозить изменение климата, то на множество прибрежных участков суши можно махнуть рукой. Арктические и антарктические льды тают — это факт. По расчетам межправительственной аналитической группы Intergovernmental Panel on Climate Change, к 2025 году уровень мирового океана вырастет на 30 сантиметров по сравнению с 2007 годом, в 2100 году — на 120 сантиметров. Это одна из самых консервативных оценок, но даже при таком темпе в ближайшие десятилетия страховщики могут вовсе отказаться страховать прибрежное имущество — если не сам уровень моря, то высокие волны доберутся до тех мест, которые раньше были твердо защищены сушей. Ураганы, которые больше всего вредят прибрежным городам, с каждым годом наносят все более серьезный урон. А к концу столетия, по подсчетам Natural Resources Defense Council, ежегодный урон в одних только США может достичь $422 млрд. Это почти 0,5% ВВП. Для развитой большой экономики ежегодный ущерб на 0,5% ВВП — это почти гарантированная стагнация или даже экономический кризис. Но это еще не все.
Огромные затраты лягут на промышленность и домохозяйства из-за необходимости сильнее охлаждать воздух. В США затраты на энергию из-за потепления к концу столетия вырастут на $141 млрд. Это может быть хорошо для энергетических компаний, но плохо для всех остальных: это лишний налог и лишние риски. А кроме того, более теплая погода — это тяжкий урон здоровью и здравоохранению. Эти последствия не просчитаны в долларах или рублях. Но в 2010 году из-за одного месяца аномальной жары смертность в Москве выросла на 4,5% по итогам всего года. Это огромный удар по людям, по экономике, по системам здравоохранения и страхования. Лето-2017 заставило нас вспоминать жару с ностальгией. Но что, если каждое лето в Москве будет как в 2010-м?
Процессы изменения климата распределены не равномерно: кому-то достанется больше, кому-то меньше. Даже внутри одной страны. По подсчетам The Economist, одни штаты США из-за изменений климата смогут увеличить экономику на 10% в течение ближайших 20 лет, а другие потеряют 20% своей экономики по тем же причинам. Причем хуже всего придется наиболее бедным штатам. То же на мировом уровне: хуже всего бедным. И если уже сейчас развитые страны испытывают трудности от потока беженцев, то что будет, когда половина Африки превратится в пустыню?
Правительства разных стран сходятся на том, что надо что-то делать, и принимается множество документов по контролю за выбросами и изменением климата. Но почему-то так получается, что наиболее болезненные меры реагирования откладываются до прихода к власти следующей администрации, которая тоже переносит их, и так до бесконечности. То же с другими по-настоящему глобальными рисками. Понятная человеческая реакция: все это случится потом, еще не скоро, пусть потомки разбираются. Но что, если скорость изменений, как сейчас, невероятно возрастает? Будущее происходит прямо сейчас. У нас совсем немного времени, чтобы понять это.
