Израильский писатель-футуролог Юваль Ной Харари выступил с апокалиптическими прогнозами на главном форуме богатой элиты в Давосе в 2020 году.

Forbes представил краткий пересказ его мини-лекции на сессии, посвященной рискам и угрозам XXI века. Подробнее со многими из этих идей можно познакомиться в последней на данный момент книге израильтянина — «21 урок для XXI века».

  • Подрывные технологии могут разрушить самую суть нашего общества множеством способов — от создания класса «бесполезных» людей из-за широкого внедрения искусственного интеллекта до неконтролируемой экспансии колониализма данных и цифровых диктатур.
  • Автоматизация рабочих процессов уничтожит миллионы и миллионы рабочих мест. Неясно, насколько быстро люди научатся осваивать новые профессии. Да, технологии создадут достаточное количество альтернативных рабочих мест, но сможет ли, к примеру, 50-летний водитель грузовика, которого только что заменили беспилотной технологией, заново обрести себя в профессии разработчика программного обеспечения или учителя йоги? А ведь людям, вероятно, придется не единожды проходить такое вынужденное переобучение — революционный переход на алгоритмы искусственного интеллекта не произойдет в один момент, нас ждет каскад больших и очень больших перемен.
  • В прошлом люди много и активно боролись против эксплуатации в разных ее формах. Но XXI век делает более актуальной другую борьбу — против собственной «бесполезности». Стать «бесполезным» сегодня гораздо опаснее, чем «эксплуатируемым». Из тех, кто не сможет победить в этой борьбе, сложится целый новый класс. Это будут бесполезные с точки зрения экономической и политической систем люди. И пропасть между ними и могущественной элитой будет только расти.
  • Эта социальная дифференциация захватит не только классы, но и целые страны. В XIX веке мы уже наблюдали, как пионеры индустриальной революции Британия и Япония первыми внедрили новые технологии и тут же принялись захватывать мир и эксплуатировать другие народы. Если мы не усвоим эти уроки, история повторится и в XXI веке искусственный интеллект (ИИ) позволит передовым государствам — прежде всего Китаю и США — совершить скачок в развитии, грозящий всем остальным банкротством или превращением в цифровые колонии. Эффект от внедрения ИИ должен быть равномерно распределен по планете.
  • Еще один риск неравномерного освоения технологий — появление цифровых диктатур, способных постоянно следить за всеми своими гражданами. Этот риск можно уместить в самое, вероятно, важное уравнение XXI века: B*C*D=AHH, где B — биологические знания, C — компьютерные вычисления, D — данные, а AHH — умение «хакнуть» каждого отдельного человека. Если у вас есть все аргументы для этой формулы, вы взломаете мое тело, мой мозг, мое сознание и поймете меня лучше, чем я сам.
  • Система, основанная на формуле, сможет предсказывать чувства и решения человека, манипулировать ими и в конечном итоге решать за него. В прошлом о такой системе мечтали многие тираны, но ни у кого из них не было достаточно представлений о биологической природе человека, развитых технологий и массива данных, доступных сегодня. Мы больше не какие-то там загадочные души, мы животные, которых можно взломать.
  • Люди все больше и больше будут доверять искусственному интеллекту, передавать свои знания и умения алгоритмам. В принципе уже сегодня миллиарды пользователей считают, что Facebook лучше них выстроит их собственную картину дня, Google подскажет, правдива ли та или иная информация, Netflix выберет фильм для просмотра, а Amazon и Alibaba посоветуют следующую покупку. Те же алгоритмы в недалеком будущем теоретически легко могут предсказать за человека, куда ему идти работать и с кем заводить брак, а компаниям и банкам — кого нанимать на работу и кому одалживать. И даже центробанки способны опираться на ИИ в расчете оптимальной ставки. Все это будет происходить только потому, что так решил компьютер.
  • Человеческий мозг уже сегодня не может вместить в себя все те знания о биологии, всю ту вычислительную мощность и все те данные, что хранятся в компьютере. Все это ведет к тому, что однажды мы попросту перестанем понимать решения искусственного интеллекта. Даже в относительно свободных странах люди рискуют потерять контроль над собственной жизнью и государственным управлением. То, как работает финансовая система, уже сегодня понимает в лучшем случае 1% человечества. Через двадцать лет этот показатель может снизиться до нуля.
  • В свете наступления искусственного интеллекта мы сталкиваемся с философским банкротством — у нас нет ресурсов и инструментов, чтобы осознать и объяснить происходящие перемены. Политические и бизнес-элиты посредством новых технологий могут создавать на Земле рай и ад по своему усмотрению. Но философы пока не могут концептуально осмыслить эти перспективы. В итоге в этом новом цифровом аду рискует оказаться все человечество.
  • Но не стоит успокаивать себя этими мыслями. Да, сегодня в мире больше людей кончают жизнь самоубийством, чем погибают на войнах, порох стал менее смертоносным порошком, чем сахар, а большинство стран не мечтают о захвате территорий соседей и больше тратят на образование и медицину, чем на оборону. Это больше не джунгли. Но и благополучие иллюзорно: страны забывают, насколько в реальности хрупко устройство мира, и недооценивают то, что мы имеем. Планета напоминает дом, жители которого просто спят в нем, но не ремонтируют. Он продержится еще сколько-то лет, но однажды, если мы ничего не изменим, рухнет. И мы вернемся в джунгли.
  • Конечно, даже если человечество уничтожит само себя, это будет еще не конец света. Кто-то, вероятно, выживет. Возможно, крысы. Выживут и изобретут новую цивилизацию. И даже учтут наши ошибки. Но мне бы хотелось верить, что апокалиптический сценарий не сбудется и ответственность за решение проблем возьмут на себя лидеры, которые собираются здесь, в Давосе.