Через 100 лет на планете будут доминировать сущности с искусственным интеллектом

Юваль Ноа Харари считает, что мы, возможно, стоим на пороге создания не просто нового, улучшенного вида людей, но и совершенно нового вида существ, которые будут намного умнее нас. Это звучит как научная фантастика, но на самом деле все намного опаснее

Книга «Sapiens» об истории человеческого вида, стала мировым бестселлером и превратила малоизвестного израильского профессора истории Юваля Ноа Харари в одного из самых популярных писателей и мыслителей планеты. Но когда мы встретились с Харари в Тель-Авиве этим летом, его волновало не прошлое нашего вида, а наше будущее.

Андерсон Купер: Вы сказали: «Мы — одно из последних поколений Homo sapiens. Через столетие или два на Земле будут доминировать сущности, которые будут отличаться от нас, как мы от шимпанзе».

Юваль Ной Харари: Да.

Андерсон Купер: Что, черт возьми, это значит? Это меня напугало.

Юваль Ноа Харари: Вы знаете, что скоро мы сможем реконструировать наши тела и мозг, будь то с помощью генной инженерии или путем прямого подключения мозга к компьютерам, или путем создания полностью неорганических сущностей, искусственного интеллекта, который не основан на органическом теле и мозге. И эти технологии развиваются с головокружительной скоростью.

Андерсон Купер: Если это правда, тогда возникает целый другой вид.

Юваль Ноа Харари: Это нечто, что выходит за рамки просто другого вида.

Андерсон Купер: Что это значит для общества? Кажется, что у богатых будет доступ, а у других — нет.

Юваль Ной Харари: Одна из опасностей заключается в том, что в ближайшие десятилетия мы увидим процесс большего неравенства, чем в любой предыдущий период истории, потому что впервые это будет реальное биологическое неравенство. Если новые технологии доступны только богатым или только людям из определенной страны, тогда Homo sapiens разделится на разные биологические касты, потому что у них действительно будут разные тела и разные способности.

Возможно, самая большая проблема, с которой мы сталкиваемся, — это своего рода эволюционное расхождение. Миллионы лет интеллект и сознание шли вместе. Сознание — это способность чувствовать такие вещи, как боль, удовольствие, любовь и ненависть. Интеллект — это способность решать проблемы. Но компьютеры или искусственный интеллект не обладают сознанием. У них просто есть интеллект. Они решают проблемы совершенно иначе, чем мы. В научной фантастике часто предполагается, что по мере того, как компьютеры будут становиться все более и более разумными, они неизбежно также приобретут сознание. Но на самом деле это намного страшнее, чем то, что они смогут решать все больше и больше проблем лучше, чем мы, не имея никакого сознания, никаких чувств.

Андерсон Купер: И они будут иметь над нами власть?

Юваль Ной Харари: Они уже получают власть над нами.

Некоторые кредиторы используют сложные алгоритмы искусственного интеллекта, чтобы определить, кто имеет право на получение ссуд, и глобальные финансовые рынки двигаются решениями, принимаемыми машинами, анализирующими огромные объемы данных способами, которые не всегда понимают даже их программисты.

Юваль Ноа Харари: Сегодня в мире данные гораздо дороже денег. Десять лет назад

были крупные корпорации, платившие миллиарды за WhatsApp и Instagram. И люди задавались вопросом: «Они что, сумасшедшие? Почему они платят миллиарды, чтобы получить это приложение, которое не приносит денег?» Потому что оно собирало данные.

Андерсон Купер: А данные — это ключ?

Юваль Ноа Харари: Мир все больше разделяется на сферы сбора данных. Во времена холодной войны был железный занавес. Теперь есть силиконовый занавес между США и Китаем. А куда деваются данные? В Калифорнию, или они идут в Шэньчжэнь, Шанхай и Пекин?

Андерсон Купер: Что такое биометрические данные?

Юваль Ной Харари: Это данные о том, что происходит внутри моего тела. Что мы видели до сих пор. Корпорации и правительства собирают данные о том, куда мы идем, с кем встречаемся, какие фильмы мы смотрим. Следующий этап — это слежка, которая у нас под кожей.

Андерсон Купер: Я ношу трекер, который отслеживает частоту сердечных сокращений, мой сон. Я не знаю, куда идет эта информация.

Юваль Ной Харари: Вы носите на запястье «агента КГБ».

Андерсон Купер: И я думаю, что это приносит мне пользу.

Юваль Ной Харари: И это приносит вам пользу. Я имею в виду, все дело в том, что это не просто антиутопия. Это тоже утопично. Я имею в виду, что такие данные также могут позволить нам создать лучшую систему здравоохранения в истории. Вопрос в том, что еще делается с этими данными? А кто это контролирует? Кто это регулирует?

Ранее в этом году правительство Израиля предоставило Pfizer данные о состоянии здоровья своих граждан, чтобы получить приоритетный доступ к своей вакцине. Данные не включали индивидуальные данные граждан.

Андерсон Купер: Для чего Pfizer нужны данные всех израильтян?

Юваль Ноа Харари: Потому что для разработки новых лекарств, новых методов лечения нужны медицинские данные. Все чаще это основа для медицинских исследований. Не все так плохо.

Одно из ключевых правил состоит в том, что если вы получаете мои данные, они должны использоваться, чтобы помочь мне, а не манипулировать мной. Еще одно ключевое правило: всякий раз, когда вы усиливаете слежку за людьми, вы должны одновременно усиливать слежку за корпорациями и правительствами. И третий принцип: никогда не позволяйте концентрировать все данные в одном месте. Это рецепт диктатуры.