«Самое поразительное даже не технологический оптимизм Маска. А его спокойствие по поводу утраты человеком контроля»

— Самое важное: Маск считает, что примерно через пять лет AI превзойдет совокупный интеллект всего человечества. Не отдельного человека — именно sum of human intelligence, — пишет Роднянский. — По мнению Маска, практически не останется интеллектуальных задач, которые человек выполняет лучше машины.

Беддоус задает Маску ключевой вопрос: означает ли это, что через десять лет люди уже не будут контролировать происходящее? Маск отвечает —  да.

И приводит жестокую аналогию: если разрыв между AI и человеком будет больше, чем между человеком и шимпанзе, трудно представить, чтобы «шимпанзе оставались у власти». Маск говорит уже не о новом технологическом инструменте, а фактически о конце человеческой интеллектуальной монополии.

При этом его отношение к опасности AI заметно изменилось. Он был громким алармистом. Теперь его позиция гораздо более фаталистическая: развитие AI уже невозможно остановить.

Он по-прежнему оценивает вероятность катастрофического исхода примерно в 10–20%, но считает, что наиболее вероятен позитивный сценарий — «невероятное изобилие для всех». Поэтому задача не «остановить AI», а попытаться сделать его «ищущим правду, любознательным и благожелательным к человечеству».

Работа, по Маску, станет необязательной, а деньги могут потерять смысл. Его логика проста: AI + миллиарды гуманоидных роботов смогут производить столько товаров и услуг, что возникнет почти неограниченное предложение. Тогда работа станет чем-то вроде занятия по желанию, а вместо «универсального базового дохода» возникнет то, что он называет «универсальный высокий доход».

Маск считает: если товары, жилье, транспорт, развлечения и услуги практически неограниченны, возникнет вопрос: «Для чего нужны деньги?»

Он предсказывает не просто рост производительности, а возможное исчезновение экономики дефицита, а вместе с ней — нынешнего значения зарплаты, сбережений и денег.

Самое поразительное в интервью даже не технологический оптимизм Маска. А его спокойствие по поводу утраты человеком контроля. Раньше он говорил об этом преимущественно как об угрозе.

Сейчас — почти как о неизбежном историческом переходе, который надо не предотвращать, а правильно направить.