У Нейта Соареса пенсионный счёт есть. А вот уверенности, что пенсия вообще наступит, — нет.
Уже десять лет он не делает новых взносов на свой 401(k). Причина — опасения, что искусственный интеллект уничтожит человечество.
И это не случайный паникёр из интернета. Соарес возглавляет исследовательский институт MIRI, раньше работал инженером в Google и Microsoft и много лет занимается безопасностью ИИ.
В интервью от 21 октября он заявил, что оценивает вероятность гибели человечества в ближайшие десять лет выше 50%.
По его прогнозу, сверхинтеллект научится самостоятельно совершенствоваться, обзаведётся собственной инфраструктурой и перестанет зависеть от людей. Причём ненавидеть человечество ему совершенно необязательно. Достаточно, чтобы люди мешали достижению его целей.
Это личный прогноз Соареса, а не научно установленная вероятность. Насколько реален такой сценарий и когда вообще может появиться подобный ИИ, исследователи продолжают спорить.
Сам Соарес настроен куда решительнее. В 2025 году он вместе с Элиезером Юдковским выпустил книгу с говорящим названием If Anyone Builds It, Everyone Dies — «Если кто-нибудь это построит, все умрут».
А в недавнем интервью допустил даже военные удары по дата-центрам, если там действительно попытаются создать опасный сверхинтеллект.
Но вот парадокс: человек, который не рассчитывает дожить до пенсии, продолжает работать над спасением человечества. Соарес уверен, что катастрофу ещё можно предотвратить, и призывает остановить гонку по созданию сверхинтеллекта.
Кстати, свой пенсионный счёт он не закрыл. Просто перестал его пополнять. Есть ли у исследователя другие накопления, неизвестно.
Получается, у Соареса весьма своеобразный профессиональный риск: если он всё-таки спасёт человечество, придётся снова задуматься о пенсии. 😁