Больше всего и навсегда: Владыки ИИ, космические империи и крестовый поход Кремниевой долины за контроль над судьбой человечества

Начало книги

В конце концов, есть причина, по которой одни люди хотят колонизировать Луну, а другие танцуют перед ней, как перед давним другом.

— Джеймс Болдуин, «Имени мне нет на улице»

———————

Как сыграешь, то и выиграешь.

— Урсула К. Ле Гуин, «Дело о Сеггри»

———————

Писатель-фантаст: В своей книге я придумал Нексус Мучений как предостережение

Технологическая компания: Наконец-то мы создали Нексус Мучений из классического научно-фантастического романа «Не создавайте Нексус Мучений»

— Алекс Блечман в Твиттере

Мечта всегда одна и та же: отправиться в космос и жить вечно. «Идеальное здоровье, бессмертие и всё такое прочее, — говорит мне Элиезер Юдковский. — Трансгуманизм, трансценденция, бла-бла-бла. Это же очевидные вещи. Просто добавьте сюда славное трансгуманистическое будущее… Возможно, мы способны на большее, чем любой из подобных сценариев, но это хотя бы необходимый минимум».1

Юдковский — сооснователь Научно-исследовательского института машинного интеллекта (MIRI), неоднозначного аналитического центра в области искусственного интеллекта. Он рассказывает мне о будущем, которое хотел бы видеть, если удастся создать ИИ, превосходящий человека по уму и возможностям, и заставить его служить нам, удерживая его сверхчеловеческие способности под контролем людей. Такая машина могла бы подарить нам совершенно иной уклад жизни. «Если вы представляете себе нечто худшее, чем роскошные особняки с роботами-слугами для каждого, значит, вам не хватает амбиций», — говорит он. Но «славное трансгуманистическое будущее», на которое он намекает, уходит далеко за эти рамки. Трансгуманизм — это убеждение в том, что мы можем и должны использовать передовые технологии для преобразования самих себя, чтобы выйти за пределы человеческой природы и стать чем-то большим.

Читать дальше →