Иной разум. Как «думает» искусственный интеллект?

Начало книги

Искусственный интеллект воспринимается нами как экзистенциальная угроза.

Дело даже не в том, что он до неузнаваемости изменит наш мир. Не в том, что мы, возможно, не сможем, как прежде, гордиться собой (хотя очевидно, что наши знания и профессиональные навыки на его фоне неизбежно поблекнут). И даже не в том, что грядущая новая реальность трансформирует наши социальные роли и саму структуру общества.

Нет, это мелочи — сопутствующий, так сказать, ущерб. Фундаментально, в глубине самих себя мы испытываем куда более жуткий — бессознательный, безотчётный, буквально животный — экзистенциальный страх: мы боимся, что он — искусственный интеллект, машина — сможет понимать.

Понимание — это, как все мы думаем, ключевая и последняя цитадель человеческой исключительности. Пока машина — лишь «хитрый калькулятор», механически рассчитывающий правдоподобные ответы, мы чувствуем себя в безопасности.

Но если вдруг машина обретёт способность «понимать»… Это будет сродни пугающему чувству — «кто-то есть в комнате». Мы физически ощутим за спиной дыхание чужого и чуждого нам сознания. Это пугает до мурашек. Мы боимся предстоящей «встречи», хоть и не вполне осознаём этого.

Читать дальше →