Обратный отсчет

Начало книги

«NATURE» (N): …Но ведь вы отдаете себе отчёт, что уязвимости будет подвержена любая физическая система, созданная по имеющимся технологиям.

Курт Максвелл (KM): С этим сложно спорить, ведь и иголку теоретически можно привести в равновесие, поставив её вертикально. Все дело в воплощении такой защиты от уязвимостей. В природе не существует абсолютно совершенных искусственных систем. Но это, именно та цель, к которой мы все стремимся. В нашем случае — в мире IT-технологий, основанных на искусственном интеллекте, — десять, двадцать, даже пятьдесят лет — не срок.

N: Но не слишком ли мы замыкаемся на этой проблеме? Вернее, не слишком ли много мы создаем предпосылок для проблем, замыкая всё больше функционала на электронных помощниках?

КМ: Вы хотите остановить научно-технический прогресс? (Улыбается) Если серьёзно, то наш мир периодически проходит перебаллансировку. Это исторический процесс. Да, электронным системам подчинено всё больше сфер нашей жизни. Но ведь это востребовано. Любой руководитель ставит на вакантное место сотрудника, наиболее хорошо разбирающегося в конкретном сегменте общей задачи, а главное, способного наиболее эффективно закрывать этот сегмент. А теперь спроецируйте ситуацию на всё общество. Тот же принцип. Электронный мозг работает там, где он намного эффективнее человеческого. А что таких отраслей становится всё больше — объективная реальность. Посмотрите, что творится в России! После известных событий там наступил хаос! Причина понятна: люди не в состоянии справиться с управлением, когда их версия системы искусственного интеллекта, наделённая контролем этого самого управления, перестаёт функционировать.

Читать дальше →