Ведутся некоторые споры о том, как скоро ИИ достигнет общего уровня человеческого интеллекта. По опросам сотен ученых, это, вероятно, произойдет к 2040, что всего через 25 лет, и это не так уж и нескоро.

Но может произойти и следующее:
Слабому ИИ потребуется несколько десятилетий, чтобы стать AGI с низким уровнем интеллекта, но в конечном итоге это все равно произойдет. Компьютер будет способен понимать окружающий мир на уровне четырехлетнего ребенка, но уже через час он будет понимать сложнейшую теорию физики, которая объединяет теорию относительности с теорией квантовой механики, что не удавалось сделать ни одному человеку. Через еще полтора часа AGI достигает уровня ASI и будет превышать интеллект любого человека в 170000 раз или 270000, или какая разница вообще.

Сверхинтеллект такой величины мы даже отдаленно понять не сможем. Все равно, что шмель попытается разобраться в Кейнсианской экономике. В нашем мире уровень IQ составляет в среднем 130 баллов для умного человека и 85 для глупого, мы даже не способны представить уровень IQ в 12952.

Точно известно, что абсолютное доминирование людей на Земле предполагает четкое правило – с разумом приходит сила. Это означает, что ASI станет самым мощным созданием, когда–либо существовавшим на Земле, и это может произойти через несколько десятилетий.

Если наши скудные мозги были способны придумать Wi–Fi, то чему–то, что в 100 или 1000 или 1000000000 раз умнее, чем мы, не составит труда контролировать расположение каждого отдельного атома во вселенной.
Все, что мы привыкли воспринимать как некую магию, любая сила, считавшаяся нами чем–то божественным, станет для ASI простой, как выключение света. Создание технологии обратного старения человека, лечение болезней и голода, перепрограммирование погоды для защиты будущей жизни на Земле — все это станет возможным. Но также возможным будет и моментальное прекращение существования всех форм жизни на Земле.

ASI станет всемогущий Богом на Земле, и самым важным вопросом для нас останется тогда этот:


Будет ли этот Бог добрым?