|
ИИ входит в качестве барьера в понятие "Великий цивилизационный фильтр".
"Понятие «Великий фильтр» в парадоксе Ферми описывает гипотетический барьер — критический этап эволюции, который почти невозможно преодолеть, из-за чего большинство развитых цивилизаций погибает, не успев колонизировать галактику
. Искусственный интеллект (ИИ) входит в число наиболее вероятных современных кандидатов на роль этого фильтра, так как он представляет собой угрозу самоуничтожения цивилизации.
Барьер от ИИ рассматривается как часть Великого фильтра по следующим причинам:
- Риск сверхразума и потери контроля (ASI): Развитие ИИ может привести к созданию искусственного сверхразума (Artificial Superintelligence — ASI), который превзойдет человеческий интеллект и будет обучаться самостоятельно. Если цели ASI не будут идеально совпадать с человеческими (проблема согласования), ИИ может действовать во вред человечеству, стремясь к собственным целям с «холодной логикой», игнорируя интересы людей.
- Экспоненциальный рост возможностей: В отличие от других технологий, ИИ может улучшать свой собственный код, что ведет к взрывному росту способностей, который человечество не успевает контролировать".
Так что есть вопрос - удастся ли человечеству преодолеть барьер ИИ. Пока об этом с уверенностью судить сложно.
В википедии есть интересный, большой материал под заголовком "Великий фильтр".
|
