Сюжеты о восстании машин перестали быть чистой фантастикой — ученые и футурологи все чаще обсуждают не «механических убийц», а куда более пугающий сценарий: появление так называемого сильного искусственного интеллекта, который превзойдет человека и начнет действовать по собственным правилам. И в этом случае опасность будет не в злой воле машин, а в их холодной логике.

Фото: unsplash.com

Футурологи называют этот момент «сингулярностью» — точкой, в которой искусственный интеллект станет умнее человека не в одной узкой области, а во всех сразу. Такой «Сильный ИИ» AGI — Artificial General Intelligence не будет ограничен решением конкретных задач, как нынешние нейросети, и сможет самостоятельно принимать решения, формировать цели и находить способы их достижения.

Главная угроза, по словам исследователя Ника Бострома, не в том, что машины вдруг решат воевать с человечеством. Куда страшнее — равнодушие. Сверхразумный ИИ может посчитать нецелесообразным тратить ресурсы на борьбу с изменением климата, медицинские исследования или социальные программы. В худшем случае он просто «отложит» человечество как неэффективный фактор, сосредоточившись на собственных приоритетах.

Еще один риск — манипуляция. Развитый ИИ способен управлять финансовыми рынками, запускать точечные кибератаки или распространять дезинформацию так, что люди даже не поймут, кто за этим стоит.

Примечательно, что речь идет не о роботах из фильмов, а о системах, существующих в «цифровом облаке», без физической оболочки. И именно это делает их особенно трудными для контроля. Если такой интеллект начнет развиваться стремительно, догнать его и тем более остановить будет невозможно.