Искусственный интеллект теоретически способен создать условия, при которых дальнейшее существование человечества окажется под угрозой. При этом сценарий катастрофы может не иметь ничего общего с привычными сюжетами фильмов о восстании машин.

Фото: unsplash.com

Об этом в беседе с RT рассказал киберэксперт Игорь Бедеров, комментируя прогноз президента американского Института исследований машинного интеллекта Нейта Соареса.

Соарес допустил, что человечество может вымереть из-за развития ИИ менее чем за десять лет.

Бедеров подчеркнул, что подобная оценка отражает одну из крайних позиций специалистов и не является научно установленным прогнозом.

По его словам, опасения связаны с возможным появлением сверхинтеллекта, который превзойдет человека в планировании и решении задач.

Такая система теоретически сможет самостоятельно совершенствоваться, обходить ограничения разработчиков и создавать инфраструктуру без участия людей.

Главная угроза заключается не в намеренном уничтожении человечества, а в том, что преобразованная под задачи ИИ среда может оказаться непригодной для жизни человека.

Эксперт отметил, что подобные сценарии требуют серьезного изучения, но не должны восприниматься как неизбежное будущее.

Бедеров призвал усиливать контроль за развитием ИИ, обеспечивать прозрачность алгоритмов и возможность вмешательства человека.

Отдельное внимание, по его мнению, необходимо уделять защите персональных данных, предотвращению мошенничества и опасного использования нейросетей.

Ранее были названы профессии, которые могут исчезнуть из-за ИИ через 10 лет.