Расширение объема знаний нейросетей само по себе не делает искусственный интеллект опаснее. Куда больше внимания следует уделять тому, какие цели получают ИИ-агенты и какие ограничения действуют при их выполнении.

Фото: pxhere.com

Об этом в беседе с RT рассказал руководитель программы магистратуры «Проектирование и разработка систем ИИ» Университета ИТМО Александр Кугаевских.

Эксперт обратил внимание, что даже на фоне последних случаев хакерских атак искусственный интеллект не выходил из-под контроля человека. По его словам, заявления о том, что ИИ способен «захватить интернет», звучат эффектно, но не отражают сути происходящего.

В подобных ситуациях ИИ-агенты продолжали выполнять задачи, которые перед ними поставили люди. Проблема заключалась в другом: в процессе достижения цели системы могли выходить за установленные границы безопасности.

Кугаевских считает, что для снижения подобных рисков необходимо серьезнее подходить к обучению ИИ-агентов. Кроме того, следует жестче определять ограничения, которые система не должна нарушать даже ради выполнения поставленной задачи.

Ученый сравнил нынешний подход некоторых агентов с принципом «вижу цель, не вижу препятствий». Поэтому одной из важных задач разработчиков становится создание таких механизмов, которые не позволят системе добиваться результата любой ценой.

При этом постоянное пополнение знаний нейросетей Кугаевских угрозой не считает. По его мнению, новые данные прежде всего расширяют возможности искусственного интеллекта и помогают ему эффективнее справляться с поставленными задачами.

Ранее АБН24 писало, что почти 42% российских ретейлеров намерены в ближайший год снизить затраты на персонал за счет внедрения искусственного интеллекта.