Искусственный интеллект уже способен анализировать огромные массивы информации и находить закономерности, которые человеку пришлось бы искать значительно дольше. Но чем больше решений передается алгоритмам, тем острее становится вопрос: где участие человека должно оставаться обязательным.
Фото: unsplash/Markus Spiske
О сферах применения ИИ и связанных с ним рисках рассказал в беседе с RT председатель совета по противодействию технологическим правонарушениям КС НСБ России Игорь Бедеров.
По его словам, технологии искусственного интеллекта особенно активно внедряются там, где необходимо обрабатывать большие объемы данных и выявлять аномалии. Среди таких направлений Бедеров назвал кибербезопасность и цифровую криминалистику, медицину и фармакологию, финансовый сектор и скоринг.
ИИ также применяется в юриспруденции, документообороте, промышленности, логистике, государственных сервисах и системах контроля.
При этом собеседник RT считает, что существуют сферы, где возможности алгоритмов не должны означать их полную самостоятельность. Он назвал их «красными линиями», пересечь которые технически возможно, но социально опасно.
К таким областям Бедеров отнес вынесение окончательных судебных решений, психологическую и кризисную помощь, полностью автономное применение силы и воспитание детей. Отдельно он выделил управление критической инфраструктурой, если у человека отсутствует возможность немедленно вмешаться в работу системы.
Главный риск заключается не только в самой вероятности ошибки алгоритма. По словам Бедерова, последствия такого решения могут оказаться «невероятно дорогими».
Особенно опасной эксперт считает ситуацию, при которой люди уже не способны понять логику принятого алгоритмом решения и одновременно лишены возможности его отменить. В таком случае зависимость от технологии, по его оценке, превращается из технической проблемы в угрозу для общества.
Ранее стало известно, что главная угроза бума ИИ может оказаться не в том, что люди потеряют работу, а в том, что работа вообще перестанет быть необходимой для получения дохода.
