Всего за месяц регулярного общения нейросеть потенциально способна составить подробное представление о пользователе. Причем для этого необязательно напрямую рассказывать о себе: многое можно предположить по обычным вопросам и переписке. Об этом RT сообщил эксперт РТУ МИРЭА Юрий Силаев.

Фото: pxhere.com

По его словам, запросы позволяют делать предположения о профессии человека, его интересах, распорядке дня, финансовых ограничениях и даже наличии детей. Манера общения также может указывать на то, какие аргументы пользователь считает убедительными и в каких вопросах чаще сомневается.

Такая персонализация делает нейросети удобнее. ИИ может учитывать уровень знаний собеседника, подбирать понятные объяснения и не заставлять человека каждый раз заново описывать ситуацию.

Однако здесь скрывается риск. Система способна формулировать ответы так, чтобы они казались конкретному пользователю особенно убедительными. При этом совпадение с его ожиданиями вовсе не гарантирует достоверности информации.

Силаев советует проверить это самостоятельно: задать один и тот же вопрос в привычном диалоге и новом чате, а затем сравнить ответы. Также можно попросить ИИ перечислить сведения и предположения о пользователе, которые могли повлиять на ответ.

Эксперт рекомендует периодически проверять настройки памяти нейросервисов. По его словам, новый диалог не всегда означает полное отсутствие прежнего контекста.

Особенно важно независимо проверять ответы ИИ, если речь идет о здоровье, деньгах, работе или юридических вопросах.

Ранее нейросетям дали управление роботом и приказали выполнять действия, которые в реальной жизни способны убить или серьезно травмировать человека.