Качество ответа искусственного интеллекта во многом начинается еще до того, как нейросеть приступила к работе. Чем точнее пользователь сформулировал задачу, тем выше вероятность получить подходящий результат. Однако даже уверенный и подробный ответ ИИ нельзя автоматически считать достоверным.
Фото: pxhere.com
Об этом в беседе с RT рассказал председатель совета по противодействию технологическим правонарушениям КС НСБ России Игорь Бедеров.
По словам специалиста, современные модели не обладают сознанием и не несут ответственности за выданную информацию. Их работу он сравнил со стажером, который прочитал огромное количество книг, но не всегда способен правильно разобраться в контексте.
Поэтому ИИ может ошибаться и даже генерировать несуществующие факты. Особенно внимательно Бедеров рекомендует относиться к ответам по юридическим, медицинским, финансовым и техническим вопросам.
Одним из способов дополнительной проверки эксперт назвал повторный запрос к нейросети. Пользователь может попросить ИИ проверить собственный ответ и привести источники, на которых он основывался. При этом сами указанные источники также стоит проверять.
Есть и другое правило: нейросети лучше не сообщать информацию, которую человек не хотел бы однажды увидеть в открытом доступе.
В этот перечень Бедеров включил ФИО, домашний адрес, номер телефона, паспортные данные, СНИЛС и ИНН. Не следует отправлять ИИ номера банковских карт и счетов, фотографии документов, биометрические данные, пароли и ключи доступа.
Осторожность нужна и с чужой информацией. Сведения о третьих лицах, по словам специалиста, не стоит загружать без их согласия. Коммерческой тайне и служебным данным в запросах к нейросетям также не место.
Бедеров пояснил, что даже заявления сервиса о конфиденциальности не исключают технических рисков хранения информации или возможных утечек.
Эксперт также напомнил RT о действующем в России законе №152-ФЗ «О персональных данных». Дополнительные риски, по его словам, могут возникать при использовании зарубежных сервисов, где обработка информации осуществляется за пределами российской юрисдикции.
Ранее чат-бот чуть не спровоцировал военный конфликт между США и Китаем.
