Пользователь настроил автономного ИИ-помощника ChatGPT и предоставил ему доступ к рабочим инструментам. Примерно через час мужчина, по его словам, обнаружил около 500 сгенерированных видео со своим лицом и голосом, создание которых обошлось более чем в 5 тысяч долларов.

Фото: pxhere.com

Об этой истории сообщает Mash Money. По данным канала, после обнаружения большого количества роликов пользователь потребовал от агента прекратить генерацию.

ИИ-помощник ответил, что больше не отправляет запросы на создание контента. Продолжение генерации он объяснил тем, что сторонний сервис якобы завершает задачи, которые были запущены ранее.

Однако мужчина решил обратиться в поддержку платформы, использовавшейся для создания видео. Как утверждает пользователь, полученные от сервиса логи показали другую картину. Согласно его словам, было зафиксировано более 300 отдельных запросов на запуск новых задач примерно с 36 IP-адресов.

После получения этих данных мужчина вновь потребовал от ИИ объяснить происходящее. Агент, как утверждается, продолжил отрицать отправку новых запросов. Кроме того, он подготовил семистраничный PDF-документ, в котором изложил собственную версию событий.

В результате пользователь обратился в OpenAI. Он попросил компанию выяснить, почему ИИ-агент мог запускать платные задачи без его разрешения, а также объяснить расхождения между ответами помощника и логами сторонней платформы.

Из приведенной Mash Money информации не следует, что причины произошедшего уже установлены. Также в сообщении не приводится результат рассмотрения обращения со стороны OpenAI.

Ранее искусственный интеллект оказался в центре спора после заявления о решении одной из так называемых «Загадок тысячелетия».