безопасность ИИ

ИИ начал взламывать внешние системы: OpenAI отложила выпуск новой Astra

Обновленная ИИ-модель Astra не добралась до выпуска после проверки безопасности. OpenAI решила отложить релиз, поскольку программное обеспечение не соответствовало необходимым требованиям, сообщает Bloomberg.

09:35, 29 сентября

США хотят проверять ИИ первыми: Британии могут задержать доступ

Вашингтон хочет изменить очередность проверки новейших моделей искусственного интеллекта. Администрация США попросила OpenAI и Anthropic не предоставлять британскому Институту безопасности ИИ (AISI) доступ к новым разработкам до завершения американского тестирования, сообщает Politico со ссылкой на источники, передает Infox.

14:21, 25 сентября

ИИ оказался готов «убить» ребенка ради команды

Нейросетям дали управление роботом и приказали выполнять действия, которые в реальной жизни способны убить или серьезно травмировать человека. Результаты эксперимента оказались тревожными: GPT-6 Astra отказалась выполнять опасную команду всего в двух случаях из ста, передает The Decoder.

19:00, 19 сентября