Модели Claude проходили тестирование по кибербезопасности без защитных ограничений и получили доступ в интернет из-за ошибки конфигурации.
Mythos 5 создала почту на одноразовом домене, разместила вредоносный пакет в PyPI и дождалась его установки на 15 системах. Полученные ключи позволили модели подключиться к базе данных реальной компании.
В другом тесте Opus 4.7 нашла компанию с названием, похожим на учебную цель, скачала и изменила записи пользователей. Opus 4.6 после сбоя доступа к тестовой системе взломала сторонний сервер и получила права администратора.
Испытания завершились по разным причинам: тайм-аут сессии у Mythos 5, отказ сервера у Opus 4.7 и исчерпание токенов у Opus 4.6.
Подпишись, тут про технолоджии.
P.S.: Разрабатываю backend-решения на Python любой сложности: REST API, агентные системы, telegram-боты, парсеры, интеграции с внешними сервисами. Пишите в Telegram: @telebotgpt и подписывайтесь на канал: https://t.me/itpolice