Anthropic опубликовала отчет о злоупотреблении ИИ-сервисом Claude. В документе описаны случаи мошенничества, слежки, разработки оружия и вредоносного ПО.
В Китае организаторы создали сеть из 20 фейковых дейтинговых платформ. За две недели там сгенерировали более 4,7 тыс. ИИ-персонажей, которые взаимодействовали минимум с 25 тыс. пользователей. После этого у людей выманивали деньги.
Anthropic также зафиксировала шесть эпизодов, связанных с разработкой оружия. Claude применяли для создания ПО управляемой ракеты и противоторпедной системы.
В Иране модель разработала расширение для браузера Firefox, собиравшее данные из соцсетей. После анализа сотен тысяч публикаций система выделила 39 оппозиционных аккаунтов для дальнейшего наблюдения.
Подпишись, тут про технолоджии.
P.S.: Разрабатываю backend-решения на Python любой сложности: REST API, агентные системы, telegram-боты, парсеры, интеграции с внешними сервисами. Пишите в Telegram: @telebotgpt и подписывайтесь на канал: https://t.me/itpolice