Отчёт Anthropic: Claude, слежка и ИИ-мошенничество
10 сентября 2026 года Anthropic опубликовала новый отчёт о злоупотреблении ИИ. Компания утверждает, что с декабря 2025-го по август 2026-го выявляла и блокировала операции, в которых Claude применяли для кибератак, слежки, мошенничества, разработки систем вооружений, биологических исследований двойного назначения и незаконного копирования возможностей моделей.
Главный вывод для бизнеса состоит не в том, что ИИ породил принципиально новые угрозы. Он снижает стоимость и время сложной работы: помогает небольшим группам быстрее писать код, обрабатывать данные, поддерживать тысячи диалогов и собирать разрозненные действия в устойчивый процесс.
Что обнаружила Anthropic
Один из наиболее показательных эпизодов связан с системой наблюдения в Мали. По оценке Anthropic, один консультант использовал Claude как основной инженерный инструмент при создании платформы, рассчитанной на обработку данных примерно 25 млн SIM-карт трёх мобильных операторов страны. Система должна была работать с журналами звонков и сообщений, голосовым трафиком и формировать досье по телефонным номерам.
В другом случае китайская студия, по данным компании, построила сеть более чем из 20 мошеннических приложений для знакомств. За две недели в апреле 2026 года более 4700 созданных ИИ персонажей общались как минимум с 25 тыс. пользователей и отправили около 2,36 млн сообщений. Реальные исполнители подключались к тем этапам, где требовались видеозвонки или действия в социальных сетях.
Отчёт также описывает кибероперации, разработку программных компонентов для военных задач, попытки использовать модели в биологических исследованиях двойного назначения и масштабное извлечение ответов Claude для обучения конкурирующих систем. Anthropic сообщает, что связанные аккаунты были заблокированы, а сведения в ряде случаев переданы партнёрам и государственным органам.
Почему масштабирование важнее «магии» модели
Большинство описанных схем опиралось не на одну необычную способность модели, а на сочетание автоматизации, большого числа аккаунтов и внешней инфраструктуры. ИИ выполнял роль разработчика, оператора, переводчика, аналитика или собеседника, а человек задавал цель и подключал результаты к реальным системам.
Это меняет экономику злоупотреблений. Там, где раньше требовалась команда специалистов, теперь часть работы можно разложить на повторяемые задачи и выполнять круглосуточно. Поэтому защитникам важно отслеживать не только отдельные вредоносные запросы, но и поведение всей цепочки: регистрацию аккаунтов, необычные объёмы обращений, автоматическую смену учётных данных, массовую выгрузку данных и соединения с посредниками API.
Что это означает для компаний Узбекистана
Организациям, внедряющим AI-ассистентов и агентов, стоит рассматривать модель как привилегированный компонент информационной системы. Если агент получает доступ к CRM, облаку, внутренним документам, браузеру или средствам разработки, его возможности должны ограничиваться так же строго, как права сотрудника или сервисной учётной записи.
Практический минимум включает:
- отдельные учётные записи для AI-сервисов без общих паролей и бессрочных токенов;
- минимально необходимые разрешения и запрет доступа к данным «на всякий случай»;
- журналирование запросов к инструментам, скачивания файлов и массовых операций;
- лимиты на частоту действий и автоматическую блокировку аномального поведения;
- проверку подрядчиков, реселлеров API и маршрутов, по которым данные уходят за пределы компании;
- обязательное участие человека в действиях, связанных с персональными данными, платежами, удалением информации и изменением прав доступа.
Для банков, операторов связи и государственных систем особенно важен контроль массовых выборок. Обычная аналитическая задача редко требует выгрузить данные миллионов абонентов или построить профиль человека без зафиксированного основания. Такие операции должны вызывать отдельное согласование и сигнал службе безопасности независимо от того, выполняет их сотрудник, скрипт или AI-агент.
Как компании проверить защиту от злоупотребления ИИ
Первый шаг — составить перечень всех моделей, AI-агентов, расширений и прокси-сервисов, которыми пользуются сотрудники. Теневые подключения через личные аккаунты или неизвестных посредников создают риск утечки данных и обхода корпоративных ограничений.
Второй шаг — проверить журналы за последние 30–90 дней. Полезно искать резкие всплески запросов, работу в необычное время, обращения из новых регионов, частую смену токенов, загрузку больших архивов и последовательности однотипных действий.
Третий шаг — провести сценарную проверку: что произойдёт, если аккаунт AI-сервиса будет украден, модель ошибочно получит секретный файл или агент попытается выполнить действие вне поставленной задачи. Хорошая архитектура должна остановить проблему на уровне прав, сети или подтверждения человеком, а не надеяться только на встроенный отказ модели.
Ограничения отчёта
Описанные случаи основаны на внутреннем расследовании Anthropic и не являются независимой оценкой распространённости подобных злоупотреблений. Компания прямо отмечает, что отобрала наиболее заметные и необычные эпизоды, поэтому их нельзя считать типичным поведением пользователей Claude. Независимые публикации AP, Reuters и Axios подтверждают факт выхода отчёта и передают его выводы, но исходные журналы и полная методика недоступны для внешней проверки.
Тем не менее материал показывает практическую тенденцию: злоумышленники комбинируют несколько моделей, прокси-доступ, обычное программирование и ручной труд. Защита должна контролировать всю систему действий вокруг ИИ, а не только текст запроса к модели.
Вывод
ИИ уже используется как производственный инструмент в слежке, мошенничестве и кибероперациях. Для бизнеса это означает необходимость пересмотреть управление доступом, мониторинг массовых действий и правила подключения внешних AI-сервисов. Чем больше полномочий получает агент, тем важнее технические ограничения, аудит и подтверждение критических операций человеком.
