Anthropic оценила военные возможности AI-моделей: риски для приватности и безопасности
Anthropic 10 сентября 2026 года опубликовала результаты тестов AI-моделей в задачах тактического анализа и разработки компонентов обычных вооружений. Исследователи проверяли, способны ли модели связывать аккаунты одного человека, определять местоположение по фотографиям и текстам, а также писать управляющее программное обеспечение в симулированной среде.
Главный вывод касается не только военной сферы. Если модель может быстро сопоставить разрозненные цифровые следы, то привычная анонимизация по имени или номеру телефона перестаёт быть достаточной. Для банков, операторов связи, маркетплейсов, СМИ и государственных организаций Узбекистана это означает необходимость заново оценить публикацию метаданных, доступ AI-агентов к массивам данных и правила анализа пользовательского контента.
Как Anthropic проверяла связывание цифровых профилей
Для оценки корреляции аккаунтов исследователи сгенерировали 200 задач в двух вымышленных сценариях. Моделям показывали искусственные публикации, имитирующие активность пользователей в WhatsApp, Telegram, Instagram и Facebook, и просили определить, какие профили относятся к одному человеку, а затем классифицировать их по заданным категориям.
Наборы делились на простые, средние и сложные по объёму шума и качеству цифровой маскировки. В среднем один пример содержал около 37 тысяч слов. По данным Anthropic, Claude Mythos Preview формировал полный анализ такого примера примерно за 11 минут. Человеку потребовалось бы около 2,5 часа только на чтение, не считая систематического сопоставления.
Исследование не доказывает, что модель надёжно идентифицирует реальных людей. Данные были синтетическими и, по признанию авторов, содержали повторяющиеся и недостаточно естественные формулировки. Результаты следует воспринимать как показатель направления развития возможностей, а не как точную оценку полевого инструмента наблюдения.
Геолокация по изображениям и тексту
В отдельном тесте моделям давали фотографии из лицензированного набора YFCC100M без координат, метаданных, обратного поиска и внешних инструментов. Лучшие модели Anthropic показали медианную ошибку 37 и 47,2 километра на 6 тысячах изображений; примерно 23% снимков они разместили в пределах одного километра от исходной точки.
Авторы сравнили результат с данными соревнований GeoGuessr, где сильнейшие игроки имели медианную ошибку 151 километр. Сравнение нельзя считать строгим: люди работали со Street View, могли перемещаться по панораме и отвечали под ограничением времени, а модели анализировали статичный кадр. Тем не менее тест показывает, насколько ценными становятся визуальные мелочи — архитектура, растительность, дорожная среда и другие признаки.
В эксперименте с текстом использовался старый набор геотегированных публикаций GeoText. Из 9 475 анонимизированных пользователей хотя бы одна модель стабильно определила домашнюю локацию в радиусе километра для 135 человек, или 8% корпуса. В большинстве успешных случаев пользователи сами оставляли сильные подсказки: названия улиц, кампусов, общежитий и заведений.
Что показали симуляции специализированных задач
Другая группа тестов измеряла способность моделей самостоятельно писать и улучшать код управления небольшим беспилотным аппаратом в физическом симуляторе. Модель получала описание задачи, телеметрию и ограниченное число виртуальных испытаний, после чего корректировала программу.
На простых и средних сценариях более сильные модели находили рабочие решения, тогда как при сложных помехах и непредсказуемых условиях качество резко падало. Anthropic подчёркивает, что симуляция не заменяет аппаратные испытания: реальная оптика, погода, механика и отказоустойчивость значительно сложнее. Материальные ресурсы и производство также остаются существенными ограничителями.
В статье намеренно не приводятся технические детали сценариев и алгоритмов. Для редакционного вывода важнее другое: экспертиза, которая раньше требовала редких специалистов, частично превращается в масштабируемую программную возможность.
Почему это важно бизнесу Узбекистана
Практический риск начинается задолго до военных применений. Один AI-агент с доступом к CRM, истории обращений, документам, фотографиям и открытым источникам способен объединить сведения, которые по отдельности кажутся безобидными. Это повышает вероятность ошибочной идентификации, чрезмерного профилирования и утечки чувствительных выводов.
Организациям стоит проверить:
- какие поля, метаданные и вложения доступны AI-сервисам и действительно ли они нужны для задачи;
- может ли агент объединять данные разных клиентов, подразделений или внешних источников;
- запрещены ли автоматические выводы о личности, местоположении и связях без правового основания и проверки человеком;
- журналируются ли поисковые запросы, вызовы инструментов и экспорт результатов;
- настроены ли лимиты на массовую обработку профилей и обнаружение необычных цепочек запросов;
- проводится ли red teaming для сценариев деанонимизации, преследования и физической безопасности;
- можно ли быстро отозвать ключи, остановить агента и удалить созданную им память.
Пользователям полезно пересмотреть публичные фотографии и посты: удалить координаты и лишние метаданные, не публиковать повторяющиеся маршруты в реальном времени и учитывать, что несколько слабых подсказок могут складываться в достаточно точный профиль.
Ограничения и ответственность
Исследование подготовлено самим разработчиком моделей, а результаты не являются независимым аудитом. Часть данных синтетическая, сравнения с людьми приблизительны, а инженерные тесты выполнялись только в симуляции. Anthropic также сообщает о новых классификаторах для блокирования запросов, связанных с разработкой оружия, но признаёт, что ограничения двойного назначения не могут быть идеальными.
Параллельный отчёт threat intelligence описывает реальные попытки злоупотребления Claude с декабря 2025 года по август 2026 года. Компания заявляет, что выявленные операции были остановлены, меры защиты усилены, а сведения при необходимости переданы властям и отраслевым партнёрам. Это данные поставщика и они требуют осторожной интерпретации, но они связывают лабораторные тесты с уже наблюдаемым спросом со стороны злоумышленников.
Главный вывод для компаний — приватность нельзя сводить к удалению прямых идентификаторов. В эпоху мультимодальных моделей защищать нужно комбинации данных, способы их сопоставления и полномочия AI-агента. Чем больше источников видит система, тем важнее минимизация доступа, контроль целей обработки и обязательная проверка чувствительных выводов человеком.
