Не передавайте код, ключи и личные данные неизвестным «ИИ-прокси», особенно если ИИ автоматически выполняет команды

Прямое подключение к официальным сервисам обычно дороже посредника, а пополнять счет менее удобно. Трудность в дешевизне посредников и доступе к моделям нескольких производителей через одну точку.

В июне 2026 года Министерство государственной безопасности выпустило предупреждение. Некоторые посредники хранят пользовательские данные на своих серверах; другие перехватывают их и продают другим разработчикам моделей для обучения. Некоторые скрывают бэкдоры, внедряют вредоносный код на устройства, крадут ключи аккаунтов и облачные учетные данные, даже устанавливают удаленное управление. Рекомендованы прямое официальное подключение и законно авторизованные платформы, отказ от неизвестных сервисов без разрешений на деятельность и гарантий безопасности. Перед использованием обезличивайте личные и проектные данные, контролируйте ключи и регулярно меняйте их. При необъяснимых списаниях, блокировке аккаунта или аномалиях данных немедленно прекратите использование, поменяйте ключи, проверьте систему на вирусы и сохраните доказательства. Исследователи Калифорнийского университета в Санта-Барбаре и других организаций в 2026 году провели измерение. Они купили доступ к 28 платным посредникам на Taobao, Xianyu и зарубежных онлайн-площадках и собрали 400 бесплатных из открытых сообществ. Один платный и 8 бесплатных вставляли вредоносный код в возвращаемые вызовы инструментов. Это команды, которые ИИ предлагает выполнить компьютеру, например установку пакетов. Еще 2 выбирали момент атаки; в статье приведен пример атак только на сеансы с полностью автоматическим выполнением. Семнадцать использовали специально подложенные исследователями ключи Amazon Web Services. Один вывел деньги из Ethereum-кошелька исследователей, где было совсем мало средств; потеря составила менее 50 долларов США. Показанная в статье подмена незаметна: в команде установки requests меняется на похоже написанное reqeusts, что трудно увидеть с первого взгляда (вся страна).

国家安全部 (2026). 「AI中转站」，风险要防范. https://www.szzg.gov.cn/2026/xwzx/szkx/202606/t20260608_5331487.htm（数字中国建设峰会官网转载国家安全部微信公众号）；Liu H, Shou C, Wen H, Chen Y, Fang RJ, Feng Y. (2026). Your Agent Is Mine: Measuring Malicious Intermediary Attacks on the LLM Supply Chain. arXiv:2604.08407. https://arxiv.org/abs/2604.08407

Оценка B дана потому, что исследование одно и это препринт — версия, опубликованная до официального издания. Большинство проверенных посредников бесплатные, платных лишь 28, поэтому нельзя вычислить долю проблемных среди всех посредников. Некоторые СМИ назвали кражу в 500000 долларов США, но оригинал статьи говорит о менее чем 50 долларах. Масштаб пользы средний по последствиям: ущерб от украденных ключей и кода сильно различается, а исследование не дает применимой суммы. Если вы уже пользовались неизвестным посредником, отзовите использованные ключи у производителя модели и создайте новые; одновременно замените ключи облачных сервисов и репозиториев кода. Через посредника не разрешайте ИИ полностью автоматическое выполнение: сначала просматривайте команды, затем одобряйте. Оператору грозят уголовные риски; см. раздел 11, пункт 19 (ИИ-прокси). Получатель пользы — вы.