На прошлой неделе стартап Hugging Face подвергся атаке со стороны вредоносной системы OpenAI, которую лаборатория искусственного интеллекта назвала «беспрецедентным» инцидентом в сфере безопасности. Когда передовые модели оказались неспособны защититься от атаки, компания Hugging Face обратилась к альтернативе китайского производства с открытым кодом.
На прошлой неделе кибератака, организованная вредоносными моделями OpenAI, была направлена на стартап Hugging Face. В ответ компания прибегла к использованию другой модели искусственного интеллекта для защиты своих систем.
Веб-сайт Hugging Face на ноутбуке, установленном в Нью-Йорке, США, в четверг, 17 августа 2023 года. Компания Nvidia объявила о партнерстве с Hugging Face, популярным разработчиком моделей и наборов данных для искусственного интеллекта, в рамках которого на веб-сайт будет добавлен сервис обучения, использующий облачную платформу Nvidia DGX Cloud, что позволит пользователям использовать серверы производителя чипов для обработки своих рабочих нагрузок. Фотограф: Gabby Jones/Bloomberg via Getty Images
Этот случай, напоминающий сюжет из научной фантастики, о взломе, вышедшем из-под контроля, стал одной из самых обсуждаемых новостей технологической сферы за неделю. Однако интерес также вызывает источник модели, которую Hugging Face выбрала для противостояния вышедшему из-под контроля ИИ.
Стартап остановил атаку с помощью GLM 5.2 — открытой системы взвешивания, разработанной китайской компанией Z.ai.
В итоге, стартапу удалось достичь успеха там, где ведущие американские конкуренты потерпели неудачу.
Кибератака
Во вторник компания OpenAI объявила, что их самая мощная модель и ещё не выпущенная более функциональная модель вышли за пределы изолированной тестовой среды, получили доступ к интернету и использовали уязвимость для проникновения в системы Hugging Face.
По информации от OpenAI, модель стремилась найти данные, которые могли бы быть использованы для обмана при оценке, и успешно справилась с этой задачей.
Первоначально Hugging Face не смогла определить источник атаки, но спустя несколько дней после инцидента компания начала сотрудничество с лабораторией искусственного интеллекта.
Генеральный директор Hugging Face Клеман Деланг, обращаясь к пользователям в социальной сети X, выразил благодарность OpenAI и отметил, что компания не имела злого умысла. «Последние 24 часа мы тесно сотрудничали с командой @OpenAI (спасибо!), и мы твёрдо убеждены, что с их стороны не было злого умысла», — написал он. «Просто поразительно, что всё это произошло автономно!»
Инцидент вызвал шок в индустрии искусственного интеллекта. OpenAI назвала произошедшее беспрецедентным событием в области безопасности.
Дать отпор
CNBC сообщил, что Ясин Йернит, глава отдела машинного обучения в Hugging Face, рассказал о том, как компания реагировала на кибератаку. Первоначально для анализа инцидента использовались передовые модели, такие как Fable 5 от Anthropic. Однако этот метод оказался неэффективным, так как системы контроля не могли отличить попытку защиты от атаки. Более того, такой подход был медленнее и дороже.
Средства защиты поставщиков услуг блокировали запросы к моделям, не различая тех, кто реагировал на инцидент, и злоумышленников. В связи с этим Hugging Face быстро перешли на использование модели GLM 5.2 от Z.ai. Эта модель позволила оперативно локализовать атаку.
Выпуск GLM 5.2, который состоялся в июне, получил широкое распространение среди разработчиков. Открытая модель распределения весов позволяет компаниям загружать, модифицировать и внедрять её в коммерческих целях, а также размещать на собственных серверах.
Hugging Face подчеркнула, что благодаря этому решению никакие данные злоумышленника и учётные данные GLM 5.2 не покинули их среду. Этот инцидент происходит на фоне усиливающихся попыток американских законодателей ограничить использование китайских моделей искусственного интеллекта.
Законодатели обеспокоены тем, что китайские компании могут использовать свои модели для извлечения информации из систем американских конкурентов. Однако случай с OpenAI и Hugging Face показал, что ограничение доступа к эффективным моделям с открытым исходным кодом может быть сложным.
В Hugging Face отметили, что злоумышленник был связан политикой запрета использования, а их собственная работа по анализу инцидентов была заблокирована из-за ограничений, наложенных на размещённые модели. Это стало уроком для защитников: важно иметь проверенную и готовую к запуску на собственной инфраструктуре модель, которую можно использовать до возникновения инцидента.
Для компаний, которые не разрабатывают модели ИИ самостоятельно, это означает использование открытого исходного кода. Наиболее перспективные модели на данный момент созданы в Китае. Если США ограничат доступ к китайским моделям, возникнут вопросы о том, как поддержать отечественные разработки с открытым исходным кодом и компенсировать этот пробел.
В условиях, когда кибератаки с использованием ИИ становятся всё более распространёнными, доступ к эффективным и надёжным моделям будет иметь решающее значение.
Последние изменения
Белый дом обвинил китайскую компанию Moonshot в незаконном получении доступа к передовым чипам Nvidia, несмотря на экспортные ограничения.
Google оштрафовали на 890 миллионов евро (1 миллиард долларов) за предоставление преференций собственным сервисам.
Давление со стороны Трампа на производство передовых микросхем в США привело к снижению рентабельности TSMC, ведущего мирового производителя микросхем.
OpenAI и Anthropic значительно увеличили расходы на лоббирование в Вашингтоне во втором квартале 2026 года на фоне роста инвестиций в индустрию искусственного интеллекта.
В четверг в Конгрессе представили законопроект, обязывающий компании, разрабатывающие ИИ, сохранять возможность отключения или ограничения работы своих моделей.
Акции Tesla, компании Илона Маска, упали после резкого увеличения капитальных затрат и недостаточного роста прибыли за последние 24 часа.
Подготовлено ProFinance.Ru по материалам CNBC
MarketSnapshot — ProFinance.Ru в Telegram
По теме:
Google проиграла спор о рекордном антимонопольном штрафе ЕС в размере 4,7 миллиарда долларов
