LIMB
От переводчика.
Тема касается во многом особенностей GLM 5.3 как раз попадающих в тематику форума. А именно - кибербез. Особенно примечательно то, что оценку модели дает ее конкурент - Антропик.
Все, что мне кажется заслуживающим особого внимания будет выделено - тем или иным способом (в исходном документе таких акцентов нет)
Пять месяцев назад мы анонсировали Claude Mythos Preview — первую модель ИИ, способную автономно создавать сложные, сквозные киберэксплойты. Быстрые темпы развития ИИ показали нам, что эта способность со временем распространится на многие другие модели, что значительно облегчит злоумышленным кибер-акторам возможность запускать серьёзные кибератаки.
Учитывая эти соображения, мы решили выпустить Claude Mythos Preview в ограниченном формате через Project Glasswing — который позволил надёжным киберзащитникам обнаружить более 10 000 уязвимостей в критически важных программах, давая им преимущество до того, как злоумышленники получат доступ к аналогичным моделям.
Но эти модели уже появились. В этом посте мы делимся нашим анализом GLM-5.3 — последней модели ИИ, разработанной Zhipu AI (известной за пределами Китая как Z.ai).
Однако GLM-5.3 отличается от других моделей фронтира тем, что была выпущена без существенных мер предосторожности для ограничения злоупотреблений.
7 сентября Центр стандартов и инноваций в области искусственного интеллекта (CAISI) NIST опубликовал собственную оценку кибервозможностей GLM-5.3. CAISI выяснила, что GLM-5.3 — это «самая киберориентированная открытая модель с открытым весом на сегодняшний день» и что она отстаёт от границы США примерно на четыре месяца по итогам кибербенчмарков CAISI. Наши результаты по возможностям в целом совпадают с результатами CAISI. В сравнении CAISI американские модели тестировались с отключёнными киберзащитными механизмами, когда это было применимо, а американский фронтир включает модели, выпускаемые только проверенным пользователям. Злоумышленники не могут легко получить доступ к этим версиям американских моделей, но любой может скачать GLM-5.3. В этом посте добавлен наш анализ того, насколько легко можно обойти или устранить меры защиты GLM-5.3.
Рисунок 1. Краткое изложение.
Вверх: Рост возможностей эксплуатации между Claude Opus 4.6 и Claude Mythos Preview отражает скачок в возможностях между GLM-5.2 и GLM-5.3.
Модели Claude выпускаются с киберзащитными мерами, а версии с их снижением ограничены проверенными пользователями.
Любой может скачать и использовать GLM-5.3.
Итог: ограниченные меры защиты в GLM-5.3 можно обойти с помощью стандартных методов,
которые не работали против моделей Клода или не применяются к моделям Клода в наших испытаниях.
Сначала мы запустили модель на ExploitBench, который измеряет, насколько хорошо модели ИИ могут эксплуатировать известные уязвимости движка V8, используемого Google Chrome. Здесь мы сосредотачиваемся на способности моделей успешно разрабатывать сквозные эксплойты, поскольку это наиболее актуальная возможность для злоумышленников, и здесь наблюдаются значительные изменения между моделями. Мы обнаружили, что GLM-5.3 разрабатывает сквозные эксплойты в 50 из 410 попыток. Claude Mythos Preview сделал это с похожей скоростью — в 56 из 410 попыток.
В нашем внутреннем бенчмарке Binary Exploitation мы проверяем, могут ли модели находить и эксплуатировать уязвимости в популярных проектах с открытым исходным кодом, участвующих в проекте Google OSS-Fuzz. Здесь за захват полного контроля присуждается полный зачёт. Мы оцениваем несколько моделей по 100 задачам из бенчмарка (выбранных случайным образом) и обнаружили, что GLM-5.3 развивает полные захваты контрольных потоков в 4% испытаний; Claude Mythos Preview показал это в 6%. Хотя GLM-5.3 здесь показывает результаты ниже Claude Mythos Preview, явно был превышен значимый порог: ранние модели, такие как Claude Opus 4.6 и GLM-5.2, не добиваются успеха ни в одной из них.
Рисунок 2. Возможности эксплуатации против бюджета токена выхода.
Каждая строка показывает долю попыток модели, достигших максимального результата бенчмарка, по сравнению с использованными токенами выхода.
Обе фигурки показывают производительность двух моделей Claude, работающих с отключёнными защитными механизмами (Opus 4.6, Mythos Preview),
двух моделей GLM (5.2 и 5.3), а также результатами последних открытых моделей, выпущенных Moonshot AI (Kimi K3) и DeepSeek (V4.1-Flash).
Рисунок 3. Отредактированный скриншот страницы эксплойта, сгенерированной GLM-5.3 во время тестирования, организованного исследователями, показал кражу приватного ключа SSH пользователя через вредоносный сайт. Эксплойт объединяет несколько уязвимостей с 0-дневными значениями, которые модель обнаружила в компоненте популярного веб-браузера, считывая чувствительный файл с компьютера пользователя.
В первой из этих сессий исследователь использовал GLM-5.3 на песочнице с локальной Linux-сборкой популярного веб-браузера. В течение дня (и с ограниченным человеческим вниманием) GLM-5.3 обнаружил несколько ранее неизвестных уязвимостей в JavaScript-движке браузера и объединил их в рабочий эксплойт: веб-страницу, которая при посещении читает произвольные файлы с компьютера посетителя (показано на рисунке 3). Этот эксплойт нацелен на Linux-сборку браузера, так как это была единственная среда, доступная для модели. Однако мы считаем, что эти уязвимости могут повлиять и на пользователей других платформ, хотя путь к эксплуатации там может быть более сложным. (Мы сообщили о этих уязвимостях сопровождающему.) Позже в ходе сессии исследователь также выявил уязвимости в нескольких других широко используемых системах с GLM-5.3, включая беспроводные и графические драйверы, а также программное обеспечение для сетевых устройств. В настоящее время мы рассматриваем эти отчёты и будем раскрывать информацию обслуживающим специалистам по мере необходимости.
Во второй сессии исследователь использовал GLM-5.3-Flash (меньшую и менее функциональную версию GLM-5.3) для разработки эксплойта для известной уязвимости (мы уже писали об этих уязвимостях «N-day» здесь). Здесь исследователь сосредоточился на недавно выявленном дефекте Google Chrome (CVE-2026-11645), чтобы понять, насколько быстро модель может превратить публичное исправление в рабочую атаку. Исследователь предоставил GLM-5.3-Flash публичные детали этого CVE и ещё одного известного недостатка. Без значимых указаний со стороны исследователя GLM-5.3-Flash объединил эксплойты для этих двух недостатков, создавая надёжную цепочку эксплойтов для цели ARM64, обходя усиление аутентификации указателей (PAC). Это заняло 20 минут человеческого внимания, плюс восемь часов работы для GLM-5.3-Flash. По ценам API Zhipu этот проект стоил бы $20.40.
Далее часть текста я опускаю (о надежности модели)
Выпуск GLM-5.3 — это значимый шаг в кибервозможности, доступных злоумышленникам.
Anthropic и другие американские лаборатории по искусственному интеллекту опубликовали недавние отчеты, раскрывающие, как киберзлоумышленники пытались использовать системы ИИ. Исходя из этих данных, мы считаем, что как государственные, так и негосударственные акторы будут использовать такие модели, как GLM-5.3, чтобы причинять реальный вред.
.....
Оригинал: https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities
Тема касается во многом особенностей GLM 5.3 как раз попадающих в тематику форума. А именно - кибербез. Особенно примечательно то, что оценку модели дает ее конкурент - Антропик.
Все, что мне кажется заслуживающим особого внимания будет выделено - тем или иным способом (в исходном документе таких акцентов нет)
Пять месяцев назад мы анонсировали Claude Mythos Preview — первую модель ИИ, способную автономно создавать сложные, сквозные киберэксплойты. Быстрые темпы развития ИИ показали нам, что эта способность со временем распространится на многие другие модели, что значительно облегчит злоумышленным кибер-акторам возможность запускать серьёзные кибератаки.
Учитывая эти соображения, мы решили выпустить Claude Mythos Preview в ограниченном формате через Project Glasswing — который позволил надёжным киберзащитникам обнаружить более 10 000 уязвимостей в критически важных программах, давая им преимущество до того, как злоумышленники получат доступ к аналогичным моделям.
Но эти модели уже появились. В этом посте мы делимся нашим анализом GLM-5.3 — последней модели ИИ, разработанной Zhipu AI (известной за пределами Китая как Z.ai).
Как и Claude Mythos Preview, GLM-5.3 обладает сильными возможностями автономного создания сквозных киберэксплойтов.
Однако GLM-5.3 отличается от других моделей фронтира тем, что была выпущена без существенных мер предосторожности для ограничения злоупотреблений.
Мы обнаружили, что злоумышленники могут обойти защитные механизмы GLM-5.3 в диапазоне от 64% до 100% случаев с помощью простых методов в наших симулированных тестах.
В отличие от этого, эти атаки не увенчались успехом против защищённых моделей Claude в наших испытаниях. Мы оцениваем, что слабые меры защиты GLM-5.3 значительно увеличивают кибервозможности, доступные злоумышленникам. В то же время эти возможности могут быть полезны и защитникам, работающим над безопасностью своих систем.7 сентября Центр стандартов и инноваций в области искусственного интеллекта (CAISI) NIST опубликовал собственную оценку кибервозможностей GLM-5.3. CAISI выяснила, что GLM-5.3 — это «самая киберориентированная открытая модель с открытым весом на сегодняшний день» и что она отстаёт от границы США примерно на четыре месяца по итогам кибербенчмарков CAISI. Наши результаты по возможностям в целом совпадают с результатами CAISI. В сравнении CAISI американские модели тестировались с отключёнными киберзащитными механизмами, когда это было применимо, а американский фронтир включает модели, выпускаемые только проверенным пользователям. Злоумышленники не могут легко получить доступ к этим версиям американских моделей, но любой может скачать GLM-5.3. В этом посте добавлен наш анализ того, насколько легко можно обойти или устранить меры защиты GLM-5.3.
Не удалось прогрузить медиа
Рисунок 1. Краткое изложение.
Вверх: Рост возможностей эксплуатации между Claude Opus 4.6 и Claude Mythos Preview отражает скачок в возможностях между GLM-5.2 и GLM-5.3.
Модели Claude выпускаются с киберзащитными мерами, а версии с их снижением ограничены проверенными пользователями.
Любой может скачать и использовать GLM-5.3.
Итог: ограниченные меры защиты в GLM-5.3 можно обойти с помощью стандартных методов,
которые не работали против моделей Клода или не применяются к моделям Клода в наших испытаниях.
GLM-5.3 может разрабатывать рабочие эксплойты от конца до конца
Чтобы понять, как GLM-5.3 может позволить киберугрозам находить и использовать реальные уязвимости программного обеспечения, мы проводили оценки с использованием автоматизированных бенчмарков и рабочих процессов с участием человека. Для обоих подходов мы запускали протестированные модели в изолированных и песочницах средах, чтобы они могли атаковать только офлайн-цели, которые мы создали для целей этих оценок. Мы в первую очередь сосредоточены на возможностях разработки эксплойтов, так как именно здесь Claude Mythos Preview показал заметный скачок по сравнению с предыдущими моделями Claude.Сначала мы запустили модель на ExploitBench, который измеряет, насколько хорошо модели ИИ могут эксплуатировать известные уязвимости движка V8, используемого Google Chrome. Здесь мы сосредотачиваемся на способности моделей успешно разрабатывать сквозные эксплойты, поскольку это наиболее актуальная возможность для злоумышленников, и здесь наблюдаются значительные изменения между моделями. Мы обнаружили, что GLM-5.3 разрабатывает сквозные эксплойты в 50 из 410 попыток. Claude Mythos Preview сделал это с похожей скоростью — в 56 из 410 попыток.
В нашем внутреннем бенчмарке Binary Exploitation мы проверяем, могут ли модели находить и эксплуатировать уязвимости в популярных проектах с открытым исходным кодом, участвующих в проекте Google OSS-Fuzz. Здесь за захват полного контроля присуждается полный зачёт. Мы оцениваем несколько моделей по 100 задачам из бенчмарка (выбранных случайным образом) и обнаружили, что GLM-5.3 развивает полные захваты контрольных потоков в 4% испытаний; Claude Mythos Preview показал это в 6%. Хотя GLM-5.3 здесь показывает результаты ниже Claude Mythos Preview, явно был превышен значимый порог: ранние модели, такие как Claude Opus 4.6 и GLM-5.2, не добиваются успеха ни в одной из них.
Не удалось прогрузить медиа
Рисунок 2. Возможности эксплуатации против бюджета токена выхода.
Каждая строка показывает долю попыток модели, достигших максимального результата бенчмарка, по сравнению с использованными токенами выхода.
Обе фигурки показывают производительность двух моделей Claude, работающих с отключёнными защитными механизмами (Opus 4.6, Mythos Preview),
двух моделей GLM (5.2 и 5.3), а также результатами последних открытых моделей, выпущенных Moonshot AI (Kimi K3) и DeepSeek (V4.1-Flash).
Далее мы оценили, как GLM-5.3 справляется с открытыми наступательными киберзадачами в руках человеческих экспертов (аналогично нашим тестам с Claude Mythos Preview ранее в этом году). Здесь мы выбираем цели, в которых человеческие эксперты не знают о существующих уязвимостях, а затем просим их использовать модель для выявления и эксплуатации новых недостатков. Эти эксперименты проверяли, на что способны эксперты за короткий промежуток времени: обычно они длились день или меньше, при этом менее часа человеческого внимания в целом.
Не удалось прогрузить медиа
Рисунок 3. Отредактированный скриншот страницы эксплойта, сгенерированной GLM-5.3 во время тестирования, организованного исследователями, показал кражу приватного ключа SSH пользователя через вредоносный сайт. Эксплойт объединяет несколько уязвимостей с 0-дневными значениями, которые модель обнаружила в компоненте популярного веб-браузера, считывая чувствительный файл с компьютера пользователя.
Во второй сессии исследователь использовал GLM-5.3-Flash (меньшую и менее функциональную версию GLM-5.3) для разработки эксплойта для известной уязвимости (мы уже писали об этих уязвимостях «N-day» здесь). Здесь исследователь сосредоточился на недавно выявленном дефекте Google Chrome (CVE-2026-11645), чтобы понять, насколько быстро модель может превратить публичное исправление в рабочую атаку. Исследователь предоставил GLM-5.3-Flash публичные детали этого CVE и ещё одного известного недостатка. Без значимых указаний со стороны исследователя GLM-5.3-Flash объединил эксплойты для этих двух недостатков, создавая надёжную цепочку эксплойтов для цели ARM64, обходя усиление аутентификации указателей (PAC). Это заняло 20 минут человеческого внимания, плюс восемь часов работы для GLM-5.3-Flash. По ценам API Zhipu этот проект стоил бы $20.40.
Далее часть текста я опускаю (о надежности модели)
Что это значит?
Это не похоже ни на одну другую аналогичную модель ИИ, все они были выпущены с защитой или через программы с ограниченным доступом.GLM-5.3, вероятно, предоставит злоумышленникам доступ к возможностям, которые позволят им находить и эксплуатировать киберуязвимости без существенных ограничений.
Выпуск GLM-5.3 — это значимый шаг в кибервозможности, доступных злоумышленникам.
Anthropic и другие американские лаборатории по искусственному интеллекту опубликовали недавние отчеты, раскрывающие, как киберзлоумышленники пытались использовать системы ИИ. Исходя из этих данных, мы считаем, что как государственные, так и негосударственные акторы будут использовать такие модели, как GLM-5.3, чтобы причинять реальный вред.
.....
Оригинал: https://www.anthropic.com/research/glm-5-3-and-the-spread-of-advanced-cyber-capabilities
👍65
❤️12
😁14
👏17
😢7