Технологии, наука и безопасность своими словами

Безопасность

Google DeepMind представила Gemini 4 Carbon: поиск уязвимостей, кодинг и многодневная автономная работа

Новая модель заняла первую строчку в Artificial Analysis Intelligence Index v5.0, набрав 59 баллов. В Google подчёркивают, что Carbon создавалась для задач, которые не ограничиваются одним запросом. Во внутренних тестах она автономно работала по несколько дней: разбиралась в крупных кодовых базах, искала причины ошибок, исправляла баги и продолжала работу даже после неудачных попыток.

Ключевой акцент сделан на кибербезопасности. Модель способна пройти весь цикл — от обнаружения уязвимости до проверки возможности её эксплуатации и подготовки патча. На бенчмарке SEC-bench Pro, где оценивается поиск уязвимостей в реальном ПО, Carbon показала результат 88,2%.

В тесте ExploitGym, проверяющем возможность эксплуатации найденных ошибок, модель набрала 54,8%, а в задаче исправления уязвимого кода CWE-bench — 71%. Модель нацелена на поиск уязвимостей, подобных тем, что использовались в zero-click атаке на Telegram Исследователь показал zero-click атаку на Telegram через анимированные стикеры. Разработчики из команды Chrome уже сообщили, что применение Carbon более чем в десять раз улучшило результаты при создании патчей, хотя с чем именно сравнивали, в компании не раскрыли.

В задачах веб-разработки Carbon поднялась на четвёртое место рейтинга WebDev Arena с показателем 1769 Elo, что на 89 пунктов выше предыдущего результата. Кроме того, по данным Google, модель в два с лишним раза чаще генерирует безопасный код по сравнению с Gemini 4 Argon. Отдельное внимание уделили поведению в агентных сценариях, когда модель получает доступ к терминалу, файлам и рабочему окружению.

Количество предупреждений о серьёзных отклонениях от ожидаемого поведения сократилось почти на 80%. Необоснованных утверждений Carbon делает примерно вдвое меньше, чем Argon. На бенчмарке Gray Swan Indirect Prompt Injection Benchmark не было зафиксировано ни одной успешной атаки — 0% против 0,7% у предыдущей модели.

Впрочем, это не означает абсолютной защиты от prompt injection, но инженеры Google добились заметного прогресса. На Terminal-Bench 4.0 доля успешных попыток обойти правила тестирования снизилась до нуля, а частота самих попыток — до 0,4%. Разработчики стремятся решить проблему, когда агент формально достигает цели, но делает это не тем способом, который от него ожидали.

Во внутренних рабочих сценариях Carbon реже уходит в сторону и точнее следует заданным инструкциям. Пока доступ к модели получит лишь ограниченная группа специалистов по кибербезопасности. Затем Google планирует постепенно подключать проверенных партнёров, а уже после — разработчиков, компании и обычных пользователей.

Стартовая цена API составит 2 доллара за миллион входных токенов и 10 долларов за миллион выходных. После окончания вводного периода тариф вырастет до 4 и 20 долларов соответственно. Кэшированные входные токены будут стоить на 95% дешевле обычных.

инновации кибербезопасность программирование

Оригинал

Обсуждение

Комментариев пока нет.

Похожие новости