Компания Anthropic представила новую инициативу в области кибербезопасности — Project Glasswing, в рамках которой используется предварительная версия модели Claude Mythos. Ее задача поиск и устранение уязвимостей в критически важном программном обеспечении.
Claude Mythos - это универсальная языковая модель нового поколения, демонстрирующая особенно высокие результаты в задачах, связанных с безопасностью. По оценке компании, именно эти способности выделяют ее среди других моделей.
Тысячи ранее неизвестных уязвимостей
В ходе тестирования модель обнаружила тысячи zero-day уязвимостей в реальных проектах с открытым исходным кодом. Речь идет об уязвимостях, которые ранее не были известны разработчикам и не имели исправлений.
Claude Mythos способен не только находить такие проблемы, но и демонстрировать способы их эксплуатации. Это включает генерацию рабочих эксплойтов на основе найденных уязвимостей.
Отмечается, что модель выявляла критические проблемы в широком спектре программного обеспечения, включая операционные системы и браузеры.
Не специализированная, но эффективная
Несмотря на результаты в кибербезопасности, модель не обучалась специально для поиска уязвимостей. Ее эффективность объясняется общими способностями к программированию и логическому рассуждению.
Такая универсальность позволяет применять модель в различных задачах, при этом побочным эффектом становится высокая результативность в области безопасности.
Project Glasswing
Project Glasswing запущен как совместная инициатива для повышения безопасности программного обеспечения. В рамках проекта доступ к Claude Mythos предоставляется ограниченному числу организаций, работающих с критической инфраструктурой.
Основная цель использовать возможности модели для обнаружения и устранения уязвимостей до того, как они будут использованы злоумышленниками.
Риски и ограничения
Высокая эффективность Claude Mythos создает и риски. Возможность автоматически находить и эксплуатировать уязвимости делает такие модели потенциально опасными при широком распространении.
По этой причине доступ к модели ограничен, а ее использование контролируется в рамках закрытых программ и партнерств.
Источник: HN