#openai

Найдено статей: 7

Кибербезопасность 2 недели назад

OpenAI представила Codex Security - AI-агент для поиска уязвимостей в коде

OpenAI представила Codex Security AI-агент для поиска уязвимостей в программном коде. Инструмент уже проанализировал более 1,2 млн коммитов и обнаружил тысячи критических проблем в open-source проектах.

Технологии и IT-новости 2 недели назад

OpenAI разрабатывает альтернативу GitHub

OpenAI может запустить собственную платформу для хостинга кода, которая станет альтернативой GitHub и будет построена вокруг AI-моделей. Такой сервис может изменить привычный процесс разработки и усилить конкуренцию на рынке инструментов для программистов.

AI 1 месяц назад

OpenAI усиливает защиту ChatGPT: режим Lockdown Mode и метки повышенного риска

OpenAI представила режим Lockdown Mode и систему меток Elevated Risk в ChatGPT. Новые функции направлены на защиту от атак через внедрение скрытых инструкций и снижение рисков утечки данных.

AI 3 месяца назад

OpenAI предупреждает, что невозможно решить проблему уязвимостей через промпт-иньекции в AI-браузерах

Компания OpenAI признала, что браузеры с искусственным интеллектом, такие как ChatGPT Atlas, вероятно, никогда не смогут полностью защититься от атак prompt injection. Эти атаки скрывают вредоносные команды в обычном веб-контенте, заставляя ИИ действовать не так, как требуется. OpenAI активно работает над улучшениями безопасности, но считает такие угрозы долгосрочной проблемой.