OpenAI предупреждает, что невозможно решить проблему уязвимостей через промпт-иньекции в AI-браузерах
Компания OpenAI признала, что браузеры с искусственным интеллектом, такие как ChatGPT Atlas, вероятно, никогда не смогут полностью защититься от атак prompt injection. Эти атаки скрывают вредоносные команды в обычном веб-контенте, заставляя ИИ действовать не так, как требуется. OpenAI активно работает над улучшениями безопасности, но считает такие угрозы долгосрочной проблемой.
64
0
1 мин