The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions
19 апреля 2024 г.0 просмотров1 мин чтения
Today's LLMs are susceptible to prompt injections, jailbreaks, and other attacks that allow adversaries to overwrite a model's original instructions with their own malicious prompts.
Поделиться:
Источник: OpenAI Blog
Похожие новости
AI
НейросетиOpenAI представляет GPT-5
OpenAI выпустила GPT-5 — новую модель ИИ с улучшенными способностями в генерации текста, математике и программировании.
5 ч. назад66
AI
НейросетиCursor capitalizes on GitHub frustration, launches rival hosting platform
7 ч. назад19
НейросетиRobin Williams’ Instagram account brought back to fight ‘AI abuse’
9 ч. назад16