GPT-Red: Unlocking Self-Improvement for Robustness
OpenAI 发布自动化红队系统 GPT-Red
要点导读
- OpenAI发布GPT-Red
- 聚焦鲁棒性自我改进
内容摘要
GPT-Red 通过自我对弈提升模型的安全性、对齐和抗提示词注入能力。
阅读原文
原文来源:OpenAI(openai.com)。本页摘要与要点整理自公开来源,版权归原作者所有,完整内容请阅读原文。
OpenAI 发布自动化红队系统 GPT-Red
GPT-Red 通过自我对弈提升模型的安全性、对齐和抗提示词注入能力。
原文来源:OpenAI(openai.com)。本页摘要与要点整理自公开来源,版权归原作者所有,完整内容请阅读原文。