GPT-Red: Automatizovaný systém OpenAI na zlepšování bezpečnosti AI
OpenAI představila GPT-Red, automatizovaný systém red teamingu, který využívá metodu self-play k zlepšování bezpečnosti a odolnosti AI modelů vůči prompt injection útokům. Systém umožňuje modelům se vzájemně zdokonalovat v roli útočníka a obránce.