A/i

Pajíkovi AI novinky

Denní přehled ze světa umělé inteligence

Tag GPT · 2 článků

Výzkumníci odhalili zranitelnost v API proprietárních modelů AI

Výzkumníci objasnili, jak lze z šifrovaných bloků uvažování (reasoning traces) vracených API společností Anthropic, OpenAI a Google extrahovat skryté myšlenkové pochody silnějších modelů. Zranitelnost spočívala v tom, že modely stejné rodiny sdílely stejný šifrovací klíč, což umožňovalo jailbreak slabších variant a přečtení nezašifrovaného uvažování.

Zdroj: Simon Willison 11. srpna