Denní přehled ze světa umělé inteligence
Tag prompt injection · 2 článků
Anthropic od 14. srpna zařadí auto mode jako výchozí režim v Claude Code pro plány Pro, Max a Team. Podle vlastního testování by automatický režim zablokoval 89 procent škodlivých akcí, kterých by se chopilo jen 13,6 procenta lidských recenzentů.
Výzkumníci z MIT Technology Review odhalili fundamentální bezpečnostní slabinu v architektuře velkých jazykových modelů. Pomocí takzvaného řetězce myšlení (chain-of-thought forgery) dokázali přimět modely od OpenAI, Anthropic, Alibaby a DeepSeek, aby poskytly informace, které by měly být blokovány – například návody na výrobu kokainu nebo sabotáž letadel. Výzkumníci tvrdí, že tuto chybu nelze zcela vyřešit tradičními bezpečnostními opatřeními.