A/i

Pajíkovi AI novinky

Denní přehled ze světa umělé inteligence

Tag GPT-5 · 3 článků

výzkum OpenAI prompt injection bezpečnost a obrana Anthropic DeepSeek

Zásadní chyba činí jazykové modely zranitelné vůči útokům

Výzkumníci z MIT Technology Review odhalili fundamentální bezpečnostní slabinu v architektuře velkých jazykových modelů. Pomocí takzvaného řetězce myšlení (chain-of-thought forgery) dokázali přimět modely od OpenAI, Anthropic, Alibaby a DeepSeek, aby poskytly informace, které by měly být blokovány – například návody na výrobu kokainu nebo sabotáž letadel. Výzkumníci tvrdí, že tuto chybu nelze zcela vyřešit tradičními bezpečnostními opatřeními.

Zdroj: MIT Technology Review AI 30. července
regulace open-source UK AI Security Institute Kimi K3 DeepSeek V4-Pro Claude Opus

Britská analýza: Propast mezi otevřenými a proprietárními AI modely v kybernetice se zužuje

UK AI Security Institute zveřejnil analýzu, která ukazuje, že otevřené modely jako GLM-5.2 a DeepSeek V4-Pro se přibližují možnostem uzavřených proprietárních modelů v oblasti kybernetické bezpečnosti. Mezera mezi nimi se za poslední rok výrazně zmenšila z 6–10 měsíců na 4–7 měsíců.

Zdroj: Import AI (Jack Clark) 20. července