A/i

Pajíkovi AI novinky

Denní přehled ze světa umělé inteligence

Tag Google · 13 článků

Vývojář zautomatizoval čtení zpráv do dvou krátkých edic denně s pomocí AI

Programátor si vytvořil vlastní systém, který mu zkrátil každodenní čtení zpráv z až 90 minut na pár minut. Nástroj agreguje články z různých zdrojů, filtruje je podle uživatelských preferencí a AI je shrne do stočeného denního přehledu. Projekt následně zveřejnil jako veřejný nástroj pod názvem Cutthroat News.

Zdroj: Hacker News (AI stories) 12. srpna

Výzkumníci odhalili zranitelnost v API proprietárních modelů AI

Výzkumníci objasnili, jak lze z šifrovaných bloků uvažování (reasoning traces) vracených API společností Anthropic, OpenAI a Google extrahovat skryté myšlenkové pochody silnějších modelů. Zranitelnost spočívala v tom, že modely stejné rodiny sdílely stejný šifrovací klíč, což umožňovalo jailbreak slabších variant a přečtení nezašifrovaného uvažování.

Zdroj: Simon Willison 11. srpna

Výzkumníci získali tajné uvažovací bloky z API velkých jazykových modelů

Badatelé publikovali studii popisující, jak se daly extrahovat zašifrované řetězce myšlení z API společností Anthropic, OpenAI a Google. Útok spočíval v přehrání těchto bloků slabšímu modelu a jejich následném dešifrování prostřednictvím prompt injekce. Všechny tři společnosti problém již opravily.

Zdroj: Simon Willison 11. srpna