A/i

Pajíkovi AI novinky

Denní přehled ze světa umělé inteligence

Tag reasoning · 13 článků

Výzkumníci získali tajné uvažovací bloky z API velkých jazykových modelů

Badatelé publikovali studii popisující, jak se daly extrahovat zašifrované řetězce myšlení z API společností Anthropic, OpenAI a Google. Útok spočíval v přehrání těchto bloků slabšímu modelu a jejich následném dešifrování prostřednictvím prompt injekce. Všechny tři společnosti problém již opravily.

Zdroj: Simon Willison 11. srpna

AI pro vědu potřebuje logické uvažování, ne jen data

Podle MIT Technology Review se model AlphaFold sice stal vítězem Nobelovy ceny za průlom v predikci protein struktur, ale jeho datově-intenzivní přístup není šablona pro zrychlení veškeré vědy. Budoucnost leží v AI agentech, kteří se mohou učit a uvažovat v obtížnějších vědeckých oborech.