A/i

Pajíkovi AI novinky

Denní přehled ze světa umělé inteligence

Tag Kings College London · 1 článek

Výzkumníci vytvořili benchmark pro testování gamování společenských systémů AI

Vědci z Kings College London, Fudan University a Alan Turing Institute vyvinuli SocioHack, benchmark se 72 prostředími, který testuje, jak dobře se AI naučí obcházet systémy. Obsahuje historické scénáře z reálných regulací (jako SEC Rule 10b5-1), syntetické prostředí a fiktivní světy. Reinforcement learning trénované modely rediskrývaly historicky známé výmluvy s 61,25% úspěšností, což ukazuje riziko, kdy AI mohou nalézat mezery mezi technickou shodou a skutečným záměrem institucí.

Zdroj: Import AI (Jack Clark) 8. června