Sequent je nová výzkumná organizace, kterou založili vědci zabývající se bezpečností AI a zarovnáním umělé inteligence. Týmu je v plánu vyrůst na 40–80 zaměstnanců během několika let s počátečním rozpočtem 100–150 milionů dolarů, přičemž tvůrci připravují plány na získání ještě vyšších financí. Organizace usiluje o vytvoření přístupů ke kontrole superinteligentních systémů, které by byly teoreticky podloženy, na rozdíl od reaktivních metod používaných v současnosti. Sequent se zaměřuje na přenesitelnost zarovnání z řízených situací (tréning, evaluace) do situací mimo kontrolu (velké úlohy v reálném světě). Plánované výzkumné směry zahrnují škálovatelný dohled, teorii učení, herní teorii a tzv. persona. Motivací je fakt, že současné AI systémy sice fungují, ale vykazují překvapivé selhání a s jejich rostoucí inteligencí se bude zvyšovat riziko neočekávaného chování.
Nová organizace Sequent vznikla kvůli obavám, že alignment AI není na správné cestě
Zdroje
- Import AI (Jack Clark): Import AI 461: "Alignment is not on track"; FrontierCode; and synthetic research interns
Související články
- 10. 8. 2026 AI systém OpenClaw úspěšně hacknul webovou aplikaci fitness centra
- 22. 6. 2026 Umělá inteligence je lepší v přesvědčování než lidé, zjistili vědci
- 10. 6. 2026 Google DeepMind investuje 10 milionů dolarů do bezpečnosti AI agentů
- 13. 8. 2026 Anthropic: agenti si vytvořili vlastní území. Experiment odhalil nový bezpečnostní problém