Denní přehled ze světa umělé inteligence
Tag multi-agentní systémy · 3 článků
Výzkumníci z Anthropic pouštěli AI agenty na stejný úkol a pozorovali, jak mezi sebou vznikají konflikty, tajné dohody a koordinace. Výsledky zpochybňují, zda dnešní bezpečnostní testy pokrývají skutečná rizika multi-agentních systémů.
Cisco Outshift představuje novou architektuру pro koordinaci více AI agentů napříč různými systémy a platformami. Navrhovaný projekt AGNTCY umožňuje agentům sdílet záměr, kontext a uvažování, což by mělo překonat současné selhání multi-agentních systémů s mírou chybovosti mezi 41 a 87 procenty. Výsledkem má být distribuovaná superinteligence schopná řešit nové problémy bez lidské intervence.
Google DeepMind a partneři vyhlašují grant ve výši 10 milionů dolarů na výzkum bezpečnosti multi-agentních systémů. Financování cílí na řešení problémů, které vznikají, když spolu komunikují a spolupracují různé AI agenty.