Google DeepMind oznámil spuštění fondu zaměřeného na bezpečnost multi-agentních AI systémů. Program bude distribuovat 10 milionů dolarů mezi výzkumné týmy, které se zabývají bezpečností v prostředích, kde více AI agentů interaguje a kooperuje. Problematika bezpečnosti víceastných systémů se stává stále naléhavější s tím, jak se AI aplikace stávají komplexnějšími a autonomnějšími. Zásadním tématem je zajištění, aby si agenty navzájem neublížily a nepracovaly proti sobě nebo proti lidským zájmům. Google DeepMind přistupuje k financování takových projektů v duchu dlouhodobého zájmu o bezpečný vývoj umělé inteligence. Výzva adresuje jednu z klíčových otázek budoucnosti AI: jak zajistit, aby byly systémy složené z mnoha autonomních prvků bezpečné a spolehlivé.