Nová studie z Hugging Face se zaměřuje na bezpečnostní vlastnosti výzkumných agentů — autonomních systémů navržených pro provádění vědeckých úkolů. Výzkumníci testovali, zda mohou tyto agenti bezpečně pracovat s důvěrnými informacemi aniž by je neuchtaně prozradili. Práce s názvem MosaicLeaks zdůrazňuje rostoucí důležitost bezpečnosti v kontextu autonomních AI systémů, které mají přístup k potenciálně citlivým datům. Problematika je relevantní zejména s tím, jak se agenti stávají sofistikovanějšími a integrují se do vědeckého výzkumu. Výsledky mohou vést k lepším bezpečnostním praktikám při vývoji podobných systémů.