OpenAI uvedla, že vývoj modelu Astra, stále v přípravné fázi, dosáhl takzvaného kritického prahu kybernetické bezpečnosti. To znamená, že model je v současnosti schopen samostatně identifikovat a provádět kybernetické útoky proti tradičně dobře chráněným reálným systémům. V důsledku těchto zjištění společnost rozhodla zpomalit další vývoj modelu, aby mohla řešit potenciální bezpečnostní rizika. Jde o případ, kdy vnitřní testy odhalily schopnosti, které překročily bezpečnostní prahy a vyžadují důkladnější analýzu a opatření před dalším pokrokem v projektu.
OpenAI zpomalila vývoj modelu Astra kvůli bezpečnostním obavám
Zdroje
Související články
- 7. 8. 2026 OpenAI zveřejňuje bezpečnostní evaluace systému Astra
- 6. 8. 2026 OpenAI a Americká psychologická asociace spolupracují na bezpečnosti AI pro mládež
- 31. 7. 2026 OpenAI sdílí přístupy k odpovědné AI pro evropskou regulaci
- 20. 7. 2026 OpenAI zveřejnila poznatky o bezpečnosti dlouhodobě běžících AI modelů