Denní přehled ze světa umělé inteligence
Tag transparentnost · 11 článků
Evropský zákon o umělé inteligenci (AI Act) obsahuje článek 50, který se týká požadavků na ověřování obsahu prostřednictvím standardu C2PA (Coalition for Content Provenance and Authenticity). Článek uvádí do praxe nová pravidla pro transparentnost původu a autentičnosti obsahu v EU.
Anthropic plánuje rozšířit své značky pro obsah vytvořený AI modelem Claude na globální úroveň. Systém však nedokáže spolehlivě ověřit, že obsah skutečně vytvořila Claude, což otevírá otázky kolem autentičnosti a důvěryhodnosti.
Výzkum ukazuje, že systémy označované jako "open" v oblasti umělé inteligence nemají vždy otevřenou architekturu nebo jsou limitovány v přístupu k datům a tréninku. Publikace v Nature rozebírá rozpor mezi proklamovanou otevřeností a skutečným stavem dostupnosti těchto systémů.
Výzkumníci vyvinuli techniku zvanou Reasoning Traces, která umožňuje nahlédnout do vnitřních mechanismů fungování velkých jazykových modelů. Tato metoda odhaluje, jak modely řeší problémy a jaké kroky přitom podnikají.
Americký think tank IFP zveřejnil soubor 23 konkrétních politických doporučení, jak by státy měly čelit rizikům spojená s automatizací výzkumu umělé inteligence. Návrhy pokrývají sedm kategorií od transparency až po mezinárodní spolupráci.
OpenAI se věnuje transparentnosti a bezpečnosti svých systémů s cílem podpořit odpovědné řízení umělé inteligence v Evropě. Společnost rozšiřuje své postupy v bezpečnosti a provenanci dat v souladu s pokroky směřující k EU AI Act.
OpenAI se přihlásila k unijnímu Kodexu chování v oblasti AI a pracuje na nástrojích a standardech, které pomohou lidem rozpoznat obsah generovaný umělou inteligencí. Iniciativa se zaměřuje na zvýšení důvěryhodnosti AI ekosystému v Evropě.
OpenAI veřejně definuje svůj přístup k politickému lobbingu a tvorbě regulace v oblasti umělé inteligence. Společnost zdůrazňuje transparentnost a bezpečnost AI, přičemž upozorňuje, že za jejím jménem nemluví žádné externí politické skupiny.
OpenAI se připravuje na globální volby v roce 2026 a zavádí opatření na ochranu volebního procesu. Společnost chce zlepšit přístup k informacím, posílit obranu proti kybernetickým hrozbám a zvýšit transparentnost AI systémů.
OpenAI představil nové nástroje pro identifikaci a ověření obsahu generovaného umělou inteligencí. Jde o kombinaci technologií Content Credentials a SynthID, která má zvýšit transparentnost a důvěru v AI-generovaná média.
Google DeepMind představuje nové nástroje, které pomáhají uživatelům porozumět tomu, jak byl obsah na webu vytvořen a následně editován. Cílem je zvýšit transparentnost a srozumitelnost vzniku digitálního obsahu.