Evropská unie vstupuje do boje proti manipulačnímu obsahu vytvořenému umělou inteligencí. Od začátku srpna budou platit přísná pravidla, která nařizují jasné označování AI generovaného obsahu, včetně nebezpečných deepfakes. Vývojáři systémů budou muset zajistit strojově čitelné značky, viditelná upozornění pro uživatele a informovat lidi, když komunikují s chatboty či virtuálními asistenty. Cílem je zvýšit důvěru v digitální prostředí a chránit občany před klamavým a manipulativním obsahem, který se stává stále nebezpečnějším.
Na začátku srpna vstoupí v účinnost nová evropská pravidla transparentnosti pro umělou inteligenci (AI). Zavádějí povinnost jakýkoli AI obsah označit, informovat o takzvaných deepfakes a upozornit uživatele, že komunikuje s umělou inteligencí. Cílem opatření je omezit šíření manipulativního či klamavého obsahu, zvýšit důvěru v digitální prostředí a chránit uživatele. Informovala o tom advokátní kancelář Dentons.
AI Act nařizuje transparentnost vývojářům a provozovatelům
Povinnost transparentnosti ukládá vývojářům, dodavatelům a provozovatelům AI systémů nařízení EU o umělé inteligenci (AI Act), přijaté v roce 2024. Pravidla pro detekci a identifikaci AI generovaného obsahu vstoupí v účinnost 2. srpna. Evropská komise proto připravuje Kodex správné praxe pro transparentnost obsahu generovaného umělou inteligencí, který má pomoci tyto povinnosti prakticky naplnit a definitivně má být představen v červnu.
Nová pravidla se týkají především generativní AI, tedy systémů, které vytvářejí texty, obrázky, audio nebo video obsah. Mají zajistit, aby bylo jasně rozpoznatelné, kdy byl obsah vytvořen člověkem a kdy algoritmem. "AI dokáže vytvořit obsah, který je od reality téměř nerozpoznatelný. Regulace proto zavádí jednoduchý princip - lidé mají právo vědět, kdy byl obsah vytvořen umělou inteligencí nebo kdy komunikují s AI namísto člověka," uvedla Jana Vorlíček Soukupová z Dentons.
Strojově čitelné označení všech výstupů
Poskytovatelé AI systémů (například OpenAI) budou muset zajistit, aby veškeré výstupy, tedy texty, obrázky, audio nebo video, obsahovaly strojově čitelné označení, že byly vytvořeny či upraveny umělou inteligencí. Typicky půjde o metadata, digitální vodoznaky, kryptografické značky nebo jiné technické identifikátory, vložené přímo do souboru. Technické označení je podle Soukupové klíčové. Umožní, aby sociální sítě, vyhledávače a nástroje pro ověřování obsahu, média i další digitální platformy automaticky rozpoznaly, že byl obsah vytvořen AI.
Vedle technického označování bude od srpna zavedena také povinnost viditelného označení výstupů pro koncové uživatele. Některým subjektům zavádějícím AI systémy vzniká povinnost tyto výstupy řádně, jasně a rozpoznatelně označit. Platí to zvlášť pro deepfakes, napodobeniny skutečných osob či událostí vytvořené umělou inteligencí, stejně jako pro obsah určený k informování veřejnosti. Další změna se dotkne interaktivních systémů, jako jsou chatboti či virtuální asistenti. Pokud člověk s AI systémem komunikuje, musí na to být hned při první interakci jasně upozorněn.
Logický posun v regulaci, ale ne samospása
Rozšíření pravidel transparentnosti je podle ředitele České asociace umělé inteligence Lukáše Benzla logický posun, který odpovídá rychlosti, s jakou se umělá inteligence vyvíjí. "Jasné označování AI generovaného obsahu může pomoci kultivovat digitální prostředí a usnadnit orientaci mezi autentickým a syntetickým obsahem, zároveň ale není samospásné. Útočníci budou vždy hledat cesty, jak tato pravidla obcházet nebo zneužívat. Z pohledu celého ekosystému je proto důležité, že regulace neřeší pouze rizika, ale zároveň vytváří prostor pro odpovědné inovace," uvedl Benzl.
Uživatelé i firmy potřebují podle datového ředitele Creative Docku Adama Hanky jasně vědět, s jakým typem obsahu pracují, aby mohli technologie bezpečně a efektivně využívat. "Oceňujeme zejména důraz na technické standardy, jako jsou metadata či digitální vodoznaky, které umožní automatizované ověřování obsahu napříč platformami. Pro startupové i korporátní prostředí to zároveň znamená jasnější pravidla hry, která pomohou snížit reputační i právní rizika a podpoří vznik nových služeb v oblasti verifikace a správy digitálního obsahu," podotkl Hanka.
