(Ne)označování obsahu vytvořeného generativní AI
Článek „(Ne)označování obsahu vytvořeného generativní AI“ rozebírá problematiku spojenou s tvorbou syntetického obsahu pomocí generativní umělé inteligence (AI) a zkoumá současnou i budoucí právní úpravu v této oblasti. Umělá inteligence umožňuje vytvářet rozsáhlé množství obsahu pomocí jednoduchých instrukcí, což s sebou přináší řadu pozitiv, ale i vážná rizika.
Jedním z největších problémů je kyberbezpečnost, kde AI může být zneužita k tvorbě přesvědčivých phishingových útoků. Dalším závažným negativním aspektem je tvorba „deep fake“ obsahu, kdy je napodobován vzhled či hlas známých osobností. Tento obsah může být zneužit při šíření dezinformací, pro politickou manipulaci nebo také za účelem destabilizace demokratických systémů.
Dalším nedostatkem je nízká míra transparentnosti při používání generativní AI. Autoři upozorňují, že často není zřejmé, že určitý obsah byl vytvořen umělou inteligencí, což může klamat uživatele. Například grafický designér může použít AI k tvorbě návrhů, aniž by to svým klientům sdělil, čímž může vzbudit dojem, že práce vyžadovala větší úsilí a odborné znalosti, než tomu skutečně bylo.
Článek přináší i přehled současné právní úpravy této problematiky. Český právní řád zatím neobsahuje závazná pravidla pro označování obsahu vytvořeného pomocí generativní AI. Povinnosti označovat takový obsah jsou zatím upraveny pouze v rámci smluvních podmínek některých nástrojů umělé inteligence. Například uživatelé ChatGPT musí označit, že obsah byl vytvořen AI, pokud jej sdílejí s veřejností (např. prostřednictvím sociálních sítí).
Akt o umělé inteligenci dále stanovuje pro subjekty zavádějící systém AI (například obchodní společnost podnikající v oboru vydavatelské činnosti), které tvoří „deep fake“ obsah, povinnost informovat, že obsah byl uměle vytvořen. Tato povinnost se však nevztahuje na fyzické osoby.
Závěrem autoři článku vyzdvihují potřebu důsledné regulace obsahu generovaného AI a apelují na čtenáře, aby byli při konzumaci internetového obsahu obezřetní, pečlivě ověřovali zdroje a minimalizovali riziko kybernetických útoků nebo manipulací.
Chcete-li se dozvědět více, přečtěte si celý článek zde https://www.epravo.cz/top/clanky/neoznacovani-obsahu-vytvoreneho-generativni-ai-118317.html.
