Content provenance: Jak prokázat původ digitálního obsahu

Digitální obsah je dnes možné vytvořit, upravit nebo kompletně vygenerovat během několika sekund. S rostoucími možnostmi generativní AI proto získává na významu otázka, jak ověřit původ fotografie, videa nebo jiného digitálního souboru. Právě tím se zabývá content provenance, soubor technologií a standardů, které umožňují zaznamenávat, kdo nebo co obsah vytvořilo, jakými úpravami prošel a zda lze těmto informacím důvěřovat.

Co znamená content provenance

Pojem provenance lze přeložit jako původ nebo provenience. Ve světě digitálního obsahu označuje informace o tom, odkud konkrétní soubor pochází a jakými změnami během své existence prošel.

Může jít například o informace:

• jakým zařízením nebo aplikací byl obsah vytvořen,
• zda vznikl pomocí generativní AI,
• jakými nástroji byl následně upravován,
• kdo nebo která organizace informace o původu podepsala,
• zda nebyly údaje o historii souboru dodatečně změněny.

Nejde tedy pouze o označování AI obsahu. Stejný princip lze použít například u fotografie pořízené fotoaparátem. Pokud zařízení při pořízení snímku vytvoří ověřitelný záznam o jeho původu, další systémy mohou později zjistit, že snímek skutečně pochází z daného typu důvěryhodného procesu zachycení.

To je důležitý rozdíl oproti klasické AI detekci. Content provenance se primárně nesnaží odhadovat, zda obsah vypadá jako vytvořený AI. Pracuje s informacemi, které vznikají během samotného životního cyklu souboru.

C2PA: Standard pro historii digitálního obsahu

Jedním z nejdůležitějších projektů v oblasti ověřování původu digitálního obsahu je C2PA (Coalition for Content Provenance and Authenticity). Jde o otevřený technický standard, který umožňuje k fotografiím, videím nebo zvukovým souborům připojit ověřitelné informace o jejich původu a historii úprav.

C2PA vzniklo v roce 2021 a dnes jej podporují významné technologické a mediální společnosti. Standard je navržen jako interoperabilní, takže informace vytvořené jedním kompatibilním nástrojem mohou ověřovat i další služby.

C2PA může zaznamenávat například:

• kde a jak obsah vznikl – například ve fotoaparátu nebo generátoru AI,
• jaký software byl použit při jeho tvorbě a úpravách,
• jakými změnami soubor prošel, například ořezem nebo generativní úpravou,
• zda byla použita generativní AI,
• zda nebyly údaje o původu později změněny.

Tyto informace jsou ukládány do takzvaných C2PA manifestů a chráněny kryptografickými podpisy. Pro běžného uživatele se mohou zobrazovat prostřednictvím Content Credentials, které historii souboru prezentují srozumitelnější formou.

C2PA přitom neurčuje, zda je obsah „pravý“, nebo „falešný“. Jeho úkolem je vytvořit ověřitelnou historii digitálního souboru, díky které lze lépe zjistit, odkud pochází a co se s ním od jeho vytvoření dělo.

Jak Content Credentials fungují

Content Credentials lze zjednodušeně popsat jako digitální záznam o původu a historii obsahu. K fotografii, videu nebo jinému souboru přidávají informace o tom, jak vznikl a jakými úpravami následně prošel. Nejde přitom pouze o běžná metadata. Důležitou součástí systému je kryptografické ověření jejich integrity.

Když kompatibilní zařízení nebo aplikace vytvoří či upraví obsah, může současně vytvořit C2PA manifest. Ten může obsahovat například:

• nástroj nebo zařízení, ve kterém obsah vznikl,
• způsob vytvoření, například fotografování nebo generování pomocí AI,
• provedené úpravy, například ořez, změnu barev nebo generativní zásah,
• informace o autorovi, pokud je chce k obsahu připojit,
• údaje potřebné k ověření původu a integrity záznamu.

Manifest je následně kryptograficky podepsán. Díky tomu lze ověřit, zda informace o původu nebyly od svého vytvoření neoprávněně změněny. Pokud soubor následně projde dalším kompatibilním programem, může být jeho historie rozšířena o nový záznam.

V praxi tak může vzniknout řetězec: pořízení fotografie → Content Credentials → úprava v editoru → nový záznam o úpravě → publikování → ověření původu

Uživatel přitom nemusí kryptografické údaje kontrolovat ručně. Podporované služby mohou Content Credentials přečíst a zobrazit je v jednoduché podobě, takže lze například zjistit, zda byl při tvorbě použit AI nástroj nebo jakými úpravami obsah prošel.

Důležité je, že Content Credentials neověřují pravdivost toho, co fotografie nebo video zachycuje. Ověřují především historii a integritu dostupných informací o původu daného souboru.

Digitální podpis chrání historii obsahu

Důležitou součástí C2PA a Content Credentials jsou digitální podpisy, které chrání informace o původu a historii souboru před neoprávněnými změnami. Nestačí totiž pouze připojit metadata s informací, že fotografie vznikla určitým fotoaparátem nebo byla upravena konkrétní aplikací. Běžná metadata lze relativně snadno změnit nebo podvrhnout.

Digitální podpis umožňuje kryptograficky ověřit zejména:

• integritu údajů – zda informace v C2PA manifestu nebyly po podepsání změněny,
• původ záznamu – zda jej podepsala entita, jejíž certifikát je k podpisu připojen,
• vazbu na konkrétní obsah – manifest obsahuje kryptografické vazby, které pomáhají odhalit neoprávněnou změnu chráněného obsahu.

C2PA k tomu využívá kryptografii veřejného klíče a digitální certifikáty, mimo jiné založené na standardu X.509. Podepisující systém vytvoří podpis pomocí soukromého klíče a při ověřování lze pomocí odpovídajícího veřejného klíče zkontrolovat, zda je podpis platný.

Pokud tedy někdo dodatečně změní podepsané informace v manifestu, kryptografická kontrola už nebude odpovídat. Content Credentials díky tomu nejsou pouze popisem historie souboru, ale mohou poskytovat také ověřitelný důkaz, že zaznamenané informace nebyly od okamžiku podpisu pozměněny.

C2PA doplňují digitální vodoznaky

C2PA a Content Credentials mají jednu důležitou slabinu. Informace o původu nemusí vždy přežít další šíření souboru. Metadata mohou být odstraněna například při nahrání na některé platformy, převodu do jiného formátu, kompresi nebo vytvoření screenshotu. Proto se C2PA stále častěji kombinuje s digitálními vodoznaky.

Na rozdíl od metadat je digitální vodoznak vložen přímo do obrazových, zvukových nebo jiných dat. Pro člověka může být prakticky nepostřehnutelný, specializovaný systém jej však dokáže detekovat i po některých úpravách obsahu.

Digitální vodoznaky mohou pomoci například:

• označit obsah vytvořený pomocí AI,
• zachovat informaci o původu i po některých úpravách nebo kompresi,
• doplnit C2PA metadata, pokud jsou při dalším zpracování odstraněna,
• usnadnit platformám a uživatelům identifikaci syntetického obsahu.

Příkladem je SynthID od Google DeepMind, který vkládá neviditelný vodoznak přímo do obsahu vytvořeného podporovanými AI modely. Google jej využívá například pro obrázky, video, zvuk a text generovaný vybranými systémy.

C2PA a digitální vodoznaky tedy nefungují jako konkurenční technologie, ale mohou se vzájemně doplňovat. Content Credentials poskytují podrobnější historii vzniku a úprav souboru, zatímco vodoznak může představovat odolnější signál, že obsah pochází z určitého AI systému.

Ani vodoznaky však nejsou stoprocentním řešením. Jejich odolnost závisí na konkrétní technologii a typu úprav. Pro ověřování původu digitálního obsahu se proto stále více prosazuje vícevrstvý přístup kombinující C2PA, vodoznaky a další metody ověřování.

Metadata, vodoznak a detekce AI nejsou totéž

Při ověřování digitálního obsahu se dnes setkáváme se třemi různými přístupy.

Právě kombinace několika metod může vytvořit výrazně robustnější systém než spoléhání pouze na detektor generovaného obsahu.

Co content provenance nedokáže vyřešit

Přestože technologie pro ověřování původu mohou výrazně zvýšit transparentnost digitálního obsahu, nedokážou samy určit, zda je fotografie, video nebo tvrzení pravdivé. Content provenance poskytuje především informace o historii souboru – nikoliv automatické hodnocení jeho významu nebo kontextu.

Mezi hlavní omezení patří:

• Neověřuje pravdivost obsahu – autentická fotografie může zachycovat zinscenovanou situaci nebo být publikována se zavádějícím popisem.
• Chybějící údaje neznamenají podvod – absence Content Credentials není důkazem, že obsah vytvořila AI nebo že byl zmanipulován. Zařízení či software jednoduše nemusely C2PA podporovat.
• Řetězec původu se může přerušit – metadata mohou být odstraněna při převodu souboru, jeho úpravě nebo publikování na platformě, která je nezachovává.
• Záleží na důvěryhodnosti zdroje – kryptografický podpis potvrzuje integritu podepsaných informací, ale důvěra v ně závisí také na tom, kdo je vytvořil a podepsal.
• Neřeší obsah vytržený z kontextu – skutečná fotografie z několik let staré události může být vydávána za aktuální, aniž by byl samotný soubor technicky zmanipulován.

Content provenance je proto vhodné chápat jako další vrstvu při ověřování digitálního obsahu, nikoliv jako univerzální nástroj na odhalování dezinformací. Uživatel stále musí posuzovat zdroj, kontext a důvěryhodnost zveřejněných informací.

Největší přínos těchto technologií spočívá v tom, že mohou nabídnout něco, co při běžném pohledu na soubor chybí – ověřitelnou stopu jeho vzniku a následných úprav.

Internet se může přesunout od detekce k ověřování

S rostoucí kvalitou generativní AI je stále obtížnější poznat pouze podle výsledného obrázku, videa nebo zvuku, zda obsah vytvořil člověk, nebo umělá inteligence. Tradiční přístup založený na zpětné detekci AI obsahu proto nemusí být dlouhodobě dostačující.

Content provenance k problému přistupuje opačně. Místo hledání stop po použití AI se snaží vytvořit ověřitelnou historii obsahu už od okamžiku jeho vzniku. Uživatel pak nemusí pouze spoléhat na odhad detektoru, ale může získat konkrétní informace o tom, odkud soubor pochází a co se s ním následně dělo.

V budoucnu by tak mohlo být běžné ověřovat například:

• kde a jak obsah vznikl,
• zda byl vytvořen nebo upraven pomocí AI,
• jakými aplikacemi či zařízeními prošel,
• jaké úpravy byly provedeny,
• zda je dostupná historie souboru kryptograficky ověřitelná.

To samozřejmě neznamená, že AI detektory přestanou existovat. Spíše se mohou stát jednou z několika vrstev ověřování společně s C2PA, Content Credentials, digitálními podpisy a vodoznaky.