Deepfake je obraz, video nebo zvuk vytvořený či upravený umělou inteligencí tak, aby přesvědčivě napodoboval skutečného člověka, místo nebo událost. Výsledek vypadá jako pravý záznam, například video, na kterém někdo říká něco, co nikdy neřekl.
Jak vzniká deepfake?
Deepfake vzniká tak, že model generativní AI projde ukázky obličeje nebo hlasu konkrétního člověka a naučí se je napodobit. Pak dokáže vložit obličej do cizího videa, upravit pohyb úst podle nového textu nebo namluvit libovolnou větu známým hlasem, čemuž se říká klonování hlasu. Čím víc veřejně dostupných nahrávek člověka existuje, tím snáz se dá napodobit. Proto jsou častým terčem veřejně vystupující lidé, například ředitelé, politici nebo mluvčí firem.
Čím se deepfake liší od běžné úpravy fotky?
Retuš nebo filtr upravuje existující záznam, deepfake vytváří záznam něčeho, co se nestalo, a vydává ho za skutečnost. Ne každý obsah z AI je deepfake: smyšlená ilustrace, která nepředstírá skutečnou osobu ani událost, deepfakem není. AI Act ukládá tomu, kdo systém AI k vytvoření deepfaku použije, povinnost uvést, že obsah byl uměle vytvořen nebo upraven.
Jaký je nejčastější omyl o deepfaku?
Častý omyl je, že deepfake poznáte okem podle chyb v obraze. Drobné vady, například nepřirozené mrkání nebo rozmazané okraje, mohou napovědět, jejich nepřítomnost ale pravost nepotvrzuje. Spolehlivější je ověřit původ nahrávky a potvrdit informaci jiným kanálem. Podobně jako u detektorů AI textu neberte výsledek automatické detekce jako důkaz. Jak deepfaky zapadají do šíření nepravdivých zpráv, popisuje heslo dezinformace a AI.
Kde se s deepfakem můžete setkat v práci?
- Účetní: dostane hlasovou zprávu, ve které „ředitel“ naléhavě žádá o platbu na nový účet. Ověří ji zavoláním na známé číslo.
- Učitel: rozebírá s kolegy označenou ukázku deepfaku při přípravě lekce mediální výchovy.
- Marketér: chce do videa syntetický hlas mluvčího a předem si vyžádá písemný souhlas dotčené osoby.
- Personalistka: u online pohovoru počítá s tím, že obraz i hlas lze podvrhnout, a totožnost ověřuje i jinak.
Příklad zadání
Lektorka připravuje školení o podvodech pro kolegy z kanceláře a chce, aby jim AI pomohla s postupem ověřování.
Připrav krátký postup pro zaměstnance kanceláře, jak reagovat na telefonát nebo hlasovou zprávu od vedoucího, který žádá o okamžité odeslání peněz nebo citlivých dat. Uveď 5 kroků ověření a 3 varovné signály. Piš věcně, bez technických pojmů.
AI navrhne kroky, například zavolat zpět na známé číslo. Lektorka postup porovná s vnitřními pravidly organizace a doplní konkrétní kontakty.
Na co si u deepfaku dát pozor?
- Ověřujte neobvyklé požadavky jiným kanálem. Povědomý hlas ani obličej nestačí jako důkaz.
- Nenapodobujte nikoho bez souhlasu. Platí to pro kolegy, žáky i veřejně známé osoby.
- Vlastní ukázky viditelně označte jako uměle vytvořené (pomáhá i vodoznak AI), i když slouží k výuce.
- Nesdílejte podezřelé nahrávky dál. Nahlaste je vedení nebo platformě, kde se objevily.
Časté otázky
Je vytvoření deepfaku legální?
Technologie sama zakázaná není, záleží na použití. Napodobení člověka bez souhlasu může zasáhnout do jeho práv a AI Act vyžaduje, aby ten, kdo deepfake vytvořený pomocí AI používá, uvedl, že jde o umělý obsah.
Jak poznat deepfake?
Ověřte, odkud nahrávka pochází, a hledejte potvrzení v jiném nezávislém zdroji. Vizuální chyby mohou napovědět, ale nejsou spolehlivé.