Deepfake na vzestupu, rizikem je hlavně pro ženy

Bezpečnost | |

Deepfake na vzestupu, rizikem je hlavně pro ženy

Nový průzkum ukazuje alarmující nárůst deepfake videí. Jejich množství se za uplynulých devět měsíců skoro zdvojnásobilo. A navíc, jak se zdá, jejich výroba představuje lukrativní byznys, jehož oběťmi jsou zatím hlavně ženy.


Bezpečnostní společnost Deeptrace objevila online celkem 14 698 tzv. deepfake videí, což je téměř dvojnásobek oproti necelým osmi tisícům zjištěným loni v prosinci. A přestože dosud převládaly obavy, že deepfake videa mohou být zneužita v politice, jak se ukazuje, většina z nich (96 %) je z kategorie pornografie – tváře původních aktérů jsou v nich nahrazeny tvářemi celebrit.

Nejčastěji amerických a britských hereček, kterým však zdatně sekundují hvězdy jihokorejské hudební scény. Ukazuje se tak, že deepfake videa představují hrozbu především v oblasti tzv. revenge porna neboli pornografie ze msty a kyberšikany.

„Jde o velice aktuální problém, který poškozuje především ženy,“ hodnotí jeden z autorů studie Henry Ajder.

Pojem deepfake se poprvé objevil v roce 2017, dva roky poté je z něj fenomén. Společnost Deeptrace zjistila, že čtyři přední pornostránky zaměřené na deepfake videa, vydělávající na reklamě, dosáhly od loňského února v součtu 134 milionů zhlédnutí těchto videí. A aplikací pro výrobu těchto videí přibývá. Jedna taková, umožňující uměle „odstranit šaty“ z fotografií žen, si účtovala 50 dolarů za odstranění watermarku z každé výsledné fotografie. Autoři aplikaci po vlně kritiky odstranili, software fungující na obdobném principu, však funguje nadále.

„Dnes už je možné vytvořit ucházející deepfake snadno. Algoritmy potřebují čím dál tím menší množství zdrojových dat,“ poznamenává Katja Begová, analytička technologické společnosti Nesta. „S ohledem na rychlý vývoj technologií je důležité, aby na něj zákonodárci dokázali reagovat. To znamená vyvinout nástroje na rozpoznávání a rozšířit mezi lidmi o dané problematice povědomí.“

Autoři studie z Deeptrace upozorňují také na služby a weby, které deepfake videa vyrábějí a prodávají. Jeden takový požadoval k vytvoření videa 250 fotografií dotčené osoby a doručení videa garantoval do dvou dnů. Cena za něj přitom byla nízká, a to 2,99 dolarů.

Vyjma zmiňované pornografie zatím nejsou evidovány žádné případy nebo jen minimum, kdy by byla deepfake videa zneužita ke skutečnému oklamání lidí za nekalým účelem. Zůstává však otázkou, jak se této potenciální hrozbě bránit.

„Virální video se dokáže dostat k milionům lidí a na přední stránky novin během pár hodin. Na následné ujištění, že je falešné, už může být pozdě,“ zamýšlí se Begová nad tím, zda technologie pro rozpoznávání deepfake videí může být řešením.

Tak či tak, zatím se zdá, že v krátkodobém horizontu budou obětmi deepfake videí spíš než vlády a korporace především jednotlivci, ve většině případů ženy. A je nepravděpodobné, že si budou moct dovolit se takovému zneužívání bránit…



Články z rubriky

Deepfake na vzestupu, rizikem je hlavně pro ženy"

Nový průzkum ukazuje alarmující nárůst deepfake videí. Jejich množství se za uplynulých devět měsíců skoro zdvojnásobilo. A navíc, jak se zdá, jejich výroba představuje lukrativní byznys, jehož oběťmi...
více »


Nebezpečný francouzský spambot nahrává oběti při sledování stránek pro dospělé"

Zatímco v České republice útočníci uživatele pouze vydírali, ve Francii navrhli malware, který skutečně natáčí inkriminující video svých obětí a krade citlivé údaje, zjistil Eset.
více »


Na detekci deepfake videí pracuje Facebook i Microsoft"

Ve spolupráci s několika americkými univerzitami a sdružením Partnership on AI se obě firmy pokusí nalézt způsob, jak lépe detekovat deepfake videa. Hledání proběhne formou veřejné soutěže.
více »


Palo Alto posiluje zabezpečení IoT, za 75 milionů dolarů kupuje Zingbox"

Zingbox provozuje cloudovou službu postavenou na umělé inteligenci a strojovém učení, jež nabízí detekci a zastavení bezpečnostních útoků na zařízení připojená k IoT. Akvizice by měla být dokončena...
více »


Zranitelnost protokolu RDP zůstává oblíbená, počet brute force útoků roste"

Zranitelnost CVE-2019-0708, tedy zranitelnost v protokolu Remode Desktop Protocol od Microsoftu, je noční můrou řady IT administrátorů. Je známá také pod názvem BlueKeep
více »


Související články


Tagy

deepfake video ochrana bezpečí internet šikana kyberšikana prodej fotografie osobní údaje

Komentáře