AI dokáže odhalit zdánlivě perfektní deepfake videa - zatím

Umělá inteligence | |

AI dokáže odhalit zdánlivě perfektní deepfake videa - zatím

Deepfake videa jsou dezinformačním nebezpečím, s jakým se lidstvo dosud nemuselo potýkat. Umělá inteligence bude nejlepším nástrojem v boji proti nim.


Problém dobře modifikovaných deepfake videí je, že jsou lidským okem k nerozeznání od originálního záznamu. Prozatím jsou taková videa dosti vzácná, ale s postupem technologií a zlepšováním výpočetního výkonu se naopak rychle stávají jakýmsi standardem.

Jejich využití se najde třeba ve filmovém průmyslu, kde zjednodušuje úpravu scén nebo třeba věrohodnější dabing. Jenže se samozřejmě okamžitě také staly nástrojem kybernetických zločinců.

Zločinci jsou o krok dál

Vědci a bezpečnostní specialisté aktivně pracují na tom, aby je zvládali detekovat i ve chvíli, kdy lidským okem a standardními metodami už skutečně nepůjde poznat, že jde o upravená, nereálná videa. Jejich nebezpečí se dobře projevuje třeba u předvolebních debat nebo vyjádření politiků – v případě vhodné úpravy mohou vyvolat paniku nebo udělat u voličů špatný obrázek o jednom z volebních kandidátů.

Výzkumníci se Stanfordu a UC Berkeley pracují na umělé inteligenci, která dokáže takto upravená videa detekovat. Úspěšnost je zatím na nějakých 80 %, což není skvělé, ale pro začátek a relativně malý počet vstupních dat celkem slušné.

Problémem je, že i takové řešení je jen dočasně relevantní: Budoucí spolehlivou ochranu proti deepfake videím zkrátka nemáme, a i proto jde o tolik nebezpečnou technologii.

Neuronová síť Stanfordu pracuje na principu pozorování pohybů úst a vydávání odpovídajících zvuků, hlavně na písmena jako B, M a P, která nejde říct bez sevření rtů. Něco podobného je velmi složité upravit i u kvalitních deepfake videí.

Zatím – bohužel lze nyní jen čekat, zda se podaří najít takové řešení, které upravená videa spolehlivě odhalí, nebo si zvyknout na to, že každé video, které na internetu najdeme, může být upravené. Věřit něčím slovům na videu pak bude ještě o mnoho těžší…


Úvodní foto: © Monster Ztudio - Adobe Stock


Články z rubriky

Když naše nákupy ovlivňuje umělá inteligence"

Pandemie urychlila rozvoj umělé inteligence v retailu. Tři ze čtyř velkých prodejců už s ní nějakým způsobem pracují.
více »


ONLINE SPECIÁL: AI v boji proti bezpečnostním hrozbám"

JAK NA TO, když chceme automatizaci a strojové učení použít v IT bezpečnosti.
více »


Umělá inteligence začíná pomáhat s diagnózou Alzheimera"

Vývojáři z IBM vyvíjejí systém, který na základě analýzy řeči dokáže rozpoznat riziko propuknutí Alzheimerovy choroby.
více »


Čtení mysli? Jednou možná, ukazuje finský startup"

V současnosti je čtení mysli věc zhola nemožná – klíčové slovo je ale ono „v současnosti“.
více »


AI dokáže odhalit zdánlivě perfektní deepfake videa - zatím"

Deepfake videa jsou dezinformačním nebezpečím, s jakým se lidstvo dosud nemuselo potýkat. Umělá inteligence bude nejlepším nástrojem v boji proti nim.
více »


Související články


Tagy

AI umělá inteligence neuronové sítě počítačové vidění deepfake videa úpravy zločin kybernetické zabezpečení bezpečnost

Komentáře