AI dokáže odhalit zdánlivě perfektní deepfake videa - zatím

Umělá inteligence | |

AI dokáže odhalit zdánlivě perfektní deepfake videa - zatím

Deepfake videa jsou dezinformačním nebezpečím, s jakým se lidstvo dosud nemuselo potýkat. Umělá inteligence bude nejlepším nástrojem v boji proti nim.


Problém dobře modifikovaných deepfake videí je, že jsou lidským okem k nerozeznání od originálního záznamu. Prozatím jsou taková videa dosti vzácná, ale s postupem technologií a zlepšováním výpočetního výkonu se naopak rychle stávají jakýmsi standardem.

Jejich využití se najde třeba ve filmovém průmyslu, kde zjednodušuje úpravu scén nebo třeba věrohodnější dabing. Jenže se samozřejmě okamžitě také staly nástrojem kybernetických zločinců.

Zločinci jsou o krok dál

Vědci a bezpečnostní specialisté aktivně pracují na tom, aby je zvládali detekovat i ve chvíli, kdy lidským okem a standardními metodami už skutečně nepůjde poznat, že jde o upravená, nereálná videa. Jejich nebezpečí se dobře projevuje třeba u předvolebních debat nebo vyjádření politiků – v případě vhodné úpravy mohou vyvolat paniku nebo udělat u voličů špatný obrázek o jednom z volebních kandidátů.

Výzkumníci se Stanfordu a UC Berkeley pracují na umělé inteligenci, která dokáže takto upravená videa detekovat. Úspěšnost je zatím na nějakých 80 %, což není skvělé, ale pro začátek a relativně malý počet vstupních dat celkem slušné.

Problémem je, že i takové řešení je jen dočasně relevantní: Budoucí spolehlivou ochranu proti deepfake videím zkrátka nemáme, a i proto jde o tolik nebezpečnou technologii.

Neuronová síť Stanfordu pracuje na principu pozorování pohybů úst a vydávání odpovídajících zvuků, hlavně na písmena jako B, M a P, která nejde říct bez sevření rtů. Něco podobného je velmi složité upravit i u kvalitních deepfake videí.

Zatím – bohužel lze nyní jen čekat, zda se podaří najít takové řešení, které upravená videa spolehlivě odhalí, nebo si zvyknout na to, že každé video, které na internetu najdeme, může být upravené. Věřit něčím slovům na videu pak bude ještě o mnoho těžší…


Úvodní foto: © Monster Ztudio - Adobe Stock


Články z rubriky

Díky cloudu je nasazení umělé inteligence mnohem snazší"

Překvapivě dostupnost AI technologií není v současné době zdaleka největší překážkou nasazení umělé inteligence ve firmách. Mezi nejčastější patří právě nedostatek znalostí a zkušeností, nedostupnost...
více »


Big data a multicloud: Řešení je mnoho, trh rychle roste"

Objem dat, které firmy i domácnosti zpracovávají, neustále roste; 90 % existujících dat vzniklo jen během posledních dvou let, a nic nenapovídá tomu, že by se tento trend měl v nejbližší budoucnosti zvrátit.
více »


Vyčmuchání rakoviny? S umělou inteligencí ano"

Nástroj vyvinutý Pensylvánskou univerzitou a Penn’s Perelman School of Medicine vyvinulo nástroj, který dokáže pomocí pachových vzorků detekovat několik druhů rakoviny, a to s přesností až 95 %.
více »


Jak se v práci cítíte? Zajímavý projekt, který v EU neprojde"

Zajímavý AI projekt zaměřený na rozpoznávání obličeje umí omezeně sledovat emoce v obličeji zaměstnance, jenže taková mírá sledování není na většině pracovišť průchozí.
více »


Zveme vás na konferenci Umělá inteligence 2021"

Konference se zaměří na praktický přínos technologií umělé inteligence v softwarových nástrojích pro podporu řízení a rozhodování, automatizaci provozu, v kybernetické bezpečnosti či IT.
více »


Související články


Tagy

AI umělá inteligence neuronové sítě počítačové vidění deepfake videa úpravy zločin kybernetické zabezpečení bezpečnost

Komentáře