AI dokáže odhalit zdánlivě perfektní deepfake videa - zatím

Umělá inteligence | |

AI dokáže odhalit zdánlivě perfektní deepfake videa - zatím

Deepfake videa jsou dezinformačním nebezpečím, s jakým se lidstvo dosud nemuselo potýkat. Umělá inteligence bude nejlepším nástrojem v boji proti nim.


Problém dobře modifikovaných deepfake videí je, že jsou lidským okem k nerozeznání od originálního záznamu. Prozatím jsou taková videa dosti vzácná, ale s postupem technologií a zlepšováním výpočetního výkonu se naopak rychle stávají jakýmsi standardem.

Jejich využití se najde třeba ve filmovém průmyslu, kde zjednodušuje úpravu scén nebo třeba věrohodnější dabing. Jenže se samozřejmě okamžitě také staly nástrojem kybernetických zločinců.

Zločinci jsou o krok dál

Vědci a bezpečnostní specialisté aktivně pracují na tom, aby je zvládali detekovat i ve chvíli, kdy lidským okem a standardními metodami už skutečně nepůjde poznat, že jde o upravená, nereálná videa. Jejich nebezpečí se dobře projevuje třeba u předvolebních debat nebo vyjádření politiků – v případě vhodné úpravy mohou vyvolat paniku nebo udělat u voličů špatný obrázek o jednom z volebních kandidátů.

Výzkumníci se Stanfordu a UC Berkeley pracují na umělé inteligenci, která dokáže takto upravená videa detekovat. Úspěšnost je zatím na nějakých 80 %, což není skvělé, ale pro začátek a relativně malý počet vstupních dat celkem slušné.

Problémem je, že i takové řešení je jen dočasně relevantní: Budoucí spolehlivou ochranu proti deepfake videím zkrátka nemáme, a i proto jde o tolik nebezpečnou technologii.

Neuronová síť Stanfordu pracuje na principu pozorování pohybů úst a vydávání odpovídajících zvuků, hlavně na písmena jako B, M a P, která nejde říct bez sevření rtů. Něco podobného je velmi složité upravit i u kvalitních deepfake videí.

Zatím – bohužel lze nyní jen čekat, zda se podaří najít takové řešení, které upravená videa spolehlivě odhalí, nebo si zvyknout na to, že každé video, které na internetu najdeme, může být upravené. Věřit něčím slovům na videu pak bude ještě o mnoho těžší…


Úvodní foto: © Monster Ztudio - Adobe Stock


Články z rubriky

Neuronová poezie. Básně algoritmy stále neumí"

Šlo by pokročilé zpracování přirozeného jazyka (NLP) použít pro reprodukci pokročilých psaných textů a poezie?
více »


Odkud přijdou další koronaviry? Strojové učení pomáhá identifikovat zdroje nákazy"

Výzkum Liverpoolské univerzity naznačuje, jak by se budoucí koronaviry mohly přenést ze zvířat na člověka a dále se šířit populací.
více »


Vnímání vlastních končetin u robotů"

Jedním ze stále nedořešených problémů, které brání rozšíření sériové výrobě „inteligentních“ robotů, je nedostatečně rozvinuté rozpoznávání obrazu. Robot si kupříkladu musí být vědom svého...
více »


AI dokáže objektivizovat toleranci bolesti v lidech"

Může umělá inteligence eliminovat nerovnosti v poskytované zdravotní péči?
více »


Vyšel Computerworld 2/2021"

V aktuálním vydání magazínu jsme se věnovali umělé inteligenci a strojovému učení, analytice v edge computingu, řízení pracovní síly a vzniku evropské satelitní sítě. A také jsme vyhlásili první finalisty...
více »


Související články


Tagy

AI umělá inteligence neuronové sítě počítačové vidění deepfake videa úpravy zločin kybernetické zabezpečení bezpečnost

Komentáře