AI dokáže odhalit zdánlivě perfektní deepfake videa - zatím

Umělá inteligence | |

AI dokáže odhalit zdánlivě perfektní deepfake videa - zatím

Deepfake videa jsou dezinformačním nebezpečím, s jakým se lidstvo dosud nemuselo potýkat. Umělá inteligence bude nejlepším nástrojem v boji proti nim.


Problém dobře modifikovaných deepfake videí je, že jsou lidským okem k nerozeznání od originálního záznamu. Prozatím jsou taková videa dosti vzácná, ale s postupem technologií a zlepšováním výpočetního výkonu se naopak rychle stávají jakýmsi standardem.

Jejich využití se najde třeba ve filmovém průmyslu, kde zjednodušuje úpravu scén nebo třeba věrohodnější dabing. Jenže se samozřejmě okamžitě také staly nástrojem kybernetických zločinců.

Zločinci jsou o krok dál

Vědci a bezpečnostní specialisté aktivně pracují na tom, aby je zvládali detekovat i ve chvíli, kdy lidským okem a standardními metodami už skutečně nepůjde poznat, že jde o upravená, nereálná videa. Jejich nebezpečí se dobře projevuje třeba u předvolebních debat nebo vyjádření politiků – v případě vhodné úpravy mohou vyvolat paniku nebo udělat u voličů špatný obrázek o jednom z volebních kandidátů.

Výzkumníci se Stanfordu a UC Berkeley pracují na umělé inteligenci, která dokáže takto upravená videa detekovat. Úspěšnost je zatím na nějakých 80 %, což není skvělé, ale pro začátek a relativně malý počet vstupních dat celkem slušné.

Problémem je, že i takové řešení je jen dočasně relevantní: Budoucí spolehlivou ochranu proti deepfake videím zkrátka nemáme, a i proto jde o tolik nebezpečnou technologii.

Neuronová síť Stanfordu pracuje na principu pozorování pohybů úst a vydávání odpovídajících zvuků, hlavně na písmena jako B, M a P, která nejde říct bez sevření rtů. Něco podobného je velmi složité upravit i u kvalitních deepfake videí.

Zatím – bohužel lze nyní jen čekat, zda se podaří najít takové řešení, které upravená videa spolehlivě odhalí, nebo si zvyknout na to, že každé video, které na internetu najdeme, může být upravené. Věřit něčím slovům na videu pak bude ještě o mnoho těžší…


Úvodní foto: © Monster Ztudio - Adobe Stock


Články z rubriky

Vyšel Computerworld 5/21"

Hlavní tématy čísla jsou business inteligence, umělá inteligence, podnikové systémy ERP a třeba zaké řízení dat v cloudu. Kromě jiného se i dozvíte, kdy si pomocí počítačových čipů dovedeme opravit...
více »


Nvidia Grace: 10 rychlejší výkon v AI, slibuje firma"

Nvidia se na umělou inteligenci zaměřuje dlouhodobě, a její nové CPU zaměřené na datacentra a postavené na architektuře britského Armu toho má být dalším důkazem.
více »


Deepfake geografie: Zfalšované satelitní snímky hrozí budoucími problémy"

Oheň v Central Parku nebo ohňostroj v Indii během Diwali viditelný z vesmíru – i to lze spatřit na speciálně upravených satelitních snímcích, které odborníci označují za „deepfake geografii“.
více »


Hledáme svatý grál AI konverzačních chatbotů, říká v podcastu Tomáš Zajíček ze společnosti PromethistAI"

Český start-up PromethistAI buduje globální platformu pro vývoj konverzačních robotů a zároveň vyvíjí chatboty pro pomoc lidem s duševními problémy. V podcastu Computerworldu jsme o detailech práce s umělou...
více »


Rychlejší reakce na budoucí pandemie"

To, že může kdykoliv udeřit další globální pandemie, se vědělo už před Covidem – ač se taková možnost značně podceňovala. Na příště už chce být svět připraven lépe.
více »


Související články


Tagy

AI umělá inteligence neuronové sítě počítačové vidění deepfake videa úpravy zločin kybernetické zabezpečení bezpečnost

Komentáře