Jak být neviditelným? Vůči AI docela snadno

Umělá inteligence | |

Jak být neviditelným? Vůči AI docela snadno

Vědci z Katholieke Universiteit Leuven (univerzita ve vlámské části Belgie) využila několika triků, aby obelstila populární systém YOLOv2.


Systém YOLOv2 je zaměřen na detekci objektů. Výzkumníci však odhalili, že relativně malá vytisknutá plocha může snadno fungovat jako jakési provizorní maskovací zařízení proti umělé inteligenci.

Konvoluční neuronové sítě (CNN) se v posledních letech notně rozvinuly a staly se velmi efektivními v rozpoznávání lidí ve fotografiích a videu; učí se, jak lidé vypadají díky tisícům (reálně ještě mnohem více) skutečných fotografií a videí.

Lze je ale zmást, a zatím to není tak těžké. Vědci demonstrovali ve své studii „Fooling automated surveillance cameras: adversarial patches to attack person detection“ (více vypovídající název už jde jen těžko vymyslet) pomocí ploch o velikosti 40x40 cm.

Ve své studii se vedoucí výzkumu Simen Thys, Wiebe Van Ranst a Toon Goedeme zaměřili na populární YOLOv2, který patří mezi nejpopulárnější detektory objektů.

Jejich řešení – velmi zjednodušeně řečeno – spočívalo v omezení možností, které umělá inteligence měla k rozeznání osoby: zkrátka narušení vzorců, které systém používá k rozpoznávání obrazu. Jde o primitivní přístup, ale velmi účinný, který zároveň dobře demonstruje slabiny současného přístupu k zabezpečení a k biometrické identifikaci osob a objektů.

Když osoby plochu držely v ruce ve správné pozici, byl systém obvykle dostatečně zmaten. Ve většině případů systém vůbec člověka nedetekoval, a pokud ano, tak jej nedokázal správně vycentrovat.


Úvodní foto: © Lucas Gallone - Unsplash, upraveno IDG Comm.


Články z rubriky

Inteligentní antivirus/adblocker: Algoritmy proti kybernetickému zločinu"

Jedno z nejběžnějších míst, kde se uživatelé dostanou pod palbu malwaru a virů, jsou prohlížeče. Univerzity DTU a Aalborg spolu s CSI Security Group pracují na řešení, které by mohlo snadno a intuitivně...
více »


Neuronové sítě hrají videohry: Co nám prozradí o lidském mozku?"

Když řídíte auto, váš mozek zpracovává enormní množství vizuálních stimulů, které následně aplikuje na vytváření rychlých rozhodnutí typu zabrzdění nebo předjetí vozidel. Mozek potřebuje vaše...
více »


Qsim: open source kvantový simulátor pro vývoj algoritmů"

Google se kvantovým výpočetním technologiím věnuje dlouhodobě – a úspěšně – není tedy divu, že jeden z prvních příkladů open source softwaru určený čistě pro kvantové algoritmy pochází právě...
více »


Horizon Robotics: Čínská AI konkurence Nvidii v čipech pro samořiditelné automobily?"

Tradičně známá jako výrobce herního hardwaru, společnost Nvidia zároveň stojí v popředí výzkumu a vývoje AI v oblasti automobilismu a robotiky. Nejnovější konkurencí firmy se má stát čínský unicorn...
více »


AI ve zdravotnictví usnadní práci a pomůže s diagnostikou"

Málokdo by dnes tvrdil, že proces digitální transformace se týká pouze technologických a jim příbuzných firem. Denně technologie mění řadu oborů. Zvláštní postavení mezi nimi má zdravotnictví. Zdraví...
více »


Související články


Tagy

konvoluční neuronové sítě rozpoznávání obrazu kamery umělá inteligence AI soukromí bezpečnost

Komentáře