Jak být neviditelným? Vůči AI docela snadno

Umělá inteligence | |

Jak být neviditelným? Vůči AI docela snadno

Vědci z Katholieke Universiteit Leuven (univerzita ve vlámské části Belgie) využila několika triků, aby obelstila populární systém YOLOv2.


Systém YOLOv2 je zaměřen na detekci objektů. Výzkumníci však odhalili, že relativně malá vytisknutá plocha může snadno fungovat jako jakési provizorní maskovací zařízení proti umělé inteligenci.

Konvoluční neuronové sítě (CNN) se v posledních letech notně rozvinuly a staly se velmi efektivními v rozpoznávání lidí ve fotografiích a videu; učí se, jak lidé vypadají díky tisícům (reálně ještě mnohem více) skutečných fotografií a videí.

Lze je ale zmást, a zatím to není tak těžké. Vědci demonstrovali ve své studii „Fooling automated surveillance cameras: adversarial patches to attack person detection“ (více vypovídající název už jde jen těžko vymyslet) pomocí ploch o velikosti 40x40 cm.

Ve své studii se vedoucí výzkumu Simen Thys, Wiebe Van Ranst a Toon Goedeme zaměřili na populární YOLOv2, který patří mezi nejpopulárnější detektory objektů.

Jejich řešení – velmi zjednodušeně řečeno – spočívalo v omezení možností, které umělá inteligence měla k rozeznání osoby: zkrátka narušení vzorců, které systém používá k rozpoznávání obrazu. Jde o primitivní přístup, ale velmi účinný, který zároveň dobře demonstruje slabiny současného přístupu k zabezpečení a k biometrické identifikaci osob a objektů.

Když osoby plochu držely v ruce ve správné pozici, byl systém obvykle dostatečně zmaten. Ve většině případů systém vůbec člověka nedetekoval, a pokud ano, tak jej nedokázal správně vycentrovat.



Články z rubriky

IDC: Celosvětové výdaje na AI se v roce 2023 vyšplhají na téměř 100 miliard dolarů"

Investice do umělé inteligence letos dosáhnou 37,5 miliardy dolarů. Zájem projevují zejména maloobchod a bankovní instituce, rozvíjejí automatizované zákaznické alužby a systémy na detekci a prevenci hrozeb...
více »


IDC: Evropské výdaje na AI se v roce 2023 vyšplhají na 21 miliard dolarů"

O drtivou většinu výdajů se postarají západoevropské země v čele se Spojeným královstvím, Německem a Francií. O umělou intelgenci je zájem i v našem regionu CEE, kde by poptávka do roku 2023 měla růst...
více »


Pět klíčových technologických trendů"

Senzory a mobilita, zlepšování lidských schopností, post-klasická výpočetní a telekomunikační technika, digitální ekosystémy, nebo pokročilá AI a analytika jsou podle Gartneru klíčovými trendy na letošní...
více »


Na detekci deepfake videí pracuje Facebook i Microsoft"

Ve spolupráci s několika americkými univerzitami a sdružením Partnership on AI se obě firmy pokusí nalézt způsob, jak lépe detekovat deepfake videa. Hledání proběhne formou veřejné soutěže.
více »


Future Port Prague 2019: Jak vypadá budoucnost technologií?"

Letošní ročník akce festivalu a konference Future Port Prague bude tou největší ve střední Evropě. Těšit se můžete na spousty řečníků i setkání s význačnými osobnostmi z podnikového prostředí.
více »


Související články


Tagy

konvoluční neuronové sítě rozpoznávání obrazu kamery umělá inteligence AI soukromí bezpečnost

Komentáře