Když učení nefunguje: chyby v trénování AI modelů pro samořiditelné automobily mohou vést k silničním nehodám

Bezpečnost | |

Když učení nefunguje: chyby v trénování AI modelů pro samořiditelné automobily mohou vést k silničním nehodám

Odborníci z MIT ve spolupráci s Microsoftem vytvořili nový model, který dokáže odhalit případy, v nichž se autonomní systémy určené pro samořiditelné automobily učily z příkladů, které neodpovídají realitě, nebo které jsou pro reálný provoz nevhodné.


To by mohlo potenciálně způsobit výrazné bezpečnostní problémy. Inženýři však nyní mohou díky novému modelu tyto zranitelnosti eliminovat a systémy umělé inteligence vylepšit. Nejedná se pouze o autonomní vozy, ale také třeba o roboty.

Ve virtuálních simulacích jsou modely pohánějící samořiditelná auta trénována velmi podrobně, aby se algoritmy připravily na jakoukoliv možnou nastálou silniční situací. Někdy však auto v reálném světě udělá chybu, protože se stane situace, na kterou by auto reagovat mělo, ale neumí to.

Dvě studie od MIT popisují fungování modelu. AI systém jako normálně prochází simulačním tréninkem; na rozdíl od běžného postupu však živý člověk pečlivě sleduje, jaká rozhodnutí systém dělá a poskytuje mu zpětnou vazbu ve chvíli, kdy udělal, nebo se chystá udělat, jakoukoliv chybu. Výzkumníci poté tréninková data zkombinují s touto zpětnou vazbou a pomocí technik strojového učení vytvoří nový model, který ukáže situace, kde je nutné systém vylepšit.

Vědci svoji metodu potvrdili pomocí – věřte nebo ne – videoher. Jeho funkčnost se ve virtuálním prostředí potvrdila, teď je však nutné model zahrnout to tradiční trénovačích technik pro umělou inteligenci určenou pro autonomní vozidla a roboty.


Úvodní foto: © adimas - Fotolia.com


Články z rubriky

Konflikt s Íránem může ohrozit i váš počítač"

Pokud Írán zahájí kyberútoky jako svou odpověď za zabití generálmajora Kásima Sulejmáního, což se pravděpodobně stane, budou jako vždy cílem útoku Windows. Až se to stane, váš počítač i byznys budou...
více »


České firmy nejsou dostatečně chráněny před kybernetickými útoky"

České průmyslové firmy, ale ani elektrárny, nejsou dostatečně chráněny před potenciálními počítačovými útoky. Průzkum společnosti Soitron poukázal na to, že minimálně 1580 řídicích systémů ve...
více »


IoT čeká v roce 2020 velký vzestup, ale bezpečnost stále nebude dostatečná"

Hype křivka IoT už překonala ta největší očekávání i nejhorší propady a ustaluje se: A ukazuje, že jak pojem samotný, tak související technologie tu s námi budou i dál.
více »


AI v bezpečnostních technologiích: Kamery a alarmy se spojí do platforem, říká CEO AngelCam Petr Ocásek"

Kamery a alarmy se spojí do platforem s umělou inteligencí, pulty centrální ochrany to však nenahradí – budou žít v symbióze, říká Petr Ocásek
více »


Avast a ČVUT společně otevírají cybersecurity & AI laboratoř"

FEL ČVUT otevře ve spolupráci s antivirovým gigantem Avast novou výzkumnou laboratoř, zaměřenou na umělou inteligenci a strojové učení v kyberbezpečnosti.
více »


Související články


Tagy

umělá inteligence strojové učení algoritmy modely samořiditelné automobily autonomní vozy videohry AI bezpečnost simula

Komentáře