AI dokáže generovat věrohodné fake news, tvůrci se bojí zneužití

Umělá inteligence | |

AI dokáže generovat věrohodné fake news, tvůrci se bojí zneužití

Nezisková organizace OpenAI, která se věnuje vývoji umělé inteligence, a to obzvláště pro open source využití, omezila veřejně dostupnou verzi na AI založeného textového generátoru. Obává se, aby v nesprávných rukách nevedl k rychlému šíření zdánlivě důvěryhodných, ale falešných zpráv.


Organizace včera odhalila, že trénovala pomocí učení bez učitele model strojového učení, schopný samostatně generovat koherentní odstavce textů. Model vědci nazývají GPT-2 a byl trénován na datasetu čítajícím 8 milionů webových stránek.

Základem pro vytvoření zdánlivě zpravodajského textu je vždy prvotní krátká věta vložená člověkem. „Miley Cyrus byla dnes chycena při krádeží z obchodu Abercrombie and Fitch na Hollywood Boulevard“, uložili vědci umělé inteligenci a ta sepsala jednoduchý, čitelný texty, který by snadno zvládl napsat žurnalista a jenž je téměř k nerozeznání od anglosaské novinářské stylistiky.

Při vložení jiného druhu věty, konkrétně „Legolas a Gimli vyběhli na skupinu skřetů a s pokřikem zvedli své zbraně“, zase model vytvořil krátký fantasy příběh, i s postavami a dialogem (a mimochodem docela dobrý).

„Model působí jako chameleon – adaptuje se na styl a obsah. Umožňuje uživateli generovat realistické, koherentní pokračování a libovolně zvoleném textu,“ popisuje organizace.

Ač má samozřejmě model své limity – repetitivní text a kontextové nedokonalosti typu „oheň hoří pod vodou“ – je umělá inteligence schopna generovat z většiny velmi dobré texty, někdy srovnatelně s lidskými dovednostmi.

Umělou inteligenci by tak šlo potenciálně zneužít ke generování fake news, vydávání se za někoho jiného, automatizaci vydávání falešného obsahu nebo produkci spamu či phishingu. Vědic z toho důvodu uvolnili pro veřejnost jen menší a výrazně omezenou verzi GPT-2.

Samotná open AI má zajímavé sponzory, do jejich řad patří třeba Elon Musk nebo Peter Thiel.



Články z rubriky

Praha se má do pěti let stát evropským centrem umělé inteligence"

Iniciativa prg.ai, k jejímuž podpisu došlo během včerejška, je ambiciózní a pokud se vyplní, tak skvělá nejen pro Prahu, ale Českou republiku jako celek.
více »


Axis Communications: videodohled, umělá inteligence a chytré kamery"

Axis během tradičního setkání s partnery nastínil i hlavní trendy na trhu v oblasti IP videodohledu. Patří mezi ně například umělá inteligence, efektivní využití cloudu a edge computingu či udržitelnost...
více »


Japonsko trpí na propadlé silnice, řešením je AI"

Pravda, v České republice je tento problém o něco menší, jedná se však přesto o zajímavé řešení, které může mít potenciálně širší dopady.
více »


Nový Google Asistent přinese bezmála revoluční změnu"

Google představil příští generaci svého Asistenta. Apple má co dohánět.
více »


Umělá inteligence vyrábí švédskou whisky"

Microsoft ve spojení s finskou technologickou konzultační společností Fourkind a oceňovanou švédskou palírnou single-malt whisky Mackmyra vyprodukovali první whisky na světě, při které hrála prim umělá inteligence....
více »


Související články


Tagy

umělá inteligence strojové učení algoritmy modely AI žurnalistika věda výzkum

Komentáře