AI dokáže generovat věrohodné fake news, tvůrci se bojí zneužití

Umělá inteligence | |

AI dokáže generovat věrohodné fake news, tvůrci se bojí zneužití

Nezisková organizace OpenAI, která se věnuje vývoji umělé inteligence, a to obzvláště pro open source využití, omezila veřejně dostupnou verzi na AI založeného textového generátoru. Obává se, aby v nesprávných rukách nevedl k rychlému šíření zdánlivě důvěryhodných, ale falešných zpráv.


Organizace včera odhalila, že trénovala pomocí učení bez učitele model strojového učení, schopný samostatně generovat koherentní odstavce textů. Model vědci nazývají GPT-2 a byl trénován na datasetu čítajícím 8 milionů webových stránek.

Základem pro vytvoření zdánlivě zpravodajského textu je vždy prvotní krátká věta vložená člověkem. „Miley Cyrus byla dnes chycena při krádeží z obchodu Abercrombie and Fitch na Hollywood Boulevard“, uložili vědci umělé inteligenci a ta sepsala jednoduchý, čitelný texty, který by snadno zvládl napsat žurnalista a jenž je téměř k nerozeznání od anglosaské novinářské stylistiky.

Při vložení jiného druhu věty, konkrétně „Legolas a Gimli vyběhli na skupinu skřetů a s pokřikem zvedli své zbraně“, zase model vytvořil krátký fantasy příběh, i s postavami a dialogem (a mimochodem docela dobrý).

„Model působí jako chameleon – adaptuje se na styl a obsah. Umožňuje uživateli generovat realistické, koherentní pokračování a libovolně zvoleném textu,“ popisuje organizace.

Ač má samozřejmě model své limity – repetitivní text a kontextové nedokonalosti typu „oheň hoří pod vodou“ – je umělá inteligence schopna generovat z většiny velmi dobré texty, někdy srovnatelně s lidskými dovednostmi.

Umělou inteligenci by tak šlo potenciálně zneužít ke generování fake news, vydávání se za někoho jiného, automatizaci vydávání falešného obsahu nebo produkci spamu či phishingu. Vědic z toho důvodu uvolnili pro veřejnost jen menší a výrazně omezenou verzi GPT-2.

Samotná open AI má zajímavé sponzory, do jejich řad patří třeba Elon Musk nebo Peter Thiel.


Úvodní foto: phonlamaiphoto


Články z rubriky

Okamžitá monetizace videí pomocí umělé inteligence"

Česká firma se slovenským vedením, Cinnamon, se zabývá monetizací videí, textu a obrazu za uživatelem reálně shlédnutý obsah.
více »


Lepší protézy pro chůzi v nerovném terénu díky umělé inteligenci"

Nejde jen o hardware – důležitý je i způsob, jakým protézy interagují s lidským tělem, tj. software.
více »


AI pomáhá předpovídat vedlejší účinky chemoterapie"

Rakovina je bohužel nedílnou součástí lidské existence a naneštěstí i života mnoha z nás. Umělá inteligence a strojové učení ale mohou obzvláště v této oblasti pomoci.
více »


Vyšší management se zaměřuje na AI, pro podniky je klíčový, tvrdí průzkum Appen"

Nový průzkum od firmy Appen potvrdil, že pro vyšší management je AI důležitým, ba dokonce klíčovým tématem.
více »


Mozek jako úsporná neuronová síť"

Sofistikované systémy umělé inteligence, obzvláště ty založené na neuronových sítích, už z podstaty věci simulují lidský mozek. Vědci se dlouhodobě pokouší tuto podobnost ještě zvýraznit a stvořit...
více »


Související články


Tagy

umělá inteligence strojové učení algoritmy modely AI žurnalistika věda výzkum

Komentáře