AI dokáže generovat věrohodné fake news, tvůrci se bojí zneužití

Umělá inteligence | |

AI dokáže generovat věrohodné fake news, tvůrci se bojí zneužití

Nezisková organizace OpenAI, která se věnuje vývoji umělé inteligence, a to obzvláště pro open source využití, omezila veřejně dostupnou verzi na AI založeného textového generátoru. Obává se, aby v nesprávných rukách nevedl k rychlému šíření zdánlivě důvěryhodných, ale falešných zpráv.


Organizace včera odhalila, že trénovala pomocí učení bez učitele model strojového učení, schopný samostatně generovat koherentní odstavce textů. Model vědci nazývají GPT-2 a byl trénován na datasetu čítajícím 8 milionů webových stránek.

Základem pro vytvoření zdánlivě zpravodajského textu je vždy prvotní krátká věta vložená člověkem. „Miley Cyrus byla dnes chycena při krádeží z obchodu Abercrombie and Fitch na Hollywood Boulevard“, uložili vědci umělé inteligenci a ta sepsala jednoduchý, čitelný texty, který by snadno zvládl napsat žurnalista a jenž je téměř k nerozeznání od anglosaské novinářské stylistiky.

Při vložení jiného druhu věty, konkrétně „Legolas a Gimli vyběhli na skupinu skřetů a s pokřikem zvedli své zbraně“, zase model vytvořil krátký fantasy příběh, i s postavami a dialogem (a mimochodem docela dobrý).

„Model působí jako chameleon – adaptuje se na styl a obsah. Umožňuje uživateli generovat realistické, koherentní pokračování a libovolně zvoleném textu,“ popisuje organizace.

Ač má samozřejmě model své limity – repetitivní text a kontextové nedokonalosti typu „oheň hoří pod vodou“ – je umělá inteligence schopna generovat z většiny velmi dobré texty, někdy srovnatelně s lidskými dovednostmi.

Umělou inteligenci by tak šlo potenciálně zneužít ke generování fake news, vydávání se za někoho jiného, automatizaci vydávání falešného obsahu nebo produkci spamu či phishingu. Vědic z toho důvodu uvolnili pro veřejnost jen menší a výrazně omezenou verzi GPT-2.

Samotná open AI má zajímavé sponzory, do jejich řad patří třeba Elon Musk nebo Peter Thiel.



Články z rubriky

Český start-up Neuron Soundware získal 150 milionů korun v investicích"

V nedávném rozhovoru s CEO Neuron Soundware Pavlem Konečným jsme nastínili, co firma vlastně dělá a jak byla založena. O českém startupu však ještě určitě uslyšíme, i díky dalším investicím.
více »


Visa: Umělá inteligence zabrání podvodům v hodnotě 25 miliard dolarů ročně"

Společnost spravující kreditní a mezibankovní transakce oznámila, že AI je pro ni důležitá v identifikaci a prevenci podvodů.
více »


L'Oréal: „Začíná nová éra kosmetiky“ s umělou inteligencí"

Nebývá zvykem, aby se redakce IT magazínu vydala na tiskovou konferenci největší kosmetické firmy světa. Tentokrát ale k tomu byl dobrý důvod.
více »


Cisco Webex získává AI, přinese rychlejší informace o lidech a firmách"

Na veletrhu Cisco Live v San Diegu Cisco představilo dodatečné funkce pro sjednocení svých komunikačních platforem.
více »


Zhruba 40 % Čechů si myslí, že umělá inteligence připraví lidi o práci, ale ne jejich"

Většina Čechů se nebojí, že jim umělá inteligence vezme práci. Vyplývá to z výzkumu, který pro Vodafone Nápad roku mezi tuzemskou populací realizovala agentura STEM/MARK. 41,4 % respondentů v něm uvedlo,...
více »


Související články


Tagy

umělá inteligence strojové učení algoritmy modely AI žurnalistika věda výzkum

Komentáře