AI dokáže generovat věrohodné fake news, tvůrci se bojí zneužití

Umělá inteligence | |

AI dokáže generovat věrohodné fake news, tvůrci se bojí zneužití

Nezisková organizace OpenAI, která se věnuje vývoji umělé inteligence, a to obzvláště pro open source využití, omezila veřejně dostupnou verzi na AI založeného textového generátoru. Obává se, aby v nesprávných rukách nevedl k rychlému šíření zdánlivě důvěryhodných, ale falešných zpráv.


Organizace včera odhalila, že trénovala pomocí učení bez učitele model strojového učení, schopný samostatně generovat koherentní odstavce textů. Model vědci nazývají GPT-2 a byl trénován na datasetu čítajícím 8 milionů webových stránek.

Základem pro vytvoření zdánlivě zpravodajského textu je vždy prvotní krátká věta vložená člověkem. „Miley Cyrus byla dnes chycena při krádeží z obchodu Abercrombie and Fitch na Hollywood Boulevard“, uložili vědci umělé inteligenci a ta sepsala jednoduchý, čitelný texty, který by snadno zvládl napsat žurnalista a jenž je téměř k nerozeznání od anglosaské novinářské stylistiky.

Při vložení jiného druhu věty, konkrétně „Legolas a Gimli vyběhli na skupinu skřetů a s pokřikem zvedli své zbraně“, zase model vytvořil krátký fantasy příběh, i s postavami a dialogem (a mimochodem docela dobrý).

„Model působí jako chameleon – adaptuje se na styl a obsah. Umožňuje uživateli generovat realistické, koherentní pokračování a libovolně zvoleném textu,“ popisuje organizace.

Ač má samozřejmě model své limity – repetitivní text a kontextové nedokonalosti typu „oheň hoří pod vodou“ – je umělá inteligence schopna generovat z většiny velmi dobré texty, někdy srovnatelně s lidskými dovednostmi.

Umělou inteligenci by tak šlo potenciálně zneužít ke generování fake news, vydávání se za někoho jiného, automatizaci vydávání falešného obsahu nebo produkci spamu či phishingu. Vědic z toho důvodu uvolnili pro veřejnost jen menší a výrazně omezenou verzi GPT-2.

Samotná open AI má zajímavé sponzory, do jejich řad patří třeba Elon Musk nebo Peter Thiel.


Úvodní foto: phonlamaiphoto


Články z rubriky

Potvrzeno, Nvidia kupuje britský Arm za 40 miliard dolarů"

Ačkoliv akvizice Armu znamená pro Nvidia především snazší vstup na pole mobilních procesorů, kde dosud nebyla příliš aktivní, pustí se také do stavby superpočítačů (s níž má Nvidia bohaté zkušenosti)...
více »


Strojové učení se stává dostupným díky open source"

Se zrychlující se digitalizací shromažďují firmy stále větší množství dat. Podívat se na ně očima stroje pak může přinést větší vhled do vlastního byznysu i objevování nečekaných příležitostí....
více »


Microsoft vyvíjí nové technologie na detekci deepfake videí"

Deepfake videa, velmi věrohodně vypadající videa, která upravují obsah tak, aby seděl do kontextu, který tvůrce chce, jsou velkým problémem moderního digitálního světa.
více »


Globální investice do AI se do čtyř let zdvojnásobí"

V letošním roce by výdaje na umělou inteligenci měly dosáhnout 50,1 miliardy dolarů. Největší zájem o technologie související s umělou inteligencí má maloobchod a bankovnictví, dvě třetiny investic ale...
více »


USA zvýšily státní výdaje na AI o 30 %, investuje i zbytek světa"

Přes všechny politické, zdravotnické a všelijaké další události tato zpráva vcelku zapadla, ale svět na umělou inteligenci nezapomněl; ba naopak.
více »


Související články


Tagy

umělá inteligence strojové učení algoritmy modely AI žurnalistika věda výzkum

Komentáře