AI dokáže generovat věrohodné fake news, tvůrci se bojí zneužití

Umělá inteligence | |

AI dokáže generovat věrohodné fake news, tvůrci se bojí zneužití

Nezisková organizace OpenAI, která se věnuje vývoji umělé inteligence, a to obzvláště pro open source využití, omezila veřejně dostupnou verzi na AI založeného textového generátoru. Obává se, aby v nesprávných rukách nevedl k rychlému šíření zdánlivě důvěryhodných, ale falešných zpráv.


Organizace včera odhalila, že trénovala pomocí učení bez učitele model strojového učení, schopný samostatně generovat koherentní odstavce textů. Model vědci nazývají GPT-2 a byl trénován na datasetu čítajícím 8 milionů webových stránek.

Základem pro vytvoření zdánlivě zpravodajského textu je vždy prvotní krátká věta vložená člověkem. „Miley Cyrus byla dnes chycena při krádeží z obchodu Abercrombie and Fitch na Hollywood Boulevard“, uložili vědci umělé inteligenci a ta sepsala jednoduchý, čitelný texty, který by snadno zvládl napsat žurnalista a jenž je téměř k nerozeznání od anglosaské novinářské stylistiky.

Při vložení jiného druhu věty, konkrétně „Legolas a Gimli vyběhli na skupinu skřetů a s pokřikem zvedli své zbraně“, zase model vytvořil krátký fantasy příběh, i s postavami a dialogem (a mimochodem docela dobrý).

„Model působí jako chameleon – adaptuje se na styl a obsah. Umožňuje uživateli generovat realistické, koherentní pokračování a libovolně zvoleném textu,“ popisuje organizace.

Ač má samozřejmě model své limity – repetitivní text a kontextové nedokonalosti typu „oheň hoří pod vodou“ – je umělá inteligence schopna generovat z většiny velmi dobré texty, někdy srovnatelně s lidskými dovednostmi.

Umělou inteligenci by tak šlo potenciálně zneužít ke generování fake news, vydávání se za někoho jiného, automatizaci vydávání falešného obsahu nebo produkci spamu či phishingu. Vědic z toho důvodu uvolnili pro veřejnost jen menší a výrazně omezenou verzi GPT-2.

Samotná open AI má zajímavé sponzory, do jejich řad patří třeba Elon Musk nebo Peter Thiel.



Články z rubriky

Chatbot Oraclu bude nově dostupný v balíčku aplikací Digital Assistant"

Oracle přidává do svého balíčku aplikací Digital Assistant konverzační AI, která má fungovat jako alternativa k tradičnímu ovládání.
více »


Umělá inteligence do každé kanceláře"

Podle analýzy společnosti Gartner se umělá inteligence stane do roku 2025 „kancelářským mainstreamem“. Co to znamená pro vás?
více »


IDC: Celosvětové výdaje na AI se v roce 2023 vyšplhají na téměř 100 miliard dolarů"

Investice do umělé inteligence letos dosáhnou 37,5 miliardy dolarů. Zájem projevují zejména maloobchod a bankovní instituce, rozvíjejí automatizované zákaznické alužby a systémy na detekci a prevenci hrozeb...
více »


IDC: Evropské výdaje na AI se v roce 2023 vyšplhají na 21 miliard dolarů"

O drtivou většinu výdajů se postarají západoevropské země v čele se Spojeným královstvím, Německem a Francií. O umělou intelgenci je zájem i v našem regionu CEE, kde by poptávka do roku 2023 měla růst...
více »


Pět klíčových technologických trendů"

Senzory a mobilita, zlepšování lidských schopností, post-klasická výpočetní a telekomunikační technika, digitální ekosystémy, nebo pokročilá AI a analytika jsou podle Gartneru klíčovými trendy na letošní...
více »


Související články


Tagy

umělá inteligence strojové učení algoritmy modely AI žurnalistika věda výzkum

Komentáře