AI dokáže generovat věrohodné fake news, tvůrci se bojí zneužití

Umělá inteligence | |

AI dokáže generovat věrohodné fake news, tvůrci se bojí zneužití

Nezisková organizace OpenAI, která se věnuje vývoji umělé inteligence, a to obzvláště pro open source využití, omezila veřejně dostupnou verzi na AI založeného textového generátoru. Obává se, aby v nesprávných rukách nevedl k rychlému šíření zdánlivě důvěryhodných, ale falešných zpráv.


Organizace včera odhalila, že trénovala pomocí učení bez učitele model strojového učení, schopný samostatně generovat koherentní odstavce textů. Model vědci nazývají GPT-2 a byl trénován na datasetu čítajícím 8 milionů webových stránek.

Základem pro vytvoření zdánlivě zpravodajského textu je vždy prvotní krátká věta vložená člověkem. „Miley Cyrus byla dnes chycena při krádeží z obchodu Abercrombie and Fitch na Hollywood Boulevard“, uložili vědci umělé inteligenci a ta sepsala jednoduchý, čitelný texty, který by snadno zvládl napsat žurnalista a jenž je téměř k nerozeznání od anglosaské novinářské stylistiky.

Při vložení jiného druhu věty, konkrétně „Legolas a Gimli vyběhli na skupinu skřetů a s pokřikem zvedli své zbraně“, zase model vytvořil krátký fantasy příběh, i s postavami a dialogem (a mimochodem docela dobrý).

„Model působí jako chameleon – adaptuje se na styl a obsah. Umožňuje uživateli generovat realistické, koherentní pokračování a libovolně zvoleném textu,“ popisuje organizace.

Ač má samozřejmě model své limity – repetitivní text a kontextové nedokonalosti typu „oheň hoří pod vodou“ – je umělá inteligence schopna generovat z většiny velmi dobré texty, někdy srovnatelně s lidskými dovednostmi.

Umělou inteligenci by tak šlo potenciálně zneužít ke generování fake news, vydávání se za někoho jiného, automatizaci vydávání falešného obsahu nebo produkci spamu či phishingu. Vědic z toho důvodu uvolnili pro veřejnost jen menší a výrazně omezenou verzi GPT-2.

Samotná open AI má zajímavé sponzory, do jejich řad patří třeba Elon Musk nebo Peter Thiel.



Články z rubriky

Dnes lákáme na cenu, v roce 2030 zákazníky upoutají inteligentní asistenti"

Časy a přání zákazníka se mění. Současnosti vládnou slevové akce a nízké ceny. To se však začíná měnit. Už za jedenáct let budou priority spotřebitelů zcela jiné. Vše bude podřízeno jejich pohodlí....
více »


Studie Cisco 2020: Intent-based sítě chtějí nasadit 3/4 firem, pomoci má AI"

Sítě řízené obchodními potřebami chtějí do dvou let nasadit 3/4 firem, ukázala studie Cisco 2020 Global Networking Trends Report.
více »


Evropské R&D na vzestupu: Facebook založí AI laboratoř v Paříži"

Ačkoliv v posledních měsících je Facebook známý hlavně pro své soustavné potíže s politickými reklamami a nakládáním s daty uživatelů, jeho úspěchy na poli inovací v nejmodernějších technologiích...
více »


Deepcode – Umělá inteligence pro rychlejší programování"

Cloudová služba analyzuje kód vložený do jednotlivých příspěvků na serverech typu GitHub nebo Bitbucket a zkoumá jejich bezpečnost, funkčnost, logiku a další prvky.
více »


Machine Learning Prague: Největší evropská konference o strojovém učení se opět blíží"

Strojové učení stojí v popředí výzkumu a vývoje, algoritmy, kterým dává vzniknout, najdou využití v průmyslu, medicíně, vědě a dalších oborech. Machine Learning Prague neboli MLP, největší konference...
více »


Související články


Tagy

umělá inteligence strojové učení algoritmy modely AI žurnalistika věda výzkum

Komentáře