Umělá inteligence nemusí být férová – jak to ale poznat?

Umělá inteligence | |

Umělá inteligence nemusí být férová – jak to ale poznat?

Nástroj, který lidem pomůže identifikovat a případně napravit nespravedlivé zkreslení algoritmů AI (Artifical Intelligence – umělé inteligence), vyvinula firma Accenture - cílem je zachytit diskriminaci dříve, než začne infikovat modely AI a způsobovat škodu.


Nástroj AI Fairness je součástí širšího balíčku, který firma nedávno nabídla jako podporu transparentnosti a etiky při zavádění strojového učení.  Počítačové algoritmy se dostávají do role, kdy v prvním sítu rozhodují o řadě záležitostí – dělají jakýsi předvýběr, který předkládají k dořešení „lidským“ kolegům.

A tak umělá inteligence může rozhodovat o tom, zda určitý člověk dostane půjčku, nabídku zaměstnání, případně povolení k určité činnosti. Accenture se proto v rámci aktivit zaměřených na odstranění podjatosti k AI rozhodla vytvořit nástroj, který vyhodnocuje, zda systémy AI rozhodují spravedlivě a objektivně.

Umělá inteligence sama o sobě nemůže být spravedlivá nebo nespravedlivá -- jde o to, že algoritmy, které pro rozhodování využívá, mohou kodifikovat nesprávné lidské chápání. AI Fairness je určený k rychlé identifikaci a následné pomoci při řešení problémů v algoritmech.

„Našim cílem je zpřístupnit tento nástroj společnostem, které chtějí rozšířit své používání AI, ale obávají se rizika neúmyslných dopadů,“ říká Rumman Chowdhury, lídr v oblasti umělé inteligence společnosti Accenture. „V minulosti jsme našli modely, které jsou celkově velmi přesné, ale pokud se podíváte, jak se určitá chyba rozkládá nad podskupinami, uvidíte obrovský rozdíl mezi tím, jak správný je určitý model například pro bílého muže ve srovnání s černou ženou.“

Nástroj také hledá proměnné, které souvisejí s dalšími citlivými proměnnými. Algoritmus by například nemusel explicitně zohledňovat pohlaví, ale pokud se podívá na příjem, mohl by snadno oddělit výsledky pro ženy a muže.

Vyšetřuje také míru chyb pro každou proměnnou, a zda jsou chyby vyšší pro některou skupinu. Po této analýze je nástroj schopen opravit algoritmus, ale protože tento typ korekce může způsobit snížení jeho přesnosti, navrhne řešení a umožní uživateli rozhodnout, nakolik se má změnit.

AI Fairness může najít uplatnění v různých nejen průmyslových odvětvích, přičemž se předpokládá, že prvními uživateli budou ti, kteří se nacházejí v nejvíce regulovaných oborech - například finančních služeb a zdravotní péče, kde je potenciál nežádoucích dopadů AI velký.

„Vidíme rostoucí zaměření na algoritmické zkreslení a spravedlnost. Řada států vytváří etické rady AI,  Google nedávno vydal své etické pokyny,“ konstatuje Chowdhury. „Takže si myslím, že lídři v oboru AI, stejně jako non-tech společnosti, hledají cestu. Hledají standardy a protokoly a něco, čím se mohou řídit, protože chtějí vytvářet a využívat bezpečné produkty.“



Články z rubriky

Operátoři budou při implementaci 5G využívat umělou inteligenci"

Umělá inteligence pomůže operátorům rychleji získat zpět investice vynaložené pro přechod na 5G. Představuje nástroje pro plánování a řízení sítí, stejně tak jako pro sběr, strukturování a analýzu...
více »


Strategie na umělou inteligenci i její etiku: Austrálie chce být v AI velkým hráčem"

Vláda teritoria Nového Jižního Walesu momentálně vypracovává strategii použití umělé inteligence – i s etickým kontextem.
více »


Umělá inteligence je budoucností ERP"

I navzdory kulturním bariérám či zastaralým technologiím je umělá inteligence (AI) připravena převzít funkce klasického podnikového softwaru. Dodavatelé ERP v současnosti přidávají do svých produktů funkce...
více »


IDC: Firmy považují AI za prioritu, ale jen málo z nich zavádí celopodnikové strategie"

Organizace od umělé inteligence očekávají zvýšení produktivity i spokojenosti zákazníků, na druhou stranu je trápí vysoké náklady na AI. Prvky umělé inteligence nejčastěji zavádějí oddělení IT a péče...
více »


Když si Stanford vyhlédne českou univerzitu: FIT ČVUT v Praze nabízí studentům programování po americku"

Fakulta informačních technologií ČVUT v Praze nabízí druhým rokem stovce studentů českých středních škol jedinečnou příležitost vyzkoušet si, jak vypadá studium jednoho předmětu na prestižní Stanfordově...
více »


Související články


Tagy

AI Fairness Accenture analýza algoritmus korekce umělá inteligence

Komentáře