Nejenom o tom jsme hovořili s Reggiem Townsendem, ředitelem oddělení Data Ethics Practice ve společnosti SAS, která v oblasti umělé inteligence, ale i strojového učení a analýzy dat, patří ke světovým lídrům.
Stále častěji se mluví o nasazování umělé inteligence do různých oblastí našeho života. Je to ve všech případech pozitivní?
Zpravidla ano. Technologie jako umělá inteligence nabízejí nespočet příležitostí ke zlepšení našeho života. AI nám umožňuje zautomatizovat řadu činností, a věnovat se tak příjemnějším aktivitám. Pokud dáme AI příliš volného prostoru, naučí se automatizovat i rozhodnutí, která byla založena na neférových a vykořisťovatelských způsobech.
Můžete uvést nějaký příklad, kdy nasazení umělé inteligence vedlo ke zneužití nebo diskriminaci?
Známým příkladem je algoritmus, který Amazon používal pro nábor zaměstnanců. O práci v Amazonu se každoročně uchází přes 200 tisíc lidí. Využití AI pro předvýběr zaměstnanců bylo velkou příležitostí, jak celý proces zefektivnit. Byť se Amazon snažil předejít jakékoliv přímé diskriminaci, algoritmus začal preferovat žadatele mužského pohlaví, protože historicky se do Amazonu hlásili uchazeči z univerzity, ve které studují převážně muži.
Existuje riziko i cíleného zneužití umělé inteligence ve velkém měřítku?
Ano. AI například umí generovat videa politiků a známých osobností, která mohou šířit dezinformátoři. Rozpoznatelnost těchto tzv. deepfakes je pro obyčejného člověka velmi složitá a je jisté, že kvalita bude ještě dokonalejší. Možná máte v povědomí i skandál firmy Cambridge Analytica, která zneužila data z Facebooku pro ovlivnění prezidentských voleb nebo referenda o Brexitu.
Co lze udělat, aby se takovým scénářům zabránilo?
Jako tvůrci analytických platforem máme povinnost bránit jakémukoliv zneužití našich technologií. Musíme se starat o to, kdo, co, kdy, kde, proč a jak naše technologie používá a ovlivňuje společnost, nyní i do budoucna. Rozhodnutí učiněná pomocí umělé inteligence jsou výsledkem algoritmů, dat a procesů. To znamená, že v každé oblasti musí být uplatňována etická hlediska. Víme, že se umělá inteligence může stát škodlivou, pokud se předpojatost a zastaralé způsoby myšlení zakódují do automatizovaného rozhodování.
Existují zákony nebo pravidla, která upravují využití umělé inteligence?
Naše technologie dlouhodobě vyvíjíme na základě aktuálních pravidel o zodpovědném využití umělé inteligence. Tyto pravidla vycházejí jednak z našeho interního kodexu, ale splňují i všechny podmínky dohodnuté na mezinárodní úrovni včetně těch vydaných Evropskou unií. Evropská Unie je v tomto ohledu velmi aktivní, a snaží se co nejvíce ochránit spotřebitele. Podobně jako u GDPR, porušení tzv. „Aktu o umělé Inteligenci“ může vést k pokutě až 30 milionů euro nebo 6 % celkového obratu firmy.
Co si dnes můžeme pod umělou inteligencí představit?
Umělá inteligence je soubor technologií, jako je strojové učení (Machine Learning), které pomáhájí předvídat budoucí jevy na základě historických událostí a autonomně se rozhodovat. Dalšími disciplínami je například počítačové vidění (Computer Vision) schopné zpracovat obraz i video, nebo disciplíny zabývající se zpracováním lidského hlasu a porozumění psaného textu.
V jakých konkrétních oblastech se dnes umělá inteligence využívá nejčastěji?
Tyto technologie dnes nacházejí uplatnění téměř ve všech sektorech podnikání, ale i ve státní správě i běžném životě. Umělá inteligence dnes řídí dopravu, pomáhá v zásobování, v diagnostice ve zdravotnictví, automatizuje výrobní procesy, včas identifikuje defekty na mechanických zařízeních, nahrazuje operátory v call centrech. Koncovým spotřebitelům pomáhá při nakupování na internetu, v překladech i tlumočení, pomáhá předcházet nebo mírnit následky dopravních nehod a v celé řadě dalších aktivit. Příkladů využití umělé inteligence dnes počítáme na tisíce.
Co je třeba udělat, aby nepanoval strach z jejího zneužití?
Zamezit jakémukoliv zneužití umělé inteligence je utopie, které lze možná docílit v autoritativních režimech. V takovém světě však nechceme žít. Umělá inteligence může vytvořit lepší svět a silnější ekonomiku. Vyžaduje to společné úsilí tvůrců a uživatelů umělé inteligence, stejně jako politiků, akademiků, výzkumníků a komunitních organizací, aby informovali o postupech umělé inteligence a prozkoumali nové způsoby, jak pozvednout lidi pomocí dat a analýz.
Po technologické stránce usilujeme o „důvěryhodnou“ umělou inteligenci. Chceme, aby každé rozhodnutí umělé inteligence bylo transparentní, vysvětlitelné a auditovatelné. Naším zákazníkům pomáháme s vývojem takových modelů, které odpovídají etickým hodnotám vyspělé společnosti.
Jedině přiměřená míra regulace a zodpovědné chování firem přispějí k inovacím a naplnění pozitivního potenciálu této technologii.
