Aktuální vydání

celé číslo

07

2020

Řízení distribučních soustav a chytrá města

Měření a monitorování prostředí v budovách a venkovním prostředí

celé číslo

Pohled do neuronových sítí

Technika umělé inteligence (Artificial Intelligence – AI, Künstliche Intelligenz – KI) rychle proniká do dalších a dalších oborů lidské činnosti. Algoritmy umělé inteligence jsou založeny především na využití umělých neuronových sítí, které obdobně s činností lidského mozku navzájem propojují neurony jako matematicky definované rozhodovací jednotky. Dosud se však nevědělo, jak umělá neuronová síť k rozhodnutím dochází. Nové metody vyvinuté výzkumnými pracovníky v Německu nyní umožňují nahlížet dovnitř algoritmů umělé inteligence, doposud uvažovaných jen jako tzv. černé skříňky s neznámými vnitřními procesy.

Obr. 1. Algoritmus umělé inteligence klasifikuje obrázek jako vlak na základě toho, že na obrázku jsou koleje (foto: Fraunhofer HHI)

V současnosti sotva existuje obor lidské činnosti, v němž technika umělé inteligence nehraje žádnou roli, ať jde např. o výrobu, reklamu, nebo komunikace atd.

Mnoho podniků např. využívá učící se a propojené algoritmy umělé inteligence umožňující jim přesně prognózovat chování zákazníků a s touto znalostí přesně předvídat poptávku po nabízených produktech. Takto je možné např. regionálně přizpůsobit logistické procesy.

Ve zdravotnictví se specifické schopnosti algoritmů umělé inteligence používají třeba ke klasifikaci a vypracování prognózy onemocnění na bázi strukturovaných dat. Zde jde zejména o rozpoznávání obrazů – např. rentgenových snímků zadaných v digitalizované podobě jako vstup do algoritmu umělé inteligence, výstupem jehož činnosti je stanovená diagnóza.

Zjišťování obsahu zobrazení má kritický význam také u autonomních mobilních prostředků, kde je třeba bezpečně a bezchybně rozpoznávat dopravní značky, okolní vozidla v pohybu i v klidu, chodce a cyklisty a další objekty na vozovce a v jejím relevantním okolí.

 

Umělá inteligence musí rozhodovat spolehlivě

V citlivých aplikačních oblastech s kritickými požadavky na spolehlivost, jako jsou např. již zmíněné obory lékařské diagnostiky či autonomní mobility, musí algoritmy umělé inteligence poskytovat absolutně spolehlivé strategie řešení předložených situací – a právě zde je v současnosti jádro závažného problému. Dosud totiž nebylo možné určit, jak algoritmy umělé inteligence ke svým rozhodnutím dospívají. Poskytnuté předpovědi navíc jednoznačně závisejí na kvalitě vstupních údajů.

Obr. 2. Algoritmus umělé inteligence přiřazuje obrázek podle citace autorského práva do správné kategorie „kůň“, ovšem strategie při rozhodování je v tomto případě nesprávná (foto: Fraunhofer HHI)

Za účelem zlepšit dosavadní neuspokojivý stav nyní výzkumní pracovníci z Fraunhoferova ústavu pro sdělovací techniku Heinricha Hertze (Fraunhofer Heinrich-Hertz-Institute – HHI) a z Technické univerzity v Berlíně (TU Berlin) společně vyvinuli novou metodu Layer-Wise Relevance Propagation (LRP), která umožňuje objasnit, jak algoritmy umělé inteligence dospívají ke svým výsledkům, a následně odhalit tzv. nespolehlivé strategie hledání žádané odpovědi.

Dalším vývojovým stupněm metody LRP je metoda nazvaná Spectral Relevance Analysis (Spray), která identifikuje a kvantifikuje široké spektrum naučených způsobů rozhodování, a tudíž dopředu eliminuje zjevně chybná rozhodnutí při zpracovávání i mimořádně rozsáhlých souborů údajů.

 

Transparentní umělá inteligence

Při použití v praxi metoda LRP zvlášť identifikuje každý jednotlivý ze vstupních prvků, z nichž se posléze určuje výsledný závěr. Zadá-li se tedy na vstup algoritmu umělé inteligence obraz tkáně, bude kvantifikováno, jaký vliv má na výsledek činnosti algoritmu každý jednotlivý obrazový bod. Jinými slovy: závěr, nakolik je zobrazená tkáň „karcinogenní“ nebo „nekarcinogenní“, je doplněn údaji použitými jako výchozí základna pro tuto klasifikaci. „Správný musí být nejenom výsledek, nýbrž také postup, jakým se k výsledku dospělo. Algoritmy umělé inteligence byly dosud používány jako ‚černá skříňka‘ a spoléhalo se na to, že pracují správně. S metodou LRP, realizovanou v podobě softwaru s otevřeným zdrojovým kódem (open-source), se nám daří exaktně zjistit způsob, jakým algoritmy umělé inteligence dospívají ke svým výsledkům,“ uvádí Dr. Wojciech Samek, vedoucí výzkumné skupiny pro strojové učení (machine learning) ve Fraunhoferově ústavu HHI. „Při použití metody LRP vizualizujeme a interpretujeme neuronové sítě i jiné modely strojového učení. Díky ní můžeme měřit vliv každé vstupní proměnné na předpověděný výsledek jako celek a analyzovat závěr nabízený klasifikačním algoritmem,“ doplňuje Dr. Klaus-Robert Müller, profesor pro obor strojového učení na TU Berlin.

Obr. 3. Nová technika Spectral Relevance Analysis umožňuje zjistit, podle kterých kritérií algoritmus umělé inteligence reálně rozhoduje (foto: Fraunhofer HHI)

 

Základem jsou spolehlivé a robustní strategie rozhodování

Plně důvěřovat výsledkům poskytovaným klasifikačními algoritmy založenými na neuronových sítích může jenom ten, kdo je dostatečně obeznámen se způsoby fungování neuronových sítí. Zkoušky prováděné výzkumnými týmy ukázaly, že algoritmy umělé inteligence nepoužívají ve všech případech ty nejvhodnější rozhodovací postupy, a v některých případech dokonce nedokážou nabídnout smysluplné, a tudíž v praxi použitelné výsledky. Například jeden renomovaný algoritmus umělé inteligence, který klasifikoval obrazy podle kontextu, přiřazoval fotografie do kategorie „loď“, když bylo na obrázku patrné hodně vodní hladiny. Přestože většinu obrázků identifikoval správně, vlastní úlohou rozpoznat lodě se tento algoritmus vůbec nezabýval. Další obdobné případy jsou ukázány na obrázcích obr. 1obr. 2. „Četné algoritmy umělé inteligence používají nespolehlivé strategie rozhodování a docházejí k závěrům značně se míjejícím s realitou,“ shrnuje Dr. Samek výsledky provedených zkoumání.

Naproti tomu metoda LRP dešifruje činnost neuronových sítí a vypátrá, podle jakých znaků byl kůň identifikován jako „kůň“, a ne jako „osel“ nebo „kráva“. Metoda v každém uzlovém bodě sítě zjistí, jaké údaje jím procházejí, a umožňuje vyšetřovat dokonce i neuronové sítě s velkým počtem vrstev (tzv. velmi hluboké sítě).

V současnosti vypracovávají týmy výzkumných pracovníků Fraunhoferova ústavu HHI a TU Berlin nové algoritmy umožňující jim pátrat po dalších kritických problémech a přispět k tomu, že algoritmy umělé inteligence budou stále spolehlivější a robustnější (obr. 3). Podrobné výsledky svého výzkumu uveřejnili partneři projektu v renomovaném odborném časopise Nature Com­munications (viz Nature Communications 10, Article number 1096, March 11, 2019; zajímavý článek je k dispozici volně ke stažení na webové stránce https://www.nature.com/articles/s41467-019-08987-4).

[Der Blick in Neuronale Netze. Presseinformation Fraunhofer Forschung Kompakt, 1. 7. 2019.] 

(Kab.)