Aktuální vydání

celé číslo

01

2024

Automatizace skladování, logistiky a manipulace s materiálem

Programovatelné automaty, průmyslové počítače, jednotky I/O, bezpečnostní systémy

celé číslo

FEL ČVUT koordinuje výzkum „férové“ umělé inteligence

Umělá inteligence (AI) stojí v pozadí mnoha systémů, od doporučování obsahu na sociálních sítích přes strojové vidění autonomních vozidel až po rozhodnutí o přidělení půjčky v bance. Tyto příklady demonstrují, jak zásadní dopad algoritmy AI mají. Jejich uspokojivé fungování je proto rozhodující pro jednotlivce i pro společnost jako celek. Návrhem vysvětlitelných a transparentních algoritmů umělé inteligence se bude zabývat mezinárodní projekt AutoFair, který získal grant ve výši přesahující 3,8 milionu eur v evropském programu Horizon Europe. Z celkového počtu 206 žádostí ve výzvě Human-01 jich uspělo 46.

Tříletý projekt AutoFair byl vybrán k financování jako jediný projekt koordinovaný institucí z České republiky. Jeho hlavním řešitelem je dr. Jakub Mareček z Centra umělé inteligence na FEL ČVUT. Ta z grantu dostane 15 milionů korun. Zbývajících 80 milionů korun si rozdělí dalších sedm členů konsorcia, mezi kterými jsou vědci z Imperial College London, izraelského technologického institutu Technion a Národní a Kapodistriánovy univerzity v Athénách. Partnerské instituce doplní ještě průmyslové firmy, které poskytnou potřebná data k modelování a ověří využitelnost výsledků v praxi. Půjde o nadnárodní společnosti i lokální start-upy vy­užívající umělou inteligenci.

Cílem projektu AutoFair je zaručit, že algoritmy AI nebudou nikomu stranit. Umělá inteligence fungující jako černá skříňka, do jejíhož rozhodování nemá člověk vhled, totiž představuje značné riziko. Algoritmus může fungovat pro mnoho lidí uspokojivě, ale pro některé velmi špatně. Jednou ze strategií, jak s tímto rizikem pracovat, je práce s daty. Výběr dat pro učení systému musí být skutečně reprezentativní a nesmí přenášet předsudky ve společnosti do vývoje algoritmů. Opačnou strategií je veřejnosti důsledně vysvětlovat fungování a omezení systémů AI. Tato strategie se týká komunikace po implementaci AI. Projekt AutoFair kombinuje oba tyto přístupy: chce vylepšit samotné algoritmy a zároveň vzdělávat koncové uživatele. Opírá se proto o poznatky z počítačových a datových věd, teorie řízení, optimalizace a dalších vědních disciplín, včetně etiky a práva.

Výstupy projektu budou testovány na třech případových studiích průmyslového využití. Prvním z nich je automatizace férového hodnocení při náboru zaměstnanců, druhým je odstranění genderové nerovnosti v reklamě a třetím je eliminace diskriminace některých klientů bank. Vznik tří případových studií doprovodí expertní skupiny složené ze zástupců byznysu, veřejných orgánů, nevládních organizací i politiků. Cílem je, aby se výstupy projektu podařilo promítnout také do plánované regulace umělé inteligence, kterou připravuje Evropská komise.

[Tisková zpráva FEL ČVUT v Praze, 29. 3. 2022.]

(ed)