Profese
Algoritmický auditor (AI / algorithm auditor)
Také se říká: auditor algoritmů, AI auditor, bias auditor (auditor předsudků v algoritmech)
Nově vzniklá profese — zrodila se z vývoje posledních let: nástup umělé inteligence.
Co v této práci budete opravdu dělat
Algoritmický auditor nezávisle prověřuje algoritmy a AI systémy — hledá v nich předsudky, diskriminaci a skrytá rizika, podobně jako finanční auditor hledá chyby v účetnictví. Testujete třeba náborový algoritmus: znevýhodňuje ženy, starší uchazeče, cizince? Analyzujete data, spouštíte statistické testy férovosti, píšete auditní zprávu a stojíte si za ní i před regulátorem. Obor popostrčil New York, kde zákon nařizuje povinné bias audity (audity předsudků) náborových algoritmů — první případ, kdy je tento audit vyžadován ze zákona. Vzdělání nabízí například certifikace „AI and Algorithm Auditor“ od BABL AI. Najímají auditorské a poradenské firmy, specializované butiky i regulátoři. Náročná je nezávislost: klient platí, ale zpráva musí být poctivá. Láká společenský dopad — vaše práce rozhoduje, jestli algoritmus někomu nespravedlivě nesebere šanci na práci či úvěr. Nejlépe se sem přechází z auditu, datové analytiky nebo compliance; čeká se statistika, základy strojového učení a ideálně zmíněná certifikace.
Kde profese vznikla a proč: zrodila se z AI boomu a prvních skandálů s diskriminujícími algoritmy, po nichž regulátoři začali vyžadovat nezávislou kontrolu.
Metodika se mezi auditory zatím liší tak, že dva audity téhož systému nemusí dojít ke stejnému závěru — obor si standard teprve buduje. S nástupem AI Actu poptávka po nezávislém prověřování dál poroste.
Kde profesi uvidíte na obrazovce
Dokument „Coded Bias“ (2020, Netflix) sleduje výzkumnici Joy Buolamwini při odhalování předsudků v algoritmech rozpoznávání tváří — přesně ten problém, který algoritmičtí auditoři řeší denně.