V roce 2013 byl muž jménem Eric Loomis souzen v americkém státě Wisconsin za trestný čin. Výjimečné na tomto případu bylo to, že soudce, který rozhodoval o jeho vině, se spoléhal na algoritmus umělé inteligence nazvaný COMPAS, který hodnotil Loomisovo riziko spáchání dalších trestných činů.

Program při tom hodnotí řadu faktorů, jako jsou předchozí trestné činy, věk, pohlaví a národnost trestance. Výsledkem je skóre, které označuje pravděpodobnost, že pachatel opět spáchá trestný čin. Algoritmus dospěl k závěru, že se Loomis pravděpodobně dopustí nových trestných činů a identifikoval jej jako hrozbu pro společnost. Soudce vynesl rozsudek jímž jej odsoudil k výkonu trestu.

Rozsudek byl sice napaden z důvodu nedostatečného spravedlivého procesu podle Ústavy USA a obhájce argumentoval tím, že algoritmus byl uzavřeným zdrojem, který Loomisovi neumožnil nahlédnout do způsobu vyhodnocení rizika ani zpochybnit jeho přesnost. Odvolání bylo přesto zamítnuto, přičemž soud rozhodl, že žalovaný měl plný přehled o vstupních i výstupních údajích.

Tento případ přilákal pozornost, protože se stal prvním případem v USA, kdy byl algoritmus použitý jako faktor rozhodující o vině a trestu. Tento případ vzbudil obavy o to, zda jsou algoritmy spravedlivé a zda jsou používány k rozhodování o osudech lidí na základě předpokladů.

Mám právo trvat na tom, aby mě soudil člověk?

Zastánci algoritmů tvrdí, že umožňují objektivní rozhodování bez ohledu na předsudky a lidské chyby. Kritici však upozorňují, že programy jako COMPAS se spoléhají na data z minulosti, která mohou obsahovat implicitní předsudky a diskriminaci. Tyto algoritmy mohou být náchylné k chybám a nedostatečnému porozumění kontextu, což může vést k nesprávným rozhodnutím. Navíc může být těžké, ne-li nemožné, odhalit a opravit tyto chyby, protože algoritmy jsou často chráněny autorskými právy a nejsou transparentní pro veřejnost.

Jsme na prahu éry, kdy nás bude soudit umělá inteligence?

Existují obavy, že použití umělé inteligence a datových analýz může zpochybnit základní principy spravedlnosti a rovnosti před zákonem. Pokud je rozhodnutí založeno na předsudcích a diskriminačních faktorech, mohou být jednotlivci křivě obviněni a nespravedlivě potrestáni.

Nicméně, existují také pozitiva v použití umělé inteligence a datových analýz v právním systému. Například, algoritmy mohou pomoci soudcům a advokátům lépe porozumět složitým věcem a poskytnout objektivnější a konzistentnější rozhodnutí. Může také snížit náklady a čas potřebný k řešení právních záležitostí a zlepšit efektivitu soudního systému. Obecně je přijímán názor, že takové systémy mohou lidem, kteří rozhodují, pomáhat jako podpora v jejich rozhodování a zrychlovat tak jejich činnost. Těmito lidmi nemusí být pouze soudci, ale také lidé, kteří rozhodují ve stále složitějších firemních strukturách o nejrůznorodějších problémech.

Digitální soudnictví 2.0

V posledních letech se v kriminálním soudnictví stále více využívají algoritmy a umělá inteligence ke zlepšení efektivity a přesnosti soudních rozhodnutí. Mezi nejznámější algoritmy patří například Harm Assessment Risk Tool (HART) a PredPol.

Harm Assessment Risk Tool byl využíván v britském soudnictví k hodnocení rizika opakování trestné činnosti u obžalovaných. Nicméně, používání HART bylo pozastaveno poté, co byly zjištěny diskriminační vlivy programu na určité menšinové skupiny.

Podobné problémy byly zjištěny i u programu PredPol, který byl používán v USA, Velké Británii a Austrálii k predikci míst, kde je největší pravděpodobnost výskytu zločinů. Algoritmus byl kritizován za to, že vede k nadměrnému sledování určitých oblastí a skupin lidí. V roce 2020 bylo používání PredPolu zastaveno.

Na druhé straně, německý algoritmus Precops se stále používá k předpovídání opakujících se trestných činů, konkrétně pro prevenci vloupání. Tento program využívá poznatků o blízkém opakování trestných činů zkušenostmi z minulosti, kdy se tyto činy často vyskytovaly nejen jednou, ale vícekrát.

Je zřejmé, že fikce inspirovaná filmem Minority Report nás nečeká, nicméně podpůrná funkce algoritmů je v rozhodovacím procesu již dnes používaná a čeká ji zářná budoucnost.

Mým úkolem digitálního advokáta je pomoci architektům takových algoritmů splnit požadavky, které na jejich použití klade platná legislativa a rozhodovací praxe soudů, a to jak v národním měřítku, eurokonformním výkladem, nebo pohledem širším. 

Pozitivním příkladem může být kamerový systém, který odhalí automobil, který se pohybuje rychle, přečte SPZ vozidla, spáruje ji z registrem vozidel a registrem osob a navrhne, nikoliv rozhodne, pro úředníka výši pokuty a odůvodnění jeho rozhodnutí.