Kalifornia, technologická veľmoc, kde vznikali najväčšie inovácie sveta, teraz rozbieha proces, ktorý môže rozhodnúť o budúcnosti spravodlivosti nielen v USA, ale aj na celom svete. Výbor pre pravidlá kalifornského súdnictva navrhol, že všetkých 65 okresných súdov a viac než 1 800 sudcov musí do septembra prijať zásadné pravidlá na reguláciu generatívnej AI.

Prečo taký rozruch?

Stačí jeden pohľad na posledné prípady a už nikto nemôže pochybovať: AI už dnes „pomáha“ sudcom s analýzou dôkazov, generovaním právnych dokumentov, ba dokonca sumarizuje výpovede a vyhodnocuje precedensy. No s veľkou silou prichádza aj obrovská zodpovednosť. Kto zaručí, že AI nerozhodne zle, že sa neobjaví „halucinácia“ alebo že systém nevynesie rozsudok na základe skreslených údajov?

Právnici a sudcovia naprieč Amerikou sa zhodujú – bez jasných pravidiel môžu byť ohrozené základy právneho štátu. Stačí jeden „AI glitch“ v nesprávnej chvíli a môže ísť o slobodu či majetok nevinných ľudí.

Čo navrhuje Kalifornia? Pravidlá, ktoré menia hru

1. Ochrana súkromia na prvom mieste
Sudcovia nebudú smieť spracúvať dôverné alebo osobné údaje prostredníctvom AI systémov bez špeciálneho zašifrovania a kontroly. Každý dokument, ktorý vytvorila AI, musí byť jasne označený.

2. Plná transparentnosť
Rozhodnutia, na ktorých sa podieľala AI, musia niesť „digitálny podpis“ už žiadne skryté algoritmy, ktoré ovplyvnia rozsudok potajomky.

3. Zákaz použitia AI pri najcitlivejších prípadoch
Obhajoba a žaloba budú môcť požadovať vylúčenie AI, ak by mohla byť ohrozená dôvernosť či spravodlivosť. AI nebude môcť analyzovať napríklad súdne spisy týkajúce sa detí alebo obetí násilia bez výslovného súhlasu.

4. Povinné školenia pre sudcov a právny personál
Každý sudca prejde školením o možnostiach a rizikách AI, aby sa nenechal nachytať na „zázračné“ riešenia.

5. Zodpovednosť a audit
Každé využitie AI bude podliehať auditu. Kto zodpovedá za chybu? Súd, AI dodávateľ, alebo štát? Odpoveď na túto otázku sa bude ešte dlho hľadať.

Prečo práve teraz?

Americké súdy už čelia vlnám kritiky kvôli prípadu, kde AI vygenerovala falošné právne citácie a advokáti ich predložili súdu. Podobné kauzy ukazujú, že hoci AI môže urýchliť prácu, bez kontroly sa môže stať doslova zbraňou proti spravodlivosti.

Okrem toho, USA sledujú aj vývoj v Číne, kde sa AI čoraz viac používa na rozhodovanie o menších právnych sporoch. Kritici však upozorňujú na riziká „robotickej spravodlivosti“, kde algoritmus často nahradí empatiu a individuálny prístup sudcu.

Aké sú hlavné riziká a čo na to odborníci?

• Únik citlivých údajov: AI systémy trénované na veľkých dátach môžu omylom uchovávať a zdieľať citlivé súdne informácie.

• Halucinácie AI: Existuje riziko, že AI „vymyslí“ fakty, precedensy alebo odporúčania, ktoré nikdy neexistovali.

• Predpojatosť algoritmov: Algoritmy môžu zrkadliť predsudky zo vstupných dát – a to môže viesť k diskriminácii menšín alebo znevýhodnených skupín.

• Nejasná zodpovednosť: Ak AI pomýli, kto nesie následky? To je otázka, ktorú zatiaľ nikto na svete neodpovedal jasne.

Zmení sa spravodlivosť navždy?

Kalifornia môže byť prvou lastovičkou – očakáva sa, že ak jej reforma uspeje, podobné pravidlá príjme aj New York, Illinois, či dokonca Veľká Británia alebo EÚ. To by mohlo znamenať zrod nového, digitálneho súdnictva, kde človek a AI budú fungovať bok po boku – ale pod prísnym dohľadom.

Ak však regulačné snahy zlyhajú, môže nastať chaos. Sudcovia by mohli nevedome preberať rozhodnutia strojov, spoločnosť stratí dôveru v súdnictvo a na scénu by mohli nastúpiť „súdne deepfakes“ či zmanipulované dôkazy.

Záver: Sme pripravení na budúcnosť, kde o osudoch ľudí rozhoduje AI?

Kalifornia rozbehla niečo, čo môže zmeniť fungovanie právneho štátu na celom svete. Či bude tento experiment úspešný, ukáže už najbližší rok. Jedno je isté diskusia o hraniciach AI a ľudského rozhodovania sa len začína. A Slovensko? Bude musieť na túto výzvu zareagovať skôr, než bude neskoro.