Pri využívaní systémov umelej inteligencie v justícii sa musí zohľadňovať riziko, ktoré tieto systémy môžu predstavovať z hľadiska zásahu do ľudských práv, najmä pokiaľ ide o zásah do súkromia, ochrany osobných údajov alebo práva na spravodlivý proces.
Umelá inteligencia na pomocné úkony
Ako informoval tlačový odbor rezortu spravodlivosti, zhodli sa na tom účastníci neformálneho rokovania ministrov spravodlivosti štátov Európskej únie v Slovinsku. Slovenskú delegáciu viedol štátny tajomník rezortu spravodlivosti Michal Novotný.
„Ministri jednomyseľne podporili návrh, aby súdne rozhodnutia museli vždy vydávať iba sudcovia – ľudia. Bude však potrebné ešte analyzovať, do akej miery bude, napríklad, akceptovateľná príprava podkladov pre súdne rozhodnutia pomocou umelej inteligencie,“ informoval rezort a tým, že v tejto súvislosti bude potrebná diskusia o miere rizikovosti využitia umelej inteligencie na pomocné úkony, ako napríklad automatizované preklady. Aj takéto využitie totiž môže viesť k diskriminácii, napríklad v prípade nedostatočného zohľadnenia rôznych dialektov.
Rôzne názory skupín štátov
Najvypuklejšie rozdiely v názoroch sa v rámci stretnutia ministrov podľa rezortu ukázali pri využívaní umelej inteligencie orgánmi činnými v trestnom konaní a inými bezpečnostnými zložkami štátu na sledovanie pomocou biometrických údajov, ako napríklad používanie rozpoznávania tvárí na verejných priestranstvách za účelom hľadania páchateľov závažných trestných činov.
„Jedna skupina štátov požadovala väčšiu voľnosť pre bezpečnostné štátne zložky, druhá skupina štátov, naopak, žiadala využitie umelej inteligencie na tieto účely viac obmedziť, respektíve precizovať podmienky na jej využitie, aby nemohlo dochádzať k neprimeraných zásahom do práva na súkromie,“ dodal rezort spravodlivosti.