Kritiek op gebruik van ai in de rechtspraak, 'Fundamentele mensenrechten mogen niet in gevaar komen'

Yoeri Nijs  | Deel:  
Artikel-plaatje

Beeld: Unsplash/Joel & Jasmin Førestbird.

Kunstmatige intelligentie zou voorlopig niet mogen worden ingezet bij het doen van uitspraken in de rechtspraak. Dat constateert de Raad van Europa na onderzoek. De organisatie, die geen onderdeel is van de Europese Unie, heeft dinsdag een handvest vrijgegeven waarin belangrijke principes zijn opgesteld voor het gebruik van ai in de jurisdictie.

Volgens de Raad van Europa is er een verschuiving gaande waarbij velen geloven dat machines, doordat ze voorlopig nog geen ‘menselijke’ emotie hebben, beter in staat zullen zijn in het geven van een straf dan een rechter. De raad verwerpt deze opvatting echter.

'Grote risico's'
In een handvest, dat de Raad van Europa dinsdag heeft vrijgegeven, schrijft de raad dat kunstmatige intelligentie eerdere uitspraken van rechters gebruikt om mogelijk te bepalen wat een straf iemand moet krijgen. Dit gebeurt aan de hand van statistiek. Volgens de Raad van Europa is deze werkwijze echter gevaarlijk.

“Er zijn grote risico’s op vervormde interpretaties als er alleen van statistische modellen wordt uitgegaan”, zo schrijft de organisatie. De raad zegt dat door het gebruik van grote hoeveelheden data de context van rechterlijke uitspraken verloren gaat.

LEES OOK: 'Kunstmatige intelligentie nog lang niet zo slim als mens'

'Alleen voor reproduceren redenering van rechter'
De Raad van Europa gaat nog een stap verder door te stellen dat kunstmatige intelligentie niet kan helpen bij het voorspellen van uitspraken. Zulke tools kunnen volgens het gremium niet worden gebruikt om de redeneringen van rechters te reproduceren. “Wel om ze te beschrijven”, aldus de raad in het handvest [PDF].

Kunstmatige intelligentie, en specifiek machine learning, mag verder alleen worden ingezet binnen de rechtspraak als een betrouwbare partij de techniek levert. Het hele proces moet bovendien herleidbaar zijn om zeker te zijn dat niemand tussentijds invloed kan uitoefenen op de besluitvorming van kunstmatige intelligentie.

LEES OOK: Hoe zit dat: het verschil tussen kunstmatige intelligentie, machine learning en deep learning

'Ai-tools mogen rechtspraak niet hinderen'
De Raad van Europa heeft vijf zogenoemde basisprincipes vrijgegeven voor beleidsmakers, wetgevers en juristen die iets met ai willen doen. In het raamwerk staat onder andere ook dat kunstmatige intelligentie altijd de fundamentele Europese mensenrechten moet handhaven. Zo moet er worden voldaan aan het Europees verdrag voor de rechten van de mens en het Europees verdrag voor de bescherming van persoonlijke gegevens.

Concreet betekent dit dat een ai-tools die bijvoorbeeld rechters ondersteunen bij het doen van een uitspraak of rechtspraak inzichtelijk maken voor het publiek, de rechtspraak nooit mogen ondermijnen. De tools mogen niet verhinderen dat iemand een rechter kan inschakelen. Ook mogen ze mensen niet belemmeren een eerlijk proces te starten.

Veilig en transparant
De Raad van Europa benadrukt bovendien dat de ai-tools niet in de weg mogen zitten bij het handhaven van de wet. Ze mogen dus niet tarten aan de onafhankelijkheid van de rechter bij het nemen van een besluit over een bepaalde straf, zo valt er te lezen in het handvest met de vijf basisprincipes.

Andere basisprincipes staan onder andere stil bij dat kunstmatige intelligentie niemand mag discrimineren in de rechtspraak. Verder moet data die door algoritmen worden gebruikt, op een veilige manier worden opgeslagen en worden uitgewisseld. Het verwerken van de data moet toegankelijk en begrijpbaar zijn. Hierdoor kunnen mensen op wie de data betrekking hebben én externe partijen, zoals onafhankelijke instanties, controle kunnen uitoefenen.

LEES OOK: Wat is explainable AI en wat moet je erover weten?

Aanzien
Het handvest dat de Raad van Europa heeft gepubliceerd, kan mogelijk grote invloed uitoefenen op hoe met kunstmatige intelligentie in Europa wordt omgegaan. Hoewel het gebruik van het handvest niet bindend is en dus afhankelijk is van of en hoe aangesloten lidstaten het willen implementeren, heeft de Raad van Europa veel aanzien.

De Raad van Europa is géén onderdeel van de Europese Unie, maar een onafhankelijk politiek orgaan dat vlak na de Tweede Wereldoorlog werd opgericht. Een belangrijk doel van de raad  is het bevorderen van de eenheid tussen de lidstaten, met name door het sluiten van onderlinge verdragen.

In tegenstelling tot de EU zijn vrijwel alle Europese landen lid van de Raad van Europa. Het gaat om onder meer alle EU-lidstaten, Rusland en Turkije.




Wil je deelnemen aan dit gesprek? Log in of meld je aan.