Kunstmatige intelligentie bij rechterlijke oordeelsvorming

VOOR- EN DANKWOORD V

1 INLEIDING 1
1.1 De probleemstelling 2
1.2 Meerwaarde van dit onderzoek 3
1.3 Doel en doelgroep 5
1.4 Afbakening van het onderzoeksterrein en wettelijk kader 5
1.5 Onderzoeksvragen 7
1.6 Methodologie 7
1.7 Leeswijzer 12

2 HET PROCES VAN RECHTERLIJKE OORDEELSVORMING 13
2.1 In welke context vindt de rechterlijke oordeelsvorming plaats? 15
2.1.1 Het verloop van de procedure 15
2.1.2 De rol/taken van de rechter in de procedure 16
2.2 Hoe verloopt het proces van rechterlijke oordeelsvorming? 19
2.2.1 Inventarisatiefase: lezen van het dossier 19
2.2.2 De selectiefase: selecteren en vaststellen van de feiten en geschilpunten 21
2.2.3 Toetsingsfase: analyseren en beoordelen van het geschil 25
2.2.4 De beslissingsfase: beslissen 30
2.2.5 Redactiefase: motiveren en vonnis schrijven 32
2.3 Welke elementen spelen een rol bij het proces van oordeelsvorming door de rechter? 35
2.3.1 Factoren die de oordeelsvorming en beslissing beïnvloeden 35
2.3.2 Fasen in de oordeelsvorming door de rechter 42
2.3.3 Rationele aspecten in het proces van oordeelsvorming 43
2.3.4 Niet rationele aspecten of subjectieve aspecten in het proces van oordeelsvorming 50
2.3.5 Persoonlijkheidskenmerken 58
2.4 Conclusie 60

3 KWALITEIT VAN DE RECHTERLIJKE OORDEELSVORMING 63
3.1 Welke kwaliteitseisen stelt het Europese Verdrag voor de Rechten van de Mens? 64
3.1.1 Onafhankelijkheid en onpartijdigheid 65
3.1.2 Toegankelijkheid 69
3.1.3 Eerlijke behandeling 71
3.1.4 Openbaarheid 74
3.1.5 Redelijke termijn 76
3.2 Welke richtlijnen zijn er in Europees verband? 79
3.2.1 Standaard voor kwaliteit 79
3.2.2 Eisen aan KI-systemen 80
3.3 Wat zegt de Grondwet over kwaliteit van de rechtspraak? 81
3.3.1 Constitutionele onafhankelijkheid 82
3.3.2 Eerlijk proces 82
3.3.3 Openbaarheid 83
3.4 Welke kernwaarden hanteert de Raad voor de rechtspraak? 84
3.4.1 Onafhankelijkheid 84
3.4.2 Onpartijdigheid 85
3.4.3 Integriteit en onkreukbaarheid 85
3.4.4 Professionaliteit en deskundigheid 86
3.4.5 Tijdige en effectieve rechtspraak 87
3.5 Welke kernwaarden worden gesteld vanuit de rechtspraak zelf? 89
3.5.1 Analytisch vermogen 90
3.5.2 Luistervaardigheid 91
3.5.3 Communicatieve vaardigheden 91
3.5.4 Andere competenties 92
3.6 Kwaliteit volgens rechters, raadsheren en rechtswetenschappers 93
3.6.1 Rechtvaardigheid 94
3.6.2 Rechtseenheid en rechtszekerheid 95
3.6.3 Professionaliteit en ambachtelijkheid 96
3.6.4 Sociale vaardigheden 97
3.7 Wat verwachten rechtzoekenden en de professional van de rechter? 98
3.7.1 De rechtzoekende 98
3.7.2 De professional 99
3.8 Clustering en verdieping van de kwaliteitseisen 100
3.8.1 Vanuit de gebruiker/mens 101
3.8.2 Vanuit de techniek (data-science/KI) 102
3.9 Samenvatting van de ontwerpcriteria 103

4 KUNSTMATIGE INTELLIGENTIE 107
4.1 Wat is kunstmatige intelligentie? 107
4.1.1 Definitie 107
4.1.2 De ontwikkeling van kunstmatige intelligentie 108
4.2 Welke typen van KI zijn inzetbaar bij het proces van rechterlijke oordeelsvorming? 112
4.2.1 Kennissystemen 112
4.2.2 Machine learning 116
4.3 Wat zijn taken waar KI goed of slecht in is, bezien vanuit het proces van rechterlijke oordeelsvorming? 119
4.3.1 Welke taken kan KI goed of beter uitvoeren dan de mens? 120
4.3.2 Welke taken kan KI niet of minder goed uitvoeren? 122
4.3.3 Plus- en minpunten in een schema 131
4.4 Conclusie 132

5 KUNSTMATIGE INTELLIGENTIE IN DE RECHTSPRAAK 135
5.1 Wat kunnen kennis en (big) data voor de rechtspraak betekenen? 136
5.1.1 Kennis 136
5.1.2 Data 137
5.1.3 Beperkingen op de toepassingsmogelijkheden 137
5.2 Enkele voorbeelden van huidige toepassingen van KI in het justitiële domein 140
5.3 Welke taken kan KI uitvoeren in het proces van rechterlijke oordeelsvorming? 143
5.3.1 De inventarisatiefase 144
5.3.2 De selectiefase 144
5.3.3 De toetsingsfase 146
5.3.4 De beslissingsfase 149
5.3.5 De redactiefase 152
5.4 Competenties 153
5.5 Ontwerpcriteria vanuit de kwaliteitseisen 154
5.6 Tussenconclusie 156
5.7 Welke KI-technologieën kunnen nu al een rol vervullen bij het proces van rechterlijke oordeelsvorming? 158
5.7.1 Kennissystemen 158
5.7.2 Predictive analysis of voorspelalgoritmen 158
5.7.3 Judge profiling 160
5.7.4 Recommender-systemen: aanbevelingen doen en adviezen geven 161
5.7.5 Systemen die informatie kunnen ordenen 161
5.7.6 Systemen die slimmer kunnen zoeken naar vergelijkbare zaken 161
5.7.7 Systemen die juridische teksten kunnen samenvatten en anonimiseren 161
5.7.8 Systemen die autonoom kunnen beslissen 162
5.8 Conclusie 162

6 KWALITEITSEISEN KUNSTMATIGE INTELLIGENTIE IN DE RECHTSPRAAK 165
6.1 Wat zijn vanuit data science kwaliteitsaspecten bij de inzet van KI? 165
6.1.1 Eisen aan elektronische rechtspraak 165
6.1.2 De FACT-voorwaarden vanuit data science 166
6.2 Welke kwaliteitseisen stellen overheden, wetgever en Raad? 169
6.2.1 Voorwaarden en beginselen die vanuit Europees verband gelden voor de inzet van KI-systemen in de rechtspraak 169
6.2.2 Kwaliteitseisen vanuit de overheid 171
6.2.3 Borgen van mensenrechten 172
6.2.4 Aanvullende eisen van de Algemene Verordening Gegevensbescherming 175
6.2.5 Spelregels vanuit de Raad voor de rechtspraak bij het gebruik van data 180
6.3 Conclusie 181

7 FOCUSGROEPONDERZOEK: DE MENING VAN EXPERTS 183
7.1 Methodologie 184
7.1.1 De focusgroepen 184
7.1.2 De bijeenkomsten 186
7.1.3 De dataverwerking 187
7.2 Resultaten 188
7.2.1 Visie op KI in de rechtspraak over vijf en tien jaar 189
7.2.2 Kansen voor KI in de rechtspraak 191
7.2.3 Patroonherkenning van KI-toepassingen en waarde 193
7.2.4 Toepassingsgebieden voor type rechtszaken 194
7.2.5 Meta-inzichten op basis van data in het recht 195
7.2.6 Bedreigingen van KI in de rechtspraak 196
7.2.7 Digitalisering als randvoorwaarde voor KI 198
7.2.8 Privacy en datakwaliteit als randvoorwaarde van KI 199
7.2.9 Motivatie, verantwoordelijkheid en transparantie als randvoorwaarde van KI 200
7.2.10 Samenwerking tussen mens en machine 202
7.2.11 Acceptatie van KI in het recht 203
7.2.12 Klein beginnen met KI in het recht 204
7.3 Waar hebben de resultaten van het focusgroeponderzoek toe geleid? 205
7.3.1 De resultaten vanuit diverse deelnemersperspectieven 205
7.3.2 De resultaten vergeleken met de resultaten vanuit de literatuurstudie 206
7.3.3 De keuze van de pilot voor het praktijkonderzoek 207
7.4 Conclusie 208

8 KI BIJ HET PROCES VAN RECHTERLIJKE OORDEELSVORMING: EEN PRAKTIJKONDERZOEK 209
8.1 Waarom willen we KI in Mulderzaken inzetten? 209
8.1.1 Redenen om voor Mulderzaken te kiezen 209
8.1.2 Doel van KI in Mulderzaken 210
8.2 Hoe verlopen Mulderzaken? 211
8.2.1 De procedure 211
8.2.2 Het proces van rechterlijke oordeelsvorming bij Mulderzaken 212
8.3 Hoe is het onderzoek aangepakt? 214
8.3.1 Voorbereiding aanvang 2019 215
8.3.2 Opendata-onderzoek - januari - mei 2019 217
8.3.3 Bouw van de tool - juni - december 2019 217
8.3.4 Testen van de tool – oktober-november 2019 218
8.4 Welke verschillende functionaliteiten kent het KI-BOS? 218
8.4.1 Vijf functionaliteiten 219
8.4.2 Architectuur van het systeem 225
8.5 Hoe is de test met gebruikers uitgevoerd? 226
8.5.1 Testopzet 226
8.5.2 Onderzoekshypothesen 227
8.6 Wat is er uit de test gekomen? 228
8.6.1 Zijn de beslissingen kwalitatief beter en sneller met het KI-BOS dan zonder? 228
8.6.2 In hoeverre wordt de rechtseenheid bevorderd door gebruik van het KI-BOS? 231
8.6.3 Hoe beoordelen en waarderen de juridisch ondersteuners de verschillende functies van het KI-BOS? 231
8.6.4 Zijn de onderzoeksvragen beantwoord? 232
8.7 Wat kan KI bijdragen aan het proces van rechterlijke oordeelsvorming? 233
8.7.1 Taken die KI kan overnemen of ondersteunen 233
8.7.2 Beperkingen van het KI-BOS systeem 234
8.7.3 Overzicht van taken die KI-BOS kan uitvoeren 236
8.8 Conclusie 237

9 CONCLUSIES 243
9.1 Beantwoording van de centrale onderzoeksvraag 243
9.1.1 Conclusie op basis van de literatuur 243
9.1.2 Conclusie uit het deskundigenonderzoek 245
9.1.3 Conclusie op basis van het praktijkonderzoek 245
9.1.4 Conclusie op basis van de drie verschillende methoden van onderzoek 245
9.2 Ontwerpcriteria 246
9.3 Debatpunten 249
9.3.1 Het proces van rechterlijke oordeelsvorming 249
9.3.2 De kwaliteit van rechterlijke oordeelsvorming 250
9.3.3 De kwaliteit van kunstmatig intelligente systemen voor de rechtspraak 260
9.4 Een nadere clustering van ontwerpcriteria en vragen in drie fasen 261
9.5 Slotbeschouwing 277

Samenvatting 281
Inhoudsopgave XI
Summary 295

Bijlagen 309
1 Uitwerking focusgroepbijeenkomsten: 309
2 Resultaten survey juridisch ondersteuners over de ervaringen met het KI-BOS. 322
3 Ingevulde vragenlijsten survey juridisch ondersteuners 325
4 Logboek ontwikkeling KI-BOS: 339
5 Ontwerpcriteria per fase 345

Literatuurlijst 349