Binnenkort zal een kunstmatig intelligent systeem tijdens een rechtszaak de beklaagde precies vertellen wat diegene moet zeggen. Het is vermoedelijk de eerste zaak ooit waarbij een AI de verdediging verzorgt.
In februari zal een kunstmatig intelligent systeem voor het eerst in de geschiedenis een verdachte in de rechtbank adviseren. De AI zal op een smartphone draaien en luisteren naar alles wat in de rechtszaal wordt gezegd. Op basis daarvan zal het systeem de beklaagde via een oortje instrueren wat diegene moet zeggen.
De locatie van de rechtbank en de naam van de verdachte worden geheimgehouden door DoNotPay, het bedrijf dat de AI heeft gemaakt. Wel is duidelijk dat de verdachte beschuldigd is van te hard rijden. De verdachte zal alleen zeggen wat de AI via het oortje doorgeeft.
'Als maaltijdbezorger heb je je te voegen naar de algoritmes'
Arbeidsrechtspecialiste Jana Retkowsky onderzocht het werk van maaltijdbezorgers. 'Door het algoritme worden ze als robots.'
DoNotPay ziet de zaak als een test. Het bedrijf heeft toegezegd elke boete te betalen die eventueel wordt opgelegd als de verdediging niet succesvol is, zegt oprichter Joshua Browder.
Gehoorapparaat
In de meeste landen is het illegaal om een smartphone of computer verbonden met een oortje in de rechtbank te gebruiken. DoNotPay heeft echter een locatie gevonden waar dit systeem wordt geclassificeerd als een gehoorapparaat, zodat het wel is toegestaan, aldus Browder. ‘Het valt technisch gezien binnen de regels, al denk ik niet dat het in de geest van de regels is’, zegt hij.
Browder heeft de AI onlangs met een kunstmatige stem rechtstreeks met de klantenservice van een bank laten praten. Op die manier heeft het systeem op eigen houtje verschillende opgelegde kosten teruggedraaid. ‘Het is het meest verbazingwekkende dat ik ooit heb gedaan’, zegt Browder. ‘We hebben maar 16 dollar bespaard, maar juist dat is een perfecte taak voor een AI; wie heeft er genoeg tijd te verspillen om voor 16 dollar in de wacht te staan?’
Waarheidsgehalte
DoNotPay werd in 2015 gelanceerd als een relatief eenvoudige chatbot die juridisch advies gaf rond consumentenkwesties. Het systeem vertrouwde daarbij sterk op van tevoren ingevoerde gesprekssjablonen. In 2020 begon het bedrijf zich meer op AI te richten. Destijds gaf OpenAI een programmeerinterface vrij waarmee iedereen de mogelijkheden van GPT-3, zijn taalverwerkende AI, kon benutten.
Volgens Browder kostte het veel tijd om de AI van DoNotPay te trainen met talloze uitspraken uit eerdere zaken. De AI-app bestrijkt nu een groot aantal onderwerpen, waaronder immigratierecht. Het bedrijf beweert dat het systeem van invloed is geweest op ongeveer 3 miljoen zaken in de Verenigde Staten en het Verenigd Koninkrijk.
Lees ook: AI kan vrijwel elk plaatje maken: fascinerend en zorgwekkend
De AI moest worden getraind om zich aan feitelijke verklaringen te houden, in plaats van alles te zeggen waarmee hij een zaak kon winnen, ongeacht het waarheidsgehalte. ‘We proberen onze juridische aansprakelijkheid te minimaliseren’, zegt Browder. ‘Het is niet de bedoeling dat het systeem feiten verdraait of te manipulatief is.’
De audiotool is ook getweakt om niet op elke verklaring te reageren. ‘Soms is stilte het beste antwoord’, zegt Browder.
Legaal
Het doel van Browder is dat de software uiteindelijk sommige advocaten zal vervangen. ‘Het draait allemaal om taal, en dat is waar advocaten honderden of duizenden dollars per uur voor rekenen’, zegt hij. ‘Er zullen altijd veel goede advocaten zijn die voor het Europees Hof voor de Rechten van de Mens pleiten. Maar nu vragen een heleboel advocaten gewoon veel te veel geld voor het kopiëren en plakken van documenten. Ik denk dat zij zeker zullen worden vervangen, en dat zou ook goed zijn.’
Computerwetenschapper Nikos Aletras van de Universiteit van Sheffield (VK) heeft een AI ontwikkeld die de uitkomst van rechtszaken op het gebied van mensenrechten nauwkeurig kan voorspellen. Hij ziet een toenemend gebruik van de AI-techniek machineleren in het rechtssysteem, maar waarschuwt dat de toepassing ervan zorgvuldig moet worden afgewogen.
‘Wanneer je advocaat je zegt ‘oké, laten we A doen’, dan vertrouwen we erop dat ze de expertise en de kennis hebben om ons te adviseren’, zegt Aletras. ‘Met AI is het heel moeilijk om op voorspellingen te vertrouwen.’
Volgens Aletras is het via audio verstrekken van realtime juridisch advies in de rechtszaal nog steeds een technologische uitdaging. Ook kleven er ethische en juridische kwesties aan, zoals de vraag of het gebruik in de rechtbank überhaupt wel legaal is.
