Interview: Joris den Bruinen (Security Delta en Nederlandse AI Coalitie) en Paul Fockens (Sustainable Rescue Foundation) over data samenwerking in strijd tegen criminaliteit
Introductie
17 februari presenteren de Nederlandse AI Coalitie (NL AIC) en Security Delta (HSD) een paper over AI-toepassingen voor Veiligheid, Vrede en Recht. Met daarin ook speciale aandacht voor Multi-Party Computation (MPC), de door Roseman Labs in productie gebrachte technologie om gezamenlijke data inzichten te genereren zonder de data te hoeven onthullen. Niet zonder reden, aldus de voorzitter van de NL AIC- werkgroep en Security Delta (HSD)- directeur Joris den Bruinen en Paul Fockens van de Sustainable Rescue Foundation. “Deze technologie kan ervoor zorgen dat er geen tegenstelling meer bestaat tussen privacy enerzijds en veiligheid anderzijds.”
Veiligheid, Vrede en Recht, het zijn helaas niet altijd vanzelfsprekend. Dreigingen groeien en zowel onze fysieke als digitale veiligheid staat onder druk. Artificiële Intelligentie speelt een steeds grotere rol in de bescherming tegen deze dreigingen en het waarborgen van het recht, maar tegelijkertijd brengt deze inzet ook risico's met zich mee. Welke randvoorwaarden komen daarbij kijken en hoe komen we tot een effectieve, veilige en mensgerichte aanpak van deze toepassingen? De werkgroep Veiligheid, Vrede en Recht van de Nederlandse AI Coalitie schreef een paper over dit speelveld. Met daarin onder meer aandacht voor Privacy Enhached Technology en specifiek MPC als hulpmiddel om het delen van data-inzichten mogelijk te maken.
De aandacht voor MPC is niet vreemd, aldus de directeur van HSD en voorzitter van de NL AIC werkgroep, Joris den Bruinen. “Artificiële intelligentie is afhankelijk van data. Hoe meer relevante data er beschikbaar is en hoe hoger de kwaliteit, hoe beter het AI-systeem kan leren. De toegang tot data is dus cruciaal voor de inzet van AI.”
Cryptografische technieken als MPC versnellen die toegang. Ze zorgen ervoor dat meerdere partijen gezamenlijk data kunnen analyseren en conclusies kunnen trekken zonder dat zij elkaars data ooit kunnen zien. Berekeningen en analyses worden dus uitgevoerd op versleutelde data, en alleen het eindresultaat wordt ontsleuteld. Met MPC wordt dus geen data inzichtelijk gemaakt, maar alleen conclusies op basis van die data. “Zo kunnen organisaties samenwerken op data en tegelijkertijd voldoen aan de randvoorwaarden voor het gebruik van data op ethisch, wettelijk en privacy gebied”, aldus Den Bruinen. “Voor verantwoord gebruik van AI is het essentieel dat data op een privacy-bestendige manier gebruikt kan worden. Dit geldt zeker in het overheids-veiligheidsdomein waar privacy van burgers voor transparantie en democratische legitimiteit noodzakelijk zijn.”
Daarbij wordt in Nederland data vaak afgesloten bewaard; niet toegankelijk voor anderen. Juridische redenen liggen hier regelmatig aan ten grondslag. Of de angst dat door een ander gevoelige data op straat kan komen te liggen. Door MPC kunnen deze barrières doorbroken worden. Dat leidt tot nieuwe opsporingskansen. Den Bruinen: “Neem het voorbeeld van drugscriminelen die actief zijn in de haven van Rotterdam. Om die op te rollen, beschikt de politie over informatie, maar ook andere organisaties kunnen een potentiële databron zijn. Denk aan bedrijven in de haven, de Kamer van Koophandel, de FIOD. Dan kan het wenselijk zijn om datapunten vanuit verschillende organisaties te bundelen. De enige randvoorwaarde is wel dat men bij het delen van deze data voldoet aan wettelijke en ethische kaders. Zo ontstaat een zogenoemde human centric AI die in dit geval criminele zaken aanpakt en tegelijkertijd maatschappelijk geaccepteerde toepassing van de technologie bevat. MPC is juist zo interessant omdat deze technologie ervoor kan zorgen dat er geen tegenstelling meer bestaat tussen privacy enerzijds en veiligheid anderzijds omdat niet de data, maar alleen de inzichten gedeeld worden.”
Mensenhandel
Paul Fockens, mede-oprichter van Sustainable Rescue Foundation, een onafhankelijke organisatie die zich actief inzet om mensenhandel tegen te gaan met data als belangrijk wapen, ziet de potentie van veilige datasamenwerking ook. “Signalen van mensenhandel zijn vaak terug te vinden in de gegevens van verschillende soorten organisaties: de politie, gemeenten, het Openbaar Ministerie, hulporganisaties, maar ook banken en verzekeringsinstellingen. Wat wij proberen te doen, is een puzzel te leggen van kleine stukjes informatie van de betrokken partijen die wijzen op uitbuiting. Door deze gegevens te bundelen, kunnen analyses gemaakt worden over de patronen van een netwerk van mensenhandel.”
Tegelijk ziet Fockens ook hier dat kwesties van vertrouwen, veiligheid en angst betrokken organisaties ervan weerhouden om gegevens te delen. Om dit te doorbreken, heeft hij samen met de Data Sharing Coalition (DSC), de Sustainable Rescue Foundation, Roseman Labs, een opsporingsinstantie en enkele NGO’s een MPC-user case opgezet. Door middel van toepassing van MPC bleek het daarin mogelijk om een check uit te voeren op de lijst van verdachten van een opsporingsinstantie om te voorkomen dat een van de geselecteerde personen onverhoopt als informant werkzaam zou zijn bij een van de NGO’s. Fockens: “Dit alles zonder dat een van de betrokken partijen iets heeft geleerd over de lijsten van personen van de andere partijen.”
Daarmee is niet alleen een eerste stap gezet voor een bredere toepassing van deze technologie binnen het veiligheidsdomein, maar is ook het vertrouwen gegroeid dat dit veilig kan. Paul Fockens: “Roseman Labs dat de software heeft ontwikkeld, heeft de deelnemers stap voor stap meegenomen in het proces. We hebben eerst een sessie gedraaid met gefingeerde namen. Zo kon iedereen zien hoe het systeem werkte. Daarbij kregen ze ook controle over het proces wat zij ieder moment konden sturen of stoppen. Dat gaf vertrouwen.”
Het proof of concept van deze use case dient als basis voor het veilig samenwerken op data tussen verschillende partijen die mensenhandel monitoren. En dat is een mooi resultaat, besluit Joris Den Bruinen die de case dan ook heeft opgenomen in de AI-paper die 17 februari wordt gepresenteerd. “Deze use case is op verschillende niveaus van belang. Inhoudelijk omdat mensenhandel een absoluut ongewenste criminele activiteit is, die niet stopt bij landsgrenzen, en we deze kennis dus internationaal kunnen delen en opschalen. Maar ook macro-economisch, omdat het een technologie is die we als land perfect kunnen gaan exporteren. De techniek is er, de vraag is nu vooral: hoe organiseren we het samenwerken met inachtneming van alle ethische en wettelijke randvoorwaarden? Het is eervol om daarin vanuit HSD en de NL AIC een aanjagende rol te hebben.”
Tot slot
Meer weten over het paper, bezoek het HSD Cafe, of de website van NLAIC.com of SecurityDelta.nl
Meet weten over de usercase, neem contact op met Paul Fockens
Meer weten over MPC, neem contact op met Roderick Rodenburg, Roseman Labs