Wat als datasets doelwitten worden?

Tijdens de Geopolitics and Global Futures Symposium 2021 sprak Fontys Project Lead ICT & Business Dr. Mark Madsen over de implicaties, impact en risico's van grote datasets. Er zijn tenslotte maar weinig mensen die echt snappen wat de impact van big data en daarmee AI kan zijn, inclusief bestuurders en politici.

Madsen pleit voor een breder bewustzijn.

De conferentie is een jaarlijks initatief van de GCSP (Geneva Centre For Security Policy), een organisatie met als missie het promoten van vrede, veiligheid en stabiliteit. Gevestigd in het 'Maison de la Paix', is het een instituut wat opleidingen, training, advies en onderzoek faciliteert. De aandacht gaat naar vooruitkijken; wat doen nieuwe ontwikkelingen met de wereldvrede. Denk aan space technology, maar ook steeds meer cyber oorlogsvoering. Als spreker is Madsen verbonden aan de GSCP en spreekt jaarlijks over Big Data, dit keer binnen het programmadeel Transformative Technologies and the Future of Global Security.

Abstract, immens en onbegrepen

Volgens Madsen is er veel onbegrip voor het abstracte idee van big data: "De meesten van ons kunnen de impact van big data niet overzien en dat zelf is een risico. Denk aan iets als het Nederlandse DigiD systeem, wat nu als dat in verkeerde handen valt? Krijg je dan zoiets als in Afghanistan waar bevolkingsdata in handen van de Taliban valt en zorgt voor vervolgingen? Het probleem is niet de technologie, maar ons bewustzijn van dit soort implicaties. Daar moeten we ons bewust van zijn. " Big data is enorm, legt Madsen uit. En met de opkomst van artificial intelligence wordt het alleen maar groter: "Kijk eens naar je telefoon, hoeveel data kan je opslaan op dat apparaat? De National Securituy Alliance in de Verenigde Staten maakt opnames van gesprekken, om die te analyseren op mogelijke dreigingen. Ze nemen 100 terabyte per minuut aan data op. De analyse doet de AI, maar wie maakt de AI en hoe slim is die? We zien nu al veel te vaak 'false positives'. De AI kan een piek detecteren, maar de oorzaak is geen dreiging. Maar wat nou als die AI toch preventief actie neemt?"

Data sets zijn doelwitten

Of je het nu hebt over advertising of globale politiek, data is macht en daarmee zijn de grote datasets die we aanleggen een politiek doelwit in cyber spionage, zegt Madsen: “We gebruiken vaak de term cyberoorlog, maar die term klopt volgens mij niet. Er is continue cyberstrijd, maar zonder fysieke repercussies. Het gaat om disruptie en sabotage, maar datasets kunnen dat veranderen.” Naast het voorbeeld van Afghanistan noemt hij de Amerikaanse verkiezingen van 2016: “We weten dat Rusland Facebook heeft ingezet om die te beïnvloeden en dat is waar het kat-en-muis spel veranderd. Het laat zien hoe kwetsbaar datasets zijn, maar ook hoe manipuleerbaar AI is.” En het is niet alleen de AI; ook datasets kunnen gemanipuleerd worden. Het simpelste voorbeeld; stel je hebt een vluchtverbod gekregen van een luchtvaartmaatschappij, wat later wordt ingetrokken. Hoe vaak is die database al gekopieerd en waar zwerft die foutieve informatie nog rond? Dit kan allerlei gevolgen hebben, en dit kan ook op grotere schaal gebeuren.

Ethische uitdaging: kansen en risico’s

Madsen is er echter niet van overtuigd dat grote datasets alleen nadelen hebben: “Big data en AI kunnen ontzettend veel voor ons betekenen, Denk aan kansen in preventieve geneeskunde doordat je uit datasets en uitbraak van ziekten kunt afleiden en zelfs voorspellen, Data kan ons helpen om noodhulp bij rampen goed in te zetten op basis van ervaring.” Waar hij in zijn lezing bij GCSP vooral aandacht voor vraagt is de ethische uitdaging die komt met grote datasets en AI. Hoe kunnen we AI voor ons laten werken, en tegelijk voorkomen dat we de risico’s vergroten: “Als we grote datasets gebruiken kunnen de gevolgen het hele spectrum van bevorderlijk en gemak tot invasief en gevaarlijk betrekken. We moeten ons bewust zijn van die schaduwkant. Daarom zijn onze keuzes in hoe we data managen en controleren bepalend, en daar ligt onze toekomstige uitdaging.”

Bron: Fontys.nl