RADIO Webinar: Ontdek Neurotechnologie deel 3 over Neurorechten

Deel 3 van het webinar Ontdek Neurotechnologie. Te gast: Pim Haselager.

LYKLE DE VRIES: Welkom bij het webinar Ontdek Neurotechnologie van RADIO, de RijksAcademie voor Digitalisering en Informatisering Overheid. Onze gast vandaag is professor Pim Haselager. Mijn naam is Lykle de Vries. En we gaan proberen om in een uur tijd, in drie delen, een afdoende beeld te schetsen van neurotechnologie, wat het is, wat je ermee zou kunnen en wat je er wellicht nog van zou moeten vinden. Dan komen we bij het derde deel, 'de neurorechten' heb je het genoemd.

PIM HASELAGER: Ja, ik heb er natuurlijk al een aantal keer op gehamerd. Er zijn een paar ontwikkelingen waarom ik denk dat het noodzakelijk is om het daarover te gaan hebben. Even afgezien nog van de intensiteit van de voorbeelden die ik gegeven heb. De meeste mensen die dat zien, ikzelf ook als ik daarnaar kijk, steeds opnieuw, denken: hoe is dit mogelijk en wat betekent het allemaal? Dus er zit iets inherents in die technologie waarvan we denken: willen we dat allemaal? Maar er is iets anders aan de hand en dat noem ik 'taking it to the streets'. Wat er gebeurt is dat die technologie steeds praktischer bruikbaar is. Je moet je voorstellen, wij hebben dit decennia gedaan. Zeker vanaf pak 'm beet 2000 begonnen de publicaties daarover vaart te maken. Er is natuurlijk al veel ouder onderzoek, maar dat was allemaal nog spaarzaam en af en toe ook niet echt verantwoord, in de jaren 50. Daar moeten we het nu maar even niet over hebben. Maar sinds de jaren 0 begint dat echt los te komen. Dat was ontzettend lastig als je onderzoek deed met EEG. Zelf gedaan met pasta. Dan moest je je haar wassen na afloop, dat kreeg je er bijna niet uit. Mensen gingen dat echt niet gebruiken. Tegenwoordig, zoals op deze foto's, is dat heel draagbaar en bijna modieus geworden.

LYKLE: Een soort van headsetjes.

PIM: En dat wordt aan de man gebracht met leuke modellen, en dan komt er een influencer die zegt: 'Geweldig, voor m'n ontspanning' en voor je het weet lopen mensen ermee over straat, net zoals we met koptelefoons over straat lopen. Het maakt niet meer uit. Het ziet er wel hip uit eigenlijk. 'Waarom draag je dit eigenlijk niet, loser?' Dat idee. En dat betekent dat de hoeveelheid gebruik ervan enorm gaat toenemen, maar ook dat het de relatief veilige omgeving van ziekenhuis of universiteit ontstijgt. Vanochtend stond dit in een van m'n nieuwsbrieven die ik ontvang. Je kunt dit dus nu ook met je katten doen. Die hebben een soort van gebreid of gehaakt mutsje op. Daar zitten elektroden in en die meten dan hun EEG-signaal, waardoor je bijvoorbeeld kunt kijken of ze heel veel pijnen hebben. Dat kan van belang zijn voor behandeling. Je kunt je afvragen: moeten we dit nou wel willen, er is ook nog hongersnood, maar goed, dat zijn weer hele andere discussies. Dit gaat in de praktijk steeds meer gebruikt worden, en je bedient dat met je smartphone, via een app en dergelijke. En dat betekent ook dat heel veel bedrijven hier geld in zien, en dat neurodata, hersendata, eigenlijk vanuit de veilige omgeving van universiteiten en ziekenhuizen... Daar gebeuren ook weleens dingen die niet kunnen, maar meestal is dat toch omgeven met allerlei richtlijnen, goede intenties en ethische commissies en dergelijke. Dat dat in handen komt van ik noem maar even iemand, niet mijn favoriete persoon op deze planeet, Elon Musk. En die gaat daar gekke dingen mee doen.
Elon Musk, maar ook Zuckerberg van Facebook investeren op dit moment vele miljoenen in die neurotechnologie. Dat zijn natuurlijk geen domme jongens, in die zin dat zij wel degelijk snappen dat hier geld mee te verdienen gaat worden. Maar hersendata die commercieel interessant is, wat gebeurt daarmee? En welke toepassingen gaan we dan ontwikkelen? Ik heb veel voorbeelden laten zien die een duidelijk medische reden hebben, of proof of principle. Dat is wetenschappelijk interessant. Kan dit überhaupt? Maar hier gaan andere principes ook een rol in spelen. Moeten we dat z'n gang laten gaan? Ik roep even in herinnering privacy op internet. Daar is in de jaren 90 toch iets mee fout gegaan, wat we nu via de GDPR, de AI Act... Daar kun je van alles over zeggen. Dat had vast beter gekund, vind ik ook. 'We care about your privacy, click OK' is niet de manier waarop je dat doen moet. Maar dat wil je met braindata niet hebben, dat dat op eenzelfde manier geregeld gaat worden en dat jouw hersendata eigendom wordt van Elon Musk. Daar moeten we goed over nadenken. Sommige mensen noemen dat, beetje beladen term, 'neurocapitalism'. Hersendata wordt een product. Net zoals je internetgedrag een product wordt, je smartphonegedrag, je locatie of je betaalgedrag. Ik ben beroepshalve paranoia, ik denk graag over wat er allemaal mis kan gaan. Ik betaal liever met gewoon cash, want dat is anoniem. Ik koop ook uien bij de Albert Heijn, dus het gaat helemaal nergens om, maar ik vind niet dat iemand hoeft te weten hoeveel uien ik per week consumeer. Nogmaals, daar is niks geheims aan, maar het is het principe. Als we daar hersendata aan gaan toevoegen, dan kijken we op een nog dieper niveau naar wat iemand beweegt om z'n gedrag te vertonen zoals die dat doet, wanneer z'n gevoel en gedrag gaat afwijken. Daar kun je je dan in principe een beeld van vormen. En de vraag is of je het wilt of dat zo geregeld moet worden. Een andere vraag is of je dat moet laten afhangen van individuele bedrijven of zelfs van individuele gebruikers.

LYKLE: Want daarnaast staat dat de persoon zelf ook niet in staat zal zijn om onderscheid te maken tussen een gedachte of gedrag die oorspronkelijk uit de persoon komt, dan wel gemedieerd is door technologie.

PIM: Ja, of gestuurd is door het verschaffen van nieuwe informatie die gebaseerd is op kennis over jouw denken. Als ik weet wanneer jij twijfelt, dan is dat misschien een mooi moment om jou informatie te verschaffen, waardoor je net even de ene of de andere kant opgaat. We hebben Cambridge Analytica uit 2016 bij de Amerikaanse verkiezingen, waarin Facebookinformatie werd gebruikt om mensen in 'swingstates' in de VS bij de verkiezingen een bepaalde kant op te duwen. Dat ging nog op externe data, maar daar kun je hersendata ook voor gaan gebruiken. Het is niet allemaal bewezen wat ik nu zeg. Dit zijn zorgen over een technologie die er nog niet is, maar er misschien wel aankomt. Dus vanuit dat perspectief is er nu een aantal jaar al discussie over neurorechten. Dat is het laatste punt voor vandaag. Steeds meer mensen beginnen zich af te vragen: moeten we dit eigenlijk ongebreideld zo laten doorgaan? Er zitten heel veel mooie kanten aan die technologie, het is ontzettend interessant wetenschappelijk, het kan maatschappelijk heel veel nut hebben, maar er zitten ook risico's aan. Hoe moeten wij dit gaan reguleren, zeker nu grote commerciële partijen als Musk en Zuckerberg zich daarin gaan mengen? Dat is wel het moment, misschien zijn we al aan de late kant, dat te gaan bekijken. De neurorechten die dan genoemd worden zijn 'freedom of thought'. Hoe beter ik weet wat jij denkt, hoe manipuleerbaarder je bent en hoe minder vrij. Als ik eenmaal kan gaan voorspellen hoe jij gaat reageren op bepaalde dingen qua gevoel, dan zijn we niet meer gelijk en kan ik die informatie misbruiken. 'Mental privacy' ligt zeer voor de hand. Net zoals je gewone dagelijkse privacy hebt in je eigen huis, hoewel dat ook steeds minder wordt naarmate je meer slimme spullen inzet, geldt het zeker ook voor de binnenkant van je schedel. Alweer: George Orwell, 1984. 'Mental integrity'. Dus in hoeverre is via hersenstimulatie jouw gedrag zodanig te manipuleren dat je jezelf daar niet meer in herkend, of dat je een ander mens bent? Er zijn gevallen, met die brainstimulation bijvoorbeeld ook, dat de persoon in kwestie zei: 'Het gaat heel goed met mij. Ik voel me eigenlijk beter, meer mezelf.' Terwijl, in één specifiek geval dat ik ken uit de literatuur, zijn vrouw zei: 'Het is net of ik er een kind bij heb gekregen.' Die was er helemaal niet zo tevreden over, maar hij voelde zich wel oké. 'Ja, misschien ben je niet de enige.' Dat is ook een netwerk waarin je verkeert. 'Personal identity' heeft hier natuurlijk ook veel mee te maken, en in Chili is er nu in de grondwet een artikel opgenomen waarin neurorechten ook specifiek worden benoemd. Hersendata.

LYKLE: Hoe kan het dat het daar al gebeurt?

PIM: Daar moeten we niet zo verbaasd over zijn. Als het in Zweden was gebeurd, hadden we ook kunnen zeggen: 'Waarom gebeurt het nou juist daar?' Chili is een land, en daar gebeuren verstandige dingen door verstandige mensen, net als in Europa. Maar een directe reden was: er werd daar een nieuwe grondwet ontwikkeld, dus er was ruimte om daar eens goed over na te denken. En een aantal wetenschappers, deels met een Zuid-Amerikaanse achtergrond, dachten dat het een goed moment was om daar eens een casus voor te maken. Dat gebeurt nu ook in Australië. Er wordt over gedebatteerd in elk geval. Dus zo loopt dat dan. Ik ben daar zelf zijdelings een beetje bij betrokken geweest. Er zijn allerlei discussies over, want er zijn ook mensen die zeggen: 'Neurorechten? Mensenrechten worden nu ook al niet nageleefd.' Je hebt recht op educatie en voedsel. Er zijn honderden miljoenen mensen die dat toch niet krijgen. Papier is geduldig, dus je kunt het wel opschrijven, maar hoe meer rechten, hoe moeilijker het is om ze na te leven. Dus is dit wel het moment? Dat debat is nu heel erg aan de gang. En ik denk dat het goed is dat dat ook een maatschappelijke discussie wordt, dat we niet te lang wachten met daarover praten. Dat wil niet per se zeggen dat het absoluut noodzakelijk is dat ze er komen. Misschien zijn er betere manieren om neurorechten te verankeren dan via een uitbreiding van bijvoorbeeld de bestaande mensenrechten. Dat was het verhaal een beetje. Het is een boel.

LYKLE: Het is een boel. Het nodigt uit om je verder te verdiepen. Dat kan natuurlijk. Je kunt dit webinar en de delen ervan ook terugkijken. Er zitten veel linkjes in en suggesties van dingen die je verder zelf kan onderzoeken. Maar wellicht leven er ook nog vragen. Daar is dit dan het moment voor. Ik heb er alvast eentje, want je raakte het al even. Bedrijven zoals Meta weten al heel veel van ons externe gedrag. Dat leggen ze vast. Ons klikgedrag, ons koopgedrag. Als je die dingen combineert, dan is al vrij goed te voorspellen wat we gaan doen in bepaalde situaties. Daarbij komt we uit psychologisch onderzoek weten dat een significant deel van ons gedrag niet rationeel gestuurd is. Sommige mensen zeggen: Tot 98 procent van je gedrag gebeurt voordat je erover nagedacht hebt. Als ik die dingen combineer, dan vind ik dit wel zorgwekkend. Dan zou ik heel graag willen dat het heel snel gereguleerd wordt.

PIM: Ja, ik snap wat je bedoelt, maar als je het zo formuleert, krijg ik bijna de neiging om ertegen in te gaan. Als je het aan mensen overlaat, wordt het een zooitje.

LYKLE: Dan laten we het over aan AI.

(GELACH)

PIM: Namens mezelf, even niet als wetenschapper, maar gewoon als burger die ook weleens stemt en de kranten leest, denk ik: Ja... Het uiteindelijke probleem is niet de technologie, maar wij, homo sapiens. Het is een bende, en we maken elke keer, elke generatie opnieuw, op een hele creatieve manier er een nieuwe bende van.

LYKLE: 'Zijn we in Europa al gestructureerd erover aan het nadenken?', vraagt Marijke.

PIM: Dat is een andere vraag. Even om m'n eerste verhaal af te maken. Het probleem ligt bij mij, dus zeggen: 'We gaan niet die technologie doen, want mensen moeten natuurlijk blijven' is niet per se de beste methode om problemen te voorkomen. Maar we zijn vooral ook heel slecht in het omgaan met technologie. We zijn beter in het ontwikkelen van nieuwe technologie, denk aan auto's, dan in het verstandige gebruik ervan. Binnen de kortste keren stonden de straten vol, was het milieu vervuild, verkeersdoden en files, om maar wat te noemen. Het heeft heel lang geduurd voordat we dat systematisch begonnen aan te pakken, eigenlijk te lang. Dat geldt voor neurotechnologie natuurlijk ook. Het veroorzaakt niet de problemen, dan doen we nog steeds zelf, maar we zijn beter in het ontwikkelen dan in het reguleren, dus laten we daarom op tijd zijn.

LYKLE: Bij de opkomst van generatieve AI waren we op Europees niveau plotseling toch heel snel. Zie je op dit vlak in Europees verband al activiteit?

PIM (WEIFELEND): Ja, maar onder de horizon. Dus het zijn wetenschappelijke publicaties, het zijn lezingen. Die geef ik zelf best veel op dit gebied. Inmiddels naast AI gaat het godzijdank ook steeds vaker over neurotechnologie. Maar ik roep al een jaar of zeven: Hier moeten we het meer over hebben, want het komt eraan. En nu... Ik denk dat de persberichten over Elon Musks neuro-implantaat heel erg geholpen hebben mensen wakker te schudden. Als wij het zeggen, oké, maar als Elon Musk het doet.

LYKLE: Als hij iets akeligs verzint, schrikken we met z'n allen harder.

PIM: Maar ik wilde niet die vraag van die mevrouw in de war schoppen, dus wil je die nog herhalen?

LYKLE: Is men hier in Europa gestructureerd over aan het nadenken?

PIM: In toenemende mate.

LYKLE: Toch wel.

PIM: Ja, ik denk niet dat we even lang zullen moeten wachten op een neurotechnologieregulatie, als op de AI Act en de GDPR.

LYKLE: Dat klinkt bemoedigend. Laten we naar de afronding. Je wou nog iets vertellen over Nijmegen.

PIM: Ja, even voor het idee. Dit is Nijmegen, en dat is de Waal. U ziet links de binnenstad. Ik zie dit soort discussies over neurotechnologie, over AI eigenlijk, heel erg als een vorm vergelijkbaar met watermanagement. Je moet nadenken over problemen die er aankomen het liefst voordat ze er zijn, dus van tevoren nadenken. Als het gaat om watermanagement, zijn we daar heel goed in. Als het waterniveau stijgt, daar zit het naar uit, zowel qua rivier als qua zee, dan hebben we in Nederland best wel een probleem. Hoe moeten we daarmee omgaan? Stel dat de waterspiegel 5 meter stijg, hoe zijn dan de dijken, waar moeten die komen? Zoiets moeten we eigenlijk ook doen voor technologie in algemene zin. Ik noem mezelf beroepshalve paranoia niet omdat ik dat per se leuk vind, al moet ik er soms zelf wel om lachen, maar omdat ik wil nadenken over wat er kan fout gaan, en hoe regelen we het dan zo dat we daar het beste mee om kunnen gaan, of dat we het zelfs kunnen voorkomen of kunnen gebruiken? Dat vind ik het fijne van deze foto. Dit is de Waal. De linkerbocht was een beetje smal. Die rechterbocht was er nog niet. Het gevolg van het versmallen van de Waal, was dat het water daar vaak overstroomde. Toen hebben ze een bypass gemaakt aan de rechterkant. Dat is nu dus een eilandje geworden, dat was het eerst niet, waardoor we een prachtig stadstand hebben gekregen. Als nu het water hoog komt te staan, loopt daar vanzelf meer water in, waardoor overstromingen minder plaatsvinden. Dat wil ik maar even aangeven. Behalve dat Nijmegen heel mooi is, een leuke stad is om te studeren, bij de Radboud Universiteit, en vooral AI daar natuurlijk. Soms is reguleren ook ruimte creëren. Wij denken bij regulering heel vaak aan nee zeggen, dat mag niet, dijken. Nee, soms is regulering ook juist ruimte geven aan bepaalde ontwikkelingen, maar dan wel gecontroleerd en wetend waarom. In plaats van alles gewoon maar z'n gang laten gaan moet je mogelijkheden beperken soms, maar soms ook mogelijkheden creëren. Dat is de uitdaging nu met neurotechnologie. Hoe zorgen we daar het best voor? Ik hoop dat we die discussie goed kunnen voeren.

LYKLE: Dankjewel. Daarmee zijn we aan het einde gekomen van dit webinar, Ontdek Neurotechnologie. Kijk het vooral rustig terug wanneer je dit nog een keer beter op je in wilt laten werken. Dank, professor Pim Haselager, voor al deze uitleg. Dank aan mijn collega's voor het modereren van de vragen. Dank aan de mensen van Online Seminar voor het faciliteren. Wil je meer weten over neurotechnologie en allerlei andere digitale ontwikkelingen? Ga dan naar RADIO, RijksAcademie voor Digitalisering en Informatisering Overheid. Daar vind je nog veel meer. Dank voor het kijken en tot de volgende keer.