Ethiek in de praktijk. Afl. 4 - Mens en techniek

'Mens en machine raken steeds verder geïntegreerd,
maar kan dat op een manier waarbij de mens overeind blijft?'
Welkom bij 'Ethiek in de praktijk'. Ik ben Robin Rotman
en in deze podcastserie praat ik met experts en ervaringsdeskundigen
over data-ethiek in de dagelijkse praktijk.
Dit is een podcast van het Centrum Infor- matiebeveiliging en Privacybescherming.
'Als je zegt 'human in the loop' lijkt het net:
de technologie neemt het over en de mens krijgt ook nog een rolletje.
Wij mensen hebben onze taken en wat we willen doen,
en de technologie heeft daar een rol in.'
ROTMAN: Te gast vandaag: Steven Dorrestijn,
lector ethiek en technologie aan de Saxion Hogeschool, welkom
en Marlies van Steenbergen, lector betekenisvol digitaal innoveren
aan de Hogeschool Utrecht. Ook welkom. Leuk dat jullie er zijn.
Dit gaat over de samenwerking tussen mens en machine
en appelleert bij mij in ieder geval
aan dat hele sentiment van 'de machines en de robots nemen de boel over'.
We zijn allemaal een beetje bang, natuurlijk. Steven, eerst jij:
Wanneer heb je eigenlijk voor het laatst samengewerkt met een machine?
DORRESTIJN: Nou, vanochtend.
Elke ochtend zet ik koffie op een ouderwetse manier.
Ik hoef niet zoveel, dus ik maal bonen en dat schenk ik op een filter.
Dat is volgens mij een manier van samenwerken
waar de mens in overeind blijft, dat je echt iets doet samen met je spullen.
ROTMAN: Dat plankje wat we in onze zak hebben, ook wel de telefoon genoemd.
DORRESTIJN: Daar werk ik goed mee samen, maar op de heenweg...
ben ik 'm verloren in de trein, dus ik ben ook onthand.
ROTMAN: De telefoon heeft je verlaten. Ach...
Maar dat samenwerken tussen mens en machine is overal.
Dat doen we allemaal de hele tijd.
Dat vergeten we weleens, maar dat is wat we doen.
Marlies, lector betekenisvol digitaal innoveren.
Beetje flauwe vraag misschien, maar toch:
kan je ook niet-betekenisvol digitaal innoveren?
VAN STEENBERGEN: Ik ben bang dat het vaker gebeurt dan je zou denken.
ROTMAN: O ja?
-Wat we bedoelen met betekenisvol,
is dat je digitale innovaties toepast die betekenis geven,
waarde leveren aan iedereen,
maar in ieder geval niet alleen aan het ontwerpen van de digitale toepassing.
Niet alleen omdat zo'n toepassing leuk is,
maar vooral ook de gebruikers, maar bijvoorbeeld ook de niet-gebruikers.
En ook: wat doet zo'n machine met de maatschappij in z'n algemeenheid?
Dus het gaat om de positieve impact.
Dus jullie op de universiteit of op de hogeschool
gaan met de studenten technologieën onderzoeken, bestuderen en echt kijken:
wat voor zin brengt dat spul nou eigenlijk?
wat zijn we nou echt aan het doen, in plaats dat het ons allemaal overkomt
en dat we als kip zonder kop de technologie omarmen?
VAN STEENBERGEN: Exact. En ook: wat betekent dit voor mensen,
voor hun waarde, autonomie, vertrouwen en reputatie?
Daar kijken we expliciet naar.
Dus dat sentiment wat ik net omschreef: Ze, de machines nemen de boel over.
Je hoort het ook vaak in combinatie met nanotechnologie,
de kleine robotjes nemen de boel over en we zijn gedoemd om ten onder te gaan.
Is dat ook het sentiment wat jullie bekijken?
Wat zijn we nou aan het doen? Wat willen we nou?
VAN STEENBERGEN: Ja, maar niet vanuit dat doemdenken.
Maar hoe kun je nou zorgen dat je de positieve dingen bereikt
en dat die negatieve dingen niet gebeuren?
ROTMAN: Jij hebt die vraag nu opgeworpen, Steven.
Dat had net zo goed andersom kunnen zijn.
Maar wat bedoel je er dan mee, dat de mens overeind blijft?
Wat is dat eigenlijk, 'overeind blijven'?
DORRESTIJN: Sluit direct aan op wat Marlies zei.
Ik denk dat we niet kunnen ontkennen
dat we ontzettend verweven zijn geraakt met de spullen die we gebruiken.
Dat is ook al heel lang zo. Je kunt je een mens niet voorstellen zonder,
ook een primitieve mens kun je je niet voorstellen
zonder de primitieve spullen die de mensen toen gebruikten.
ROTMAN: Toen we een stukje steen om een stukje hout knoopten
en een hamer creëerden,
dat was het eigenlijk al.
-De eerste kleding,
de uitvinding van vuur. Dat is allemaal primitieve technologie,
Maar wij kunnen niet zonder mens
en je kan je niet een manier van leven als de mens
of het bestaan van het wezen de mens voorstellen
zonder dat soort technologie erbij.
Dus we zijn er helemaal van afhankelijk. Dat is zo,
maar dat heeft dus voor- en nadelen en die nadelen zijn ook enorm.
Daarvan zijn we ons vaak veel minder van bewust,
behalve dan, echt iets van de 20ste eeuw,
dat we ook dat schrikbeeld van de technologie
die ons, nu we eenmaal zover zijn, helemaal overneemt.
Dat is erbij gekomen.
ROTMAN: Maar wat is dat dan? Dat we niet overeind blijven.
In mijn optiek wordt het vaak in een context van sciencefiction gebruikt.
De Terminators worden sterker, handiger en slimmer dan wij.
DORRESTIJN: Dat idee is: er is nu zoveel technologie om ons heen,
wij zijn niet meer in staat om goed te bepalen
waar we dat voor gebruiken of daar richting aan te geven.
Het is een systeem geworden dat ons overheerst. Dat is de angst.
VAN STEENBERGEN: Het gaat met ons aan de haal als we niet uitkijken.
ROTMAN: Maar wat jij dan analyseert met je studenten,
is misschien op technologieniveau, per stukje technologie misschien,
maar waar het hier misschien ook over gaat: wat vinden we als samenleving?
Misschien wat groot. Kijken jullie daar ook naar?
VAN STEENBERGEN: Dat ook, ja. Het speelt dus op al die niveaus.
En afhankelijk van wie je bent en waar je je begeeft,
kun je dus op al die niveaus ook invloed hebben.
ROTMAN: En je zou op al die niveaus ook die vragen moeten blijven stellen.
VAN STEENBERGEN: Het grote verhaal: de maatschappij
en wat doen we met z'n allen,
kun je makkelijk een gevoel van hulpeloosheid krijgen:
wat kan ik nou in m'n eentje, hoe kan ik de samenleving beïnvloeden?
Maar dat kan ook, alleen dat moeten we als maatschappij doen.
ROTMAN: Dus je zou eigenlijk op een soort beleidsniveau
een visie moeten ontwikkelen: Wat voor rol zien we
en hoe moet de wereld eruitzien?
Je zou op persoonlijke niveau kunnen kijken:
'ik merk ineens wat voor junk ik ben van die telefoon.'
Als ie een kwartiertje niet in mijn zak zit, denk ik: o, wauw.
DORRESTIJN: Waar we het nu over gaan hebben,
dan denk ik eerst aan het persoonlijke niveau.
In hoeverre zijn we afhankelijk van technologie?
En als we niet overheerst willen worden door al die technologie om ons heen,
betekent dat dan dat we helemaal vrij moeten zijn tegenover de technologie?
Dat kan niet. Dus dan moeten we iets anders, een derde weg.
We moeten een andere uitweg vinden
en dat zit 'm in, maar dat gaan we met elkaar onderzoeken,
echt iets van deze tijd:
hoe kan je accepteren dat wij het resultaat zijn
van een hele geschiedenis van evolutie met technologie
en dan toch daar een eigen weg in vinden waarbij je kunt zeggen:
het resultaat is menselijk.
Dat is een goeie manier van menselijk leven.
ROTMAN: Dit is mooi. Hier wil ik zo een paar voorbeelden over horen.
Wat zijn de voorbeelden waarin het werkt?
Dat we denken: Hier versterkt het ons. Hier worden we handiger als mens.
En misschien ook voorbeelden dat het een beetje tricky is.
Maar nog een klein stapje terug.
Marlies, Steven omschrijft net de evolutie van de technologie.
We zijn volgens mij in de jaren 60, toen echt bekend werd:
automatisering, technologie rukt op.
Er werd ook weleens een beeld geschetst van:
sciencefictionverhalen waren er altijd al,
maar ook wel beelden van: de technologie rukt op.
'Het neemt al ons werk uit handen
en wij kunnen gaan dansen, zingen en knuffelen met z'n allen.'
Toch? Dat was toch ook zoiets?
Dan neemt het ons over, maar dan blijven we overeind als mens.
Of was dat een hele naïeve gedachte?
VAN STEENBERGEN: Ik weet het niet. Ik denk dat we er zelf bij zijn.
Ik denk dat: als we slim zijn, gebruiken we de technologie
inderdaad voor de goede dingen. In de zin van:
die dingen die we graag aan technologie overlaten.
Alleen, we moeten niet, wat Steven zegt, er afhankelijk van worden.
We moeten niet op een gegeven moment
de technologie het primaat geven boven de mens en denken:
'als de technologie het zegt, zal het wel goed zijn.'
Klakkeloos ervaren wat de technologie zegt.
ROTMAN: 'Computer says no', dat soort termen.
Dan die voorbeelden. Steven, roep eens wat.
Voorbeelden waarvan je zegt: als we het zo doen, doen we het goed.
Dan blijven we niet alleen overeind,
maar dan helpen we, daar worden we betere mensen van.
DORRESTIJN: Het voorbeeld waar ik als eerste aan moet denken,
zijn 'cobots', collaborative robots.
Denk aan een arm, montage van spullen,
hele kleine apparaatjes die je in elkaar zou kunnen schroeven,
maar je vingers zijn te dik of het is te moeilijk.
Jij hebt twee armen, maar dan krijg je er een of twee robotarmen bij
die de kleine schroefjes kunnen vastpakken.
Er staat ook een camera bij de tafel waar je aan monteren bent
die in de gaten houdt of alles goed gebeurt, en die kan waarschuwen.
Dat vind ik een heel mooie manier, in de assemblagetechniek, in de productie,
van samenwerking tussen een robot, die dus hier een cobot heet, en de mens.
ROTMAN: Maar dat zie je ook al in de operatiekamer van het ziekenhuis.
DORRESTIJN: Ja, maar dat kan ik mooi verbinden
met een voorbeeld waar het niet goed gaat.
Dat ontleen ik een beetje aan Milan Wolffgramm,
een onderzoeker op het Saxion die dat als onderwerp heeft,
en zijn collega's, die zeggen:
'Het zou mooi zijn als zo'n cobot veel wordt toegepast in de productietechniek.'
Dan kun je op een geavanceerde manier spullen maken
en het blijft ook interessant en waardevol voor de mens
om betrokken te zijn in die productie.
Maar die cobots worden meestal helemaal niet zo ingezet.
Onze manier van denken is toch: we maken robots en die gaan alles doen.
Dus die komen aan de lopende band te staan waarbij geen mensen meer staan.
ROTMAN: We stellen menselijke eisen aan die robot. Zoiets?
DORRESTIJN: Ja, dat hoort er dan ook wel bij. Zelfs de drone.
Stel je voor: robots kunnen alles wat wij kunnen
en nog een stapje beter. Dan zijn wij niet meer nodig.
ROTMAN: Maar is dat erg?
-Ja. Jij zei net: dan kunnen wij dansen.
ROTMAN: Muziek maken, schilderen, knuffelen.
DORRESTIJN: Zou mooi zijn. Maar wat als ze zeggen:
'we hebben last van die mensen. Al die achterblijvers moeten weg,
die gaan we elimineren.'
Wat als jouw technologische intelligentie dat gaat besluiten?
Of een ander voorbeeld uit de film Wall-E, die ken je misschien ook wel.
Die gaat over een robot, nota bene, maar wat doen de mensen daar?
Die zitten de hele dag maar tv te kijken, te dansen en te knuffelen,
maar die zijn uitgedijd en kunnen niet meer bewegen.
ROTMAN: Het worden zwijnen.
-Juist. Dat zijn de achterblijvers.
ROTMAN: We hebben nu een voorbeeld van Steven gehoord.
Een positief voorbeeld, die cobot in die fabrieken
en ook wel in die ziekenhuizen en een soort darker side omschreven.
Heb jij een voorbeeld? En vooral dat je denkt:
dit is hoe ik het zie, een soort illustra- tie van hoe je zou kunnen en zou moeten
betekenisvol innoveren.
VAN STEENBERGEN: Een voorbeeld ook wel weer in de...
Goede voorbeelden zijn waarbij algoritmes gebruikt worden
om echt ingewikkelde dingen te doen. Zoals foto's, röntgenfoto's checken.
Dat kunnen algoritmes beter dan mensen. ROTMAN: Dan de arts.
Tenminste, gedeeltelijk beter en dan gaat het vooral ook om die samenwerking.
Dus de positieve voorbeelden zijn echt daar waar de technologie een stukje doet,
en Steven had het daar net ook al over, en de mens een stukje,
en niet waar één van de twee het overneemt.
Dat is al bekend vanuit het begin van de schaakcomputers.
Toen de schaakcomputers opkwamen, werden er toernooien gehouden.
verschillende soorten toernooien: mensen tegen elkaar, computers tegen elkaar,
ROTMAN: En gemengd tegen elkaar.
-En wie denk je dat het beste waren?
ROTMAN: Mens en computer als team.
-Exact, anders zou ik het niet vertellen.
ROTMAN: Dat is wel interessant.
-Ja.
Dus je ziet die samenwerking. Een ander onderzoek
wat ze in Slovenië gedaan hebben, was bij verkopers
die hun omzet moesten voorspellen voor de komende maand.
Bleek dat ze zo'n beetje 20% juist konden voorspellen.
Dus eigenlijk deden de ervaren verkopers het heel slecht.
Algoritme gebouwd op basis van data. Deed het veel beter.
ROTMAN: Algoritme als autoverkoper.
-Ja, dus deed het beter in de forecast.
Maar als je ze samen aan het werk zette, waren de resultaten nog beter.
ROTMAN: Dat is dan de menselijke intuïtie, creativiteit in combinatie
met de machinale rekenkracht?
-Ja.
De mens die de machinale rekenkracht kan duiden
en daar dus uiteindelijk een goede conclusie uit kan trekken.
ROTMAN: Het bewijs ligt op tafel, Steven.
Mens en machine samen levert goede resultaten op.
Het is die menselijke creativiteit, intuïtie, in combinatie met rekenkracht.
Ik moet toch... Ik zit vast bij die arts, bij die oncoloog.
Die heeft dus een team. Die zitten in de moeilijke gevallen
met z'n dertigen aan een tafel een patiënt te analyseren.
Computer denkt mee. Die worden handiger, diagnostiek.
Die kunnen die foto's scannen, zelfs een behandelplan maken.
Dat gaat goed, een keer.
En de artsen zegt: ik ben de baas, Ik heb die eed afgelegd.
Dat gaat een tweede keer goed, derde keer.
En op een gegeven moment merkt die arts: die computer heeft altijd gelijk.
Duizend keer achter mekaar, altijd heeft ie gelijk.
Op een gegeven moment ga je toch vertrouwen dat dat zo is.
En dan ga je die mensen toch steeds verder weg van het proces halen.
Je gaat toch vertrouwen dat die computer het gewoon beter kan?
Dat is toch wat er gebeurt?
DORRESTIJN: Dat weet ik niet zeker, maar dit is waar we zijn aanbeland
en waar we een keuze moeten maken,
waar we eventjes even moeten staan voor het overeind houden van de mens.
Dat denk ik echt. ROTMAN: Maar wat is dan...
Gaan we per se die arts het laatste woord geven over een mensenleven,
terwijl de computer 't beter weet? Alleen omdat je de mens in die loop wil hebben.
DORRESTIJN: Ik denk niet dat je het dilemma goed voorstelt.
Want je suggereert nu dat wij toch maar de mens in de loop gaan houden.
Dat is een bekende uitdrukking, maar die doet ter zake hier.
Een goede uitdrukking, dus allemaal in je oren knopen.
Maar jij suggereert dus, als we de mens in de loop houden,
gaat dat ten koste van goede beslissingen,
want de algoritmes kunnen het inmiddels al beter en ik denk dat dat niet waar is.
ROTMAN: Maar we moeten nadenken over: als dat gebeurt,
hoe gaan we daar dan mee om?
-Nou, er blijven nog heel veel plekken...
Bij de simpelere dingen kan dat inderdaad zo zijn.
Maar ook dat vraag ik me af.
Maar er blijven altijd vragen of nieuwe domeinen
waar het niet zo is, waar het team van mens en computer altijd beter is.
En dat is volgens mij wat we allemaal interessant moeten vinden.
Op ons boodschappenlijstje moet dat bovenaan staan,
dat is onze eerste oplossingsrichting.
ROTMAN: Ik zie jou driftig ja knikken, Marlies.
VAN STEENBERGEN: Ja, want wat hier echt heel erg bij hoort,
is dat de mens dan wel goed in staat moet zijn
om wat de machine doet te blijven beoordelen.
Dus na die 1000 keer,
om te beginnen moet die arts kunnen beoordelen
hoe goed het advies van de machine is. Dat moet ie kunnen blijven doen.
En ook nieuwe artsen die opgeleid worden met die machine.
Hoe leren die bijvoorbeeld dat oordeel nog te geven?
Moet je dat oordeel... Daar moeten we denk ik op inzetten,
dat we nadenken: hoe kunnen we als mens ook wat de machine doet,
blijven beoordelen op een goede manier?
Hoe kunnen we dat inbouwen in de processen, in ons werk?
En hoe onderhoud je dat?
En wat kun je ermee doen als je denkt: dit klopt niet.
ROTMAN: Vind ik nog steeds spannend,
want dan worden jonge artsen niet per se opgeleid om patiënten te beoordelen,
maar om te beoordelen of de computer de patiënt wel goed beoordeelt.
VAN STEENBERGEN: En wat betekent dat? Dat zijn belangrijke vragen.
DORRESTIJN: Mag ik iets toevoegen? Want we gaan in een cirkel.
De vraag is: maar de algoritmes kunnen zo goed en slim worden,
zoveel van ons overnemen, dat de vraag is: wat moeten wij dan nog doen?
En dat idee vinden veel mensen interessant.
Het is een ramp dat de meeste mensen het heel uitdagend vinden
dat de techniek het over kan nemen.
Dat de technologie als het ware op zichzelf kan komen staan.
Op eigen benen.
Maar als je dat je ideaal is over hoe de toekomst eruitziet,
dan bouwen we samen daaraan,
Maar dan leveren we ons, bewust nota bene...
Dan is ons programma om ons uit te leveren aan de technologie,
om die overeind te helpen en dan worden wij de achterblijvers.
Dat is volgens mij helemaal niet het....
ROTMAN: Daar willen we niet heen.
-Nee.
Dat is echt de uitdaging, om een beetje een bijgedraaide visie voorop te stellen
waar het echt gaat over zoeken hoe wij met technologie 'n team kunnen vormen.
ROTMAN: Laten we nu werken naar de tips, conclusies en oplossingen.
Stel dat je aan een project werkt bij een ministerie
of bij een bedrijf of een overheidsorganisatie
en je hebt het gevoel: technologie kan ons helpen bij dit project, whatever.
Wat kun je dan doen? En je weet, die technologie kan voor ons werken.
Het T-woord, toeslagenaffaire, wil ik verder niet laten vallen.
Maar dat is wel het ankerpunt, daar willen we niet heen.
We hebben dus gesignaleerd: mens en machine moeten samenwerken.
We willen we niet dat de machine het overneemt.
Hoe ga je er dan voor zorgen dat we dus naar die toekomst toe werken
dat we het zuiver houden, dat we het goed doen.
Wat zou een eerste tip zijn?
DORRESTIJN: Een rijtje belangrijke concepten inprenten.
Zoals dat het moet gaan over een team vormen, samenwerking zoeken,
human in the loop houden.
Nou, breng nog eens wat.
VAN STEENBERGEN: Ik zou hem omdraaien, die human in the loop.
Ik zou het technologie in the loop willen noemen of AI in the loop.
Want het is de loop van de mens
en de AI of de technologie is daar ondersteunend en samenwerkend in.
Want als je zegt 'human in the loop',
lijkt het net: de technologie neemt het over
en de mens krijgt ook nog een rolletje.
Wij mensen hebben onze taken en wat we willen doen
en de technologie heeft daar een rol in.
ROTMAN: Jullie sommen nu dingen op en het klopt wel,
maar het zijn grote begrippen en dan zeg je eigenlijk: dit zijn kernwaarden.
DORRESTIJN: Het zijn niet zo'n grote begrippen. Het hele grote begrip was
waar we het in het begin over hadden.
In plaats van overheersing door de technologie
waarbij je technologie en mensen tegenover elkaar stelt
en een van de twee gaat winnen, zoeken wij naar een vorm
van samenwerken, van symbiose. Nu maken we dat praktisch
en ik denk dat dat zeker kan.
Dat moet gewoon bij het repertoire gaan horen
van de mensen die technologie ontwerpen.
De oplossingsrichting zit in de ontwerpmethode.
ROTMAN: Dat was mijn volgende vraag.
Het gaat dus over betekenisvol innoveren.
Je bent een partij, je bent ondernemer of ambtenaar.
Of een manager: je gaat erover. Hoe kan je dan in je proces inbouwen
dat het betekenisvol wordt, dat je die kernwaarden meeneemt
aan de voorkant bij de ontwikkeling van technologie.
Wat zou dan een soort stappenplan kunnen zijn?
VAN STEENBERGEN: Er zijn sowieso aanpakken om dat te doen.
Dat heet onder andere value sensitive design,
waarbij je die waarden vanaf het begin naar het eind meeneemt.
Je moet bijvoorbeeld denken aan het proces ontwerpen op die samenwerking
en niet een technologie ontwerpen en dan gaan kijken: hoe gaan we het inpassen?
Nee, je ontwerpt de samenwerking en daar ontwerp je de technologie bij.
Een belangrijk punt is: als je een grote rol voor technologie hebt,
dat je momenten van reflectie inbouwt,
dus dat je gewoon expliciet maakt, verplicht maakt bijna,
dat mensen over bepaalde uitkomsten,
als ze grote impact hebben, nadenken en misschien met anderen praten.
Dat kun je in je processen ontwerpen.
ROTMAN: Dus je gaat kernwaarden formuleren, zoals Steven zei.
Wat willen we eigenlijk? Aan de voorkant al.
Jij zegt: je kan die kernwaarden vervolgens in je proces inbouwen.
Steven, het lijkt mij ook interessant dat die studenten,
de jonge mensen die hier opgeleid worden, als zij een soort...
Die voelen natuurlijk intuïtief de tijdsgeest aan.
Veel beter dan ik. Ik ben 41.
Ik heb nog de tijd meegemaakt dat mobiele telefoons niet bestonden.
Jullie zijn nog iets ouder dan ik.
Dus wij zijn misschien iets minder handig met het aanvoelen van de tijdsgeest.
Waarom gaat zo'n jonge, slimme man of vrouw
niet op zo'n ministerie zitten en als een soort coach zo'n proces begeleiden:
Hoe maken we dit betekenisvol?
Is dat niet een soort nieuwe beroepsgroep of zo?
DORRESTIJN: Absoluut. Maar dat hoort ook bij ons werk.
Overal zijn we op zoek naar: hoe kan je ethische begeleiding
of ethiek op een constructieve manier inbouwen in de processen?
Dus in de organisaties die bij het CIP aangesloten zijn, bij het UWV,
maar ook in technische bedrijven.
Hoe kan je daar maatschappelijk verantwoord innoveren
op een manier? Dat betekent dat mensen met een ethische inslag
bij die ontwerper moeten zitten
of dat die van buiten komen om te helpen om tijdens het ontwerpproces
op een aantal momenten ook de ethische vragen te stellen.
ROTMAN: Je hebt een paar dingen die we kunnen doen, samenvattend.
Benoem, bedenk: wat zijn nou de kernwaardes die ik wil hebben?
Ga niet als een kip zonder kop aan de slag.
Bouw het in in je proces aan de voorkant al
en neem iemand mee die er meer verstand van heeft dan jijzelf.
Iemand die ethische vraagstukken kan afpellen
en die gedurende het proces een vinger aan de pols houdt
en moeilijke vragen blijft stellen. En blijf in gesprek daarover.
Zoiets?
-Zeker.
Hebben we nu een soort mooi pakketje samengesteld
waar je mee aan de slag kan?
Er zijn vast een hoop dingen te doen. DORRESTIJN: Testen
met specifiek deze vraag. Als je dan moet werken in een nieuwe situatie
met behulp van algoritmes of een cobot:
hoe ervaar je dat? Is het leuk en waardevol voor de mens?
ROTMAN: Haal de gebruiker erbij en de mensen die ermee aan de slag moeten.
VAN STEENBERGEN: En blijven moni- toren, ook als je 'm al jaren gebruikt.
ROTMAN: Volgens mij hebben we een mooie 20 minuten aangeraakt.
Ik hoop dat het mensen stimuleert en inspireert om te blijven nadenken:
hoe zorgen we ervoor dat de mens in the loop blijft?
Ik denk dat we een heel eind gekomen zijn.
Dank je wel, Steven Dorrestijn. en Marlies van Steenbergen.
En dit is hartstikke leuk. We hebben veel van dit soort podcasts,
allemaal andere thema's, technologie, de ethische kwesties.
Luister die podcasts en dat kan op cip-overheid.nl/uitgelicht
of je favoriete podcastapp. Dank jullie wel.