Tegenwoordig heeft bijna iedereen een telefoon met gezichtsherkenning en stellen we ChatGPT vragen die voor Google te lastig zijn. De opkomst van deze technologieën gaat niet zonder slag of stoot. Door AI gegenereerde afbeeldingen blijken bestaande vooroordelen te versterken, mede door de data die ze gebruiken. Daarnaast schaadt het gebruik van algoritmen organisaties en overheden . Hoe kun je dan toch verantwoordelijk en inclusief met deze technologieën omgaan?

Iemand die hier alles vanaf weet is Hilary Richters, Directeur en oprichter van het Digital Ethics team bij Accountancy- en Consultancyfirma Deloitte. Ze ondersteunt daar bedrijven in het verandwoord en ethisch ontwikkelen en gebruiken van technologie, met als doel inclusieve digitale oplossingen te creëren. Ik spreek haar over haar loopbaan, inclusieve technologie en haar inzet voor diversiteit en inclusie.

Ik bel Hilary vanuit een grijs kantoortje in Enschede; ze belt in vanuit een stralend wit kantoor in Amsterdam. Als technisch student begin ik met veel vragen over de technische aspecten van digitale ethiek. Maar Hilary maakt me al snel duidelijk: “Met alleen technologie ga je technologie nooit succesvol kunnen inzetten. Het is altijd een samenspel van factoren waarvan technologie er één is, maar nooit de enige.”

Digitale Ethiek

Hoe is jouw loopbaan gegaan?

“Ik ben heel ergens anders begonnen dan waar ik nu ben. In een ver verleden heb ik accountancy gestudeerd, maar daar heb ik verder niks mee gedaan. Het was toch niet helemaal iets voor mij. Daarna ben ik rechercheur geworden bij de overheid, waar ik vooral gefocust was op digitaal rechercheren. Dat was een geweldige baan, maar ik was ontzettend ambitieus en nieuwsgierig naar wat er nog meer in de wereld was.”

“Daarom heb ik iets meer dan zestien jaar geleden de overstap gemaakt naar Deloitte. Ik begon bij Forensic, eigenlijk opnieuw digitale opsporing, maar dan vanuit de private hoek. Verder deed ik veel opdrachten in de data-analyse, waar ik een soort vertaler was tussen de data-analisten en de klanten. Technici spreken namelijk vaak een hele andere taal dan de niet-technici.”

“Daarna heb ik mij gericht op de uitvoering van grote herstelopdrachten [red: activiteiten uit het verleden die hersteld moeten worden en waarvan eventuele gedupeerden gecompenseerd moeten worden]. Ik merkte daar de invloed die data en technologie hebben op mensen, wanneer iets in een procesketen niet helemaal goed gaat. DIt is niet alleen een technisch vraagstuk, maar een sociaal maatschappelijk vraagstuk.”

“Vier jaar geleden ben ik zo bij Digitale Ethiek terecht gekomen. Deloitte ging toen hun strategie opnieuw vormgeven vanuit de visie ‘verantwoord ondernemen’. Dat gaat dus niet alleen over de technologie zelf, de harde kant, maar ook de zachte kant eraan. En daar zit de ethiek. Ik pakte dat gelijk op, zonder dat ik wist wat alle details inhielden. Ik begon toen alleen, als een soort start-up onder de vlag van Deloitte, met Digitale Ethiek. Met onder andere een professor van de TU Delft gingen we uitzoeken wat digitale ethiek betekent voor ondernemingen en hoe je dat vertaalt naar tastbare oplossingen.”

“Wat ik niet had verwacht toen ik hiermee startte, is dat digitale ethiek meer dan een onderwerp is voor mij. Het staat voor alles waar ik in de kern voor sta; rechtvaardigheid, inclusiviteit, technologie en data. Alles wat hoort bij het bijdragen aan een inclusieve digitale samenleving zit voor mij in het onderwerp digitale ethiek.”

Had je vier jaar geleden – nog voor de opkomst van bijvoorbeeld generatieve AI – al aan zien komen dat digitale ethiek zo hoog op ieders agenda zou komen te staan?

“Ik had niet verwacht dat het met de techniek zo’n vaart zou hebben – ik denk dat ieder jaar iets nieuws ons weer verrast. Ik had wel gehoopt dat de focus sneller op inclusieve digitale oplossingen zou gaan liggen. We deden daar natuurlijk wel al iets mee, we hebben bijvoorbeeld al wetten hierover zoals privacywetgeving. Alleen merk je dat het onderwerp digitale ethiek complexer is dan menigeen denkt.”

“Ik zag zelf in die ontwikkelingen veel mogelijkheden om onze maatschappij en organisaties te helpen. Alleen niet iedereen ziet direct de meerwaarde van digitale ethiek. Software ontwikkelaars zijn vaak teveel inside-out gericht, waardoor er vaak een te eenduidig beeld ontstaat. Denk aan een CEO, als je die zoekt online, krijg je over het algemeen witte mannen in pak.”

“Sommige ontwikkelaars denken dat je zegt dat ze het niet goed doen wanneer je over digitale ethiek begint. Maar daar gaat het niet over; het gaat super goed met technologie, maar er is nog een wereld daarbinnen en er omheen waar we nog geen zicht op hebben. En het is handig om daar ook tools voor te hebben, waarmee je uit je eigen gezichtsveld kunt stappen. Zo kunnen allemaal verschillende mensen met allemaal verschillende achtergronden en posities ook meegaan met de voordelen van nieuwe technologieën.”

Het gaat super goed met technologie, maar er is nog een wereld daarbinnen waar we nog geen zicht op hebben.

Inclusieve digitale oplossingen

Houden bedrijven zich al veel bezig met digitale ethiek en inclusieve digitale oplossingen?

“Ja, zoals bij iedere andere revolutie beginnen de eersten snel. Dat was met digitale ethiek ook het geval, dus ik zie echt wel tractie in de markt. Maar vier jaar geleden wisten de meeste bedrijven niet goed wat ze ermee moesten. Nu zie ik dat bedrijven dat wel weten en zien dat de aandacht voor inclusiviteit past bij wie ze als organisatie zijn.”

“Hieruit volgt dan wel de vraag: hoe zorg je voor een ethische toepassing van data en technologie? Wij komen vooral bij zeer grote bedrijven over de vloer. Hoe kun je daar technologie op een verantwoorde manier toepassen?”

“Technologische ontwikkelingen gaan echt met een sneltreinvaart. En met een technische achtergrond is het al lastig om die ontwikkelingen nauwgezet bij te houden. Laat staan voor een organisatie mee waarin iedereen verschillende kennis en kunde en een verschillende mate van affiniteit met technologie heeft. Het is daarom voor organisaties uitdagend om op een verantwoorde manier hier mee om te gaan.”

Hoe kunnen bedrijven bij het ontwikkelen en het gebruiken van technologie de inclusiviteit waarborgen?

“Als ik kijk naar digitale oplossingen zie ik drie hoofdonderdelen: de data, de technologie en de context. In alle drie zitten ethische vragen die je zou moeten oppakken om tot een goede inclusieve digitale oplossing te komen. Bij de data en technologie gaat het redelijk. Maar in de context en organisatievraagstukken gaat het minder. Terwijl dat juist de richtinggevende kaders zijn voor het gebruik van data en technologie. Dus het een ontslaat het ander niet bij het vinden van een oplossing, maar wij bij Deloitte kijken ook naar de niet-technische kant.”

“Bij de negatieve headlines die je over technologie ziet zit het veel meer in de context en de processen binnen de organisatie dan in de data en technologie zelf. Want als je organisatieprocessen en context duidelijk zijn, weet je waar de kansen en de risico’s liggen en ga je de juiste sturing geven aan je ontwikkelaars. Maar als die sturing niet goed is, ga je ook geen goede digitale oplossingen krijgen.”

Zonder de juiste sturing aan ontwikkelaars ga je geen goede digitale oplossingen.

Bij inclusieve digitale oplossingen gaat het dus veel meer over alles wat er achter de technologie zit, in plaats van de technologie zelf?

“Ja, niks kan volledig inclusief zijn, en daar waar je streeft naar inclusiviteit heb je altijd een vorm van exclusiviteit. Dat is niet altijd slecht, maar je moet wel weten wat dat dan betekent en weten welke impact dat heeft op welke groep. En dan is de vraag of die risico’s passen bij jouw organisatie, of dat je ze kunt mitigeren.”

“Vaak kijkt men naar technologie als dé oplossing voor het probleem, maar een oplossing bestaat uit meer dan alleen een technische kant. Een samenspel van meerdere aspecten zorgt er namelijk wél voor dat je zo inclusief mogelijk kunt zijn. Geen enkele digitale oplossing is inclusief. Dat is niet per se erg, zolang je een weloverwogen risico neemt of je de oplossing in die vorm vindt passen bij de waarden van je bedrijf.”

“Bedrijven richten zich vanuit hun waarden op één bepaalde groep. Van een bedrijf dat dure producten levert, verwacht je bijvoorbeeld geen aanbiedingen voor tien euro. Dat is niet inclusief, maar het is wel in lijn met hun waarden. Zo moeten we ook naar de inzet van technologie kijken.”

Exclusiviteit is niet altijd slecht, maar je moet wel weten wat dat betekent en weten welke impact dat heeft op welke groep.

De techwereld is niet bepaald divers. Wat denk je dat een diverse groep ontwikkelaars zou kunnen bijdragen aan meer inclusieve digitale oplossingen?

“De techsector is niet alleen overwegend man en wit, maar grotendeels ook hoogopgeleid. Daar zit ook diversiteit in, maar je komt zo niet aan de onderkant van de sociaaleconomische klasse. En waar technologie vaak een negatieve impact heeft, is aan de onderkant van de sociaaleconomische klasse. Daar heb je er het meeste last van als het verkeerd gaat. Een meer diverse groep, bijvoorbeeld met meer vrouwen, zou enigszins kunnen helpen, dan kun je breder kijken.”

“Maar uit onderzoek merk je dat je de diversiteit bij teams soms onvoldoende terugziet in de ontwikkeling van technologie. Meer vrouwen en mensen van kleur in de techsector is een super goede eerste stap, maar daarmee ben je er dus nog niet.”

“Je moet je afvragen: willen we meer diversiteit in de technologie, of willen we meer inclusieve digitale oplossingen maken? En als we inclusieve digitale oplossingen maken met elkaar, wat is daar dan voor nodig? En dan kom ik toch weer terug op de niet-technische kant, want dit is voornamelijk een cultureel vraagstuk. Hoe het leiderschap eruitziet, welke kennis er is en of er een cultuur is waarin mensen zich binnen de organisatie mogen uitspreken.”

“Want als je alleen een divers team wilt, maar in de cultuur en organisatie is er niet zoveel veranderd, en je hebt de middelen en mogelijkheden niet om inclusieve digitale oplossingen te bouwen, dan kom je er nog niet. Belangrijker is dat we mensen de tools geven om inclusief te kunnen ontwerpen. En dan maakt het me niet uit wat je afkomst en achtergrond is, want ik geloof oprecht niet dat mensen iets ontwikkelen óm een bepaalde groep pijn te doen.”

Belangrijker is dat we mensen de tools geven om inclusief te kunnen ontwerpen.

Voor velen gaat technologische vooruitgang heel erg snel. Hoe kun je daar als gebruiker goed mee omgaan?

“Dat is een lastige vraag, want de groep gebruikers is zo divers, alleen op kennis al. Maar ongeacht of je ontwikkelaar, beleidsmaker of gebruiker bent, zou ik altijd drie dingen doen. Wees allereerst nieuwsgierig: wat doet het, wat kan het? Vraag je daarna af waarom een bepaalde technologie voor jou een goede oplossing is, en ten slotte welke risico’s eraan zitten voor jou. Dit zijn hele lastige vragen om te beantwoorden, vooral als je minder digitaal geletterd bent. Soms vind ik het zelf ook lastig om ze goed te beantwoorden.”

“Houd ook in je achterhoofd; de inclusiviteit en exclusiviteit van technologie zit buiten de technologie zelf. Je sluit mensen in en je sluit mensen uit met tech, want het ontwerp is nooit neutraal, net zoals bij elk ander object dat mensen ontwikkelen. Jij hebt bijvoorbeeld een koptelefoon, die is draadloos en daar kun je makkelijk mee bellen. Maar voor anderen is dit misschien helemaal niet de beste oplossing. Zo sluiten we met elk ontwerp dat we maken mensen uit.”

“Technologie, maar eigenlijk elk ontwerp, duwt ons ook in een bepaalde richting en bepaalt ons gedrag. Kijk maar naar een smartwatch met een stappenteller bijvoorbeeld. Als je een doelstelling hebt van tienduizend stappen en je haalt dat niet, dan krijg je een rood signaal op je dashboard. Dus heel veel mensen gaan op basis van die output toch maar even wandelen, want iedereen wilt een groen dashboard. Als ontwikkelaar moet je stilstaan bij de macht en verantwoordelijkheid die je in handen hebt. En dat is niet per se goed of slecht, maar het is in ieder geval nooit neutraal. Jij bepaalt wie je insluit en uitsluit, en het gedrag van de gebruiker.”

Hoe inclusief technologie is, zit buiten de technologie zelf.

Bij veel technische opleidingen is er weinig aandacht voor de verantwoordelijkheid die je later als ontwikkelaar zult hebben.

“Dat vind ik erg jammer. Ik denk namelijk dat het heel waardevol zou zijn om in je opleiding studenten al de tools, kunde en kennis te geven om echt inclusieve digitale oplossingen te bouwen. Al denk je er maar over na dat er meer is dan technologie in de wereld. Dat er meer nodig is dan technologie alleen voor een succesvolle implementatie.”

Sisterhood

Buiten je werk om zet jij je ook in voor diversiteit en inclusie, zowel in de tech-sector als daarbuiten. Hoe doe je dat?

“Ik zet me in voor vrouwen aan de top. Daarin heb ik het idee van Sisterhood maximaal omarmd. Ik liep bijvoorbeeld tegen een zakelijk vraagstuk aan. Ik had het daar met een andere vrouw over, en die bracht me in contact met weer een andere vrouw die hier zelf ook tegenaan was gelopen. Zo hebben we een aantal keer gebeld en ik kon weer verder.”

“Ik denk dat dát Sisterhood is. Je bent er voor elkaar, je weet dat je niet alleen bent en je kent altijd iemand die een ander kent die jou verder kan helpen. Er is een grote groep vrouwen waar je altijd bij terecht kunt met een vraag, maar ook als je alleen wilt luisteren.”

“Ik hoop ook dat iedereen altijd zijn of haar verhaal wil delen, ongeacht waar ze zitten in hun carrière. Jouw verhaal kan namelijk bijdragen aan het verhaal van een ander. Ik denk dat we die connectie met elkaar nodig hebben, want hoe hoger je komt, hoe eenzamer het kan zijn. Je hebt dan af en toe je sisters nodig om je hoofd boven water te houden.”

Wat zou je onze lezers als advies voor in hun carrière willen meegeven?

“Blijf altijd nieuwsgierig, dit komt erg terug in hoe mijn loopbaan is gegaan, en blijf uitzoeken wat nieuwsgierigheid betekent. Als je dat doet gaan er nieuwe deuren voor je open. En sluit je echt aan bij de Sisterhood-gedachte, dat maakt jezelf – mij in ieder geval wel – een mooier mens, en hiermee help je ook de volgende vrouw op weg.”

Je hebt je sisters nodig om je hoofd boven water te houden.