'Het Discriminerende Algoritme' in de Rode Hoed

De ‘sollicitatierobot’ van Amazon stelde vrouwelijke kandidaten stelselmatig achter. Google’s gezichtsherkenningssoftware herkende zwarte mannen dikwijls als gorilla’s. En zelfrijdende auto’s identificeren mensen met een donkere huidskleur minder vaak als ‘persoon’ dan mensen met een lichte huidskleur.

AI zit in een stroomversnelling. Haast elke dag wordt het gebruik van kunstmatige intelligentie verder geïntegreerd in ons leven. De term kunstmatige intelligentie – ook wel: Artificiële Intelligentie (AI) – refereert aan systemen die ‘intelligent gedrag’ vertonen door hun omgeving te analyseren en zelfstandig problemen op te lossen. Kortom: ze imiteren het denkvermogen van de mens. 

Nederlandse bedrijven zijn koploper in Europa op het gebied van kunstmatige intelligentie. BAM, Philips en Randstad werken bijvoorbeeld al aan AI-projecten die op korte termijn zullen worden geïntegreerd. Tegelijkertijd worden grote techbedrijven geconfronteerd met de tekortkomingen van AI, want – zo blijkt – machines zijn helemaal niet neutraal. 

Een recent onderzoek van de Raad van Europa stelde vast dat het gebruik AI onbedoeld kan leiden tot discriminatie. Zo worden zwarte vrouwen door gezichtsherkenningssoftware vaker aangezien voor een man en hebben de algoritmes die de politie gebruikt geleid tot etnische profilering. 

Moet de overheid ingrijpen om de samenleving te beschermen tegen de uitwassen van technologie? Hebben tech-giganten genoeg zelfregulerend vermogen om de problematiek zelf aan te pakken? Wie draagt de verantwoordelijkheid?

We praten erover met neuro-informaticus Sennay Ghebreab en tech-watcher Enaam Ahmed Ali.


SPREKERS

Sennay Ghebreab

Sennay Ghebreab is neuro-informaticus aan de Universiteit van Amsterdam, hoofd sociale wetenschappen aan Amsterdam University College, en visiting fellow ‘diversiteit en inclusie’ aan de Vrije Universiteit Amsterdam.

Enaam Ahmed Ali

Enaam Ahmed Ali is tech-watcher en ondernemer. Ze was directeur ‘Midden-Oosten en Afrika’ bij Mark Labs, een groot Amerikaans technologiebedrijf. Tegenwoordig reist ze de wereld over om lezingen te geven en hoopt met haar werk andere vrouwen te inspireren. 


 

Plaats: 

Keizersgracht 102, Amsterdam

Datum: 

30 sep 2019 - 20:00 tot 22:00
Voeg toe aan jouw agenda