Hoe veel nemen we aan van algoritmen?

Een groot deel van de keuzes die we maken worden beïnvloed door algoritmes. Hoewel bedrijven steeds meer vertrouwen op data, proberen ze dat in toenemende mate te verhullen. Het zijn geen computers, maar ‘medewerkers’ die je aanbevelingen doen.

Vermenselijken

Ook techbedrijven doen er van alles aan om hun techniek te vermenselijken. Ze geven het een menselijke naam (Alexa, Siri) of een gezicht zoals de robot Jiro. Maar is dit wel nodig? Zijn mensen echt zo avers om advies aan te nemen van een algoritme? 

Via Amerikaanse universiteiten is hier onderzoek naar gedaan. Er werd een aantal experimenten gedaan naar de relatie tussen mensen en algoritmes. In het eerste experiment werden mensen gevraagd een schatting te geven over een aantal. Het onderwerp varieerde van geopolitiek (hoe groot achtten ze de kans dat de VS of Europa een cyberaanval zou vergelden) tot zakelijk (hoe groot achtten ze de kans dat Tesla in 2016 meer dan 80.000 elektrische auto’s zou produceren). Na de eerste schatting kregen ze advies, ofwel van een ander mens of van een algoritme, maar het advies was hetzelfde getal. En hoewel de respondenten geen idee hadden over hoe het algoritme werkten, luisterden ze beter naar het algoritme.

Dit effect bleek sterker te zijn naarmate mensen meer verstand van rekenen hadden. Dus hoe beter mensen konden rekenen, hoe beter ze naar het algoritme luisterden.

Wetenschappers

Om te testen of er in de wetenschap nog steeds van uit wordt gegaan dat mensen algoritmes wantrouwen, werd de onderzoeksopzet aan 119 wetenschappers voorgelegd. Hen werd gevraagd om te voorspellen of de participanten zouden luisteren naar het algoritme of andere mensen. De onderzoekers voorspelden dat mensen een aversie zouden hebben tegen het antwoord van de computer. Het tegenovergestelde van wat het geval was.

Ook werd gekeken naar of de expertise van mensen uitmaakte. De onderzoekers zetten veiligheidsadviseurs, die voor hun beroep inschattingen moeten maken tegenover een groep willekeurige mensen. De groepen moesten een inschatting maken over geopolitieke gebeurtenissen. De groep willekeurig gekozen participanten gedroeg zich zoals de groep in de eerste studie. De groep experts luisterde noch naar andere mensen noch naar algoritmes. Zij vertrouwden hun eigen mening meer dan die van anderen en van de computer.

Na een jaar werd gekeken hoe de twee groepen gepresteerd hadden en of de gebeurtenissen daadwerkelijk hadden plaatsgevonden. Uit de antwoorden bleek dat de experts significant slechter scoorden omdat ze niet luisterden naar advies.

Morele besluiten

Uit andere onderzoeken blijkt wel dat de context van de besluitvorming afhangt van of mensen naar algoritmes luisteren. Als het gaat om het advies over een grap, dan prefereren mensen het advies van een vriend boven dat van een algoritme. Ook als is het advies van het algoritme beter. Ook adviezen over morele beslissingen over zelfrijdende auto’s of geneesmiddelen horen mensen liever van een mens.