Weten algoritmes beter wat je wilt dan jij?

(Gepubliceerd in de NRC 12/06/’18)

Uit empirisch onderzoek zou blijken dat we vaak niet weten waarom we doen wat we doen, wat ons gelukkig maakt, hoe we ons voelen en wat we nu eigenlijk willen. Filosoof Gijs van Oenen schaart zich in zijn artikel van afgelopen weekend (Algoritmes, de redding van onze democratie, 9/6) achter het groeiende rijtje zelfkennissceptici. Maar Van Oenen gaat niet bij de pakken neerzitten. Er is namelijk een oplossing voor het zelfkennisprobleem: algoritmes.

Hopen dat algoritmes ons antwoorden zullen geven op allerlei zelfkennisvraagstukken is niet alleen naïef maar ook gevaarlijk. Naïef omdat er geen objectief antwoord te geven is op de vraag waar iemand gelukkig van wordt of wat voor voorkeuren iemand heeft. Er is maar één autoriteit over wat je echt wilt en wat goed voor je is, en dat ben je zelf, aldus de oerliberaal John Stuart Mill. Dit heeft er ten eerste mee te maken dat inmenging door anderen, hoe goedbedoeld ook, altijd een slechtere uitkomst heeft dan iemand zelf een beslissing te laten nemen, ook als dat een onverstandige beslissing is.

Ten tweede omdat wat je gelooft waar je gelukkig van wordt het deels ook waarmaakt. Ergens zelf achter staan, bijvoorbeeld om een gezin te stichten, een ander carrièrepad te kiezen of House of Cards te gaan kijken, is wat dergelijke keuzes de ‘juiste’ keuzes maakt. Kortom, doen alsof algoritmes een ‘autoriteit’ kunnen zijn op het gebied van onze zielenroerselen, is dus niet alleen naïef maar ook onliberaal.

De oplossing zoeken in algoritmes is bovendien gevaarlijk. Aan Henry Ford wordt vaak het citaat toegeschreven: „Als ik mensen gevraagd had wat ze hadden gewild, hadden ze gezegd: snellere paarden.” En Steve Jobs zou ooit gezegd hebben: „Het is niet de taak van de consumenten om te weten wat ze willen.” Maar ondertussen zit iedereen met een smartphoneverslaving waar ze vanaf willen (en paardrijden zou gegeven de klimaatveranderingen en het gesjoemel met autosoftware misschien ook niet zo’n gek idee zijn).

Het probleem is simpel: algoritmes worden niet door onszelf ontwikkeld maar door bedrijven of overheden. Cruciaal daarbij is dat van algoritmes een sturende werking uitgaat. Ironisch genoeg is het precies Jürgen Habermas – de filosoof die Van Oenen aanhaalt – die overtuigend laat zien dat we onze voorkeuren nooit als gegeven moeten nemen, maar ook altijd goed moeten kijken naar de oorsprong of geschiedenis van onze voorkeuren. Ford, Jobs en Zuckerberg ‘vertellen’ ons niet alleen wat we willen in de zin dat ze ons inzicht geven in wat we sowieso al wilden, maar ‘vertellen’ ons ook wat we willen in de zin dat ze onze voorkeuren grotendeels ook creëren. Van Oenen klapt in zijn handjes wanneer Amazon of Netflix hem vertellen wat hij eigenlijk écht wil zien of kopen. Ikzelf ga liever nog eens goed kijken naar mijn privacy-instellingen.