Zeynep Tufekci via Tim de Gier in VN
Een algoritme is eigenlijk gewoon een computerprogramma, maar in dit geval bedoel ik een complexe serie regels die bepaalde resultaten bepaalt, zoals de zoekresultaten van Google of de tijdlijn van Facebook. We vinden het leuk als computers ons leven praktischer maken en ons met elkaar verbinden, maar we vinden het niet leuk als ze beslissingen voor ons gaan nemen zonder dat we het doorhebben. En dat is precies wat algoritmen doen.
Wij bepalen toch wat het algoritme doet? Ook bij Facebook en Google zitten mensen achter de knoppen.
Zo was het ooit. Eerst bepaalden wij de regels. We vertelden de computer: als een persoon zijn wenkbrauwen optrekt en zijn mondhoeken omhoog trekt, dan is hij vrolijk. Als die mondhoeken naar beneden staan, dan is hij treurig. Zo leerden wij een computer wanneer iemand vrolijk is en wanneer niet. Een andere manier om de computer hetzelfde te leren, is door hem big data te voeren. Je zegt: dit zijn tien mensen, deze twee mensen zijn vrolijk en de rest is somber. Die training herhaal je net zo lang met verschillende testgroepen tot de computer vrolijke en sombere mensen kan onderscheiden. Dat is een zelflerend algoritme. Die hebben we geen regels gegeven, maar die hebben we getraind om naar regels te zoeken.
Klinkt handig.
Dat is het verleidelijke. Het is heel handig. Maar stel je voor: je gebruikt een algoritme om de perfecte mensen aan te nemen voor je bedrijf. Je voert de computer tachtig werknemers en hun beoordeling. Je vertelt de computer over welke mensen je tevreden bent en over welke niet. En dan gooi je er nog honderd voorbeelden in. En dan nog eens. Daarna vraag je de computer: ‘Dit zijn tien mensen, wie moet ik inhuren?’ Het algoritme kiest voor je. Geloof me, dit werkt geweldig. Beter dan een menselijke beslissing. Je weet alleen niet welke variabelen het algoritme heeft gebruikt, want dat bepaalt hij zelf. Misschien houdt het algoritme wel rekening met risico’s op depressie bij een potentiële aanwinst. Misschien zijn de variabelen wel seksistisch. Of racistisch. Het punt is vooral dat je niet weet wat hij doet.
En daar komen we dit jaar pas achter?
Ja, omdat het pas sinds kort goed werkt. Lange tijd waren de pogingen tevergeefs. Telkens als we dachten dat computers zelf konden gaan denken, lukte het nét niet. Achteraf bleek dat we de rekenkracht nog niet hadden. En de data. Nu hebben we die wel.
En als we de code openbaar maken? Dan kunnen we zelf zien welke beslissingen zijn genomen?
Dat werkt niet. Een beetje flink algoritme, zoals dat van Google, is te ingewikkeld voor iemand om te begrijpen. Je weet misschien waar je begonnen bent, maar je weet niet wat het algoritme zichzelf heeft geleerd. Er zit een rekenkracht achter waar geen mens in mee kan komen. Bovendien is er een reden waarom al die bedrijven geheimzinnig doen over hun methodes: als je het algoritme openbaar maakt, kunnen mensen het bespelen. Dat wil je ook niet.