Hannah Fry :: Algoritmes aan de macht

Het is een populair doembeeld in sciencefictionverhalen: artificiële intelligentie (A.I.) die via robots of superintelligente computers langzaam maar zeker de macht van de mensen overneemt en hen uitroeit. Uiteraard is het nog verre toekomstmuziek, in zoverre de mens er al in zou slagen om A.I. te creëren. Maar ook zonder superslimme computers hebben we als moderne mens al veel macht uit handen gegeven en alles wat we daarvoor nodig hadden, waren simpele algoritmes die blind uitvoeren wat wij hen voorgekauwd hebben.

Het is een cliché zo hoog als een huis, maar net zo goed waar: een computer is maar zo slim als de mens die hem geprogrammeerd heeft — iets dat wel eens wordt vergeten. In het vlot leesbare Algoritmes aan de macht. Hoe blijf je menselijk in een geautomatiseerde wereld wil de jonge wiskundige Hannah Fry net dat duidelijk maken. Fry is, zoals het een goede wiskundige betaamt, uiteraard verre van gekant tegen computers of algoritmes. Meer zelfs, de Engelstalige titel Hello World – How to be Human in the Age of Machines verwijst expliciet naar wat computerprogrammeurs vroeger als regel hanteerden, namelijk dat je als eerste opdracht schreef dat je programma hello world zou zeggen. In haar voorwoord geeft Fry niet alleen duiding bij de titel en het verhaal erachter, maar geeft ze meteen ook een aanzet tot wat in verschillende hoofdstukken vanuit allerlei oogpunten verduidelijkt zal worden: algoritmes zijn geen wondermiddel noch een baarlijke duivel.

In een eerste hoofdstuk wordt die these meteen uitgewerkt en onderbouwd. Het probleem, zo zal Fry verder geregeld aantonen, ligt niet zozeer of louter bij het algoritme in kwestie, als wel bij de mens die het geschreven heeft dan wel interpreteert. Vooral bij dat laatste durft het wel eens fout te lopen. Zo is er uiteraard het bekende voorbeeld van schaakgrootmeester Gary Kasparov die van Deep Blue verloor en naar eigen zeggen zijn tegenspeler onderschat had. Kasparov die een meester is in het mentaal bespelen van zijn tegenstanders, liet zich zelf uit het lood slaan toen Deep Blue niet reageerde zoals hij verwachtte en hij onbewust zelf slechter begon te spelen. Van een heel andere en hilarische orde is het verhaal van Robert Jones, die bijna van de klif reed die voor hem opdoemde omdat hij zijn gps meer vertrouwde dan zijn eigen ogen. Een heel andere richting ging het gelukkig op met Stanislaw Petrow, die in 1983 het risico nam de door het systeem gedetecteerde raketaanval van de VS op de Sovjet-Unie als vals te beoordelen en zo een wereldomvattende kernoorlog vermeed.

Hoewel uit deze voorbeelden vooral afgeleid moet worden dat programma`s niet betrouwbaar zijn, verhaalt Fry evenveel andere gebeurtenissen waarbij meer vertrouwen in het algoritme net onheil vermeden heeft of had kunnen vermijden. De grote vraag waar niet meteen een antwoord op te geven is, is dan ook wie het laatste woord krijgt: mens of machine. In haar boek beantwoordt Fry deze vraag nooit eenduidig: enerzijds haalt bijvoorbeeld een machine er (bij het onderzoek naar staaltjes op kankeronderzoek) meer potentiële kankers uit, maar diagnosticeert ze anderzijds ook meer gezonde staaltjes als infecties. Uiteraard kan hier opgeworpen worden dat een foute diagnose in dit geval niet zo erg is, maar het illustreert wel wat men false negatives en false positives noemt. Wat bijvoorbeeld als op basis van een gelijkaardig algoritme onschuldigen in de gevangenis belanden of discriminatie ontstaat? Is dat een risico dat er bij hoort?

Wie geneigd is `ja` te antwoorden, zal zich misschien wel bedenken bij schrijnende voorbeelden als de man die door de politie op basis van gezichtsherkenning niet alleen hardhandig werd gearresteerd, maar ook nog eens zijn hele leven verwoest zag, vooraleer de autoriteiten moesten toegeven dat hij onmogelijk de dader kon zijn, maar er ook aan toevoegden dat het systeem niet gefaald had. En wat te denken van de automatische berekening van ziekte-uitkeringen die zwaar zieke patiënten zo goed als van financiële steun afsneden en voor anderen net en vaak onnodig een hogere uitkering toekenden? Ook hier leek de oorzaak niet louter bij het programma te liggen, maar evenzeer bij wie het programma en de informatie aanleverde en daarbij nogal slordig te werk ging. Maar zelfs als er goed nagedacht wordt over welke informatie in het systeem ingevoerd wordt en hoe het programma loopt, is er nog steeds een risico dat de beslissing te blind is en onbewust de foute beslissing genomen wordt. Toch hoeft daarom het kind niet met het badwater weggegooid te worden: net zomin als een mens perfect is en steevast de juiste beslissing zou nemen, geldt dat evenzeer voor computers, programma`s en algoritmes. Verwachten dat technologie altijd slaagt, schept onrealistische verwachtingen die elke vooruitgang blokkeren.

Het is de stelling die Fry finaal verdedigt: een systeem op zich is nooit goed of fout, maar is vooral afhankelijk van hoe er mee omgegaan wordt. Wie te blind een bepaald programma volgt, zal onbewust ook de fouten overnemen, terwijl wie er van uitgaat dat de mens het sowieso beter weet net zo goed vergissingen kan begaan die een computer niet zou maken. Een gulden middenweg vinden is niet eenvoudig en er is niet een richtlijn die voor elke situatie werkt. Fry betoogt dan ook dat een wisselwerking het meest aangewezen is, waarbij de maximale mogelijkheden van een programma benut worden, maar er voor, achter en tijdens het werk nog steeds een kritische, menselijke blik blijft.

Het is uiteraard geen baanbrekende gedachte, maar Fry weet ze wel te verdedigen door een stroom aan kritische voorbeelden te geven waarbij ze aantoont waar een algoritme dan wel een mens in de fout ging. In haar boek wil ze geen doemverhaal vertellen noch een hoerastemming creëren, maar wel op een vlot leesbare manier de voor- en nadelen van een steeds groter wordende digitalisering in kaart brengen. Het maakt van Algoritmes aan de macht een leesbaar en helder werk dat weliswaar nergens echt diepgravend wordt, maar wel helder een verhaal en stelling brengt die genuanceerd en doordacht is.

LAAT EEN REACTIE ACHTER

Schrijf uw reactie
Vul hier uw naam in