En: Voor u gezien: Do You Trust This Computer?

Big data is misschien wel hét hot topic van dit moment. Maar de volgende geluiden klinken alweer. Max Welling, hoogleraar machine learning aan de UvA, schrijft in Het Financieele Dagblad dat machine learning op basis van geen data – dus zelflerende computers – veiliger is dan computers die gevoed worden door ‘big data.’

Hij noemt een paar onschuldige voorbeelden. De 18-voudig wereldkampioen Go, Lee Se-dol, werd bijvoorbeeld door het algoritme AlphaGO tijdens een wedstrijd van vijf potjes Go met 4-1 verslagen. En Lee was na afloop als een kind zo blij dat hij tenminste een potje van de computer had kunnen winnen. (AlphaGO, Netflix).

Het algoritme was getraind aan de hand van een enorme database van eerdere partijen, die waren gespeeld door de beste Go-professionals. Door tegen zichzelf te spelen, en dus zichzelf steeds beter te maken, leerde AlphaGO zonder verdere inmenging van buitenaf om beter te worden dan Lee Se-Dol. Op die manier zijn er ook algoritmes die de beste pokerspelers kunnen verslaan, iets dat op voorhand onmogelijk leek. Pokeren is immers niet alleen kaarten, maar ook emotie.

Een ander redelijk onschuldig voorbeeld dat Welling noemt, is een bedrijf dat met honderd autootjes boodschappen bezorgt. Hoe krijgt zo’n bedrijf alle boodschappen op tijd bij de klant, met het minst aantal gereden kilometers? Dat kan door heel veel mogelijke problemen – snelheidslimieten, files en meer mogelijk onheil op de weg – random in een computer te zetten. Daarna simuleer en evalueer je een mogelijke strategie die vervolgens stapje voor stapje wordt verbeterd. In de computer, zonder inmenging van buitenaf.

Tot zover de onschuld van zelflerende algoritmes, ook neurale netwerken genoemd. Er is echter een keerzijde. Begin april van dit jaar kwam de film Do You Trust This Computer uit. De film, die door Elon Musk vrij beschikbaar is gesteld, waarschuwt voor de gevaren van AI (kunstmatige intelligentie). Het type AlphaZero bijvoorbeeld, intelligentie die zonder tussenkomst van mensen in korte tijd heel slim kan worden, heeft ook minder onschuldige toepassingen dat het winnen van een potje Go of het rondbrengen van boodschappen. Denk hierbij aan autonome computergestuurde legers, die zonder inmenging van buitenaf complete oorlogen kunnen voeren.

Of AI op de beursvloer. Achteraf is bekend geworden dat tijdens de Amerikaanse minibeurskrach van 6 mei 2010 maar liefst 60% van alle beurshandelingen werd uitgevoerd door computerprogramma’s. De zogeheten ‘flash crash’ blijkt vooral te wijten te zijn aan die geautomatiseerde handelssystemen, die in seconden grote hoeveelheden aandelen aan elkaar verkochten. In enkele minuten stortte de beurs van New York volledig in. Twintig minuten later was de geleden schade overigens weer geheel hersteld.

Niet voor niets ondertekenden al in 2015 meer dan 1.000 wetenschappers een open brief waarin ze waarschuwen tegen het gebruik van AI in de wapenindustrie…

Lees het hele artikel hier.
Kijk hier de hele film ‘Do You Trust This Computer’ via YouTube