De donkere kant van platforms

Platforms zijn een krachtige manier van organiseren in de VUCA-tijd. Ze zijn schaalbaar, wendbaar, toegankelijk en bieden een krachtige gebruikerservaring. Platforms zijn de “enabler” van de deel-economie. Er komen grote groepen aanbieders samen met grote groepen vragers. Er kan een uitwisseling zijn van onbenutte capaciteit of informatie.

Hallelujah en eureka. Platforms als recept voor wereldvrede! Bijna, want er is ook een donkere kant. In dit artikel belichten we wat er fout kan gaan in het ontwerp van platforms of zelfs de intentie ervan.

“De donkere kant van platforms” verder lezen

Value Sensitive Design

Value Sensitive Design (VSD) is een methode om waarden en cultuur te integreren in het ontwerp van technologie. De AVG heeft het over ‘Privacy by Design’ en eigenlijk is dat een voorbeeld van VSD. VSD is een methode om te ontwerpen vanuit waarden. Value Sensitive Design suggereert een iteratief proces, telkens bestaande uit drie fasen: conceptueel onderzoek, praktijkonderzoek en technisch onderzoek.

Conceptueel onderzoek

In het conceptueel onderzoek stellen we vast welke waarden spelen, voor wie en in hoeverre die waarden met elkaar conflicteren. Voor de gevonden waarden gaan we dan na in hoeverre ze geholpen of juist tegengewerkt worden door de betrokken technologie.

Er worden twee soorten betrokkenen of belanghebbenden geïdentificeerd; directe en indirecte betrokkenen. Directe betrokkenen hebben directe interactie bij het te ontwerpen systeem of de uitkomsten van dat systeem. Indirecte betrokkenen zijn iedereen die geraakt worden door het gebruik van het systeem. Deze laatste groep is van belang omdat deze meestal wordt genegeerd of niet onderkend in technologische ontwerpprocessen.

Het conceptueel onderzoek identificeert waarden en betrokkenen in theorie. In de volgende stap wordt het onderzoek voortgezet door de praktijk te onderzoeken.

Empirisch onderzoek

In deze fase wordt bekeken hoe het beoogde systeem in de menselijke context uitwerkt. Dit kan door prototypes in de praktijk te testen, door interviews met toekomstige betrokkenen of wat voor wijze dan ook. Alle kwalitatieve en kwantitatieve onderzoeksmethode uit het sociaal domein zijn beschikbaar.

Een vergelijking die in het empirisch onderzoek zeker tot uiting komt is die tussen bruikbaarheid (usability) en morele waarden. De bruikbaarheid kan bijvoorbeeld volledig ten koste gaan van strikt bewaakte waarden door (bijvoorbeeld) het individueel moeten accepteren van alle cookies op een website.

Technisch onderzoek

Het technisch onderzoek kan erg op het empirisch onderzoek lijken. De fasen zijn onderscheiden om zeker te weten dat in het empirisch onderzoek wordt ingegaan om betrokkenen bij de systemen. Pas in deze technische fase wordt daadwerkelijk techniek onderzocht.

Er wordt onderzocht welke technische voorzieningen waarden in gevaar brengen of juist ondersteunen. Er kan zowel gekeken worden naar eigenschappen van bestaande systemen als dat er ontworpen kan worden rond geïdentificeerde waarden.

Bron

In het artikel van Friedman en Kahn worden, naast een beschrijving van deze fasen, ook voorbeelden gegeven. Het artikel is te vinden achter onderstaande link.

http://faculty.washington.edu/pkahn/articles/vsd-theory-methods-tr.pdf

Marc Teerlink: Transparantie standaard onderdeel van AI

Platforms zijn een brandpunt van technologie en maatschappij. Als een platform kunstmatige intelligentie (AI) gebruikt, dan speelt transparantie een grote rol. Marc Teerlink betoogt dat transparantie, in de vorm van documenteren van de uitkomst van een algoritme, standaard onderdeel van AI moet zijn.

Marc Teerlink is verantwoordelijk voor SAP Leonardo, een platform voor machine learning, analyse en bg data voor klanten van SAP. Waarschijnlijk zit het merendeel van de wereldbevolking wel ergens in een SAP systeem in de vorm van data, dus een interessante positie.

In dit interview in Computable betoogt Marc Teerlink dat transparantie standaard onderdeel van kunstmatige intelligentie moet zijn en dat daar inmiddels ook richtlijnen voor zijn. De redenaties van algoritmen moeten gedocumenteerd worden.

Transparantie is een van de aspecten van ethiek van platforms, naast privacy/data, arbeidsverhoudingen en markttoegang. Het onderwerp is nu ook bij de overheid actueel.

Ethiek in het ontwerpen van technologie

Platforms zijn razend interessant. Naast de technologische component is er bij platforms ook vaak een maatschappelijke component. Dat is de reden waarom Goodgrid ethiek een prominente plek geeft in het ontwerpproces.

Zelfrijdende auto’s zijn lastiger als platform uit te leggen. Hoewel Tesla’s natuurlijk wel continue “aan” zijn en communiceren met the mothership. Misschien zijn de Tesla’s die we op straat zien wel “agents” van het platform Tesla.

Maar in het ontwerp van de zelfrijdende auto is de rol van ethiek wel heel evident. MIT heeft een website “The Moral Machine”. Hier kun je ervaren wat voor beslissingen de auto moet kunnen nemen in het verkeer. Het is niet alleen een fladderend blaadje onderscheiden van een oma-met-rollator, het gaat ook om afwegen welke verkeersdeelnemer opgeofferd wordt ten gunste van een ander.

Het filmpje is een teaser voor de website: http://moralmachine.mit.edu