"Ik twijfel wel eens of ik op een link zal klikken omdat ik denk: dat komt bij me terug."
Steeds meer mensen maken zich zorgen dat de verzamelde data hun toekomstkansen negatief beïnvloedt.
Ze voelen zich digitaal bekeken, en veranderen steeds vaker subtiel hun gedrag.
Design challenge
Studenten bouwen interactieve installaties rondom dubieuze algoritmes
Samen met studenten en docenten van Hogeschool Rotterdam onderzoeken en verbeelden we de komende maanden de wereld van de data gedreven chilling effecten. Algoritmische oordelen worden veel te serieus genomen - tijd voor kritische en creatieve studenten!
De beste creaties zijn op Bevrijdingsfestival 2020 te beleven.
Seminar
Het Unfreezing Freedom seminar agendeerde de toename van data gedreven chilling effects.
Op 23 januari 2020 vond er een symposium plaats waarin ervaringsdeskundigen, politici, ontwerpers, ondernemers en wetenschappers dit onderwerp besprken.
Met onder andere:
Presentatie: van Global Warming naar Social Cooling
Technologiecriticus Tijmen Schep benoemde de potentïele lange termijn gevolgen, én hoe de klimaatbeweging een blauwdruk kan leveren om dit probleem aan te pakken.
Presentatie: Authoriteit Persoonsgegevens
Cecile Schut, directeur Systeem-toezicht, Beveiliging en Technologie bij de Autoriteit Persoonsgegevens (AP), deelde de visie van de Autoriteit Persoonsgegevens.
Presentatie: Digital Ethics and Design for Values
Jeroen van den Hoven, hoogleraar ethiek en technologie aan de TU Delft, ging in op de rol van ontwerp in het beschermen van keuzevrijheid.
Ervaringsdeskundigen panel
Wat kunnen we leren van de situatie in de DDR, Rusland en China? Drie (voormalig) bewoners deelden hun verhalen en beantwoorden vragen.
Bestuurlijke deskundigen panel
We vroegen aan drie beroepspolitici: wat zijn concrete bestuurlijke stappen die gezet kunnen worden?
Interactieve installaties
Te beleven waren een snoepautomaat dat je korting geeft als het je data mag bewaren, en "survival of the most algorithmicaly attractive", een slimme camera die kansrijke mensen aanwijst.
Filmavond
Onbewust berucht
We bekeken de film "The Circle" en discussieerden met het publiek over de verschuiving van informatie maatschappij naar reputatie maatschappij.
Verdieping
Wat zijn data gedreven chilling effecten?
Steeds vaker beoordelen algoritmes ons op basis van onze data. Des te meer die oordelen effect krijgen op onze kansen, des te meer zullen mensen algoritmisch wenselijk gedrag vertonen, of zich juist minder snel uiten. Dit verandert wat we normaal vinden, en hoe vrijelijk we ons durven uiten. Met andere woorden: het verandert onze cultuur.
Dat gaat in drie stappen:
1. Digitale beoordeling
Steeds vaker beoordelen algoritmes ons gedrag. Wat wij -of onze vrienden- op internet plaatsen, ons surf gedrag, onze activiteiten in slimme huizen en steden. Deze oordelen krijgen steeds vaker invloed op onze baankansen, verzekeringskosten, visumaanvragen, enzovoorts.
2. Bewustwording
Steeds meer burgers beseffen zich hoe de data gedreven economie werkelijk werkt. Ze ontdekken hoe invloedrijk hun digitale schaduw is, en schrikken van de prijs die ze werkelijk betalen voor de 'gratis' online diensten.
3. Gedragsverandering
Burgers proberen zichzelf tegen deze nieuwe realiteit te beschermen. Onderzoekers wijzen op de toename van zelfcensuur. Omdat mensen zich bekenen voelen durven ze zich minder vrij te uiten. Op de lange termijn kan de toename van chilling effecten onze democratie schaden.
