De Kindertelefoon 'geschokt', neemt maatregelen na foutief handelen vrijwilliger

Alles aan dit verhaal is zó fout. Maar op een andere manier dan je misschien denkt.

- Zembla probeert de Kindertelefoon te beschadigen, alleen maar omdat dat zo lekker veel clicks oplevert. Terwijl er eigenlijk weinig is gebeurd: een vrijwilliger trapte in het verhaal van een oplichter die zich als kind in nood voordeed, en handelde in strijd met het beleid door haar te willen redden. Dat is niet goed, maar waar mensen werken wordt wel eens een fout gemaakt en er is niks ergs gebeurd.

- #Kindertelefoon is nu in paniek en laat voortaan AI meeluisteren met elk gesprek. Als er contactgegevens worden gedeeld door vrijwilligers of bellers wordt dat binnenkort automatisch geregistreerd.

Hoe krijg je dat in je hoofd??

Aan alle organisaties die er maar zijn: hou eindelijk eens op met onveiligheid te vergroten met technische oplossingen waarvan je misschien denkt dat die neutraal zijn, maar die dat 1. niet zijn, 2. in vele gevallen machtsverschillen en je afhankelijkheid van Big Tech vergroten, 3. vrijwel altijd qua privacy zo lek als een zeefje zijn, en niet zelden toestaan dat AI zich traint op de privégesprekken die mensen met elkaar voeren.

Het zou best kunnen dat Kindertelefoon slim genoeg is om een afgeschermde AI te gebruiken, die zich niet mag trainen op gesprekken. Als deze niet open source is, is dit overigens niet te controleren.
Maar hoe dan ook (zelfs als ze wél open source is) breng je een achterdeur in de gesprekken, waarmee AI en dus ook iemand anders mee kan luisteren. Je vergroot het oppervlak waar kwaadwillende hackers aanvallen op kunnen uitvoeren.

En dit is het begin van function creep. Nu AI meeluistert om de gesprekken te controleren, kun je er op wachten dat bij het volgende mineure incidentje, AI op meer zaken moet gaan letten. Het is immers super simpel om extra functies toe te voegen, nu AI eenmaal in het gesprek zit.

Maar nog belangrijker is dit, en het is echt belangrijk voor alles en iedereen, ook voor wie helemaal niets te maken heeft met de Kindertelefoon.

Surveillance is NIET de oplossing om te zorgen dat mensen ethisch handelen. Sterker nog, surveillance is de beste manier om te zorgen dat mensen steeds MINDER ethisch handelen: je externaliseert immers hun geweten en moreel kompas. Je zegt tegen je vrijwilligers dat je ze niet meer vertrouwt en dat de AI controle nodig is om ze in het gareel te houden.

Het enige wat je daarmee bereikt is dit:
Mensen gaan zich daarnaar gedragen.