Naar de inhoud Naar het menu

Weekoverzicht #34 2022

Nieuws van deze week over security, privacy & andere mensenrechten

nieuws/1660315940_220812-weekoverzicht.png

Deze week in het weekoverzicht een post van EFF over freedom of speech en de blockchain, een artikel uit The Guardian over kunstmatige intelligentie op de werkvloer in callcenters en tot slot een uitspraak van het hof in Den Haag die we bespreken,  waarin is bepaald dat een website niet kan worden gehackt.

Ben jij iemand die al het nieuws op de voet volgt? Dan heb jij vast een goeie tip voor dit item! Stuur een mailtje naar pa@freedomnet.nl met als onderwerp: 'tip voor het weekoverzicht'.

Let op: we verwijzen in deze tekst naar andere websites. Deze websites hanteren een ander cookie beleid dan wij. Je kunt soms cookies weigeren in het cookie menu, zodra je op de website terechtkomt. Vergeet niet om op 'lijst met derden' of 'partners' te klikken. Ook daar kun je vaak nog cookies weigeren. Wat Freedom vindt van cookies lees je hier.

Een website kan niet gehackt worden

Volgens het hof in Den Haag kan een website niet gehackt worden. Dat komt omdat een website als zodanig niet kan worden aangemerkt als een geautomatiseerd werk. Deze term wordt gebruikt in het wetboek van strafrecht in het artikel over hacken. Hacken is het wederrechtelijk binnendringen in geautomatiseerd werk bedoeld voor opslag of verwerking van gegegevens.

Een geautomatiseerd werk is volgens het hof een fysiek apparaat, bijvoorbeeld een computer, server of router. De verdachte werd in deze zaak verdacht van het hacken van een website en is daarom vrijgesproken van het ten laste gelegde.

Het hof heeft al een keer iets vergelijkbaars gezegd in haar uitspraak van 22 september 2020 over een Facebookaccount.

Free speech en de blockchain

Hieronder tref je een samenvatting van het nieuws van de Electronic Frontier Foundation, hierna EFF, over 'free speech' en de blockchain.

Tornado Cash

Tornado Cash is een virtuele valuta mixer op de Ethereum blockchain. De mixer maakt anonieme transacties mogelijk, zodat niet langer te achterhalen is waar de cryptovaluta vandaan komt of waar deze naartoe gaat. De Amerikaanse OFAC, dat is de overheidsdienst die buitenlands bezit controleert, heeft Tornado Cash “een bedreiging voor de nationale veiligheid in de VS” verklaard. Op 8 augustus is Tornado Cash op een sanctielijst geplaatst.

FIOD

In Nederland heeft de FIOD op 10 augustus een verdachte opgepakt. Deze ontwikkelaar van Tornado wordt verdacht van het verhullen van criminele geldstromen en het faciliteren van witwassen. Het kan zijn dat de FIOD nog meer verdachten aanhoudt in dit onderzoek.

Tornado Cash ging in 2019 online en haalde volgens het Financial Advanced Cyber Team van de FIOD, de FACT, een omzet van 7 miljard dollar.     

Code is speech

Volgens EFF is Tornado Cash meer dan een smart contract applicatie op de blackchain. Het is o.a. ook de naam van het onderliggende open source project op GitHub. De pagina is verwijderd, maar nog te bezoeken via de waybackmachine, het archief van het internet. EEF vindt dat de OFAC niet goed duidelijk maakt wat precies wordt bedoeld met de term ‘Tornado Cash’.

Alhoewel GitHub zelf mag bepalen wat wel of niet wordt publiceerd, vreest EFF dat er sprake is van een ‘chilling effect’, omdat de code van GitHub is verwijderd na de acties van de OFAC.

EFF representeert Matthew Green, een computer wetenschapper aan John Hopkins. Green heeft opnieuw Tornado Cash code op GitHub gepubliceerd voor studie, educatie en ontwikkeling van de technologie. Volgens EFF wordt hij beschermd door artikel 1 van de constitutie, dat is ‘free speech’, oftewel vrije meningsuiting. De Amerikaanse rechter heeft in meerdere uitspraken bevestigd dat code ook valt onder free speech. Als de overheid free speech wil beperken, dan mag dat alleen als er een goede grond voor bestaat en het een minimale beperking betreft.  

Volgens EFF zit de operationele code op dit moment al verweven in de blockchain. De publicatie van code door Green verandert hier niets aan. Dit is nu eenmaal hoe het Ethereum netwerk in elkaar zit. Het is daarom niet noodzakelijk voor de overheid om het publiceren van de code te sanctioneren. Iemand die bijdraagt aan open source software door code toe te voegen kan niet worden gestraft voor eventueel crimineel gebruik, aldus EFF. Dit is een voorwaarde voor het voortbestaan van open source.

KI die het accent van callcenter medewerkers verbloemt: neemt het vooroordelen weg of worden die juist versterkt?

Een artikel door Wilfred Chan deze week in The Guardian.

Sanas, een start-up uit Silicon Valley, heeft kunstmatige intelligentie ontwikkeld die stemmen aan de telefoon real time kan veranderen. Het systeem wordt ingezet om mensen die werken in callcenters westers te laten klinken. Het idee is dat het nadoen van het accent de conversatie met de westerse klant ten goede komt.

Het doet denken aan de film 'Sorry To Bother You' uit 2018.

'Neutraal' als een witte Amerikaan

Vooral in callcenters in India en de Filipijnen worden werknemers getraind zo 'neutraal' mogelijk te klinken. Om dit proces te vergemakkelijken heeft Sanas specifieke KI ontwikkeld. De software van Sanas is bedoeld om niet-Amerikanen te laten klinken als witte Amerikanen. In zo'n 1000 callcenters in India en de Filipijnen wordt de software al gebruikt.  

Discriminatie

Sarath Keshava Narayana, een van de mede oprichters van het bedrijf, legt uit dat het idee is ontstaan toen hij in 2003 in Bangalore werkte in een callcenter. Hij werd zelf geconfronteerd met discriminatie en nam gedwongen de naam Nathan aan.

Marty Massih Sarim, directeur en callcenter veteraan, zegt erover: al het werk van Fortune 1000 bedrijven wordt uitbesteed naar landen waar de werkkrachten goedkoper zijn. Als een consument met een probleem iemand aan de telefoon heeft met een accent, dan wil die consument iemand in Amerika spreken. De medewerkers krijgen nu eenmaal niet direct het respect dat ze verdienen. Als we dat vooroordeel gelijk aan het begin weg kunnen nemen, dan scheelt dat enorm in het contact.

Voordeel en nadeel

Sanas krijgt goede feedback van gebruikers en maakt een enorme omzet. Maar de vraag is: helpt de KI mensen zich over hun vooroordelen heen te zetten of worden de vooroordelen die hun leven moeilijk maken juist versterkt?

A Aneesh, socioloog en directeur van de Universteit van Oregon Globale Studie en Talen, bestudeert al sinds 2007 het fenomeen accent neutraliseren in callcenters. De bedoeling is dat je je verstaanbaar kunt maken voor je gesprekspartner. Werknemers wordt opgedragen de westerse cultuur na te doen en de eigen cultuur te neutraliseren.

Naast het lage inkomen, wordt van de werknemerns verwacht overdag te slapen en 's nachts te werken in verband met het tijdsverschil. Dit brengt bewezen gezondheidsrisico's met zich mee en isoleert de werknemers van de rest van de bevolking.

Volgens A Aneesh is het korte termijn voordeel dat werknemers niet meer de intensieve training en soms misbruik hoeven te doorstaan. Maar op lange termijn is het een probleem. De humaniteit van de callcenter medewerker wordt aangetast. Het systeem laat toe dat we de werkelijkheid negeren: twee mensen op dezelfde planeet die een verplichting naar elkaar hebben.    

Chris Gilliard onderzoekt privacy, surveillance en de negatieve impact van technologie op mensen in de marge. Gilliard zegt dat callcenter medewerkers worden ingezet om de woede van de consument op te vangen. Nare en onmenselijke werkzaamheden worden uitbesteed. En de inzet van KI voor dit doel dient rascistische overtuigingen. Zoals vaker wanneer iets als een oplossing wordt aangeprezen, wordt volgens Gilliard geen rekening gehouden met de menselijke waardigheid.

"Het is zoals het is"

Het antwoord van Narayana hierop is dat het systeem de wereld benadert zoals de wereld nu is. Ja, wat het systeem doet is verkeerd en we zouden als bedrijf niet nodig moeten zijn, zegt hij. Maar, we hebben de technologie juist voor de callcenter medewerkes ontwikkeld. Narayana maakt tot slot een vergelijking met make-up, dat is ook niet nodig en toch gebruiken mensen het.

Die vergelijking maakt ongemakkkelijk. Als de maatschappij of de werkgever je verplicht make-up te dragen, heb je dan nog een keuze? Werkt dit KI-systeem als make up voor de stem en wordt de toepassing ervan vanzelfsprekend of op termijn verplicht gesteld?