Seleniumconf 2019: ethische problemen binnen techbedrijven

Afgelopen oktober ben ik, samen met een aantal Newspark collega’s, bij SeleniumConf in Londen geweest. De sprekers hebben, naast technische verhalen over het inzetten van selenium, ook andere onderwerpen behandeld die relevant zijn voor softwareontwikkelaars. Bijvoorbeeld Agisilaos Tsaraboulidis, met zijn praatje over “An engineer’s code of ethics”. Hierbij beschreef hij het probleem van techbedrijven en hun medewerkers die zich onethisch gedragen en wat oplossingen daarvoor zouden kunnen zijn. Daarmee heeft hij natuurlijk een zeer actueel onderwerp gevonden. Een paar jaar geleden werden techbedrijven en hun CEO’s geprezen om hun innovativiteit en drang om de wereld te verbeteren. Tegenwoordig komt het ene na het andere schandaal over extreme werktijden, slechte werkcultuur en privacy schendingen in het nieuws. In deze blog zal ik samenvatten wat deze spreker ziet als het probleem en welke oplossingen hij voorstelt. Zijn presentatie is hier nog op Youtube terug te zien.

Onethisch handelen
De laatste tijd zijn techbedrijven vaak slecht in het nieuws. Mensen willen Facebook en Google in kleinere stukken opbreken. Er zijn zorgen over het verzamelen van data. Onethisch handelen is de norm van techbedrijven geworden. Het is voor deze bedrijven moeilijk om ethisch te handelen. Ze gebruiken bijvoorbeeld de kwaadaardige tactiek om je data te stelen en door te verkopen. Er zijn veel onethische bedrijven. Je kunt veel op internet hierover vinden, en er zijn de afgelopen tijd ook veel incidenten geweest. Drie categorieën van deze incidenten zijn bemoeienis met verkiezingen, smart home en het Volkswagen emissie schandaal.

Fake news en gepersonaliseerde advertenties
Het bedrijf Cambridge Analytica verspreidde op Facebook allerlei fake news en misinformatie om verkiezingen te beïnvloeden. Dit heeft een grote invloed gehad op de Amerikaanse verkiezingen in 2016 en het referendum van de brexit. Experts zeggen dat brexit eigenlijk is ontstaan en heeft plaatsgevonden op Facebook. Facebook gebruikt gepersonaliseerde advertenties. Hierdoor ziet iedereen andere advertenties en is het niet te zien wat voor advertenties er getoond worden. Op deze manier wordt er een grote groep mensen achter de schermen beïnvloed. Het is ook niet te zien welke advertenties je zelf voorgeschoteld hebt gekregen. Smart home apparaten zorgen ervoor dat je zelfs in je huis bespioneerd wordt door techbedrijven. Ze verzamelen zo nog meer data over je om passende advertenties te tonen. Apple, Google en Amazon geven toe dat ze de hele dag meeluisteren met hun smart home apparaten en die informatie zelf verwerken. Ze bepalen zo patronen van je leven, zoals wanneer je gaat slapen of weer opstaat en wanneer en waar je naar je werk gaat. Ze zetten zelfs machine learning in om te detecteren of je ziek of gedeprimeerd bent om relevante advertenties te kunnen tonen. Deze toepassingen worden al in huizen of ziekenhuizen geplaatst voordat de mensen er iets over te zeggen hebben. Bij het Volkswagen emissie schandaal werd er software in de auto’s geplaatst die emissietesten voor de gek moesten houden. Toen deze fraude aan het licht kwam kreeg de engineer die het had bedacht wel een gevangenisstraf, maar het bedrijf kreeg alleen maar wat kleine boetes.

Anayse van het probleem
Het probleem van onethische techbedrijven moet worden geanalyseerd, zodat het kan worden aangepakt. De analyse van het probleem bestaat uit vier onderdelen:
1. Cultuur
2. Leiderschap
3. Regulering
4. Ongeïnformeerd publiek
De cultuur van een bedrijf bepaalt wat er wel en niet normaal is voor de medewerkers. De cultuur moet samen worden gebouwd met het product van het bedrijf. Techbedrijven willen graag de markt verstoren. Ze willen een Uber voor dit, of Facebook voor dat worden. Het motto van Facebook was “move fast and break things”. Ze zijn snel gegaan, maar ze hebben ook veel kapot gemaakt. Op Facebook staat heel veel misinformatie en fake news. “The future is private” heeft Mark Zuckerberg gezegd. Facebook heeft zijn platforms met Instagram en Whatsapp samengevoegd. Dit om meer data over iedereen te verzamelen en berichten te scannen voor advertenties. Het leiderschap van deze bedrijven legt de focus op de dingen waar ze goed in zijn, en ze zijn blind voor hun fouten. Zuckerberg heeft ooit gezegd dat hij niet geloofde dat Facebook verkiezingen kunnen beïnvloeden. Toen uitkwam hoe Cambride Analytica dat wel via Facebook heeft gedaan is hij daarop teruggekomen. Bij Twitter zei men dat ze na een datalek niet verplicht waren dit te delen met het publiek. Echter, ze zijn het absoluut verplicht omdat ze zoveel macht en data hebben. Ze vertelden ook dat men het vervelend vond dat sommige van hun werknemers online werden gepest. Twitter wordt vaak verweten dat ze online pesten zelf niet genoeg aanpakken dus misschien opent dit hun ogen. Leiders van techbedrijven zitten met hun kop in het zand, en ze ondernemen geen actie tegen onethisch gedrag. Regelgevers begrijpen niet hoe techbedrijven werken. Een Amerikaanse senator vroeg aan Zuckerberg hoe ze hun geld verdienen als de gebruikers niet betalen voor Facebook. Hij antwoordde hierop “Senator, we run ads”. De Amerikaanse autoriteit FTC heeft Facebook een boete van 5 miljard dollar gegeven. Echter dit is tevens een vrijbrief voor Facebook om onethisch te blijven handelen. Het ongeïnformeerde publiek begrijpt niet wat de waarde van je eigen data is, hoe techbedrijven werken en geld verdienen en hoe ze veilig online kunnen zijn. Veel mensen vinden hun data niet zo belangrijk, maar veel bedrijven en CEO’s hebben miljarden verdient door onze data. Mensen vinden gemak belangrijker dan veiligheid. Smart home is hier een goed voorbeeld van. Na het Cambridge Analytica schandaal zetten 25% van de mensen hun adblocking aan, dus mensen vinden het toch wel belangrijk als ze het eenmaal weten.

Het probleem oplossen
Om dit probleem op te lossen zijn er wijzigingen nodig in de cultuur en het leiderschap van de bedrijven. De regelgeving zal anders moeten, en de mensen en engineers zullen bewust gemaakt moeten worden. Ethische leiders moeten de juiste informatie geven, en daar ook naar handelen. Bepaal je normen en waarden en draag deze ook uit. Wees een goed voorbeeld en maak jezelf bewust van vooroordelen in het bedrijf en in de software. Zorg goed voor jezelf, zodat je ook goed voor anderen kunt zorgen. Stuur bijvoorbeeld geen berichten buiten werktijd en verwacht ook geen antwoorden. Wees niet bang om op te treden bij onethisch gedrag. Software engineers moeten begrijpen wat de impact van hun werk en hun product is. Ze zullen verantwoordelijkheid voor hun werk moeten nemen. Ethiek moet ook in technische vakken gegeven worden zoals AI. Nu wordt alleen gekeken naar de potentiële voordelen. Regelgevers moeten wetten en regels flexibeler maken, zodat ze niet meer achter de werkelijkheid aanlopen. En ze moeten advies inwinnen over techbedrijven. Het publiek moet leren hoe ze bezit van hun data kunnen nemen en hoe ze veilig online kunnen handelen. Op de een of andere manier is data ongemerkt het geheime ruilmiddel geworden van onze moderne economie. Wij als software engineers hebben de plicht richting de gebruikers aan de andere kant van het scherm om een product te maken dat ze kunnen vertrouwen en waar ze van kunnen houden.

Newspark
Tobias Verhoog