Hoe Big Tech zijn eigen ethische regels ontwerpt om controle en verantwoording te voorkomen

Hoe Big Tech zijn eigen ethische regels ontwerpt om controle en verantwoording te voorkomen

Gegevensethiek is nu een oorzaak célèbre.

"Digitale ethiek en privacy" opgenomen in onderzoeks- en adviesbureau Gartner's top tien strategische technologietrends voor 2019. Voordien had het amper een vermelding.

In het afgelopen jaar overheden, bedrijven en beleid en technologie denktanks hebben gepubliceerd gegevensethiek gidsen. Een hele cohort van deskundige data-ethici is op magische wijze gematerialiseerd.

Waarom deze plotselinge interesse in gegevensethiek? Wat is gegevensethiek? Wiens belangen zijn de richtlijnen om te dienen?

Om te begrijpen wat er aan de hand is, is het nodig om een ​​stapje terug te doen en te kijken hoe het informatielandschap zich heeft ontvouwd.

Het beeld dat naar voren komt is van een industrie die immuun is voor de wettelijke beperkingen die voor iedereen gelden.

De glans is verdwenen

In de afgelopen jaren heeft de informatie-industrie zijn glans verloren.


Haal het laatste uit InnerSelf


Het Snowden onthullingende Cambridge Analytica-schandaal, het inschakelen van sociale media Haattoespraakde bewapening van informatie en zijn rol bij het ondermijnen van democratische instellingen hebben allemaal bijgedragen.

Het bedrijfsmodel dat persoonlijke informatie omzet om advertenties te verkopen, wordt nu gezien als een faustische overeenkomst - misschien is het offer toch niet de moeite waard. Van 2017 tot 2018 was er een 6% daling van Facebook-gebruikers in de Verenigde Staten in de lucratieve jaarmarkt 12-34.

Deze zorgen hebben geleid tot oproepen tot regulering. Maar deze hebben moeite om grip te krijgen op de heersende regelgevende orthodoxie voor de technologiesector. Dit dateert uit Al Gore's vijf principes voor het inschakelen van wat toen 'de mondiale informatiesnelweg' werd genoemd.

Principe drie was dat het regelgevingsbeleid "een flexibel regelgevingskader zou creëren dat gelijke tred kan houden met snelle technologische en marktveranderingen". Dit was code voor geen regelgeving of zelfregulering. In Australië was het bekend als "Licht aanraken" regeling.

Big tech handelde met regelrechte straffeloosheid, grotendeels bevrijd van de alledaagse zorgen van de "oude" economie zoals consumentenbescherming of productaansprakelijkheid of mededingingswetgeving, of, in het bijzonder, privacy van informatie.

Dichter omcirkelen

Europa heeft deze laissez-faire-benadering nooit volledig overgenomen. Informatieprivacy staat altijd hoog op de agenda, met als hoogtepunt de 2018 Algemene Verordening Gegevensbescherming ( AVG ). Dit biedt mensen in de Europese Unie de meest uitgebreide gegevensbeschermingsrechten ter wereld. De rechten hebben extraterritoriale reikwijdte, omvatten regulerend toezicht en tewerkstelling civiele boetes van een oogverblindende omvang. Andere rechtsgebieden beginnen het voorbeeld te volgen.

Tegelijkertijd beginnen regulatoren uit andere disciplines te cirkelen. Antitrustregulators kijken opnieuw naar informatiemonopolies en het gebruik van marktmacht door grote technici om de concurrentie te beperken.

In Australië heeft de ACCC gepleit voor een nieuwe regelgevende instantie het effect van algoritmen op het rangschikken van nieuws en journalistieke inhoud controleren en onderzoeken.

Het Britse Select Committee on Communications report over Regulating in a Digital World heeft aanbevolen een nieuwe digitale autoriteit toezicht houden op de "gefragmenteerde" regulering van de digitale omgeving rond tien regelgevende principes, waarbij opgemerkt wordt dat "de elfregulering door online platforms duidelijk faalt". Mensenrechtenverantwoordelijken onderzoeken de rol van algoritmen bij het creëren en verankeren van discriminatie.

Data betekent geld

Big tech wil niet gereguleerd worden. Het wil niet dat zijn onbeperkte mogelijkheid om persoonlijke informatie te oogsten wordt beperkt of dat beschermingsmaatregelen van het GDPR-type de wereldwijde norm worden. Persoonlijke informatie is de grondstof voor de algoritmen die het mogelijk maken onze aandacht te verdienen.

Voor een industrie die er prat op gaat "disruptive" te zijn, is de grootste angst van big tech om de krapper wordende regelgeving te voorkomen om te voorkomen dat ze zelf wordt verstoord. Gegevensethiek is een van de middelen die het heeft ontwikkeld om regelgeving te bestrijden. Het doet dit door zich de deugden toe te eigenen verbonden aan ethiek maar door hen van inhoud of gevolg te ledigen.

Nemen De principes van Google voor AI. (AI is kunstmatige intelligentie). Dit zijn:

  • sociaal voordelig zijn
  • vermijd het creëren of versterken van oneerlijke vooringenomenheid
  • worden gebouwd en getest op veiligheid
  • rekenschap verschuldigd zijn aan mensen
  • neem privacy-ontwerpprincipes op
  • handhaven hoge normen van wetenschappelijke excellentie
  • beschikbaar worden gesteld voor gebruik dat overeenkomt met deze beginselen.

Deze "principes" zijn opvallend vergelijkbaar met de op Instagram geoutilleerde homilieën die ons aansporen om "goed voor elkaar te zijn" of niet om "de zon onder te laten gaan op onze boosheid", en ongeveer zo nuttig zijn.

economie Echt waar? Schermopname vastgelegd in maart 28 2019

Op de proef gesteld

Laten we een van de principes van Google testen, 'verantwoording afleggen aan mensen'.

Er zijn verschillende lagen van dubbelzinnigheid hier. Betekent dit dat de AI-algoritmen van Google verantwoording moeten afleggen aan "mensen" in het algemeen, de "mensen" van Google of de "mensen" van iemand anders, zoals een onafhankelijke toezichthouder?

Als dat laatste het geval is, levert Google dan het algoritme voor analyse, corrigeert u eventuele fouten en betaalt u schadevergoeding voor eventueel veroorzaakte schade?

Als de AI-algoritmen van Google ten onrechte concluderen dat ik een terrorist ben en deze informatie doorgeven aan nationale veiligheidsagentschappen die de informatie gebruiken om me te arresteren, me incommunicado te houden en me te ondervragen, is Google dan aansprakelijk voor zijn nalatigheid of voor het bijdragen aan mijn valse gevangenisstraf? Hoe zal het verantwoording afleggen? Als ik niet tevreden ben met de verantwoordingsversie van Google, waag ik dan op gerechtigheid?

Nuttige ethiek houdt verantwoordelijkheid in

Ethiek houdt zich bezig met de morele principes die van invloed zijn op hoe individuen beslissingen nemen en hoe zij hun leven leiden.

De ethiek is eeuwenlang bestudeerd en bediscussieerd. Binnen de westerse tradities is de ethiek terug te voeren op Socrates. Ze omvatten filosofische posities zoals deontologische (op plichtsbasis gebaseerde) ethiek, consequentialisme, utilitarisme en existentialisme, om er maar een paar te noemen. Zoals te verwachten, levert geen van deze dezelfde antwoorden op vragen over wat iemand in een bepaalde situatie moet doen.

"Toegepaste ethiek" heeft als doel om de ethische principes van praktijksituaties te verantwoorden. Er zijn talloze voorbeelden.

Ethiek in de publieke sector wordt door de wet geregeld. Er zijn gevolgen voor degenen die ze overtreden, inclusief disciplinaire maatregelen, beëindiging van het dienstverband en soms strafrechtelijke sancties. Om jurist te worden, moest ik de rechtbank bewijzen dat ik een 'fit and proper person' ben. Om te kunnen blijven oefenen, moet ik voldoen aan de gedetailleerde vereisten die zijn uiteengezet in de Australian Solicitors Conduct Rules. Als ik ze overtreed, zijn er gevolgen.

De kenmerken van toegepaste ethiek zijn dat ze specifiek zijn, er zijn feedbackloops, begeleiding is beschikbaar, ze zijn ingebed in de organisatorische en professionele cultuur, er is goed toezicht, er zijn gevolgen wanneer ze worden geschonden en er zijn onafhankelijke handhavingsmechanismen en echte remedies . Ze maken deel uit van een regelgevend apparaat en niet alleen van "feel good" -verklaringen.

Voelbare, high-level gegevensethiekprincipes zijn niet geschikt om big tech te reguleren. Toegepaste ethiek kan een rol spelen, maar omdat ze specifiek zijn voor beroep of discipline kunnen ze niet worden gebruikt om alle, of zelfs de meeste, zware tillen uit te voeren.

De schade in verband met grote technologie kan alleen worden aangepakt door de juiste regelgeving.The Conversation

Over de auteur

David Watts, hoogleraar informatierecht en beleid, La Trobe University

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.

Related Books:

{amazonWS: searchindex = Books; keywords = digital monopolies; maxresults = 3}

enafarzh-CNzh-TWnltlfifrdehiiditjakomsnofaptruessvtrvi

volg InnerSelf op

facebook-icontwitter-iconrss-icoon

Ontvang de nieuwste via e-mail

{Emailcloak = off}