Zoekmachines bieden vaak een verstorende mix van informatie en verkeerde informatie. Crispin la valiente / Moment via Getty Images, CC BY-SA

Zoekmachines zijn een van de belangrijkste toegangspoorten van de samenleving tot informatie en mensen, maar ze zijn ook kanalen voor verkeerde informatie. Gelijkwaardig aan problematische algoritmen voor sociale media, zoekmachines leren om u te dienen waar u en anderen eerder op hebben geklikt. Omdat mensen zich aangetrokken voelen tot het sensationele, kan deze dans tussen algoritmen en de menselijke natuur de verspreiding van verkeerde informatie bevorderen.

Zoekmachinebedrijven verdienen, zoals de meeste online services, niet alleen door advertenties te verkopen, maar ook door gebruikers te volgen en hun gegevens te verkopen via realtime bieden ben ermee bezig. Mensen worden vaak tot verkeerde informatie geleid door hun verlangen naar sensationeel en onderhoudend nieuws en informatie die ofwel controversieel is of hun mening bevestigt. Een studie wees uit dat meer populaire YouTube-video's over diabetes zijn minder kans op medisch geldige informatie dan bijvoorbeeld minder populaire video's over het onderwerp.

Advertentiegestuurde zoekmachines, zoals sociale mediaplatforms, zijn ontworpen om het klikken op verleidelijke links te belonen, omdat het zoekbedrijven helpt om hun bedrijfsstatistieken te verbeteren. Als onderzoeker wie bestudeert de zoek- en aanbevelingssystemen, Ik en mijn collega's laten zien dat deze gevaarlijke combinatie van winstoogmerk van bedrijven en individuele vatbaarheid maakt het probleem moeilijk op te lossen.

Hoe zoekresultaten fout gaan

Wanneer u op een zoekresultaat klikt, leert het zoekalgoritme dat de link waarop u heeft geklikt relevant is voor uw zoekopdracht. Dit heet relevantie feedback​ Deze feedback helpt de zoekmachine om in de toekomst meer gewicht te geven aan die link voor die zoekopdracht. Als genoeg mensen vaak genoeg op die link klikken en dus een sterke relevantie-feedback geven, komt die website hoger in de zoekresultaten voor die en gerelateerde zoekopdrachten.

Mensen zijn waarschijnlijker klikken op links die hoger worden weergegeven op de lijst met zoekresultaten. Dit zorgt voor een positieve feedbacklus: hoe hoger een website wordt weergegeven, hoe meer klikken, en dat zorgt er weer voor dat die website hoger of hoger blijft. Zoekmachineoptimalisatietechnieken gebruiken deze kennis om de zichtbaarheid van websites te vergroten.

Dit probleem met verkeerde informatie heeft twee aspecten: hoe een zoekalgoritme wordt geëvalueerd en hoe mensen reageren op koppen, titels en fragmenten. Zoekmachines worden, net als de meeste online services, beoordeeld aan de hand van een reeks statistieken, waaronder de betrokkenheid van gebruikers. Het is in het belang van de zoekmachinebedrijven om u dingen te geven die u wilt lezen, bekijken of gewoon wilt klikken. Daarom, aangezien een zoekmachine of een aanbevelingssysteem een ​​lijst met items maakt om te presenteren, berekent het de waarschijnlijkheid dat u op de items klikt.

Traditioneel was dit bedoeld om de informatie naar voren te brengen die het meest relevant zou zijn. Het begrip relevantie is echter vaag geworden omdat mensen zoeken hebben gebruikt om te vinden vermakelijke zoekresultaten en echt relevante informatie.

Stel je voor dat je op zoek bent naar een pianostemmer. Als iemand je een video laat zien van een kat die op een piano speelt, zou je er dan op klikken? Velen zouden dat doen, zelfs als dat niets met pianostemmen te maken heeft. De zoekservice voelt zich gevalideerd met feedback over positieve relevantie en leert dat het oké is om een ​​kat te laten zien die op een piano speelt wanneer mensen naar pianostemmers zoeken.

Sterker nog, het is in veel gevallen zelfs beter dan het tonen van de relevante resultaten. Mensen kijken graag naar grappige kattenvideo's en het zoeksysteem krijgt meer klikken en gebruikersbetrokkenheid.

Dit lijkt misschien onschuldig. Dus wat als mensen af ​​en toe afgeleid worden en op resultaten klikken die niet relevant zijn voor de zoekopdracht? Het probleem is dat mensen worden aangetrokken door opwindende beelden en sensationele krantenkoppen. Ze hebben de neiging om op complottheorieën en sensationeel nieuws te klikken, niet alleen katten die piano spelen, en dat ook doen meer dan klikken op echt nieuws of relevante informatie.

Beroemde maar nepspinnen

In 2018 zoekt naar 'nieuwe dodelijke spin' verrijkt op Google naar aanleiding van een Facebook-bericht waarin werd beweerd dat een nieuwe dodelijke spin verschillende mensen in meerdere staten heeft gedood. Mijn collega's en ik analyseerden de top 100 resultaten van Google Zoeken naar "nieuwe dodelijke spin" tijdens de eerste week van deze populaire zoekopdracht.

De eerste twee pagina's met zoekresultaten van Google voor 'nieuwe dodelijke spin' in augustus 2018 (gearceerd gebied) waren gerelateerd aan het originele nepnieuwsbericht over dat onderwerp, en waren niet ontkracht of anderszins feitelijke informatie. Chirag Sjah, CC BY-SA

Het bleek dit verhaal was nep, maar mensen die ernaar zochten, werden grotendeels blootgesteld aan verkeerde informatie met betrekking tot de oorspronkelijke neppost. Terwijl mensen bleven klikken en die verkeerde informatie deelden, bleef Google die pagina's boven aan de zoekresultaten weergeven.

Dit patroon van spannende en niet-geverifieerde verhalen die naar boven komen en mensen die erop klikken, gaat door, waarbij mensen kennelijk ofwel niet geïnteresseerd zijn in de waarheid of geloven dat als een vertrouwde dienst zoals Google Zoeken deze verhalen aan hen laat zien, de verhalen waar moeten zijn. Meer recentelijk heeft een weerlegd rapport beweren dat China het coronavirus uit een laboratorium heeft laten lekken dat door deze vicieuze cirkel grip heeft gekregen op zoekmachines.

Zoek de verkeerde informatie

Om te testen hoe goed mensen onderscheid maken tussen nauwkeurige informatie en verkeerde informatie, hebben we een eenvoudig spel ontworpen met de naam "Google of niet​ Deze online game toont twee sets resultaten voor dezelfde zoekopdracht. Het doel is simpel: kies de set die betrouwbaar, betrouwbaar of het meest relevant is.

In tests zien mensen ongeveer de helft van de tijd dat mensen het verschil niet zien tussen Google-zoekresultaten die verkeerde informatie bevatten en die met alleen betrouwbare resultaten. Chirag Sjah, CC BY-SA

Een van deze twee sets heeft een of twee resultaten die ofwel zijn geverifieerd en bestempeld als verkeerde informatie of een ontkracht verhaal. We hebben het spel openbaar gemaakt en geadverteerd via verschillende sociale mediakanalen. In totaal hebben we 2,100 reacties verzameld uit meer dan 30 landen.

Toen we de resultaten analyseerden, ontdekten we dat ongeveer de helft van de keren dat mensen de set ten onrechte als betrouwbaar kozen met een of twee resultaten van verkeerde informatie​ Onze experimenten met honderden andere gebruikers gedurende vele iteraties hebben geleid tot vergelijkbare bevindingen. Met andere woorden, ongeveer de helft van de tijd dat mensen resultaten kiezen die complottheorieën en nepnieuws bevatten. Naarmate meer mensen deze onnauwkeurige en misleidende resultaten kiezen, leren de zoekmachines dat dat is wat mensen willen.

Afgezien van vragen over Big Tech-regulering en zelfregulering, is het belangrijk dat mensen begrijpen hoe deze systemen werken en hoe ze geld verdienen. Anders zullen markteconomieën en de natuurlijke neiging van mensen om zich aangetrokken te voelen tot opvallende schakels de vicieuze cirkel gaande houden.

Over de auteur

Chirag Shah, universitair hoofddocent informatiewetenschappen, Universiteit van Washington

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.