Getty Images
Kunstmatige intelligentie (AI) ontwikkelt zich snel en zal een belangrijk hulpmiddel worden in de klinische zorg. Onderzoek suggereert dat AI-algoritmen nauwkeurig kunnen zijn melanomen opsporen en toekomstige borstkanker voorspellen.
Maar voordat AI kan worden geïntegreerd in routinematig klinisch gebruik, moeten we de uitdaging van algoritmische vooroordelen aanpakken. AI-algoritmen kunnen inherente vooroordelen hebben die kunnen leiden tot discriminatie en privacyschendingen. AI-systemen kunnen ook beslissingen nemen zonder het vereiste toezicht of menselijke input.
Een voorbeeld van de potentieel schadelijke effecten van AI komt uit een internationaal project die tot doel heeft AI te gebruiken om levens te redden door baanbrekende medische behandelingen te ontwikkelen. In een experiment draaide het team hun "goede" AI-model om om opties te creëren voor een nieuw AI-model om "schade" aan te richten.
In minder dan zes uur training genereerde het omgekeerde AI-algoritme tienduizenden potentiële middelen voor chemische oorlogsvoering, waarvan er veel gevaarlijker zijn dan de huidige middelen voor oorlogsvoering. Dit is een extreem voorbeeld met betrekking tot chemische verbindingen, maar het dient als een wake-up call om de bekende en mogelijk onkenbare ethische gevolgen van AI te evalueren.
AI in de klinische zorg
In de geneeskunde hebben we te maken met de meest persoonlijke gegevens van mensen en vaak levensveranderende beslissingen. Robuuste AI-ethische kaders zijn absoluut noodzakelijk.
De Australisch epilepsieproject heeft tot doel het leven van mensen te verbeteren en klinische zorg breder beschikbaar te maken. Op basis van geavanceerde beeldvorming van de hersenen, genetische en cognitieve informatie van duizenden mensen met epilepsie, zijn we van plan AI te gebruiken antwoorden op momenteel onbeantwoorde vragen.
Zullen de aanvallen van deze persoon doorgaan? Welk medicijn is het meest effectief? Is hersenchirurgie een levensvatbare behandelingsoptie? Dit zijn fundamentele vragen waar de moderne geneeskunde moeite mee heeft.
Als AI-leider van dit project is mijn grootste zorg dat AI snel evolueert en dat toezicht door de regelgevende instanties minimaal is. Deze problemen zijn de reden waarom we onlangs een ethisch kader voor het gebruik van AI als hulpmiddel voor klinische ondersteuning. Dit raamwerk is bedoeld om ervoor te zorgen dat onze AI-technologieën open, veilig en betrouwbaar zijn en tegelijkertijd inclusiviteit en eerlijkheid in de klinische zorg bevordert.
Dus hoe implementeren we AI-ethiek in de geneeskunde om vooringenomenheid te verminderen en de controle over algoritmen te behouden? Het informaticaprincipe "garbage in, garbage out" is van toepassing op AI. Stel dat we vertekende gegevens verzamelen uit kleine steekproeven. Onze AI-algoritmen zullen waarschijnlijk bevooroordeeld zijn en niet repliceerbaar in een andere klinische setting.
Voorbeelden van vooroordelen zijn niet moeilijk te vinden in hedendaagse AI-modellen. Populaire grote taalmodellen (bijvoorbeeld ChatGPT) en latente diffusiemodellen (DALL-E en Stable Diffusion) laten zien hoe expliciete vooroordelen met betrekking tot geslacht, etniciteit en sociaaleconomische status kan voorkomen.
Onderzoekers ontdekten dat eenvoudige gebruikersprompts beelden genereren die etnische, gendergerelateerde en klassestereotypen in stand houden. Bijvoorbeeld een prompt voor een dokter genereert meestal afbeeldingen van mannelijke artsen, wat niet strookt met de werkelijkheid, aangezien ongeveer de helft van alle artsen in OESO-landen vrouw is.
Veilige implementatie van medische AI
De oplossing om vooringenomenheid en discriminatie te voorkomen is niet triviaal. Het mogelijk maken van gezondheidsgelijkheid en het bevorderen van inclusiviteit in klinische studies behoren waarschijnlijk tot de mogelijkheden primaire oplossingen om vooroordelen in medische AI te bestrijden.
Het is bemoedigend dat de Amerikaanse Food and Drug Administration onlangs heeft voorgesteld diversiteit verplicht stellen in klinische onderzoeken. Dit voorstel vertegenwoordigt een stap in de richting van minder bevooroordeelde en op de gemeenschap gebaseerde klinische studies.
Een ander obstakel voor vooruitgang is de beperkte onderzoeksfinanciering. AI-algoritmen vereisen doorgaans aanzienlijke hoeveelheden gegevens, wat duur kan zijn. Het is van cruciaal belang om verbeterde financieringsmechanismen op te zetten die onderzoekers de nodige middelen bieden om klinisch relevante gegevens te verzamelen die geschikt zijn voor AI-toepassingen.
We stellen ook dat we altijd de innerlijke werking van AI-algoritmen moeten kennen en moeten begrijpen hoe ze tot hun conclusies en aanbevelingen komen. Dit concept wordt in AI vaak "verklaarbaarheid" genoemd. Het heeft te maken met het idee dat mens en machine moeten samenwerken voor een optimaal resultaat.
We zien de implementatie van voorspelling in modellen liever als "augmented" in plaats van "artificial" intelligence - algoritmen moeten deel uitmaken van het proces en de medische beroepen moeten de controle over de besluitvorming behouden.
Naast het stimuleren van het gebruik van verklaarbare algoritmen, ondersteunen we transparante en open wetenschap. Wetenschappers zouden details van AI-modellen en hun methodologie moeten publiceren om de transparantie en reproduceerbaarheid te verbeteren.
Wat hebben we nodig in Aotearoa Nieuw-Zeeland om de veilige implementatie van AI in de medische zorg te waarborgen? Ethische zorgen over AI worden voornamelijk geleid door experts in het veld. Echter, gerichte AI-regelgeving, zoals de EU-gebaseerde Wet kunstmatige intelligentie zijn voorgesteld, waarin deze ethische overwegingen aan bod komen.
De Europese AI-wet wordt toegejuicht en zal mensen beschermen die binnen "veilige AI" werken. De Britse regering heeft onlangs hun proactieve benadering van AI-regulering, die dient als blauwdruk voor andere overheidsreacties op AI-veiligheid.
In Aotearoa pleiten we voor een proactieve in plaats van een reactieve houding ten aanzien van AI-veiligheid. Het zal een ethisch kader creëren voor het gebruik van AI in de klinische zorg en op andere gebieden, wat leidt tot interpreteerbare, veilige en onbevooroordeelde AI. Bijgevolg zal ons vertrouwen groeien dat deze krachtige technologie de samenleving ten goede komt en haar beschermt tegen schade.
Over de auteur
Mangor Pedersen, universitair hoofddocent psychologie en neurowetenschappen, Auckland University of Technology
Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.
Related Books:
Het lichaam houdt de score bij: Brain Mind and Body in the Healing of Trauma
door Bessel van der Kolk
Dit boek onderzoekt de verbanden tussen trauma en fysieke en mentale gezondheid en biedt inzichten en strategieën voor genezing en herstel.
Klik voor meer info of om te bestellen
Adem: de nieuwe wetenschap van een verloren kunst
door James Nestor
Dit boek verkent de wetenschap en praktijk van ademhalen en biedt inzichten en technieken voor het verbeteren van de fysieke en mentale gezondheid.
Klik voor meer info of om te bestellen
De plantenparadox: de verborgen gevaren van 'gezond' voedsel dat ziekten en gewichtstoename veroorzaakt
door Steven R. Gundry
Dit boek onderzoekt de verbanden tussen voeding, gezondheid en ziekte en biedt inzichten en strategieën om de algehele gezondheid en het welzijn te verbeteren.
Klik voor meer info of om te bestellen
De immuniteitscode: het nieuwe paradigma voor echte gezondheid en radicale antiveroudering
door Joël Greene
Dit boek biedt een nieuw perspectief op gezondheid en immuniteit, gebaseerd op principes van epigenetica en biedt inzichten en strategieën voor het optimaliseren van gezondheid en veroudering.
Klik voor meer info of om te bestellen
De complete gids voor vasten: genees uw lichaam door middel van intermitterend, afwisselende dagen en langdurig vasten
door dr. Jason Fung en Jimmy Moore
Dit boek onderzoekt de wetenschap en praktijk van vasten en biedt inzichten en strategieën voor het verbeteren van de algehele gezondheid en welzijn.
verzorging
