Getty Images

Kunstig intelligens (AI) bevæger sig hurtigt og vil blive et vigtigt støtteværktøj i den kliniske pleje. Forskning tyder på, at AI-algoritmer kan nøjagtigt opdage melanomer , forudsige fremtidige brystkræftformer.

Men før AI kan integreres i rutinemæssig klinisk brug, skal vi tage fat på udfordringen med algoritmisk bias. AI-algoritmer kan have iboende skævheder, der kan føre til diskrimination og privatlivsproblemer. AI-systemer kunne også træffe beslutninger uden det nødvendige tilsyn eller menneskelige input.

 Et eksempel på de potentielt skadelige virkninger af AI kommer fra en internationalt projekt som har til formål at bruge AI til at redde liv ved at udvikle banebrydende medicinske behandlinger. I et eksperiment vendte holdet deres "gode" AI-model for at skabe muligheder for, at en ny AI-model kunne gøre "skade".

På mindre end seks timers træning genererede den omvendte AI-algoritme titusindvis af potentielle kemiske krigsførelsesmidler, med mange farligere end nuværende krigsførelsesmidler. Dette er et ekstremt eksempel vedrørende kemiske forbindelser, men det tjener som et wake-up call til at evaluere AI's kendte og tænkeligt ukendelige etiske konsekvenser.

AI i klinisk pleje

Inden for medicin beskæftiger vi os med folks mest private data og ofte livsændrende beslutninger. Robuste etiske rammer for kunstig intelligens er bydende nødvendigt.

Australsk epilepsiprojekt har til formål at forbedre folks liv og gøre klinisk pleje mere tilgængelig. Baseret på avanceret hjernebilleddannelse, genetisk og kognitiv information fra tusindvis af mennesker med epilepsi, planlægger vi at bruge AI til at besvare spørgsmål, der ikke kan besvares i øjeblikket.

Vil denne persons anfald fortsætte? Hvilken medicin er mest effektiv? Er hjernekirurgi en levedygtig behandlingsmulighed? Det er grundlæggende spørgsmål, som moderne medicin kæmper for at løse.

Som AI-leder i dette projekt er min største bekymring, at AI bevæger sig hurtigt, og at regulatorisk tilsyn er minimal. Disse spørgsmål er grunden til, at vi for nylig etablerede en etiske rammer for at bruge AI som et klinisk støtteværktøj. Denne ramme har til formål at sikre, at vores AI-teknologier er åbne, sikre og troværdige, samtidig med at de fremmer inklusivitet og retfærdighed i den kliniske pleje.

Så hvordan implementerer vi AI-etik i medicin for at reducere bias og bevare kontrollen over algoritmer? Datalogiprincippet "skrald ind, skrald ud" gælder for AI. Antag, at vi indsamler skæve data fra små prøver. Vores AI-algoritmer vil sandsynligvis være partiske og ikke replikerbare i andre kliniske omgivelser.

Eksempler på skævheder er ikke svære at finde i nutidige AI-modeller. Populære store sprogmodeller (for eksempel ChatGPT) og latente diffusionsmodeller (DALL-E og Stable Diffusion) viser hvordan eksplicitte skævheder vedrørende køn, etnicitet og socioøkonomisk status kan forekomme.

Forskere fandt ud af, at simple brugermeddelelser genererer billeder, der fastholder etniske, kønsbestemte og klasselige stereotyper. For eksempel en opfordring til en læge genererer det meste billeder af mandlige læger, hvilket ikke stemmer overens med virkeligheden, da omkring halvdelen af ​​alle læger i OECD-landene er kvinder.

Sikker implementering af medicinsk AI

Løsningen på at forhindre skævhed og diskrimination er ikke triviel. Muliggørelse af sundhedslighed og fremme af inklusivitet i kliniske undersøgelser er sandsynligvis blandt de primære løsninger til at bekæmpe skævheder i medicinsk AI.

Opmuntrende nok foreslog den amerikanske fødevare- og lægemiddeladministration for nylig gør mangfoldighed obligatorisk i kliniske forsøg. Dette forslag repræsenterer et skridt hen imod mindre forudindtaget og samfundsbaserede kliniske undersøgelser.

En anden hindring for fremskridt er begrænsede forskningsmidler. AI-algoritmer kræver typisk betydelige mængder data, hvilket kan være dyrt. Det er afgørende at etablere forbedrede finansieringsmekanismer, der giver forskere de nødvendige ressourcer til at indsamle klinisk relevante data, der er passende til AI-applikationer.

Vi argumenterer også for, at vi altid bør kende AI-algoritmernes indre funktioner og forstå, hvordan de når frem til deres konklusioner og anbefalinger. Dette koncept omtales ofte som "forklarlighed" i AI. Det relaterer sig til ideen om, at mennesker og maskiner skal arbejde sammen for at opnå optimale resultater.

Vi foretrækker at se implementeringen af ​​forudsigelse i modeller som "augmented" snarere end "kunstig" intelligens - algoritmer bør være en del af processen, og de medicinske professioner skal forblive i kontrol med beslutningstagningen.

Ud over at opmuntre til brugen af ​​forklarlige algoritmer understøtter vi gennemsigtig og åben videnskab. Forskere bør offentliggøre detaljer om AI-modeller og deres metodologi for at øge gennemsigtigheden og reproducerbarheden.

Hvad har vi brug for i Aotearoa New Zealand for at sikre sikker implementering af kunstig intelligens i medicinsk behandling? AI-etiske bekymringer ledes primært af eksperter inden for området. Dog målrettede AI-regler, såsom EU-baserede Lov om kunstig intelligens er blevet foreslået for at imødekomme disse etiske overvejelser.

Den europæiske AI-lov hilses velkommen og vil beskytte folk, der arbejder inden for "sikker AI". Den britiske regering udgav for nylig deres proaktiv tilgang til AI-regulering, der tjener som en plan for andre regeringsreaktioner på AI-sikkerhed.

I Aotearoa argumenterer vi for at indtage en proaktiv snarere end reaktiv holdning til AI-sikkerhed. Det vil etablere en etisk ramme for brug af AI i klinisk pleje og andre områder, hvilket giver fortolkelig, sikker og upartisk AI. Derfor vil vores tillid vokse til, at denne kraftfulde teknologi gavner samfundet, samtidig med at den beskytter den mod skade.

Om forfatteren

Mangor Pedersen, lektor i psykologi og neurovidenskab, Auckland University of Technology

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.

Relaterede Bøger:

Kroppen holder scoren: Hjernens sind og krop i helingen af ​​traumer

af Bessel van der Kolk

Denne bog udforsker forbindelserne mellem traumer og fysisk og mental sundhed, og tilbyder indsigt og strategier for helbredelse og bedring.

Klik for mere info eller for at bestille

Breath: The New Science of a Lost Art

af James Nestor

Denne bog udforsker videnskaben og praksisen med åndedræt og tilbyder indsigt og teknikker til at forbedre fysisk og mental sundhed.

Klik for mere info eller for at bestille

Planteparadokset: De skjulte farer ved "sunde" fødevarer, der forårsager sygdom og vægtøgning

af Steven R. Gundry

Denne bog udforsker forbindelserne mellem kost, sundhed og sygdom, og tilbyder indsigt og strategier til at forbedre den generelle sundhed og velvære.

Klik for mere info eller for at bestille

Immunitetskoden: Det nye paradigme for ægte sundhed og radikal anti-aldring

af Joel Greene

Denne bog tilbyder et nyt perspektiv på sundhed og immunitet, der trækker på principper for epigenetik og tilbyder indsigt og strategier til at optimere sundhed og aldring.

Klik for mere info eller for at bestille

Den komplette guide til faste: Helbred din krop gennem intermitterende, alternativ-dages og forlænget faste

af Dr. Jason Fung og Jimmy Moore

Denne bog udforsker videnskaben og praksis med faste og tilbyder indsigt og strategier til forbedring af den generelle sundhed og velvære.

Klik for mere info eller for at bestille