Image Flow / Shutterstock

Ikke tilfreds med overvågning næsten alt hvad du laver online, Facebook vil nu også læse dit sind. Den sociale mediegigant meddelte for nylig et gennembrud i sin plan om at oprette en enhed, der læser folks hjernebølger, så de kan skrive bare ved at tænke. Og Elon Musk vil gå endnu længere. En af Tesla-bossens andre virksomheder, Neuralink, er udvikle et hjerneimplantat at forbinde folks sind direkte til en computer.

Musk indrømmer, at han tager inspiration fra science fiction, og at han ønsker at sikre, at mennesker kan ”Fortsæt” med kunstig intelligens. Han ser ud til at have savnet den del af sci-fi, der fungerer som en advarsel for teknologiens implikationer.

Disse tankelæsesystemer kan påvirke vores privatliv, sikkerhed, identitet, lighed og personlig sikkerhed. Vil vi virkelig have alt det tilbage til virksomheder med filosofier som Facebooks tidligere mantra, “bevæge dig hurtigt og bryde ting"?

Selvom de lyder futuristiske, er de teknologier, der er nødvendige for at fremstille hjernebølgelæsningsenheder, ikke så forskellige med standard MR-værktøjer (magnetisk resonansbilleddannelse) og EEG (elektroencefalografi) neurovidenskabsværktøjer, der bruges på hospitaler over hele verden. Du kan allerede købe et sæt til at styre en drone med dit sind, så at bruge en til at skrive ord er på nogle måder ikke så meget et spring. Fremskridtet vil sandsynligvis skyldes brugen af ​​maskinlæring til at gennemse enorme mængder data indsamlet fra vores hjerner og finde mønstrene i neuronaktivitet, der forbinder tanker til bestemte ord.

Det tager sandsynligvis meget længere tid at udvikle et hjerneimplantat, og det er vigtigt at adskille det faktiske resultater af Neuralink fra mediehype og promovering. Men Neuralink har foretaget samtidige forbedringer af materialer til elektroder og robotassisteret kirurgi for at implantere dem og pakket teknologien pænt, så den kan læses via USB.

{vembed Y=kPGa_FuGPIc}

Facebook og Neuralinks planer bygger muligvis på etableret medicinsk praksis. Men når virksomheder samler tanker direkte fra vores hjerner, er de etiske spørgsmål meget forskellige.

Ethvert system, der kan indsamle data direkte fra vores hjerner, har klare privatlivsrisici. Privatliv handler om samtykke. Men det er meget vanskeligt at give korrekt samtykke, hvis nogen tapper direkte i vores tanker. Silicon Valley-virksomheder (og regeringer) allerede samles skjult så mange data om os som de kan og bruge dem på måder, vi ville snarere gjorde de det ikke. Hvor sikker kan vi være på, at vores tilfældige og personlige tanker ikke bliver fanget og studeret sammen med de instruktioner, vi vil give teknologien?

Diskrimination og manipulation

Et af de eksisterende etiske problemer med dataindsamling er forskelsbehandling baseret på attributter såsom køn eller race, der kan skelnes fra dataene. At give et vindue i folks sind kunne gøre det lettere at bestemme andre ting, der kunne danne grundlaget for fordomme, såsom seksualitet eller politisk ideologi eller endda forskellige tænkemåder, der kunne omfatte ting som autisme.

Med et system, der banker direkte ind i din hjerne, kunne dine tanker ikke kun blive stjålet, men det er også muligt, at de også kunne manipuleres. Hjernestimulering er allerede under udvikling for at hjælpe behandle PTSD , reducere vold. Der er endda sensationelle påstande om, at det kan bruges til upload viden direkte ligesom i filmen The Matrix.

Et forudsigeligt skridt ville være at kombinere "ind" og "ud" -teknologien til en tovejs hjerne-computer-grænseflade. Potentialet for regeringer til at gøre os mere kompatible, for arbejdsgivere til at tvinge os til at arbejde hårdere eller for virksomheder til at få os til at have flere af deres produkter understreger, hvor seriøst vi skal tage denne teknologi.

Facebooks prototype hjernebølgelæsningsenhed. Facebook

Hvis tankelæseenheder bliver den normale måde at interagere med computere på, kan vi ende med at have andet valg end at bruge dem for at holde trit med mere produktive kolleger. (Forestil dig, at nogen i dag ansøger om et kontorjob, men nægter at bruge e-mail.) Og hvis implantater i Neuralink-stil bliver normen, kan dette også føre til større ulighed bestemt af hvilket niveau af sæt du har råd til at have installeret.

Elon Musk har udtalt at det enorme lån, der kræves for at have råd til Neuralink-kirurgi, udlignes af den potentielle indtjening for de “forbedrede”. Ideen om, at folk føler sig presset til at påtage sig enorme gæld for at få kirurgi bare for at holde deres job, kommer direkte fra en sci-fi dystopi.

Oven i alt dette er den mere direkte fysiske trussel om at have systemer, der fysisk trænger ind i vores hjerner. Mens nogle mennesker måske vil ændre deres hjerne med en computergrænseflade (der er allerede masser af eksperimentelle biohackere), for at udrulle dette i stor skala ville kræve massiv og grundig testning.

I betragtning af Silicon Valley's ry (og forkærlighed) for at bryde ting snarere end at stoppe for at tænke igennem dem, vil disse systemer have brug for tæt regulering og etisk gennemgang, selv inden test begynder. Ellers risikerer det at skabe lemlæstede menneskelige marsvin.

For alt dette kunne der være enorme fordele ved at fortsætte forskningen på dette område, især for dem, der lider af lammelse eller sensorisk svækkelse. Men Silicon Valley burde ikke være i stand til at diktere den måde, hvorpå disse teknologier udvikles og implementeres. Hvis de gør det, kan det radikalt ændre den måde, vi identificerer os som mennesker på.

Om forfatteren

Garfield Benjamin, postdoktoral forsker, School of Media Arts and Technology, Solent University

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.