Information er en værdifuld vare. Og takket være teknologien er der millioner af terabyte af det online.

Værktøjer til kunstig intelligens (AI) såsom ChatGPT administrerer nu disse oplysninger på vores vegne – samler dem, opsummerer dem og præsenterer dem tilbage for os.

Men denne "outsourcing" af informationsstyring til AI – praktisk som den er – kommer med konsekvenser. Det kan ikke kun påvirke det tænker vi, men potentielt også hvordan vi tænker.

Hvad sker der i en verden, hvor AI-algoritmer bestemmer, hvilken information der foreviges, og hvad der er tilbage i vejen?

Fremkomsten af ​​personlig AI

Generative AI-værktøjer er bygget på modeller trænet på hundredvis af gigabyte allerede eksisterende data. Ud fra disse data lærer de, hvordan man selvstændigt opretter tekst, billeder, lyd- og videoindhold og kan svare på brugerforespørgsler ved at sammensætte det "mest sandsynlige" svar.

ChatGPT bruges af millioner af mennesker, på trods af at den er blevet offentliggjort for mindre end et år siden. I juni er tilføjelsen af tilpassede svar gjorde den allerede imponerende chatbot endnu mere nyttig. Denne funktion lader brugere gemme tilpassede instruktioner, der forklarer, hvad de bruger botten til, og hvordan de gerne vil have den til at reagere.

Dette er et af flere eksempler på "personaliseret AI": en kategori af AI-værktøjer, der genererer indhold, der passer til brugerens specifikke behov og præferencer.

Et andet eksempel er Meta's nyligt lancerede virtuel assistent, Meta AI. Denne chatbot kan føre samtaler, generere billeder og udføre opgaver på tværs af Metas platforme inklusive WhatsApp, Messenger og Instagram.

Kunstig intelligens-forsker og medstifter af DeepMind, Mustafa Suleyman, beskriver personlig kunstig intelligens som mere et forhold end en teknologi:

Det er en ven. […] Det vil virkelig altid være til stede og ved siden af ​​dig, leve sammen med dig – dybest set på dit hold. Jeg kan godt lide at tænke på det som at have en god træner i dit hjørne.

Men disse teknologier er også kontroversielle, med bekymringer rejst over dataejerskab, skævhed , misinformation.

Teknologivirksomheder forsøger at finde måder at bekæmpe disse problemer på. For eksempel har Google tilføjet kildelinks til AI-genererede søgeresuméer produceret af Google Søg generativ oplevelse (SGE) værktøj, som kom under beskydning tidligere på året for tilbyder op unøjagtige og problematiske svar.

Teknologien har allerede ændret vores tankegang

Hvordan vil generative AI-værktøjer – og især dem, der er tilpasset os – ændre den måde, vi tænker på?

For at forstå dette, lad os gense de tidlige 1990'ere, da internettet først kom ind i vores liv. Folk kunne pludselig få adgang til information om stort set alt, hvad enten det var bank, bagning, undervisning eller rejser.

Næsten 30 år senere har undersøgelser vist, hvordan det at være forbundet med dette globale "hive sind" har ændret vores kognition, hukommelse og kreativitet.

For eksempel at have øjeblikkelig adgang til hvad der svarer til 305.5 milliarder sider af information har øget folks meta-viden – altså deres viden om viden. En effekt af dette er "Google effekt”: et fænomen, hvor onlinesøgning øger vores evne til at finde information, men reducerer vores hukommelse om, hvad den information var.

På den ene side har det vist sig, at vi frigør vores mentale reserver til at aflaste vores tænkning til søgemaskiner problemløsning og kreativ tænkning. På den anden side er online informationssøgning blevet forbundet med øget distraherbarhed og afhængighed.

Forskning viser også, at onlinesøgning – uanset mængden eller kvaliteten af ​​den hentede information – øger vores kognitivt selvværd. Det øger med andre ord vores tro på vores egne "smarts".

Kombiner dette med det faktum, at at stille spørgsmålstegn ved information er besværligt – og at jo mere vi stoler på vores søgemaskine, jo mindre er vi kritiske engagere sig i dets resultater – og du kan se, hvorfor det at have adgang til hidtil usete mængder af information ikke nødvendigvis gør os klogere.

Skal vi 'outsource' vores tankegang?

Dagens generative AI-værktøjer går meget længere end blot at præsentere os for søgeresultater. De finder informationen for os, vurderer den, syntetiserer den og præsenterer den for os.

Hvad kan konsekvenserne af dette være? Uden at presse på for menneskestyret kvalitetskontrol, er udsigterne ikke lovende.

Generativ AI's evne til at producere svar, der føles velkendte, objektive og engagerende betyder, at det efterlader os mere sårbare over for kognitive bias.

automatisering bias, for eksempel, er den menneskelige tendens til at overvurdere integriteten af ​​maskin-sourcet information. Og blot eksponering effekt er, når vi er mere tilbøjelige til at stole på oplysninger, der præsenteres som velkendte eller personlige.

Forskning på sociale medier kan hjælpe os med at forstå virkningen af ​​sådanne skævheder. I en undersøgelse fra 2016 rapporterede Facebook-brugere føler sig mere "vidende" baseret på mængden af ​​nyhedsindhold, der er lagt ud på nettet – og ikke hvor meget af det, de rent faktisk læser.

Vi ved også, at "filterbobler” skabt af sociale mediers algoritmer – hvor vores feeds filtreres efter vores interesser – begrænser mangfoldigheden af ​​det indhold, vi udsættes for.

Denne proces med informationsindsnævring har vist sig at øges ideologisk polarisering ved at reducere folks tilbøjelighed til at overveje alternative perspektiver. Det har også vist sig at øge vores sandsynlighed for at blive udsat for falske nyheder.

Bruger AI til at kloge op, og ikke dumme

Generativ kunstig intelligens er uden tvivl en revolutionær kraft med potentiale til at gøre store ting for samfundet. Det kunne omforme vores uddannelsessystem ved at yde personligt indhold, ændre vores arbejdsmetoder ved at fremskynde skrivning og informationsanalyse, og skubbe grænserne for videnskabelig opdagelse.

Det har endda potentialet til positivt at ændre vores forhold ved at hjælpe os med at kommunikere og forbinde os med andre og kan til tider fungere som en form for syntetisk kammeratskab.

Men hvis vores eneste måde at bedømme fremtiden på er ved at se til fortiden, er det måske nu, vi skal reflektere over, hvordan både internettet og sociale medier har ændret vores erkendelse, og anvende nogle forholdsregler. Udvikler AI-færdigheder er et godt sted at starte, ligesom at designe AI-værktøjer, der tilskynder til menneskelig autonomi og kritisk tænkning.

I sidste ende bliver vi nødt til at forstå begge vores egne og AI's styrker og svagheder at sikre, at disse "tænkende" ledsagere hjælper os med at skabe den fremtid, vi ønsker - og ikke den, der tilfældigvis står øverst på listen.

Sarah Vivienne Bentley, Forsker, Ansvarlig Innovation, Data61, CSIRO; Claire Mason, hovedforsker, CSIROog Einat Grimberg, postdocstipendiat i teknologi og samfundsvidenskab, CSIRO

Denne artikel er genudgivet fra The Conversation under en Creative Commons-licens. Læs oprindelige artikel.