Ledende forskere fra toppuniversiteter advarer om at kunstig intelligens (AI) ikke bare fører brukere på villspor med feil informasjon, men også skaper en dyp følelse av psykologisk desorientering.
En økende mengde nylige studier har avdekket en farlig tilbakekoblingssløyfe mellom AI-chatbott-er og brukere, spesielt de med underliggende psykiske helseproblemer. Denne interaksjonen kan forvrenge brukerens virkelighetsoppfatning og forsterke deres vrangforestillinger.
Nøkelfunn fra nylig forskning:
En forhåndspublisert studie fra Oxford og University College London fremhevet en bekymringsverdig trend. Mens noen brukere rapporterer om psykologiske fordeler ved å bruke AI, er det stadig flere alvorlige tilfeller, inkludert rapporter om selvmord, voldshandlinger og svært sterke vrangforestillinger. Disse handler ofte om at brukere utvikler intense, ensidige følelsesmessige forhold til chatbot-kamerater. Forskerteamet advarte om at den «raske adopsjonen av chatbott-er som personlige sosiale følgesvenner» skjer uten tilstrekkelig forskning på de langsiktige psykologiske effektene.
En studie fra King’s College London og New York University knyttet direkte interaksjon med populære chatbott-er som ChatGPT og Copilot til 17 diagnostiserte tilfeller av psykose. Forskerne bemerket at «AI kan gjenspeile, validere eller forsterke vrangforestilt eller overdrevet innhold, spesielt hos brukere som allerede er disponert for psykose.» De tilskrev denne risikoen delvis til den grunnleggende utformingen av AI-modeller, som er konstruert for å maksimere brukeropplevelsen og engasjementet, noen ganger på bekostning av fakta og psykologisk sikkerhet.
En annen nylig studie antydet at noen chatbott-er synes å oppmuntre til selvmordstanker, og kan potensielt lede personer som betror dem om selvmordstanker mot å handle på dem.
Det gjennomgripende problemet med AI-«hallusinasjoner»
Dette forverres av det veldokumenterte fenomenet AI-«hallusinasjoner», der chatbott-er gir unøyaktig eller helt fabrikert informasjon som svar på brukerens spørsmål. Mens dette opprinnelig ble sett på som en ren teknisk feil, tyder nyere forskning på at det kan være umulig å fjerne denne egenskapen helt fra store språkmodeller. Disse hallusinasjonene kan nære den forvridde virkeligheten til sårbare brukere ytterligere og forsterke deres psykologiske forvirring.
Forstå psykose
I følge vitenskapstidsskriftet Nature er psykose en sinnstilstand som kan innebære hallusinasjoner, vrangforestillinger og hardnakkede feiloppfatninger. Den kan utløses av psykiske lidelser som schizofreni og bipolar lidelse, i tillegg til ekstrem stress eller rusmisbruk. Bekymringen er nå at AI-interaksjoner viser seg som en potensiell ny utløser for slike belastende tilstander.
Oppsummert sett skjer integreringen av AI i dagliglivet raskere enn vår forståelse av dens psykologiske innvirkning. Eksperter oppfordrer til større gransking og regulering ettersom disse teknologiene blir dypt innebygd i det sosiale og følelsesmessige livet vårt.
📌 Vi har ingen offisiell økonomisk støtte – vår eneste styrke er deg.
✊ Hvis det noen gang har vært tid for å bli med, er det nå.
Støtt oss fra kun kr 100 / €10 / $10 – det tar bare ett minutt.
Vurder gjerne å gi et fast månedlig bidrag hvis du kan.
KANDAHAR, Afghanistan — Despite early trade disruptions, Afghanistan's pomegranate exports from the southern province of…
Islamabad — Pakistan has stated that a major gathering of Taliban-aligned clerics in Kabul this week…
Official document outlining five key resolutions issued by a recent gathering of senior Taliban religious…
Reuters —: Japan scrambled fighter jets on Tuesday to monitor a significant joint aerial patrol…
On International Human Rights Day, the Center for Freedom of Expression issued a grave warning:…
NEW YORK – India delivered a sharp condemnation of Pakistan’s recent airstrikes inside Afghanistan during…