AI kan lyde sikker – selv når den gætter: Sådan undgår du fælderne som studerende

Når du åbner computeren, kan generative værktøjer hurtigt hjælpe dig med at formulere tekst eller løse en ligning. Men det kan få konsekvenser for både kvaliteten af dine opgaver og din læring, hvis du ikke forstår værktøjernes begrænsninger. Derfor er det afgørende at vide, hvordan AI arbejder, siger Maria Hvid, ekspert i kunstig intelligens og medstifter af Neurospace, som rådgiver virksomheder om brugen af maskinlæring.

“AI viser ikke, om et svar bygger på solid viden eller et kvalificeret gæt. Så der er ingen garanti for, at det, ChatGPT siger, er sandt. Den kommer med det svar, der matcher bedst i dens verdensbillede,” siger hun og minder om, at chatbots er udviklet på den måde, at de hellere vil give et forkert svar end ikke at give et svar. 

”ChatGPT forstår ikke dit spørgsmål, som et menneske gør. AI’en genkender mønstre i enorme mængder tekst og beregner, hvilket svar, der statistisk set passer bedst til det, du har spurgt om. Derfor kan svaret lyde overbevisende og flydende, også selv om det er forkert,” siger Maria Hvid. 

Derfor skal du som studerende stille store krav til din egen kritiske sans, på samme måde, som når du vurderer artikler, bøger og andre kilder i dit pensum. 

Det betyder i praksis, at man altid skal dobbelttjekke AI-svar og opsøge kilderne bag. 

“Det bedste, man kan gøre, er at bede om en kilde og så læse der. Spørg dig selv, om det for eksempel er et kendt nyhedsmedie, eller om det er en ‘jorden er flad’-side?”. Hvis det er sidstnævnte, er det nok ikke noget, man skal henvise til eller anvende direkte i sin opgave,” siger hun. 

Selv erfarne mennesker er ikke i stand til altid at vurdere, om det svar, AI giver, er korrekt eller ej, understreger hun. 

Inspirationsværktøj 

AI risikerer samtidig at forstærke fordomme og generaliseringer, fordi modellerne er trænet på historiske data. 

Det kan for eksempel betyde, at en direktør automatisk beskrives som en midaldrende mand, mens en sygeplejerske beskrives som kvinde. Eller at AI viderefører stereotype forestillinger om etnicitet, uddannelse eller sociale grupper, hvis spørgsmålet rummer en indbygget antagelse. 

Problemet ved det er, at svarene fremstår neutrale og saglige og derfor kan være svære at gennemskue som forudindtagede. Det kan få betydning, hvis du som studerende bruger AI til at beskrive cases, målgrupper eller problemstillinger i opgaver, analyser eller projekter.

“Hvis du kommer med en fordom, så taler modellen ind i den. På den måde kan den ikke forholde sig kritisk og sige, at sådan er verdensbilledet ikke,” siger Maria Hvid. 

Også derfor er din evne til at tænke kritisk helt central. 

Trods faldgruberne ved AI mener hun fortsat, at AI kan være et nyttigt redskab, også i studielivet. Men kun hvis du som studerende bruger det som inspiration frem for at erstatte det med din egen faglige tænkning.

“Hvis du bare copy-paster, risikerer du, at din opgave ikke afspejler din egen forståelse, og så står du svagt, hvis du skal forklare og forsvare den til eksamen,” siger hun og tilføjer, at det gælder om at kunne forklare indholdet uden at læne sig for meget op ad AI. 

“Det kan jo betyde, at du dumper, eller får en dårlig karakter, hvis ikke du bruger det korrekt,” tilføjer hun. 

Deling af data 

Maria Hvid peger også på, at mange studerende undervurderer konsekvenserne af at dele data med kommercielle AI-tjenester, for eksempel om deres helbred, studieforløb eller personlige forhold.

“Data om dig har stor værdi og kan bruges kommercielt. Ud fra dine data kan man for eksempel udlede dine politiske holdninger, overbevisninger og uddannelsesbaggrund og derefter styre, hvilket indhold du bliver præsenteret for på nettet,” siger hun og råder til, at man læser privacy policy, inden man bruger en AI-tjeneste.

“Amerikanske virksomheder kan blive pålagt at udlevere data, selvom brugeren befinder sig i EU grundet en amerikansk lov kaldet Cloud Act,” siger Maria Hvid.