Louise Frilev og Christian Fynbo har i kølvandet på et indlæg om tvangsfjernelser i Hjørring Kommune rejst en vigtig diskussion om brugen af kunstig intelligens (AI).
Sidstnævnte spiller da også en stadig større rolle over alt i samfundet, men dens indflydelse på den demokratiske debat er ikke bare positiv, idet den brugt ukritisk også kan være dybt problematisk.
AI kan styrke dialogen, men bestemt også skabe nye udfordringer for gennemsigtighed og tillid. Nedenfor har vi ladet den kunstige intelligens selv så at sige få ordet for at se nærmere på de vigtigste fordele og ulemper.
Fordele
- Øget tilgængelighed og inklusion
AI kan gøre politisk information mere tilgængelig for borgere ved at oversætte komplekse dokumenter til letforståeligt sprog, tilbyde realtidsoversættelser og skabe interaktive platforme. Dette kan styrke deltagelsen blandt grupper, der normalt er marginaliserede. - Effektiv informationsbehandling
AI kan analysere store datamængder og identificere trends i offentlig opinion, hvilket giver politikere og borgere bedre indsigt i aktuelle problemstillinger. Det kan også hjælpe med at bekæmpe misinformation ved hurtigt at verificere fakta. - Personlig tilpasning
Ved hjælp af AI kan borgere få skræddersyet politisk indhold baseret på deres interesser, hvilket kan øge engagementet og forståelsen for komplekse emner.
Ulemper
- Risiko for manipulation
AI kan bruges til at skabe overbevisende falsk indhold (deepfakes) eller til at målrette politiske budskaber på en måde, der manipulerer vælgere. Dette kan underminere den demokratiske proces. - Bias og manglende gennemsigtighed
Algoritmer er ikke neutrale. Hvis AI-systemer trænes på skæve data, kan de forstærke eksisterende fordomme og uligheder. Desuden er beslutningsprocesserne ofte uigennemsigtige, hvilket gør det svært at holde aktører ansvarlige. - Polarisering og ekkokamre
Personlig tilpasning kan føre til, at borgere kun præsenteres for indhold, der bekræfter deres egne holdninger, hvilket øger polariseringen og svækker den åbne debat.
AI har altså, når den selv skal vurdere det, på den ene side potentiale til at styrke demokratiet ved at gøre information mere og hurtigere tilgængelig samt til at bekæmpe misinformation.
Uden klare etiske retningslinjer og regulering kan teknologien imidlertid også true selve fundamentet for den demokratiske samtale. Balancen mellem innovation og ansvarlighed bliver derfor afgørende.
I den aktuelle sammenhæng, hvor kritikerne er skeptiske overfor den påståede brug af AI, er det imidlertid ikke så meget i sig selv anvendelsen, der er et problem. Det er til gengæld en kæmpe udfordring, hvis brugeren ikke selv nærlæser og gennemskriver en tekst genereret af AI.
Den kunstige intelligens har det nemlig med at hallucinere og inddrage mere eller mindre fiktiv information, som er umulig for kritikere at kontrollere. Det kan ske ved, at den citerer og henviser til ikke navngivne kilder, hvilket naturligvis er dybt problematisk. Når det fremover sker i debatindlæg, vil vi forsøge som minimum, med henvisning til kildebeskyttelsen, at anmode afsenderen om indsigt i kilderne. Eller vi vil i værste fald afvise det pågældende indlæg.
Under alle omstændigheder er brugen af kunstig intelligens kommet for at blive. Allerede under valgkampen til kommunalvalget så vi flere eksempler på tekster, der umiskendeligt var skabt af AI. I et enkelt tilfælde har vi ufrivillig dokumentation for det, idet afsenderen havde glemt at slette en besked fra chatbotten.
Fakta om hallucinering hos AI
Når man siger, at AI hallucinerer, betyder det, at en kunstig intelligens – typisk en sprogmodel – genererer information, der lyder plausibel, men som er faktuelt forkert, opdigtet eller ikke understøttet af data.
Det sker, fordi AI-modeller ikke “ved” ting i traditionel forstand. De forudsiger det næste ord baseret på mønstre i træningsdata, og hvis modellen mangler korrekt kontekst eller data, kan den opfinde detaljer for at udfylde huller.
Eksempler på hallucinationer:
- En AI skriver en kildehenvisning til en bog, der ikke eksisterer.
- Den giver en forkert definition af et begreb, men formulerer det overbevisende.
- Den opfinder citater eller statistikker.
Hvorfor sker det?
- Manglende data: Hvis modellen ikke har nok information om emnet.
- Overoptimering for sammenhæng: Den prioriterer at lyde troværdig frem for at være korrekt.
- Ingen faktatjek: Modellen har ikke en indbygget mekanisme til at verificere sandhed.
Kilde til fakta: Microsoft 365 Copilot.
Link til relateret artikel
Fokus på digital sikkerhed og kunstig intelligens hos Business Hjørring
