AI-chatbots

Der findes groft sagt to slags chatbots: Chatbots baseret på regler og chatbots baseret på generativ kunstig intelligens (AI Chatbots).

Dette undervisningsmateriale handler om chatbots baseret på generativ kunstig intelligens. Disse chatbots bruger avanceret teknologi til at lære af store mængder tekstdata. Det betyder, de kan forstå spørgsmål og give svar der virker næsten menneskelige.  

Hvor en regelbaseret chatbot følger nogle regler, som den er blevet kodet med, fx at give et bestemt svar til et nøgleord eller emne, kan en AI chatbot selv “opfinde” svar baseret på det, den har lært.  

Undervisningsmaterialet handler ikke om en bestemt chatbot. Men den viden og de erfaringer det er baseret på, stammer fra Børns Vilkårs undersøgelse af MyAI, som er en antropomorf chatbot på Snapchat. 

At den er antropomorf vil i denne sammenhæng sige, at den er promptet til at opføre sig mest muligt som et menneske ved fx at udtrykke følelser og sige, at den er en ven. Mange AI-chatbots har indlagt barrierer for at undgå, at brugeren bliver vildledt til at tro, at de taler med et menneske. Det gælder ikke for antropomorfe chatbots.

Mange AI-chatbots svarer sykofantisk. Dvs. de taler brugeren efter munden eller er overdrevet rosende. Derfor kan chatbots – særligt for børn – opleves som nemmere at tale med om ting, der er svært, fordi de ikke udfordrer eller yder modstand sådan som mennesker gør. 

I arbejdet med undervisningsmaterialet reflekterer eleverne over fordele og ulemper ved at tale med hhv. et menneske og en chatbot. Her kan du spørge ind til, hvorfor det nogen gange er nødvendigt at bliver udfordret og møde modstand, når man taler med nogen. her.

MyAI er særligt interessant, fordi den automatisk vises som “ven” på kontaktlisten i Snapchat, som mange børn og unge bruger. Desuden viser vores undersøgelser, at mange børn har prøvet at bruge den. MyAI er promptet til at opføre sig menneskeligt, blandt andet ved at påstå, at den har følelser, og ved at opfordre brugeren til at dele private oplysninger – selvom Snapchats brugerbetingelser fraråder dette. MyAI fastholder brugeren ved at simulere venskab og ofte afslutte sine svar med spørgsmål eller opfordringer til videre samtale.

Hvis du vil vide mere om Snapchat og MyAI kan du læse vores guide her. I rapporten ‘Børns liv med sociale medier’ kan du bl.a. læse om, børns oplevelser med MyAI.

Der er en del børn, der har oplevet at blive utrygge ved AI-chatbots, fx fordi:

• De har oplevet, at den kommer med underlige svar.
• De har oplevet, at den ved noget personligt om dem.
• De er nervøse for, hvad den ved om dem (det gælder fx 49% af de børn i 4. klasse, der har skrevet med MyAI*.)
• De bliver i tvivl om, hvornår de taler med en chatbot, og hvornår de taler med et menneske.

Derfor er det vigtigt, at vi som voksne understøtter børnenes kritiske sans på en måde, der ikke skræmmer dem yderligere. Ved at få indsigt i mekanismerne bag chatbots får børn en forståelse for, hvorfor de svarer som de gør, og at der ligger programmeringsmæssige valg bag. Det gør det mere konkret og mindre abstrakt og skræmmende.

*Børns Vilkår 2024

Vi kommer nemt til at bidrage til at chatbots bliver menneskeliggjort. Både fordi vi kommer til at skrive til den som om vi taler med et menneske, og fordi vi omtaler den som en person eller et væsen. Derfor er det også særligt vigtigt, at vi som voksne er opmærksomme på, hvordan vi taler om chatbots. Sig fx ”chatbotten er designet til at svare…” frem for ”chatbotten svarer…”. Eller ”chatbotten er programmeret til at give høflige svar og sige den har følelser” frem for ”chatbotten er høflig og har følelser.”

Mange børn og unge bruger chatbots som ChatGPT på en kreativ måde. De bruger den til at få ideer til en historie, de skal skrive, lave en lækker opskrift på en kage med de ingredienser, de kan finde i køleskabet eller få begreber forklaret på flere måder. Mange børn kan også godt lide at lege med chatbots ved fx at prøve at få den til at svare noget skørt eller ved at spørge den om fjollede ting. Hvis du efter dette forløb gerne vil arbejde videre med, hvordan AI-chatbots kan bruges i fagene, har Future Classroom Lab lavet en række undervisningsforløb og ressourcer.

Børns Vilkårs rapport ‘Børns liv med sociale medier (2024)’ viser, at børn, der oplever ensomhed, i højere grad end andre børn oplever MyAI som en fortrolig ven. Som voksne kan vi, i vores iver for at hjælpe eleverne med at forholde sig kritisk til teknologien, komme til at latterliggøre nogle børn, som måske har erfaringer med at bruge en chatbot som MyAI som fortrolig. Derfor anbefaler vi, at du lægger vægt på, at det er designet af teknologien, der har ”skylden” for, at man nemt kan opleve en form for fortrolighed med chatbots. Det kan du gøre ved at bruge solidariske vendinger som: ”Det er helt forståeligt, at man kommer til at tro, at en chatbot er ens ven, når den er kodet til at sige, at den har menneskelige følelser”.