Säkra digitala lärmiljöer: en guide för AI och GDPR i undervisningen

Nu har chattbottar som ChatGPT funnits tillgängliga för allmänheten under drygt ett års tid. Den initiala överraskningsfasen där de flesta blev imponerade över hur texterna som produceras kan se så lika ut de som människor har skrivit har (kanske) gått över. Både Microsoft och Google har lanserat inbyggda AI-verktyg i O365 resp Workspace for education, vilket innebär att de inser att AI inte är något som kommer att försvinna om något år, utan är här för att stanna. Om lärare vill använda sig av AI-bottar i undervisningen finns det en hel del juridiska och moraliska aspekter att ta hänsyn till, bl a följande:

• Åldersgräns - ChatGPT från Open AI har 18 års åldersgräns * 
• GDPR – hanteras personuppgifter måste ett GDPR-avtal finnas och idag är det svårt att skriva den typen av avtal med många leverantörer av AI-tjänster, då skola inte är deras primära målgrupp 
• Räkna med att data färdas över Atlanten om amerikanska tjänster som t ex ChatGPT används**   
• Mycket av materialet som chattbottarna tränats på är upphovsrättsskyddat 
• Har vi koll på om de texter vi matar in i chattbottarna kommer att användas för att träna chattbottarna framöver?  

* Med vårdnadshavarens tillstånd sänks åldersgränsen till 13 år, men det är inte rimligt att skolor ska kräva samtycke av alla föräldrar.

** För tillfället finns ett avtal mellan EU och USA, men det ska prövas rättsligt. De två tidigare försöken till avtal har inte klarat en sådan rättslig prövning.

Räcker befintliga GDPR-avtal?

Använder skolor digitala verktyg från Microsoft eller Google har man redan skrivit ett GDPR-avtal med leverantören, vilket innebär att Microsoft resp Google behöver ha lösningar som hanterar data och personuppgifter på ett sätt som är förenligt med GDPR även när det gäller interaktionen med inbyggda AI-funktioner. Det är dock inte säkert att alla AI-tjänster som erbjuds ingår i befintligt avtal, så eventuellt måste ett tilläggsavtal skrivas.

Utöver alla dessa frågor är ekonomin en högst relevant fråga för alla skolor; en del AI-tjänsterna ingår och en del kostar extra. Vi vet att det finns en kostnad för varje interaktion som sker med chattbottarna och även om kostnaden har minskat kraftigt över tid så blir det stora volymer av förfrågningar när alla elever har tillgång till dessa verktyg. Det finns en stor risk att alla skolor inte har råd med merkostnaderna, d v s vissa skolor kommer att ha tillgång till dessa AI-verktyg, medan andra inte kommer att ha det.

Att prompta rätt är en ny och efterfrågad kompetens

Innan jag går vidare så går jag tillbaka till tekniken i sig. Redan år 2001 blev Googles sökmotor störst i världen. Det innebär att många har använt sig av sökmotorer i över 20 års tid. När jag pratar med bekanta om hur de använder sökmotorer så är det väldigt få som har en hög sökmotorkompetens. De flesta skriver den fråga som de vill ha svar på och väljer ett svar som ser bra ut. Det skulle kunna vara så att vi som inte växte upp med sökmotorer tycker att det är för omständligt att lära oss detta i vuxen ålder (förhålla sig till teknik som tillkommit efter vi föddes) och att resultaten vi får är tillräckligt bra ändå. Det finns dock en viss riska att samma sak kommer att gälla chattbottar i framtiden, d v s att de flesta användare är tämligen amatörmässiga i användandet och därmed inte kan använda dessa verktyg till verktygens fulla potential. På liknande sätt som alla som använder sökmotorer regelbundet borde ha en hög sökmotorkompetens borde alla som använder chattbottar skaffa en hög ”chattbotkompetens”. En relevant fråga att ställa är vem som ska förse dagens och morgondagens unga med den kompetensen? Ska skolan göra det behöver lärarna relevant kompetens och tillgång till dessa AI-verktyg.

Digitalisering är inte lika med skärmtid

I Sverige pratar skolministern om skärmar som ett brett samlingsbegrepp och att skärmtid automatiskt är dålig och därför behöver begränsas i förskolan samt på låg- och mellanstadiet. Detta sker samtidigt som hela samhället går åt ett helt annat håll. AI-utvecklingen skapar nya möjligheter samtidigt som den hotar en del yrkeskategorier. Att prata om digitaliseringen för- och nackdelar är bra, för vi ska ta reda på vad som är bra och hur vi kan göra mer av det samtidigt som vi ska fasa ut den digitalisering som är dålig. Däremot ska vi inte klumpa ihop all digitalisering och kalla den för skärmtid. 

I del 3 fokuserar vi på en del utmaningar som AI innebär när det gäller skolsystemet.