Lärare involveras i utvecklingen av digitala AI-läromedel

Projektet kommer att inriktas på möjligheter och utmaningar med adaptiva artificiell intelligens-baserade digitala läromedel för undervisning. Syftet är att göra det möjligt för lärare att delta i utvecklingen av design, metadesign och användning av systemen. På så vis ska systemen både bli rättvisare och bättre anpassade till lärandemiljön.

Adaptiva system kan beskrivas som en digital lärmiljö som automatiskt anpassar undervisning och lärresurser till enskilda elevers förmågor och behov. Intelligent adaptivitet är när artificiell intelligens, AI, används för denna anpassning. AI i undervisningen kan till exempel användas för att följa elevernas framsteg, förstå deras nuvarande styrkor och svårigheter samt ge snabb återkoppling i form av förklaringar och lämpliga uppgifter. 

Hittills har systemen som brukar förkortas AIEd, AI in Education, framför allt konstruerats av datavetare, designers och systemutvecklare med liten, eller ingen medverkan av pedagogisk personal.

Forskarna menar att det finns ett stort behov av ökad medvetenhet om möjligheterna och riskerna med användningen av AIEd och i vilken utsträckning det kan diskriminera. 

Projektgruppen vill därför involvera lärare som är specialiserade på elevers utbildningsbehov för att undvika att systemen blir helt styrda av algoritmer vilket de anser bland annat kan leda till diskriminering och orättvisa. De menar att lärarnas kunskaper och erfarenheter är avgörande för utformningen och acceptansen av rättvis AIEd.

De framför också att systemen är utvecklade utan kunskap och hänsyn till hur lärare kommer att använda systemen i sin undervisning. De menar att det därför finns behov av ytterligare forskning kring etiska och pedagogiska tillvägagångssätt vid tillämpningen av AIEd.

En frågeställning som de tar upp är om ett AIEd-system är utformat för att förutsäga och uppmärksamma läraren på vilka elever som riskerar att hamna efter i undervisningen, hur ska då denna grupp elever definieras? Och hur ska resultatet av en sådan utsållning presenteras för läraren?

De pekar på att deras tidigare forskning inom området visar att nuvarande AIEd-applikationer på marknaden i Sverige är "blackboxade", vilket innebär att det är svårt eller omöjligt att tolka och förklara de rekommendationer som ges till lärare och elever. 

Forskarna konstaterar att när lärare saknar möjligheter att förstå, agera i och påverka AI-systemet minskar deras förtroende för AI-systemen. Att involvera lärare menar de därför är avgörande eftersom lärare bör kunna förstå och utmana algoritmiska beslut och förutsägelser, men också för att de i praktiken ska få nytta av det stöd som systemen kan erbjuda.