Mer om generativ AI

Hur fungerar generativ AI?

Enkelt uttryckt fungerar språkmodeller så att de tränats på att förutse troliga sammansättningar av meningar eller bilder och helt bortser från vad som är sant eller rätt. Det är inte att ta fram fakta eller presentera fakta som är det språkmodeller i sig är tränade att göra, utan bara att skapa text som ser bra ut. Det fungerar alltså på samma sätt som prediktiv text i mobilen, eller på datorn. Göteborgs universitet har producerat en film som förklarar hur en språkmodell som ChatGPT fungerar på ett bra sätt. I sig är alltså en språkmodell bara bra på att sätta ihop meningar som låter bra och den är alltså inte tränad för att redogöra för fakta, utan texten kan mycket väl innehålla felaktigheter. Detta kallas ibland för att språkmodellen "hallucinerar". Vissa språkmodeller har koppling till internet eller möjliggör användande av uppladdat material, vilket gör tillförlitligheten mycket större. 

Träningen av språkmodellerna har skett på en mycket stor mängd data från många olika typer av källor. Exakt vilka källor som använts i träning är inte känt i dagsläget. Utifrån den data som använts i träningen och hur generativa språkmodeller fungerar så blir källkritiskt användande extremt viktigt. 

Generativ AI är inte bara språkmodeller, utan kan även vara bildskapande, video, musik med mera. Utvecklingen går fort framåt och nya varianter kommer löpande. Olika tjänster har olika förtjänster och förmågor.

Vad är generativ AI?

Kanske helt utan att veta det möter vi alla artificiell intelligens (AI) i olika former varje dag. AI är inte heller något nytt. När du låser upp mobilen med ansiktsigenkänning är det AI, eller när du tar foton med mobilen så används AI för att lista ut bästa fokus och inställningar, och när du använder röstassistenter som Google Home eller Siri används AI för att lista ut vad du säger. Du får rekommendationer på filmer eller serier på streamingtjänster, förslag på svar på mail, och du slipper (oftast) spam i mailboxen tack vare AI. På senaste tiden har dock fokus kommit att hamna på det som kallas generativ AI, och framför allt språkmodeller som ChatGPT.

Generativ AI är en form av artificiell intelligens som är tränad att utifrån massiva träningsdata generera output utifrån prompter/frågor som ställs av en användare. Exempel på generativa AI-verktyg är ChatGPT, Dall-E, Elicit, GitHub Copilot och Perplexity. AI i olika former och även generativ AI är, och kommer att förbli, en del av våra liv och vi behöver alla förhålla oss till detta. Det innefattar att kunna ta kloka och informerade beslut och även ta avgöranden kring hur och när AI kan användas. Det kräver att var och en av oss informerar oss om vad AI är och hur det påverkar oss i våra olika roller. Att kunna hantera detta kan sägas vara en del av det som kallas AI-litteracitet, men är också del i digital kompetens och digitaliseringskompetens. Att utforska och själv använda generativ AI är ett bra sätt att utveckla både sin digitala kompetens och sin digitaliseringskompetens. 

För dig som möter universitetsstudenter i undervisning innebär det, bland annat, att du behöver ha insikt och kunskap om hur dina studenter kommer möta AI i sina framtida yrkesroller och därför uppdatera kursplaner och undervisning utifrån det. Du behöver också tänka igenom hur du pratar om generativa AI-tjänster i din kurs och hur studenterna förväntas, eller inte förväntas, använda dessa och hur du kan guida dem i denna användning. Detta gäller både för eget arbete i studierna och inför och under examinationer. Klargör din inställning kring detta och akademisk hederlighet i stort, men tänk också på hur du och dina studenter kan dra nytta av AI. Det kan kännas lätt att trilla i fällan att tänka bara på att studenter potentiellt kan använda generativa AI-tjänster för att skriva uppgifter och hemtentor, men detta handlar om så mycket mer än det. Var tydlig med dina förväntningar kring användning av AI. Här nedan finns material som du kan tipsa dina studenter om.

Källkritik och bias

För dig som student är det extra viktigt att tänka på att vara källkritisk och medveten om att det kan finnas biaser som reproducerats i det som skapas med AI. Utifrån den data som använts i träningen och hur generativa språkmodeller fungerar så blir källkritiskt användande extremt viktigt eftersom modellerna bara tränats på att generera en text som låter bra, eller en bild som ser bra ut och inte om det som står i texten eller visas på bilden är rimligt och sant. Det innebär att innehållet kan vara snedvridet och missrepresentera vad som är sant. Till exmepel så tenderar AI att tillskriva vissa yrken till personer av vissa kön, eller vissa egenskaper till personer av en viss nationalitet eller hudfärg. Den överlägset största delen av den data som modellerna tränats på kommer från den engelskspråkiga delen av världen och en anglifierad bild av världen är alltså den dominanta när det kommer till det som skapas av AI-verktyg just nu. Detta handlar om att datan som AI:n tränats på speglar det som finns i vår värld och eftersom diskriminering och skevheter finns så kommer denna hittas och i vissa delar till och med kunna förstårkas av AI:n. 

Mittuniversitetets bibliotek har producerat material för att hjälpa dig som student att vara källkrititisk. Du hittar detta i lärplattformen Moodle och i MiunSkills, och du är också varmt välkommen till biblioteket med frågor och funderingar kring källkritik. 

Viktiga frågor att ställa sig när man använder språkbotar i relation till undervisning:

• Är det bra pedagogik att använda AI på detta sätt?
• Är det här oreflekterad avlastning? (Missar man något lärande genom att använda verktyget?)
• Följder det här tillämpliga styrdokument?
• Är jag på väg att skicka känslig information?
• Finns det språkfel?
• Finns det faktafel?
• Finns det skeva perspektiv eller skeva värderingar?

Tappa inte bort syftet med det du gör. Fråga dig regelbundet om det du utforskar faktiskt leder till bättre undervisning och lärande. Allt måste inte ge bättre undervisning direkt, men teknikutforskande ska inte bli sitt eget syfte. Ett tips när i avvägningen om ett AI-verktyg kan användas eller inte är att utgå från akronymen ROBOT: Reliability Objective Bias Ownership Type. Fråga dig alltså om du kan lita på det du får genererat, om det är objektivt eller innehåller snedvriden information, vem som ligger bakom vertyget och vad det innebär samt vilket typ av verktyg det är - det kanske inte är lämpligt för det du vill göra. 

Redovisa användning av generativ AI

När ett AI-verktyg använts bör detta redovisas och hur detta ska hanteras i olika sammanhang är något varje avdelning eller institution bör diskutera och tala om - och även kommunicera till studenter. Det är dock inte möjligt att ange ett AI-verktyg som medförfattare till en publikation, eftersom en person, fysisk eller juridisk, alltid är ansvarig för innehållet i publikationen. När du använder en generativ AI-tjänst i ditt arbete kan det vara till nytta att tänka på tjänsten som du  använt som en kollega och i någon mån jämföra med peer review-förfarande. Det är alltid du som ansvarar för det innehåll du genererat. Här måste man också vara medveten om att text som genererats med AI-tjänster kan innehålla biaser och felaktigheter. Om studenter inte tränas och medvetandegörs om detta ökar risken att de använder AI på ett oetiskt sätt.  Läs gärna mer om akademisk integritet och AI i ENAI Recommendations on the ethical use of AI in edcucation (på engelska). Tala om för dina studenter hur du använder generativ AI, om du gör det. Reflektera över och formulera din inställning till att studenter använder sig av AI i din kurs, till exempel i studiehandledningen, i kursrummet, och under lektioner.

Är du student och överväger att använda AI? Läs först mer om generativ AI, fusk och akademisk hederlighet och mycket annat.

Några tips för att hänga med i AI-utvecklingen

• Testa några AI-verktyg. Genom att testa själv kan du få en egen uppfattning om möjligheter och begränsningar. Testa gärna flera olika verktyg förutom ChatGPT.
• Boka en fortbildning eller konsultation, själv eller tillsammans med kollegor, för att få vägledning kring hur ni kan arbeta med AI i just ert ämne, eller vilken typ av verktyg som kan passa det ni vill göra. Boka genom att kontakta Pedagogisk utveckling på PUkontakt@miun.se eller www.miun.se/boka-pu
• För kollegiala diskussioner om hur ni, inom ämnet eller programmet, kan tänka kring AI som resurs, i examinationer och hur AI kommer påverka just ert ämne eller fält samt hur ni ser på tillåten respektive otillåten användning av AI-verktyg. Prata även om hur ni ska hantera när studenter vägrar använda AI (kanske av etiska skäl, eller annat).
• Testa dina examinerande uppgifter/frågor/hemtentor med textgenerande AI-verktyg och diskutera gärna resultatet med kollegor. Hur kan ni förändra era examinationer för att försäkra att de är rättssäkra och relevanta utifrån kursmål och läraktiviteter? Några tips på hur du kan tänka kring just examinationer för att utforma dem på ett sätt som ökar den akademiska integriteten finns nedan.
• Fundera på vad som är relevant kunskap i ditt ämne och område, både idag och imorgon. Vad behöver studenterna kunna?
• Undervisa om källkritik. Studenterna behöver känna till risker som finns med att okritiskt använda AI-tjänster. Diskutera och testa gärna tillsammans för att utbilda och avdramatisera. Ett tips för att arbeta källkritiskt är att låta studenter jämföra information de hittar i olika typer av källor så som någon eller några AI-verktyg, genom googling och genom litteratur och sedan diskutera deras upplevelse. 

Kontakta gruppen för pedagogisk utveckling om du har frågor eller funderingar kring generativ artificiell intelligens och högre utbildning.