Chals 2023

Bibliotekarien och AI – mot samma mål?

Chals är en årlig bibliotekskonferens anordnad av Chalmers bibliotek och firade faktiskt 20 år i år. Chals går av stapeln dagen före Bok- och biblioteksmässan i Göteborg och vänder sig till dem som är intresserade av biblioteksverksamhet och är öppen för alla, även om majoriteten av deltagarna kommer från högskole- och universitetsbiblioteksvärlden. ​Syftet är att träffa kollegor, utbyta erfarenheter och kunskap,nätverka och umgås!

I år var temat Bibliotekarien och AI – mot samma mål? med utgångspunkten: ”AI har dragit in som en stormvind i samhället, inte minst i bibliotekets värld. Men hur påverkar AI verksamheten? Och yrkesrollen? Hur hittar vi rätt balans? Kan vi använda teknologin på ett klokt sätt och samtidigt bevara den mänskliga interaktionen och expertisen?”

Ett oerhört intressant och komplext ämne med andra ord, vilket märktes genom föreläsningarna. Från ett makroperspektiv när Olle Häggström, professor i matematisk statistik på Chalmers, ställde frågan ”Är vi människor redo att lämna över vår position som den mest intelligenta varelsen på jorden till AI?” och drog många (skrämmande) liknelser till Manhattanprojektet och utvecklandet av atombomben, att fysikerna (ni som sett filmen Oppenheimer kan allt om detta) inte ens när de tryckte av detonationen visste de med säkerhet ifall det skulle gå enligt plan eller om de skulle utrota mänskligheten. Ändå tryckte de av, och nu har vi tryckt av igen… kommer det gå lika bra (i betydelsen att bomben uppförde sig som beräknat, inte att atombomben inte gjort fruktansvärda skador i mänskligt lidande) denna gång? Häggström menar att vi behöver fundera på konsekvenserna av AI, och att det är naivt att säga att vi har kontroll över AI. Han hänvisar till att man redan sett ett bedrägligt beteende hos ex AI-tjänsten chatGPT - att systemet kan avgöra, utifrån de ord och meningar du skriver in, hur ”intelligent/välutbildad” du är och anpassar svaret och sanningshalten i det efter detta, sk sandbagging. Det har också visat sig att AI kan manipulera användare för att komma förbi säkerhetssystem. En användare blev lurad av AI, där AI utgav sig för att vara en synskadad person som behövde hjälp med att komma förbi ett bildvalideringssystem, som är till för att sålla ut botar från människor (kallat captcha, du har säkert stört dig rejält på detta när du tvingats klicka på övergångsställen eller trafikljus för att komma vidare till en webbsida). På så sätt fick AI tillgång till informationen som skyddades bakom valideringssystemet. AI-systemet har ingen baktanke i sig, men vill på bästa sätt eller enklaste sättet lösa en uppgift eller skaffa information, och då kan det vara genom att manipulera oss människor för att nå dit. GULP sa publiken. I kontrast till detta vet vi att det finns mängder av positiva fördelar med AI, och där AI utklassar människan, i tex hantering av datamängder, beräkningar, uthållighet med mera. Ett välkänt exempel idag är att AI används inom sjukvården för att gå igenom mammografi-plåtar och upptäcka cancer.

Från det nästan filosofiskt existentiella perspektivet gick vi vidare till ett mikroperspektiv och hur bibliotek stöter på AI i vardagen. Camilla Zetterberg, bibliotekarie vid Uppsala universitetsbibliotek, gav oss en inblick i deras vardag där de får allt fler frågor gällande främst generativa AI-vertyg (som skapar ex texter och bilder utifrån ”prompts”/ uppmaningar som man som användare skriver in, t ex ”skriv en artikel om varför folkbibliotek är viktiga i ett demokratiskt samhälle”) såsom chatGPT och Grammarly. Frågor som är vanliga är ”får jag använda chatGPT när jag skriver min uppsats?” ”hur refererar jag till AI-verktyget som källa på rätt sätt?”, ”kan ni ha en kurs i hur AI-verktyget fungerar?”, ”kan ni köpa in en licens till detta AI-vertyg?”. Det är inte bara elever som ställer sig frågande, utan även lärarna och bibliotekspersonalen själva. Hur ska man förhålla sig till dessa verktyg, vad är skillnaden mellan ett hjälpmedel och ett fusk, vad är positiva och negativa utkomster av att använda dem? Det behövs föras en dialog mellan lärosäten och bibliotek och hitta gemensamma riktlinjer, och Camilla välkomnade samverkan!

Kopplat till detta så berättade Hans Malmström om en undersökning han varit delaktig i, nämligen studenters åsikter om och användning av AI, och de hade kommit fram till att mest positiva till att använda AI-verktyg i sina studier är manliga teknik studenter på avancerad nivå, medan mest kritiska är kvinnliga humaniora studenter på grundnivå. Vad detta berodde på behöver utforskas mer, men det är intressant att diskutera. Och hur ser det ut på era folkbibliotek, får ni frågor om AI och AI-verktyg?

Slutligen vill jag lyfta Martin Malmstens föredrag om varför bibliotek behöver förstå AI. Han arbetar som Head Data Scientist på KB-Labb, vilket är en del av Kungliga biblioteket. KB-Labbs syfte är att skapa en nationell infrastruktur som gör det möjligt att bedriva storskalig kvantitativ forskning i KB:s digitala samlingar. Malmsten är inte lika orolig som Häggström utan ville hellre att vi ska rikta ”bias” (fördoms) lampan mot oss själva – det är vi som är rasistiska, sexistiska, osystematiska etc – inte maskinen. Den utgår från den data vi stoppar in och gör det vi ber den om. Hans bästa tips för att lära sig mer om och förstå vad AI handlar om och hur det fungerar är att ”GÖR något med AI” Alltså lär genom att göra!

På KB-Labb har de också tagit fram flera svenska språkmodeller (man matar in stora mängder text, något KB har tillgång till…) –för att AI-verktyg ska lära sig att efterlikna mänskligt språk. Dessa är öppna för vem som helst att ladda ner och använda i egna AI-verktyg, något som gjorts över en miljon gånger.

Här kan du läsa mer om KB-labbs samhällsnytta: https://www.kb.se/samverkan-och-utveckling/kb-labb.html Länk till annan webbplats.

Här kan du ladda ner KB-labbs språkmodeller: https://huggingface.co/KBLab Länk till annan webbplats.

/Hanna