Kerstin Sahlin och Virginia Dignum

Wallenbergstiftelserna satsar på humanistisk- och samhällsvetenskaplig forskning inom AI och autonoma system

Vi står inför, eller befinner oss snarare mitt i, ett omfattande teknikskifte som kommer att påverka oss på ett så genomgripande sätt att det brukar jämföras med den industriella revolutionen. Forskningsprogrammet WASP-HS ska undersöka utvecklingen av den nya tekniken och hur den påverkar vårt samhälle och våra beteenden.

– När Knut och Alice Wallenbergs Stiftelse beslutade att satsa totalt 3 miljarder kronor på WASP, grundforskning inom autonoma system och AI, så kom diskussionerna in på att de humanistiska och samhälleliga perspektiven av det kommande teknikskiftet också behöver utforskas, säger Peter Wallenberg Jr, ordförande för Knut och Alice Wallenbergs Stiftelse och Marianne och Marcus Wallenbergs Stiftelse.

Diskussionerna slutade i att Wallenbergstiftelserna genom Marianne och Marcus Wallenbergs Stiftelse och Stiftelsen Marcus och Amalia Wallenbergs Minnesfond beslutade sig för den gemensamma satsningen WASP-HS, med 660 miljoner kronor under tio år.

– En stor anledning var också tillgången till en av världens främsta AI-forskare inom området, Virginia Dignum. Hon var en av de första professorerna som rekryterades till Sverige inom WASP:s AI-satsning och hon är nu också WASP-HS vetenskapliga ledare. Tillsammans med programmets ordförande professor Kerstin Sahlin, tidigare huvudsekreterare för humaniora och samhällsvetenskap vid Vetenskapsrådet, bildar de ett högkvalificerat team för att bygga en internationellt stark miljö inom området, fortsätter Peter Wallenberg Jr.

Mänskliga värderingar och etiska principer

Forskningsprogrammet ska framför allt analysera etiska, kulturella, ekonomiska, arbetsmarknadsmässiga, sociala och juridiska aspekter som kan komma med teknikskiftet.

– Vi kommer bland annat att titta på metoder och verktyg för att säkerställa att artificiell intelligens och autonoma system formas så att de inte strider mot mänskliga värderingar och etiska principer, säger professor Virginia Dignum, som forskar på samhälleliga, etiska och kulturella konsekvenser av AI vid Umeå universitet. 

Hon betonar också programmets tvärvetenskapliga karaktär.

— Det är viktigt att vi forskar mer multidisciplinärt, där humaniora och samhällsvetenskap kombineras med teknisk forskning. AI kan inte längre ses som enbart en teknisk eller datavetenskaplig disciplin. Den är per definition tvärvetenskaplig, förklarar Virginia Dignum.

Ansvarsfull AI

Det finns redan ett flertal exempel på att de algoritmer som ligger till grunden för AI inte alltid ger neutrala resultat.

– Eftersom AI-algoritmer bygger på data som samlas in från befintligt material, kan fördomar och ojämlikhet som finns i vårt samhälle krypa in i tillämpningarna. I två kända exempel visade AI-algoritmerna upp ett resultat som var fördomsfullt vinklat gentemot kvinnor i det ena fallet och mot mörkhyade i den andra, berättar Virginia Dignum.

Redan i dag använder miljontals människor AI-tillämpningar och autonoma system i vardagen, ofta utan att reflektera över det. Några exempel är översättningstjänster eller rekommendationssystem som tipsar om personliga val av böcker, filmer eller musik på olika plattformar. 

Inom arbetslivet har stöd- och beslutsystem utvecklats för såväl människor som för robotar. Ännu fler tillämpningar är på gång som kommer att vara till stor nytta för oss. System som snabbare och säkrare än en läkare kan ställa diagnos på ovanliga sjukdomar och självkörande bilar är exempel på sådant som står och stampar för att komma till större användning. Men som med nästan allting finns det en fram- och en baksida.

Hur ställer vi oss till exempel till en artificiell intelligens som skriver romaner eller nyhetsartiklar? Som blixtsnabbt kan skapa tusentals falska men unika och trovärdiga nyhetstexter? Eller program som med lätthet skapar bilder som ser autentiska ut, till och med porträtt på människor som inte finns? Hur ska vi agera när det inte längre går att lita på det man ser, hör och läser? Eller när vi ser för bra? Där det goda exemplet är att man genom att titta på en maträtt med hjälp av avancerade linser eller glasögon skulle kunna bedöma näringsinnehållet eller om maten är farlig att äta… Eller att vi som uppkopplade alltid är spårbara?

– Det finns många och utmanande frågor. Jag står helt bakom Europeiska kommissionens vision om att artificiell intelligens ska ha människan i fokus och bidra till samhällets och människors välbefinnande. I slutändan hoppas jag att all artificiell intelligens kommer att vara ansvarsfull, säger Virginia Dignum.

Fakta WASP-HS

WASP-HS ska undersöka de konsekvenser som uppstår till följd av det teknikskiftet som utvecklingen av AI och autonoma system innebär. Forskningsprogrammet ska framför allt analysera etiska, ekonomiska, arbetsmarknadsmässiga, sociala och juridiska aspekter.
Programmet är tvärvetenskapligt, humaniora och samhällsvetenskap kombineras med teknisk forskning.

Inom det tioåriga programmet ska en omfattande forskarskola byggas upp med upp till 70 doktorander. Minst tio nya forskargrupper och tolv gästprofessorer ska rekryteras. 

Marianne och Marcus Wallenbergs Stiftelse och Stiftelsen Marcus och Amalia Wallenbergs Minnesfond satsar upp till 660 miljoner kronor under tio år på programmet.

WASP-HS ska vara fristående från, men drivas i nära samarbete med, WASP, Wallenberg AI, Autonomous Systems and Software Program. En satsning på tre miljarder kronor av Knut och Alice Wallenbergs Stiftelse på grundforskning inom autonoma system och AI.

Virginia Dignum
är professor i Social and Ethical Artificial Intelligence vid Umeå universitet, och en internationellt erkänd forskare inom AI. Virginia Dignum deltar aktivt i flera internationella initiativ som rör politiska och strategiska riktlinjer för forskning och tillämpningar inom AI. Hon är bland annat en av 52 experter som har utsetts för att presentera riktlinjer och rekommendationer inom Europas AI-strategi samt medlem av World Economic Forum Global Fourth Industrial Revolution Council on AI.

Kerstin Sahlin
är professor i företagsekonomi vid Uppsala universitet. Hon var 2013 - 2018 huvudsekreterare för humaniora och samhällsvetenskap vid Vetenskapsrådet. År 2006 - 2011 var hon prorektor för Uppsala universitet. Kerstin Sahlin är 3:e vice preses vid Kungl. Vetenskapsakademien.