Danica Kragic -
Läskigt smart

Händer som slingrar sig. Fötter som tassar. Ögon som stirrar. Danica Kragić Jensfelt går långsamt in på scenen, hon bär en klänning hon sytt själv. Ett mönster av vågor mellan raka linjer. Hon kastar en lång smal skugga över väggen där bilder av olika kroppsdelar projiceras.

Hon ser ut över publiken och slår ut med armarna: ”Intelligens, vad är egentligen det?”

Lokalen är full till sista plats. Publiken lyssnar andäktigt när Kragić Jensfelt sveper fram över scenen och talar om robotar, artificiell intelligens och en framtid där vi kan skapa djupa relationer med maskiner.

Danica Kragić Jensfelt är professor i datalogi vid Kungliga Tekniska högskolan. Men hon talar hon inte på en konferens för ingenjörer, programmerare och robotforskare. Scenen är Dramaten. Och publiken består till övervägande del av det som kan karaktäriseras som Stockholms kulturelit. Det är en performanceföreläsning, resultatet av ett samarbete mellan Nobel Center och Dramaten. Plötsligt lämnar Kragić Jensfelt scenen och en röst mullrar genom teatern:

”Så mycket har gjorts, utropade Frankensteins själ – mer, långt mer skall jag åstadkomma; jag ska följa i de redan utstakade spåren, jag ska bryta ny väg, jag ska utforska okända krafter och avslöja skapelsens djupaste mysterier inför världen.”

Egentligen är sammanhanget inte så konstigt. För de frågor som Kragić Jensfelt och hennes kollegor inom robotik och artificiell intelligens i dag ställer kan inte bara besvaras av naturvetenskapen. Det är frågor som poeter, konstnärer och filosofer diskuterat i århundraden: Vad är en människa? Vad är ett medvetande? Ska vi leka gud?

För precis som Victor Frankenstein börjar vi närma oss en punkt där vi kanske snart kan skapa artificiellt liv. Frågan är vad vi vi väcker: en vän eller ett monster?

Hissen glänser som insidan av en konservburk. Långsamt plågar den sig uppåt med jämna konvulsioner som får hela hissrummet att skaka.

– Den är nog lite paj. Vi har kört upp väldigt tunga robotar i den, säger Danica med ett leende när hon möter mig på sjunde våningen.

Hon slänger upp fötterna på en pall framför en tavla späckad av matematiska formler och säger att hon har en timme. Jag påpekar att jag har blivit lovad två. Hon kontrar med ett svar som hade kunnat vara en punchline av Sheldon Cooper i Big Bang Theory: ”Jag pratar väldigt snabbt.”

Danica Kragić Jensfelt har inte mycket tid, framtiden pockar på. För 20 år sedan kom hon till Sverige från ett Kroatien härjat av krig. Hon var nyutbildad maskiningenjör, men tvingades arbeta som städerska och barnflicka för 15 kronor i timmen.

I dag är hon professor, biträdande rektor över Skolan för datavetenskap och kommunikation på kth. Hon är ledamot av Kungliga Vetenskapsakademien, Kungliga Ingenjörsvetenskapsakademien och sitter i styrelsen för Institutet för Framtidsstudier, Wallenbergstiftelsernas ägarbolag och Saab.

Dessutom är hon ansvarig för forskningen om artificiell intelligens i projektet wasp (Wallenberg Autonomous Systems and Software Program). I höstas gav Knut och Alice Wallenbergs stiftelse 1 miljard kronor till projektet som det kommande decenniet ska se till att hundratals doktorander utbildas. Totalt har wasp 1 miljarder kronor till sitt förfogande.

Danica Kragić Jensfelt leder ett forskningsområde som inte bara kommer att ersätta barnflickor och städerskor utan i längden, befarar kritiker, kanske även mänskligheten.

– Så här är det! usa, England, Kanada, Tyskland, Kina. Alla investerar i artificiell intelligens i dag. Och de gör det för att de inser att något verkligt stort håller på att hända. Man har insett att allt som människan har gjort hittills – allt, verkligen allt! – kan automatiseras, säger Kragić Jensfelt.

Det som för något decennium sedan mest var abstrakta framtidsvisioner på seminarier för futurister är i dag konkret arbetsmarknadspolitik. Stiftelsen för Strategisk Forskning har förutspått att omkring hälften av alla yrken i Sverige kommer försvinna inom två decennier. Det är symboliskt att samma dag vi träffas på kth så börjar självkörande bussar rulla i Kista någon mil norrut. Det är företaget Nobinas som inviger Skandinaviens första automatiserade bussar i kollektivtrafik. Det kommer inte att bli de sista.

– Vi har insett att vi genom automatisering kan ta bort väldigt mycket av den mänskliga aspekten, som ibland utgör ett problem.

Danica Kragić Jensfelt menar att bara de senaste fem åren har enorma framsteg gjorts inom artificiell intelligens. Framför allt handlar det om mängden data vi kan lagra och en ny generation datorer som kan räkna betydligt snabbare.

– Det vi ser är en exponentiell utveckling. Vi kan i dag ställa helt andra frågor och få svar mycket snabbare, berättar Kragić Jensfelt entusiastiskt. Hon talar med hela kroppen, gestikulerar, går upp och ner i tonläge. Kastar sig fram för att visa något på mobilen eller på datorn.

Danica Kragić Jensfelt är optimist. Hon tror att den nya tekniken, och framför allt robotik och artificiell intelligens, kommer att befria oss från meningslösa sysslor och arbeten.

– Hur ofta får vi tid att verkligen umgås med familjen? Hur ofta får vi tid att bara tänka? Inte så ofta som man skulle vilja, inte jag varje fall.

Danica Kragić Jensfelt är inte bara intresserad av de tekniska aspekterna av artificiell intelligens utan funderar mycket kring vad som kommer att hända med oss och med samhället.

En avgörande fråga är vad vi männi­skor ska ägna oss åt i ett samhälle där allt fler uppgifter automatiseras. Hur ser ett sådant samhälle ut? En fråga Kragic Jensfelt själv återvänder till är om vi är beredda att möta det som väntar.

– Jag tror inte att vi är redo för vad som ska komma. Vi måste inse att den här utvecklingen kommer att förändra allt. Hela samhället. Hur det kommer att att se ut, hur det kommer att fungera och vad vi kommer ägna oss åt.

I början av december 2017, i en av internets mörkare undervegetationer, publicerades en porrvideo med vad som såg ut att vara Wonder Woman-skådespelaren Gal Gadot. Likheten var förbluffande, men ibland när hon talade uppstod en så kallad ”uncanny valley”-effekt. Något var märkligt.

Det konstaterades snabbt att det inte var Gadot. Det anmärkningsvärda var kvaliteten på fejkvideon. Det var effekter på en nivå som hittills var mer förknippade med Hollywoodstudior än med amatörvideor på nätet.

Under de följande veckorna i december exploderade trenden med fejkad kändisporr på internet. Men snart dök även andra videos upp, klipp där Nicolas Cage ersatte Andy Samberg i Saturday Night Live eller Harrisson Ford i Raiders of the Lost Ark.

Personen som hade publicerat den första videon kallade sig Deepfakes – en pseudonym som också fick ge namn åt hela trenden.

Deepfakes hade inte skapat klippen med hjälp av någon av specialeffektavdelning i Hollywood – han hade använt artificiell intelligens. Deepfakes var en referens till deep learning (maskininlärning). Det är just nu ai-forskningens hetaste område. Förenklat handlar maskininlärning om att skapa algoritmer som kan lära sig av och göra förutsägelser utifrån data. Användaren Deepfakes använde Googles Tensorflow, ett öppet kodbibliotek för maskinintelligens. Genom att låta algoritmen analysera uppåt 1 000 bilder av kändisars ansikten från olika vinklar kunde han skapa sina videor. Resultatet är enligt många ett paradigmskifte. Nu kan vem som helst skapa fejkat rörligt material med i princip vem som helst. Kritiker har börjat oroa sig för en flodvåg av ärekränkningar, fejkade nyheter och hämndporr.

Tensorflow är utvecklat av forskare och ingenjörer vid Google Brain, företagets avdelning för maskinell intelligens. Det kan knappast ha varit fejkad porr som företagets ingenjörer hade i tanken när man öppnade kodbiblioteket. Men kanske säger det något väsentligt om den mänskliga naturen och hur vi väljer att använder ny teknik.

Det är Google som leder utvecklingen inom maskininlärning, menar Jackie Snow, redaktör för området artificiell intelligens vid mit Technology Review.

– Googles vd Sundar Pichai har sagt att företagets vision är att vara ”ai first”. De arbetar för att artificiell intelligens ska leda all deras utveckling, berättar Snow som menar att de stora techföretagen har olika förhållningssätt till hur öppna de är med sin ai-forskning.

– Google är öppna med sin forskning, men inte nödvändigtvis hur ai används inom företaget. Facebook avslöjar inte hur deras nyhetsfeed fungerar, men är öppna med annat. Apple är däremot ett väldigt hemlighetsfullt företag.

Google är ett av de företag som under längst tid och med störst resurser har satsat på artificiell intelligens. Google Brain-projektet grundades 2011 med målet att skapa artificiell intelligens genom nätverk som härmar den mänskliga hjärnan. 2012 kunde ett kluster bestående av 16 000 sammankopplade datorer lära sig själv att känna igen katter genom att analysera 10 miljoner bilder från Youtubevideor.

Ett annat viktigt steg togs när sökjätten 2014 köpte det brittiska företaget Deep Mind Technologies som sedan det grundades 2010 har haft som mål att lösa ”intelligensfrågan”.

Den heliga graalen inom ai är att skapa så kallad artificiell generell intelligens (agi). Dagens ai kan lösa specifika förprogrammerade uppgifter medan agi kan ta sig an vilken uppgift som helst. agi är med andra ord en människolik intelligens som kan lära sig och lösa komplexa intellektuella uppgifter.

Deep Minds inriktning har varit att bygga ai-program som lär sig genom att spela spel. Ju mer avancerade spel algoritmerna behärskar, desto högre intelligens. Företaget har framför allt haft målet inriktat på ett spel som länge ansågs omöjligt för ai att behärska – det kinesiska brädspelet Go. Spelet som uppfanns för över 3 000 år sedan erbjuder oändligt många fler möjligheter än schack och har beskrivits som det mest komplexa spel människan skapat.

När datorn Deep Blue besegrade schackmästaren Garry Kasparov 1997 gjorde den det genom att räkna ut alla möjliga drag. Skillnaden är att go erbjuder så många valmöjligheter att det fortfarande i dag är omöjligt att bygga en dator som kan räkna ut dragen. För att besegra människor i Go måste maskinerna därför inte bli bättre på att räkna utan bli mer lika oss. För att behärska spelet krävs nämligen intuition, kreativitet och strategiskt tänkande.

Många, även forskare, hävdade därför länge att det var omöjligt för ett program att besegra de bästa Go-spelarna i världen. En sanning som abrupt punkterades i maj 2017, då Deep Minds program Alpha Go besegrade världsmästaren Ke Jie i tre raka matcher. I dag anses det omöjligt för en människa att slå Alpha Go.

– Det var helt banbrytande, att Alpha Go lärde sig behärska ett spel som ansågs för komplext för maskiner, säger Jackie Snow.

Alpha Go lärde sig inte behärska Go genom att räkna på möjliga drag utan genom att studera människor. Programmet använde data från miljontals Go-spel på internet. Baserad på datan började Alpha Go att spela mot sig själv. Framgången var att Alpha Go lärde sig att agera mer som en mänsklig spelare än en maskin – med andra ord kunde den härma och behärska egenskaper som innovation, kreativitet och strategi.

Jackie Snow menar att utvecklingen har gått mycket snabbt sedan fjolårets framgång.

– Från Alpha Go utvecklade Deep Mind Alpha Go Zero som lärde sig behärska go helt utan att studera exempel på tidigare spel. Den lärde sig helt genom självinlärning och lyckades besegra Alpha Go.

Tillägget ”Zero” var helt enkelt en beskrivning av att algoritmen startade från noll – tabula rasa. Men ett ännu större genombrott gjordes i redan december 2017 när Deep Mind lanserade Alpha Zero.

– Det betydelsefulla med Alpha Zero var att den inte bara kunde behärska go utan även andra spel. Det var viktigt eftersom det visar att ai:n är flexibel, att den kan ta sig an helt olika utmaningar.

När Alpha Zero lanserades lyckades den på drygt ett dygn nå övermänsklig kapacitet inom schack, go och det japanska spelet shogi. Helt genom självinlärning lyckades algoritmen besegra alla de program som vid tiden höll världstitlarna för spelen, inklusive Alpha Go Zero.

Det banbrytande är att Deep Mind närmar sig något som börjar likna artificiell generell intelligens. Enligt Jackie Snow är det genombrott alla väntar på just nu oövervakad inlärning.

– Just nu behöver de flesta ai-system matas med väldigt specifika data, något som i grunden kräver väldigt mycket ”mänsklig tid”. Om systemen själva kunde hantera helt råa data och förstå vad det är för något så vore det ett enormt framsteg, berättar Snow.

Nästa steg är artificiell intelligens som kräver allt mindre mänsklig inblandning. Kan systemen programmera sig själva att bli smartare kommer utvecklingen att accelerera ännu snabbare. Jackie Snow menar att det just nu går så snabbt att det är ett problem att bevaka ämnet.

– Det är svårt att hänga med. Det publiceras omkring 50 nya forskningsrapporter i veckan bara på Arxiv om artificiell intelligens.

En man vänder sig sömnigt i sängen medan morgonsolen stiger utanför. En flickig kvinnoröst ropar på mannen: ”Hallå, vakna!” Han sätter sig upp, medan en animerad flicka stor som en handflata står på nattduksbordet. Hon lutar sig fram mot honom, ler och säger: ”God morgon!” Medan han gör sig iordning påminner hon mannen om att ta sitt paraply – det ska regna. När mannen befinner sig på jobbet skickar hon ett sms om att hon saknar honom.

Senare, när han är på väg hem stannar han upp utanför huset. En lampa tänds i fönstret. Han tänker hur skönt det är att ha någon som väntar på honom. Hon är alltid där.

Ett nytt avsnitt av Netflixserien Black Mirror? Nej, en reklamfilm för företaget Gatebox som marknadsför virtuella flickvänner till ensamma japanska affärsmän. Omkring 20 000 kronor kostar tekniken som företaget säger är artificiell intelligens – en sorts kinky variant av Siri förpackad i en animefigur.

– För mig är detta en skräckfilm, men för många i Japan är detta helt normalt, säger Danica Kragić Jensfelt när hon visar mig filmsnutten på sin dator. Hon tror att en liknande utveckling kanske kommer i Sverige också – att vi i allt högre grad kommer att utveckla relationer med maskiner.

– Jag är ju gammal, men för nya generationer kanske det blir helt normalt. Vi måste ju komma ihåg att vi i Sverige redan uppfattas som väldigt annorlunda med sambor, särbor, regnbågsfamiljer och så vidare. Att ha relationer med maskiner kanske inte är ett så stort steg.

Just relationen människa–maskin är något som Danica Kragić Jensfelt intresserar sig mycket för. Hon tror att om vi använder tekniken på rätt sätt kan vi utvecklas som människor. För Kragić Jensfelt är frågan högst personlig. För tio år sedan blev hon mamma till Jonathan som föddes med en svår hjärnskada. Jonathan är i behov av assistans i nästan allt han gör.

– Det svåraste är att inte kunna kommunicera med min son. Jag tänker mycket på det, på säkerhet. När jag kommer hem och han har slagit sig så kan inte han berätta för mig vad som hänt. Det gör mig ledsen. Jag tänker att vore det inte fantastiskt om han kunde ha en robot med sig som kan skydda honom ifall han ramlar eller om någon puttar honom. Som en hund som ställer sig emellan. Människor räcker inte alltid till.

Danica oroar sig också för den dagen då hon inte själv längre kan vara där och ta hand om sin son. Hon tror att ai-tekniken kan erbjuda möjligheter här, kanske kan en robot som känner empati ta över?

– Jag hoppas verkligen att vi kan bygga ett bättre samhälle där den här tekniken kan användas för något gott. Men ett problem är att vi sällan kan förutsäga alla konsekvenser av tekniken. Länge trodde vi att mobilerna skulle bli mindre och mindre, men det blev ju inte alls så.

En återkommande fråga inom forskningen är när artificiell intelligens uppskattas nå en nivå som kan jämföras med en människa. Med andra ord ai som har något som liknar ett medvetande.

För några år sedan ställde Future of Humanity Institute i Oxford frågan till några av världens ledande ai-forskare. En del ansåg att det aldrig skulle ske. Men de flesta förutspådde att det med 50 procents chans skulle ske någonstans mellan 2040 och 2050. Det kan verka avlägset, men tidsmässigt ligger det ungefär lika långt bort som premiärturen på den planerade höghastighetstågbanan mellan Stockholm och Malmö.

Danica Kragić Jensfelt vill själv inte spekulera i om eller i så fall när det skulle vara möjligt – bara att väldigt många frågor återstår.

– Sanningen är att vi inte vet exakt hur hjärnan fungerar och vad som är ett medvetande. Det är ju svårt att skapa något vi inte känner till.

Kragić Jensfelt menar att ai-forskningen ofta underskattar komplexiteten i vad det innebär att vara människa.

– Man kan inte bara skapa ett medvetande i en låda. Vi formas av vår kropp, av vad vi äter och vad vi gör. Vi drivs av känslor, vi minns selektivt och vi glömmer. Den artificiella intelligens vi skapar kommer inte att ha dessa erfarenheter. Det kommer i så fall vara något annat.

Hon menar att vi kanske inte heller vill att en ai ska ärva alla våra egenskaper.

– Vi är på många sätt fortfarande grottmänniskor. Våra hjärnor är formade av evolutionen att fungera på ett sådant sätt som optimerar vår överlevnad. Rädsla är därför något vi fortfarande har med oss. Vi drivs väldigt mycket av våra rädslor. Vill vi att maskinerna ska drivas av samma saker?

Frågan om hur en potentiell artificiell superintelligens skulle förhålla sig till mänskligheten har diskuterats intensivt de senaste åren. Några av världens främsta entreprenörer, forskare och tänkare har börjat varna för att artificiell intelligens kan utgöra större hot mot mänskligheten än både kärnvapen och klimatförändringar.

Ioktober 2017 meddelade Deep Mind att de hade grundat en ny avdelning inom företaget. Den skulle inte ägna sig åt teknisk utveckling utan snarare moralisk. Deep Mind Ethics & Society skulle vara helt tillägnat etikfrågor.

Den nya avdelningen var en följd av den kritik som på senare tid riktats mot ai-forskningen. Ungefär samtidigt publicerade tidskriften Rolling Stones ett stort porträtt av Elon Musk.

Tesla- och Space X-grundaren uppgav i intervjun att han gav mänskligheten omkring 10 procents chans att överleva artificiell superintelligens.

Musk har inte bara ambitionen att elektrifiera världens bilflotta och kolonisera rymden – sedan ett par år tillbaka driver han ett korståg mot ai. Och han är inte ensam.

Fysikern Stephen Hawking är en annan kritiker. På en konferens i Lissabon i höstas sade han att ai antingen kan bli det bästa eller det värsta som drabbat mänskligheten. Enligt Hawking kan ai innebära ”slutet på vår civilisation”.

En annan prominent kritiker är svenska futuristen och filosofen Nick Boström som leder Future of Humanity Institute. I sin bok Superintelligens varnar Boström för svårigheterna med att kontrollera en intelligens större än vår egen. För hur vet vi, argumenterar Boström, när vi blir manipulerade? Det var förmodligen för att bemöta sådan kritik som Deep Mind nyligen valde att rekrytera Nick Boström till avdelningen Ethics & Society.

Många ansåg dock att Deep Mind, eller snarare Google, borde ha startat en sådan avdelning för länge sedan. Elon Musk har framför allt valt att utmana de stora sociala medier-jättarna. Under 2017 utkämpade Musk och Mark Zuckerberg en infekterad offentlig dust om riskerna med ai. Facebookgrundaren kallade Musks domedagsvarningar för oansvariga medan Musk menade att Zuckerbergs förståelse för ai var ”begränsad”.

Det främsta målet för Musk har dock varit Google och Deep Mind. Musk var själv en av finansiärerna bakom Deep Mind innan söksätten köpte företaget – enligt Musks egen utsago för att kunna vara med och kontrollera företagets utveckling.

Han var inte den enda som oroade sig, en av Deep Minds grundare, Shane Gregg, sade i samband med att Google köpte företaget att ai förmodligen utgjorde ”det främsta hotet mot mänskligheten under detta århundrande”. Sådan oro var förmodligen en anledning till varför Deep Mind såldes med ett tydligt villkor till Google – att ett etikråd skulle upprättas.

Google, som ofta tonar ned riskerna med ai, har dock hållit uppgifterna om ett sådant råd hemligt. Den nya offentliga forskningsavdelningen är dock ett tecken på att även Google tvingas ta kritiken på allvar.

Elon Musk har grundat egna företag och organisationer för att motarbeta vad han kallar ”farlig ai”. 2015 grundade han Open ai, ett icke vinstdrivande forskningsföretag, som har som mål att utveckla ”vänlig ai”. Bakom företaget har Musk samlat en mäktig allians av ai-skeptiska teknikutvecklare som Paypalgrundaren Peter Thiel, Linkedingrundaren Reid Hoffman och Sam Altman – grundaren av Y Combinator, en av världens mest inflytelserika startupinkubatorer. Open ai har i nuläget över 1 miljard dollar till sitt förfogande.

Våren 2017 lanserade Elon Musk ett nytt företag som skulle angripa utmaningen med ai utifrån ett annat perspektiv – Neuralink. Företaget, som registrerades som ett medicinföretag, har som mål att utveckla människan på ett sådant sätt att teknikutvecklingen inte springer ifrån oss. Enligt Musk själv ska företaget ägna sig åt att forska om ”neural lace”, en sorts teknologi att inplantera små elektroder i hjärnan. En teknik som framtiden ska gör det möjligt att ladda upp och ner tankar. Musk, och många and­ra, menar att det enda sättet att överleva artificiell superintelligens kanske är att uppgradera oss själva till cyborgs.

Men det finns också många som menar att hela ai-debatten har utvecklats till en brottningsmatch mellan techvärldens jätteegon. Det är inte sällan svårt att avgöra vad som är legitim kritik och smutskastning konkurrenter emellan.

– Problemet med personer som Elon Musk och Stephen Hawking är att de tar upp allt syre i rummet. Det finns så klart faror med ai som kan leda till världens undergång, såsom vapenteknologi som styrs av artificiell intelligens. Men vi har ju faktiskt levt länge med kärnvapen som kan göra samma sak, säger Jackie Snow som menar att det finns mer akuta problem med ai som vi borde tala om.

– Jag anser att det stora problemet just nu är att de data som vi matar våra system med är präglade av våra egna värderingar. Risken är att vi kodar in sådant som sexism och rasism och att det också präglar framtidens ai-system. Låter vi dessa system sköta alltmer av vårt samhälle har vi ett stort problem.

Det pågår i dag en seriös akademisk debatt om riskerna, möjligheterna och konsekvenserna av artificiell intelligens inom flera discipliner. Anders Sandberg, doktor i datavetenskap och forskare vid Future of Humanity Institute i Oxford, ser både risker och möjligheter med ai – framför allt i hur vi väljer att använda tekniken.

– Just nu tenderar man att studera antingen näraliggande problem som algoritmer som lär sig rasism och sexism från mänskliga data, och de moraliska problemen med autonoma bilar och vapen, eller slutspelsproblemet med hur man kontrollerar superintelligens. Men det finns viktiga frågor om ai-förstärkt makt hos individer och grupper. Om vi får metoder där ai kan manipulera psykologi blir det frestande för många att använda det för att skaffa sig inflytande. Men jag misstänker att de problem med ai som gör störst skada kommer inte att vara något någon tänkt på.

Sandberg menar att det är nödvändigt att lära framtida ai-system medmänskliga värderingar.

– Vi behöver sätt att få maskinintelligens att förstå vad vi människor menar med moral och sunt förnuft, och att sedan försöka agera på ett sätt som är kompatibelt med andemeningen av dessa, säger Sandberg och ger ett exempel på hur ai kan användas destruktivt.

– Ett tänkbart exempel är en ai som ger råd till ett företag. Målet är att maximera börsvärdet. Det gör att den ger råd som maximerar det, och bara det: moraliska och juridiska hänsyn skulle ignoreras. Anställda som ifrågasätter beteendet är ju dåliga för att maximera börsvärdet, så de bör rekommenderas avsked.

Artificiell intelligens är ett tvärvetenskapligt område som i dag inte bara berör datavetenskap utan även psykologi, lingvistik och neurovetenskap. En av dem som har profilerat sig i frågan är John Basl, professor i filosofi vid Northeastern University.

– Jag är övertygad om att vi måste ta både de kortsiktiga och de långsiktiga hoten på allvar. De närliggande problemen är viktiga eftersom de är möjliga. Rent potentiellt kan ai utgöra ett hot mot vårt välstånd genom automatisering, mot våra demokratiska institutioner genom att öka polarisering genom informationsbubblor och den globala säkerheten genom automatiserade vapensystem och cyberattacker för att nämna några områden, säger Basl.

Han tror personligen att risken att en artificiell superintelligens ska ta över jorden är liten – men det gör frågan mind­re värd att tas på allvar enligt Basl.

– Även om risken skulle vara ytterst liten är det viktigt att förbereda oss för ett sådant scenario eftersom konsekvensen skulle kunna bli så katastrofal. Tänk ett scenario där en ai skulle bli så mäktig att den kan avfyra alla kärnvapen samtidigt? Vi har inte råd att göra ett enda sådant misstag.

Men John Basl menar att vi även bör ställa oss den motsatta frågan, inte vilket hot ai utgör mot oss utan vilket hot vi utgör mot ai.

– Frågan är ju hur vi ska förhålla oss till ai med kognitiva förmågor som är självmedvetet. Jag tror att risken är stor att vi kommer att behandla det dåligt. Risken är stor att ett sådant ai blir en sorts försökskanin för våra experiment. Vår historia av att behandla andra varelser med respekt är ju inte direkt god.

Danica Kragić Jensfelt bär en väst med stora blomlika broscher på bröstet. Hon syr de flesta av sina kläder själv, berättar hon och lyfter fram mobilen för att visa sitt Instagramkonto. Det ser mer ut att tillhöra en modeskapare än en kth-professor, bilder av henne själv i olika kreationer.

– Jag älskar att sy kläder. Det är min passion. Jag skulle vilja göra det flera månader om året om jag kunde. Men hur ska jag hinna det?

Vi kommer in på ämnet när vi talar om hur artificiell intelligens kommer att förändra samhället. För kanske är den största utmaningen ändå inte att handskas med onda robotar som ska ta över världen utan med de sociala, ekonomiska och politiska konsekvenserna av ai-tekniken.

För något som de flesta som arbetar med ai är överens om är att denna utveckling fullständigt kommer att rita om kartan för vårt samhälle. Och det inom vår livstid. Framför allt handlar det om att allt fler sysslor och arbetsuppgifter kommer att automatiseras. Inte bara om yrken som lastbilschaufför och hotellreceptionist utan även om högstatusyrken som domare och läkare.

Danica Kragić Jensfelt tror att vi kommer att behöva förändra hur vi ser på arbete i en framtid där det inte kommer att finnas arbete för alla. Eller om man väljer att se det ur en mer positiv vinkel, i en framtid där vi inte behöver arbeta lika mycket.

– Jag definierar mig inte som robotforskare. Utan jag syr. Varje sekund jag får över då jag kan andas så gör jag det framför symaskinen. De flesta av oss gör ju ändå inte det vi verkligen skulle vilja göra – i framtiden kanske vi kan det?

Den avgörande frågan är hur ett sådant samhälle skulle se ut.

Det är en fundamental utmaning. Historiskt sett har knappast samhällen utvecklats i positiv riktning när miljontals människor har gått utan arbete – snarare tvärtom. Den automatiseringsrevolution som väntar kräver en helt ny karta.

– Den största utmaningen är ju hur vi ska fördela samhällets resurser. I en internationell jämförelse är Sveriges satsning på ai mycket liten men vi har andra saker som är viktiga. Vi är ett jämlikt välfärdssamhälle. Kanske kan vi här hitta ett sätt att fördela allt i samhället på ett bra sätt? Jag är kanske bara är en optimist och utopist, men varför skulle inte vi i Sverige kunna vara ledande i denna utveckling. Kan vi bli det sociala experimentet som andra kan följa?

Danica Kragić Jensfelt menar att det inte är hennes expertområde men tror att om vi inte löser frågor om resursfördelning riskerar vi att gå mot en global katastrof.

Hon greppar en stor nyckelknippa och reser sig upp – tiden är ute. Danica kastar på sig en stor, puffig dunväst. Vi fortsätter intervjun på vägen till hennes nästa möte. Jag frågar hur hon ser på relationen mellan oss och maskinerna i ett längre perspektiv. Kommer vi att bli ifrånsprungna?

– Det är alldeles för mycket fokus på jämförelser mellan människor och maskiner. Att maskinerna skulle utvecklas och ta över världen och att vi är dödsdömda. Jag tror mer på att den artificiella intelligensen kommer bli en del av oss. Kanske en förlängning av oss.

Danica Kragić Jensfelt funderar på om det inte är en farligare väg inte låta sig integreras med tekniken.

– Det är ju ett faktum att vi utvecklas väldigt långsamt. Vi hänger inte med den tekniska utvecklingen. Men om vi skulle överkomma dessa rädslor och acceptera teknologin på ett annat sätt så skulle vi kanske inte bara se en snabbare teknologisk utveckling utan också en utveckling av oss själva. Skulle inte det vara bra?