Virginia Dignum -
Ain’t no way around it

Tänk om ditt öde – hela ditt liv – redan är beslutat? En nyckelscen i tredje säsongen av tv-serien Westworld är när huvudpersonen Caleb inser att hans liv i hemlighet har styrts av en allvetande artificiell intelligens. Caleb, en skadad och frustrerad krigsveteran som spelas av Aaron Paul, har hankat sig fram på skitjobb för att försörja sin sjuka mor. Alla försök till att förbättra livet, inleda en relation eller göra karriär faller. Det är som att en gudomlig kraft motarbetar honom – tills han inser sanningen. Den fria viljan är död. Och alla människor i världen guidas av en allsmäktig artificiell intelligens, Rehoboam, som förutsäger och kontrollerar varje människas öde. Rehoboam har identifierat Caleb som farlig, en person som under fel omständigheter skulle kunna resa sig likt en Adolf Hitler eller Josef Stalin. Att hålla Caleb nedtryckt ligger med andra ord i mänsklighetens intresse, anser Rehoboam.

Westworld utspelar sig i en mer eller mindre avlägsen framtid. Men vad skulle vi göra om vi besatt samma kunskap om våra medmänniskor?

Det är frågor som egentligen inte är science fiction, i viss mening har det redan hänt. Artificiell intelligens avgör redan människors liv och karriärsval. Går du mot röd gubbe i ett flertal kinesiska städer kommer en AI-driven ansiktsigenkänning att identifiera dig, publicera ditt ansikte på en offentlig ”skampåle” och automatiskt dra böter från ditt Wechatkonto.

För ett par år sedan avslöjades att Amazon testade ett hemligt AI-verktyg för att utvärdera personer som företaget ville anställa. AI:n hade tränats på tiotusentals cv:n för att sålla fram de allra mest talangfulla kandidaterna. Det visade sig dock att AI:n föredrog män – vilket kanske inte var konstigt eftersom den hade matats med data från en mansdominerad industri. Trots att Amazon därmed tvingades skrota projektet, använder tusentals företag redan AI-system för rekrytering. En av de största plattformarna, Hirevue, som arbetar med bland annat Vodafone, PwC och Oracle, påstår att rekryteringsprocessen har förkortas med 90 procent samtidigt som mångfalden ökar. Men Hirevue lovar mer än så. Företaget har en algoritm som analyserar kandidaternas vokabulär, meningsbyggnad, kroppsspråk, tonalitet och ansiktsuttryck – och kan med hjälp av dessa data föreslå en skräddarsydd position för den anställda. Samma teknik kan naturligtvis också användas för att sortera bort personer som har fel frasering eller ett utseende som inte är tillräckligt ”kundvänligt”.

I usa används algoritmer redan för att bestämma vart polisen ska skicka polisbilar eller för att utvärdera kreditvärdighet hos låntagare. Det vandrar troligen just nu runt ”Calebs” som utan att riktigt veta om det nekas arbete, och lån, och löper betydligt högre risk att lagföras. Under de senaste åren har riskerna med AI-tekniken allt oftare lyfts fram – inte minst hur den data som artificiell intelligens baserar sina beslut på bär på fördomar, som i sin tur leder till fördomsfulla beslut.

’’AI är som ett barn’’ 

Umeå, april 2021

Virginia Dignum slår ut med händerna, andas in och tycks ta sats – hon har fått frågan förr, den utgör i själva verket kärnan i hennes forskning. Hur påverkar artificiell intelligens egentligen våra liv? Svaret på frågan är väldigt enkelt, och samtidigt väldigt komplicerat.

– Artificiell intelligens påverkar ditt liv just nu, hela tiden. Så fort du använder Google eller en kartapp använder du teknologi baserad på AI. Men saken är den att det egentligen inte finns dålig eller bra artificiell intelligens. AI är som ett barn, det speglar bara sina föräldrar. Det är våra egna brister som blir synliga, säger Virginia Dignum och ler hemlighetsfullt.

Hon vet vad hon talar om – Dignum är professor inom ansvarsfull artificiell intelligens vid Umeå universitet och en av världens ledande AI-experter. Hon ingår i eu-kommissionens expertpanel för att utveckla unionens AI-strategi och även i World Economic Forums globala AI-råd. Kanske kan man säga att Virginia Dignums mission är att likt en barnpsykolog utveckla riktlinjer för hur vi ska uppfostra artificiell intelligens.

Till skillnad från så många inom fältet artificiell intelligens intar Virginia Dignum varken ett förhållningssätt som präglas av överentusiastisk teknik-optimistism eller en pessimistisk domedagsstämning. AI-debatten rör sig i dag ofta mellan dessa motpoler, men för Virginia Dignum är det förenklingar – teknologi är aldrig bättre eller mindre felfri än sin skapare. I grunden handlar förhållningssättet till artificiell intelligens om människosyn.

– AI kan användas av kriminella. Men det är inte AI som skapar kriminella. Allt går inte skylla på AI utan vi måste i grunden ställa oss frågan varför det finns kriminella.

För henne är det människans relation till teknologin som är det mest intressanta. Hon tror att vi kommer att utveckla en personlig relation till AI i framtiden.

– AI kommer att hjälpa oss personifiera, att skräddarsy vår relation till teknologi. Vi kommer att bestämma hur vi vill använda teknik och tekniken kommer att anpassa sig efter våra olika behov.

För Virginia Dignum, eller Maria Virgínia Ferreira de Almeida Júdice Gamito Dignum, som hennes fulla namn lyder, föddes fascinationen för denna relation redan som barn i Lissabon.

– Jag har alltid varit fascinerad av teknologi. Som litet barn var jag väldigt hänförd av elektricitet. Jag fick en liten experimentlåda av mina föräldrar, där jag kunde leka med ström och ändra strömriktning och få lampor att blinka, berättar hon.

Att Dignum redan som barn fick bekanta sig med elektricitet kanske inte är så konstigt om man vet att hennes far var ingenjör och hennes mor matematiker. Passionen för tekniken fanns i blodet. Att hon snart också fann datorer var inte så konstigt.

– Jag minns att vi skulle hålla en presentation i grundskolan, det var i början av 1970-talet, jag var i tioårsåldern. De andra barnen pratade om hamstrar, katter och hästar. Jag höll en presentation om datorer. Jag blev så besviken när mina kamrater inte förstod någonting av vad jag pratade om. De visste inte ens vad en dator var för något.

Så länge hon kan minnas har hon velat göra samma sak.

– Redan tidigt insåg jag att jag ville förstå maskiner och få dem att fungera. Jag ville förstå deras språk.

Hennes första egna dator fick hon i början av 1980-talet, en Spectrum med 28 kB i minne.

– Det var otroligt mycket på den tiden, säger Dignum och skrattar. De flesta använde dem till att spela enkla spel, men jag började genast att programmera. Med hjälp av Basic lyckades jag skapa enkla program.

Redan från början väcktes också intresset för artificiell intelligens.

– Det som drog mig till datorer var deras förmåga att resonera. Jag undrade om vi kunde få dessa maskiner att tänka kring olika koncept, inte bara matematiska uträkningar utan även annat. Kopplingen mellan datorer och intelligens var det som fascinerade mig.

När hon i mitten av 1980-talet läste vid universitetet i Lissabon tog hon de få kurser som fanns om artificiell intelligens. Kanske var det en gudomlig tillgivelse, eller rentav slumpen, som skulle leda henne till ett av världens första forskningscenter inom artificiell intelligens. I slutet av 1980-talet träffade hon och gifte sig med en ung nederländare som var lika passionerat intresserad av datorer och artificiell intelligens som hon själv. Hennes man, Frank Dignum, är även han professor i artificiell intelligens vid Umeå universitet. Hans forskningsområde kan grovt förenklat beskrivas som hur man får artificiell intelligens att förstå sociala normer och samspel. Tillsammans utgör Virginia och Frank Dignum ett både visuellt och intellektuellt slående par inom AI-forskningens spjutspets. Frank Dignum är en nederländsk, gänglig jätte med skarpa karaktärsdrag. Virginia Dignum är en kort tidigare maratonlöpare i pojkfrisyr, som fortfarande avverkar tre mil i veckan i löpspåret. Det må skilja över en halvmeter i längd på dem båda, men forskningsmässigt har de följt varandra. Båda drogs till Vrije Universiteit i Amsterdam, som 1982 hade etablerat en av världens första AI-laboratorium. Där tog Virginia Dignum en master i artificiell intelligens.

– Artificiell intelligens var vid den tiden naturligtvis någonting annat än vad det är i dag. Då fokuserade det helt på hur vi kunde beskriva kunskap och mening för datorn. Dagens artificiella intelligens handlar om att utvinna mening ur data.

Det hon beskriver är en av de grundläggande skillnaderna – den mellan symbolisk och icke-symbolisk artificiell intelligens. Den förra var under lång tid den dominerande, den handlade om att skriva algoritmer som ska lösa specifika problem. Ju snabbare datorerna var desto fortarare och mer avancerade problem kunde de lösa. Ett sådant problem, som fick stor uppmärksamhet under 1990-talet, var om en dator kunde slå en människa i schack. 1997 skedde just det, när ibm:s Deep Blue slog den dåvarande världsmästaren i schack, Garry Kasparov. I grunden är förhållningssättet detsamma som om en matematiker skulle sitta och räkna – med den skillnaden att datorn kan göra fler, snabbare och noggrannare uträkningar.

Den senare, icke-symboliska artificiella intelligensen, bygger på ett helt annat förhållningssätt. I stället för att beskriva hur en uppgift ska lösas, får systemet själv pröva sig fram till lösningen. Icke-symbolisk artificiell intelligens skriver sina egna algoritmer och försöker hela tiden göra dem bättre. Problemet är att det ofta är svårt, ibland omöjligt, att förstå hur AI:n kom fram till resultatet.

– Maskinen skapar sin egen mening ur mönster i datan. Det är denna datadrivna artificiella intelligens som har dominerat utvecklingen det senaste decenniet, säger Virginia Dignum.

Sedan 1960-talet har utvecklingen inom artificiell intelligens gjort succesiva hopp för att sedan stagnera – det som brukar benämnas AI:s sommar- och vinterperioder.

– 1990-talet var en sommarperiod då man gjorde stora framsteg inom symbolisk AI. Det var då Garry Kasparov blev besegrad. Man trodde att detta var ett stort genombrott som kunde överföras på alla andra områden. Men det funkade inte så. Ett av problemen var att det saknades tillräcklig datakraft vid den tiden. Men ett större problem var att man insåg att inte all kunskap kunde beskrivas på ett enkelt sätt. Du kan få maskinen att lösa ett specifikt logiskt problem, men många problem handlar inte bara om logik, du måste ta hänsyn till helt andra saker. För att AI-system ska fungera måste de ju också förstå människor och mänskligt beteende, vilket är allt annat än logiskt, säger Virginia Dignum.

Själv insåg Virginia Dignum betydelsen av den sociala dimensionen av artificiell intelligens när hon runt millennieskiftet arbetade vid en bilfabrik i Nederländerna. Dignum ledde ett team som med hjälp av artificiell intelligens räknade hur bilarna skulle byggas efter kundernas önskemål.

– Chefen för fabriken var väldigt nöjd med vårt arbete, men en gång sa han till mig: ”Nämn aldrig för någon att vi använder artificiell intelligens”.

Hon skrattar åt minnet.

Var de rädda för artificiell intelligens?

– Det var inte så att de trodde att en Terminator skulle kliva ut på fabriksgolvet. Artificiell intelligens framstod bara som något märkligt och konstigt som man inte ville skylta med, trots att det var mycket användbart.

Kontrasten gentemot i dag är stor, när artificiell intelligens marknadsförs som ett försäljningsargument i allt från hälsoappar till smarta hem.

Men i bilfabriken – hon får ännu inte avslöja vilken det var – drog Virginia Dignum en viktig lärdom om artificiell intelligens som är grunden för hennes arbete i dag.

– Ingen bil var den andra lik. Olika människor i olika länder och olika kulturer föredrog olika färger, funktioner, tillval, storlekar. I vissa länder satt ratten till vänster, i andra till höger. Jag insåg att för att fungera måste artificiell intelligens alltid förhålla sig till ramar, lagar, system och regler som vi skapar. Det handlar inte bara om fysiska och juridiska lagar, utan också om etiska och moraliska lagar.

Med andra ord – hur uppfostrar vi framtidens artificiella intelligens att bli en god kraft som förbättrar våra liv? Det var hennes sökande efter svaret på den frågan som till slut förde Virginia Dignum till Umeå.

En unik tidpunkt

Stockholm, april 2021

Varje dag laddar mänskligheten upp 2,5 kvintillioner bytes på internet. Eller för att göra det mer förståeligt: varje sekund skapar varje person 1,7 megabyte av data. Det är ungefär den mängd data som en gammal hederlig diskett innehöll. Vi efterlämnar därför ungefär ett lastbilsflak, 100 000 fysiska disketter, med data efter oss varje dygn. Och det är bara början. Etableringen av 5G och utvecklingen av IoT (Internet of Things) – med uppkopplade accessoarer, hem, byggnader, fordon och hushållsapparater, kommer insamlingen av data öka exponentiellt. Antalet datapunkter om dig kommer att bli fler och fler – i de flesta fall utan att du märker någonting. Inte ett steg, inte ett hjärtslag kommer att gå obemärkt förbi. Vi går mot en utveckling där det kommer att vara lättare att räkna upp vad som inte digitaliseras i våra liv än vad som gör det.

Det utvecklingssteg som skulle övergå i den varmaste AI-sommaren i historien påbörjades för ungefär tio år sedan. Under andra hälften av milleniets första decennium hände mycket samtidigt. Sociala medier fick sitt genomslag, det snabbare 3G-nätet etablerades och smartphones slog igenom. Techbolag som Amazon, Google, Facebook började samla på sig allt större mängder data, samtidigt som insamling och lagring blev billigare. 2009 började man tala om denna revolution som big data. Mellan 2013 och 2020 växte världens samlade data från 4,4 zettabytes till 44 zettabytes. 2025 tros denna siffra ha stigit till 163 zettabytes. En fråga som uppstod var hur vi skulle kunna använda och analysera all denna data.

– Artificiell intelligens utvecklades fram till 1990-talet men sedan tog det stopp. Det berodde på att man saknade den viktigaste ingrediensen – data, säger Henrik Landgren, partner på eqt Ventures och ansvarig för utvecklingen av Motherbrain, ett system för investeringar som drivs av artificiell intelligens.

Henrik Landgren pratar som en person som har bråttom in i framtiden, orden sprutar fram i ett associativt flöde som är lika snabbt som precist.

Han börjar med att be om ursäkt för att han dyker upp en kvart försent – men intresset för Motherbrain är just nu så intensivt att mötesbokningar bokstavligt talat ligger staplade på varandra.

Henrik Landgren lärde sig programmera ungefär vid samma ålder som han lärde sig att läsa – i sexårsåldern. Han var för ung för 1990-talets it-yra – men helt klar över att hamna i centrum för nästa. 2010 började han på Sveriges och snart ett av världens hetaste techbolag, Spotify, som då ännu inte hade 1 miljon användare. Landgrens uppdrag var att ge Daniel Ek och de andra ingenjörerna i företaget rådgivning, baserad på data.

– På den tiden fanns ingen dataplattform eller något analysteam på Spotify, så mitt uppdrag blev att skapa det. Då var möjligheten att lagra varje klick från varje användare någonting helt nytt, säger Henrik Landgren, som har ett närmast passionerat förhållande till data.

Under de kommande fem åren byggde Henrik Landgren upp Spotifys hyllade analysteam.

– Jag kom verkligen dit vid en unik tidpunkt. Det var en helt ny era då allt förändrades. Det var inte bara så att datan hjälpte oss att fatta beslut – datan påverkade hur hela företaget styrdes, hur man utvecklade produkter, hur man marknadsförde, hur man samarbetade med artister. Vi på Spotify var pionjärer på även den globala arenan.

Men det som verkligen förändrade saker var artificiell intelligens.

– Big data-vågen blev en pånyttfödelse för artificiell intelligens. Det fullkomligt exploderade, säger Landgren. På Spotify fick AI snabbt en viktig funktion för att ta fram rekommendationer till användarna, men i dag används det till mycket mer. Nyligen sökte Spotify ett patent för att med hjälp av AI upptäcka plagierad musik.

Efter fem år lämnade Henrik Landgren Spotify för investmentbolaget eqt Ventures, där han fick uppdraget att bygga upp en fond som skulle ledas av den nya tekniken.

– Jag såg att hela finansvärlden låg efter. När jag träffade investerare på Spotify fick jag hela tiden ”gammelfrågor”. De hade inte förstått vad som hade hänt. Vi var så mycket längre fram. Där såg jag en möjlighet.

De senaste åren har han ägnat åt att bygga upp investeringsplattformen Motherbrain, som samlar in mängder av data om företag. Till en början ägnade sig teamet åt att bygga upp statistiska modeller för att kunna analysera datan.

– Vi byggde upp massor med statistiska regler för att kunna hantera datan och sålla ut de bästa företagen. Det funkade ganska bra.

Men för tre år sedan hände något, när man i stället för en statistisk modell applicerade artificiell intelligens.

– Vår statistiska modell slogs ut direkt. Det var ganska irriterande att se att något som vi hade ägnat flera års arbete var helt onödigt.

Motherbrain samlar in finansiell data, men också all text som har skrivits om bolagen och tidigare investerare, samt information om de individer som arbetar på och driver företagen.

Tidigare i år gjorde Motherbrain sin första exit när Peakon, ett företag för personanalys, såldes för 700 miljoner dollar.

– Jag skulle åka till en techkonferens i Köpenhamn och frågade Motherbrain: ”Vilka är de mest intressanta bolagen där just nu?” Då dök Peakon upp, säger Henrik Landgren och fortsätter:

– Det är väldigt coolt. Motherbrain hittar bolag som vi aldrig annars skulle ha tittat på. Ibland är det nästan magiskt hur den arbetar.

AI kraftigare än kärnvapen

Stockholm, april 2021

Ett rött öga stirrar på mig genom skärmen. Det är HAL 9 000, populärkulturens mest ikoniska artificiella intelligens från 2001 – En rymdodyssé. Anders Arpteg befinner sig i ögat, omgiven av ett rött glödande sken, som enligt Arpteg är AI-genererat. Spexet säger mycket om Arptegs förhållande till teknik. Trots att han framträder i skenet av en av filmhistoriens främsta superskurkar har Arpteg en mycket optimistisk hållning till artificiell intelligens.

– AI kommer att förbättra allt. Jag, liksom många med mig, tror att den samhällsförändring vi kommer att se tack vara artificiell intelligens är större än transistorn eller internet, berättar Arpteg som beskriver sig som ”en gammal gubbe” inom AI.

För snart ett decennium sedan rekryterades han till Spotifys analysteam av Henrik Landgren. Men redan då hade han arbetat med artificiell intelligens i över ett decennium. I början av 2000-talet, mitt under den djupaste AI-vintern, doktorerade Henrik Arpteg om artificiell intelligens.

– Jag hade nog tänkt fortsätta inom akademin, men drogs över till näringslivet när jag fick startkapital. Jag insåg snart att det var mer givande att arbeta med AI praktiskt.

I dag arbetar Henrik Arpteg som forskningschef på Peltarion, ett mjukföretag inom AI som grundades i Sverige redan 2004. Men det är under de senaste åren som expansionen har tagit fart, och företaget har vuxit från två till över 80 anställda. Peltarions mål är att överbrygga det som Arpteg beskriver som ett av de största orosmomenten inom utvecklingen: den stora AI-klyftan.

– På ett par år har de stora teknikföretagen rusat om alla andra inom AI-utvecklingen. De som har stora resurser, forskningsgrupper och datamängder har ett enormt försprång, som vanliga företag inte kan tävla med.

Enligt Henrik Arpteg är det i dag företag som leds av AI som styr den globala ekonomin.

– Titta på vilka företag, inom alla sektorer, som är högst värderade. Där finns Google, Amazon, Microsoft, Facebook, Alibaba, Tencent, Badoo. Alla företag som ligger på topp tio-listan i världen är teknikföretag som drivs av data och artificiell intelligens. Det här är något som hänt bara under de senaste fem åren. Det är den stora klyftan, vi måste komma i kapp dem.

Peltarions affärsidé är att erbjuda avancerade AI-system till företag, myndigheter och organisationer som inte själva har resurser eller kunskap att utveckla dem. Just nu arbetar Arpteg med allt från AI-lösningar som ska hjälpa tandvården att minska antibiotikautskrivning och läkare att hitta hjärntumörer till effektivare återvinning och bättre marknadsundersökningar.

Anders Arpteg vill poängtera att de stora möjligheterna finns när människor och artificiell intelligens samarbetar.

– Så som jag ser det kommer inte AI att ersätta människor, utan komplettera oss. Den stora möjligheten ligger i att AI kan ägna sig åt sådant som är svårt, tråkigt och krångligt, som administration. Inom sjukvården kan det betyda att vi i stället får mer tid till patientvård.

Anders Arpteg tror inte heller att den nuvarande högsommaren för AI kommer upphöra – trots att AI-utvecklingen sedan starten i mitten av 1900-talet gått i tydliga utvecklingssteg.

– Skillnaden i dag är att AI gör enorm praktisk nytta. De stora teknikföretagen tjänar enormt mycket pengar på detta. Och tekniskt sett ser jag inga hinder för att utvecklingen ska fortsätta. Vi har teknik, datorkraft och resurser på ett helt annat sätt i dag, säger Anders Arpteg som däremot ser ett annat hot: vår förmåga att som civilisation hantera denna enormt kraftiga teknologi.

– Skulle vi missbruka AI-teknologin med autonoma vapensystem, övervakning och sociala kreditsystem som i Kina, då kan vi se en stor backlash. Det är inte alls orimligt att någon kan lyckas bygga en AI-bot som kan spräcka hela den globala börsen.

Enligt Arpteg skulle ett sådant scenario kunna slunga oss in i en ny AI-vinter, med avståndstagande från tekniken och hårda regleringar som följd.

– Det är upp till oss nu. Ska vi använda AI som en god eller ond kraft? AI skulle kunna hjälpa oss att rädda sjukvården, ekonomin, energifrågorna och att nå fn:s globala mål. Men det skulle också kunna bli tvärtom.

Anders Arpteg är dock i slutändan optimistisk. Han pekar på att vi historiskt har lyckats hantera ny teknik bra.

– Vi lyckades reglera kärnvapen, kemiska vapen och genteknik. Vi har faktiskt lyckats hantera kraftfulla tekniker. Det som är skillnaden den här gången är att artificiell intelligens är så mycket kraftfullare än alla dessa.

Kraftfullare än kärnvapen?

– Ja. Det råder ingen tvekan om det.

AI blir osynligt

Stockholm, april 2021

”Vi står inför ett enormt teknikskifte”, sa kth-professorn Bo Wahlberg när wasp-programmet lanserades 2015.

Bakgrunden till satsningen var en jättelik donation från Knut och Alice Wallenbergs stiftelse på 1,3 miljarder kronor. wasp stod för Wallenberg Autonomous Systems Program. Då talades inte så mycket om AI utan mest om ”autonoma system”. Men det skulle snart förändras. När stiftelsen två år senare gjorde en ny miljarddonation till wasp var det artificiell intelligens – maskininlärning och djupinlärning, som stod i centrum.

Då hade wasp redan vuxit till Sveriges enskilt största forskningsprogram, där kth, Chalmers, Lunds, Umeås och Linköpings universitet var involverade. Stiftelsen, och indirekt Wallenbergfamiljen, ansåg att Sverige hade hamnat på efterkälken inom artificiell intelligens. Det var något som storsatsningen wasp skulle råda bot på.

Men det gavs också uttryck för en viss tveksamhet om vad den nya teknologin skulle föra med sig: ”Teknikutveckling kan leda till mycket gott, men också skapa nya utmaningar”, sade Marcus Wallenberg. Därför skulle de även stödja forskning som undersökte vad artificiell intelligens kan få för konsekvenser. Året därpå rekryterades Victoria Dignum till Umeå universitet och fick ansvar för en ny del av wasp-programmet, wasp-hs (Humanities and Society).

Som programdirektör ansvarar Dignum över 660 miljoner kronor och ett 30-tal forskningsprojekt. Målet är att genom tvärvetenskapligt arbete kartlägga sociala, etiska, filosofiska, ekonomiska och juridiska konsekvenser av AI-revolutionen.

Hennes uppdrag är försöka att spana in i den nära framtiden, men det innebär också att blicka bakåt.

– Data handlar alltid om det förflutna, aldrig om framtiden. Vi har inte data om framtiden, bara om det som redan har hänt, säger Virginia Dignum leende.

Det är en av hennes käpphästar. De resultat vi får från dagens algoritmer är aldrig bättre än den data vi använder.

– Ofta talar människor i techvärlden om data som en råvara, som om det vore guld eller olja. Men data är aldrig en råvara – den är alltid partisk. Föreställningen om att det finns ren, opåverkad data är fel. Redan när vi samlar in data gör vi en värdering av vilken data som är värd att samla på. Den innehåller alltid värderingar som också kommer att påverka, och ibland förstärka, de resultat vi får. Världen är orättvis, vilket är förklaringen till varför de resultat vi får från artificiell intelligens ofta är orättvisa, säger Dignum.

Som medlem i eu-kommissionens expertpanel har Dignum varit med om att utveckla eu:s förslag till ett rättsligt ramverk för AI, som presenterades i slutet av april. I rådet sitter både akademiker från hela Europa, och företagsledare och entreprenörer som Jaan Tallinn, estnisk fysiker och programmerare som var med och byggde upp Skype i början av 2000-talet. Han grundade senare Centre for the Study of Existential Risk och Future of Life Institute i Cambrigde, som har ägnat sig mycket åt AI:s risker.

eu-kommissionens expertpanel har hjälpt till att utveckla grunderna, men förordningen kommer först att börja gälla när den har antagits av Europaparlamentet och medlemsländerna.

eu:s nya AI-förordning delar in artificiell intelligens i olika riskgrupper, från ”oacceptabel risk” till ”minimal risk”. Den förra, som kommer att förbjudas helt, är till exempel social poängsättning, manipulation av mänskligt beteende eller leksaker som uppmuntrar barn till farliga beteenden. De flesta applikationer hamnar dock i den senare kategorin. Där emellan finns två ytterligare graderingar: ”hög risk” och ”begränsad risk”.

Virginia Dignum menar att användandet av AI i grunden handlar om vilka värden vi vill lyfta fram. Hon nämner att ”effektivitet” ofta läggs fram som ett starkt vägande argument för AI – att mycket handlar om att systemen gör saker effektivare och lönsammare. Dignum menar dock att det finns andra värden som vi borde fokusera mer på.

– Det är ju mer effektivt att köra i 200 km/h mellan Umeå och Stockholm – men är det den bästa lösningen? Sådant tar man tyvärr inte hänsyn till ännu inom AI-världen.

Hon menar att även mjuka värden måste implementeras i koden för att AI ska kunna bli en god kraft. Löser vi inte det kan vi närma oss en ny AI-vinter.

– En del skulle säga att vi redan är inne i hösten. Den frågan som oroar är om dessa system kan vara rättvisa och inte diskriminerande – kommer vi att kunna lita på dem? Det är den stora ödesfrågan, säger Dignum, som samtidigt tror att vi kan närma oss en annan slags skymning.

– Jag tror att AI kommer att bli mer och mer osynlig, så att vi slutar tänka på den. Ibland brukar man säga att när AI har löst ett problem så finns den inte längre, för då syns den inte. Artificiell intelligens kommer troligen att bli något normalt som är helt integrerat i vår vardag. Då är AI inte längre sexigt.