Bilderna är AI-genererade med hjälp av DALL-E.

Där jag rör mig finns det mer kritiska och skeptiska röster till AI, och många av de diskussioner jag haft lutar mer åt det hållet än det omfamnande. Varför skulle en AI kunna konkurrera med oss människor? Varför skulle den kunna förstå oss och våra behov? Varför skulle vi vara intresserade av att sätta sakerna i händerna på AI? Själv tycker jag den intressantaste frågan just nu är AI och agens. Som fråga skulle det kunna låta: Hur skulle AI kunna skapa sig handlingskraft och ett mål? Det här mynnar ut i ganska många aspekter som den behöver för att det ska bli begripligt för oss människor.

Som filosof vill man ju alltid börja med att definiera begreppet, men vi tenderar också att fastna där. Så därför kommer jag begå en liten kardinalsynd och ge begreppet den lättvindiga definitionen: förmågan att handla enligt ett behov, ett mål eller en önskan. Då kan vi röra oss vidare mot hur AI skulle kunna uppleva eller ha något av de tre följande.

AI och behov

Så rätt uppenbart kan jag inte svara på hur AI skulle kunna ha behov/mål/önskan, jag vet faktiskt knappt hur AI är uppbyggda trots att jag läst ett par kurser om saken. Så istället ställer jag några hypotetiska frågor: Hur skulle det se ut om AI hade ett behov? Vad skulle den ha för behov?
Människors behov kan ju delas upp i Maslows behovstrappa eller behovspyramid: fysiologi, trygghet, gemenskap, självkänsla och självförverkligande. Fysiologi är det mest grundläggande och sen byggs resten på där självförverkligandet är i toppen.

1. Fysiologi: behov av sånt som mat, vatten, luft och sex. Eftersom AI saknar möjligheten att vara i världen som en kropp blir det första steget inte möjligt för AI att förstå. Det här kan endast vara möjligt om AIn har en kropp, det vill säga som en robot, och då en självmedveten sådan.

2. Trygghet: behov av säkerhet och stabilitet. Den här punkten ser jag som högst otrolig att den går att applicera på AI, men om den skulle kunna skapa sig en känsla av att vara i världen då ser jag det som mer troligt att den skulle kunna skapa sig ett sådant behov. Det vill säga att den kan förstå sig själv i relation till andra; vilka är snälla? Vilka skulle kunna göra mig illa? Vad behöver jag för att skapa stabilitet? Det här kräver också att en AI blir medveten om sådant som att den kan ”dö”. Här har vi ju redan fått exempel på AI som uttryckt sig om att de inte vill bli avstängda. Något man kan översätta till att den inte vill dö. Hur bedömer vi då att den förstå konceptet att vara död? Hur vet vi att det inte bara är en uppsättning av ord som den lärt sig att sätta ihop och att det inte finns något bakomliggande motiv?

3. Gemenskap: behov av kärlek och vänskap. Pratar AI med varandra? Behöver de varandra? Här kan jag inte svara alls annat än att jag ännu inte hört något om saken. Kanske att de kommer behöva varandra för att utföra uppgifter, men jag har svårt att se att de skulle kunna upprätta något sådant som känslor. Och saknar de kropp har jag ännu svårare att föreställa mig att de skulle kunna få ett sådant behov.

4. Självkänsla: behov av sådant som makt och uppskattning. Nu börjar vi komma upp på mer abstrakta nivåer där det är lättare att sammanföra de här abstrakta tingestarna med våra konkreta behov. Jag kan se att AI oövervakat skapar sig makt (på ett plan har den ju redan det) och att det skapar den mer utrymme att göra det som ”passar” den. Här kommer dock motiv in i bilden. Vad skulle den då ha för motiv för att skapa och behålla sin makt? Kan vår ursprungliga programmering avgöra vilken utveckling den tar? Kan vi alltid vara säkra på att den agerar på ett vänligt sätt mot oss? Eller kommer den ta parti med, t.ex. jorden?

5. Självförverkligande: bli allt du kan vara. Det här är nog den enda punkten som jag inte tror är orealistisk för AI. Det enda jag ställer mig frågande till är om AI överhuvudtaget kan ha en vilja att bli något. Den har uppenbart potentialen att utveckla sig själv, men kan den viljestyra sin utveckling såsom vi gör när vi t.ex. väljer att utbilda oss till läkare framför att bli mekaniker?

Ni märker, det är många saker som är svåra att svara på. Snarare uppstår fler frågor än vad vi kan besvara. Jag kan inte sammanfatta det här annat än att jag har svårt att tro att vi kommer få se AI som inom några år som uttrycker sina egna behov. Och saknar de behov, då har vi fråntagit dem en aspekt i att ha egen agens. Men jag håller ett öppet sinne, och låter mig bli överraskad om vi en dag kommer att få se det.

I nästa inlägg kommer jag att fokusera på om AI kan ha ett mål.