Centralplanering är och förblir science fiction

Den andra januari i år skulle science fiction författaren Isaac Asimov ha fyllt 100 år – eller det var åtminstone vad han trodde. Hans föräldrar hade inte exakt koll på när han var född, så de valde ett datum och det blev då han kom att fira sin födelsedag. Asimov var en oerhört produktiv skribent. Han skrev över 500 böcker i olika ämnen, ofta från en lekmans synvinkel.

Det var emellertid hans science fiction som kom att bli världskänd. Särskilt den firade Stiftelseserien, som började som en trilogi, men kom att expandera in i ett flertal böcker och några uppföljare skrivna av andra författare.

Stiftelsens grundpremiss är enkel, men samtidigt väldigt intressant. Forskaren Hari Seldon utvecklar en ny vetenskap – psykohistoria – som utgör en sorts social fysik där den galaktiska civilisationen kan behandlas som vilket fysiskt system som helst: studeras, kartläggas och förutsägas.

Det är det sista som är det mest revolutionerande och – enligt Seldon – bara möjligt när det finns tillräckligt många människor för att man ska kunna börja bortse från individerna och i stället hitta robusta mönster i det galaktiska samhället.

Knappt har Seldon klarlagt detta förrän hans beräkningar visar att hela galaxen står inför en kollaps som kommer att vara i 30 000 år. Ekvationerna visar emellertid också att om man vidtar rätt åtgärder så kan man förkorta denna kollaps till endast 1 000 år, och därefter kan återuppbyggnaden börja igen. Seldon påbörjar arbetet med att sätta samman en stiftelse som ska kunna ombesörja denna räddningsaktion och sedan får läsaren följa äventyret.

Med artificiell intelligens, enorma datamängder och fantastisk beräkningskraft borde vi väl äntligen kunna modellera och planera världen?

Asimovs psykohistoria har inspirerat vitt skilda personer som entreprenören Elon Musk, Googles chefsekonom Hal Varian och ekonomipristagaren Paul Krugman. De har alla sett något i Asimovs idé som fått dem att vilja försöka förstå samhälleliga mönster på en djupare nivå.

Många tror dessutom att vi i dag kan förverkliga Asimovs psykohistoria: med artificiell intelligens, enorma datamängder och fantastisk beräkningskraft borde vi väl äntligen kunna modellera och planera världen?

Denna åsikt omfattas av till exempel den brittiska journalisten Paul Mason och Jack Ma, Alibabas grundare. De anser, med en växande skara andra personer, att planekonomin misslyckades för att våra verktyg inte var bra nog. Men med dagens verktyg borde vi kunna förverkliga Asimovs psykohistoria och planera samhället i detalj.

Låt oss titta närmare på denna idé. Det kan vara värt att se på några olika versioner av den.

Den kanske starkaste formuleringen av den tanke som återkommer här skulle kunna lyda:

(i) Med stora datamängder och artificiell intelligens kommer vi att kunna göra en så korrekt modell av verkligheten att det blir inte bara möjligt, utan överlägset bättre att planera samhället i sin helhet än att lämna det till fria marknader och spontan ordning.

Om vi antar att detta är sant så följer att vi också är moraliskt förpliktade att lägga så mycket resurser på detta projekt som möjligt, eftersom allt annat innebär att vi medvetet skapar ett samhälle som är sämre än det skulle behöva vara om vi bara hade rätt verktyg.

Det finns emellertid flera olika problem med denna tanke.

Det första har att göra med oss själva. Det finns anledning att fundera på vad det skulle göra med mänsklig innovationskraft och entreprenörskap om vi visste att allt kunde planeras bättre än något vi försöker åstadkomma själva. Är vi verkligen skapade på ett sådant sätt att vi då naturligt skulle sluta upp bakom ett enda projekt och bidra till detta?

I den utopi som följer här måste vi anta att alla bidrar efter bästa förmåga till en plan som ingen förmodligen kan förstå i detalj. Komplexiteten i en plan av dessa dimensioner skulle helt enkelt vara alltför stor för att vi enkelt ska kunna förklara den. Det skulle krävas att vi överger vår individuella rätt att ha en annan åsikt än modellen, åtminstone en annan bättre åsikt.

Science fiction-författaren Stanislaw Lem påpekade att vi skulle kunna bevara individens fria vilja att fatta aningens sämre beslut, men att det i så fall skulle vara i princip den enda fria vilja eller initiativkraft som återstår i Den Stora Planens samhälle.

Det andra problemet är mer intressant och har att göra med just komplexiteten och den underliggande premissen. När vi tror att ett system ska kunna förstå samhället i sin helhet och modellera det så väl att det går att förutsäga och planera i detalj – då föreställer vi oss att den som modellerar befinner sig utanför samhället. För att den här varianten av psykohistoria ska kunna fungera så måste planen vara närmast hemlig, då den kommer att förändra systemet om den blir känd. Det enda sättet att lyckas modellera samhället i sin helhet är att distansera sig från det – och det gör det svårt att sedan genomföra planen.

Det betyder i sin tur att samhället blir mindre och mindre förutsägbart, och svårare och svårare att planera –  inte tvärtom.

Det tredje problemet har att göra med föreställningen att vi alla skulle enas om en enda modell, och arbeta med just den. Ta de olika finansiella marknaderna i dag – det skulle kanske vara möjligt att förutsäga dem om det bara var en enda person som försökte med en enda modell och ett enda system.

Naturligtvis är det inte vad som händer – i stället finns det en mängd olika modeller, aktörer och förutsägelser som alla förändrar systemet hela tiden. Teknik, AI, data och modeller går inte att behandla som skilda från det system som de försöker förutsäga, utan är en del av detta system.

Ett annat, mer formellt, sätt att konstatera detta är att säga att tekniken aldrig är exogen i relation till samhället, utan alltid endogen. Tekniken och den tekniska förändringen är en del av det samhälle som den används för att modellera och förutsäga.

En enda plan skulle utgöra en enorm svaghet för vilken exploatör som helst som vill attackera systemet, och planekonomin skulle därmed bli skörare än någonsin tidigare.

Detta tredje problem leder också till en annan insikt: tekniken leder till att samhället blir alltmer komplext – med flera olika interagerande delar som sammankopplas allt snabbare och på allt fler olika sätt. Det betyder i sin tur att samhället blir mindre och mindre förutsägbart, och svårare och svårare att planera – inte tvärtom.

Det är förmodligen här den verkliga utmaningen ligger för den som har en hayekiansk övertygelse om spontan ordning: det blir allt svårare för våra olika institutioner att skapa denna ordning på ett robust sätt, utan att också skapa nya risker för kollaps och katastrofal förändring.

Vi kan konstatera att denna, starka, formulering av den psykohistoriska idén alltså inte håller. Samtidigt är den ganska långt från vad Asimov beskriver. Asimovs psykohistoria kan förutsäga stora mönster i samhällets utveckling och identifiera nyckelhandlingar som kan påverka dessa mönster. Flera personer har påpekat att detta påminner mer om Cass Sunsteins idé om ”puffar” eller ”nudges”, men på civilisatorisk nivå.

Den mycket svagare formuleringen av psykohistoriens nytta skulle alltså kunna bli något i stil med:

(ii) AI, stora datamängder och nya modeller av olika slag borde kunna identifiera nyckelpunkter där ett minimum av intervention ger ett maximum av samhälleliga resultat.

Denna, andra, hypotes ter sig enormt mycket mer rimlig och omfattas förmodligen av de flesta som ser tekniken som ett löfte i politiken. Dominic Cummings, premiärminister Boris Johnsons rådgivare, sägs allmänt vara av åsikten att politiken och samhället nu måste börja arbeta med dessa nya verktyg.

Samtidigt är det svårt att se varför de invändningar som vi riktade mot (i) inte också kan riktas mot (ii). Varför tror vi att det skulle bli enklare att hitta interventioner i ett system som snabbt blir alltmer komplext? Varför skulle människor reagera bättre på denna typ av samhällsplanering?

Inget i samhället blir enklare med teknik, men det blir rikare och mer intressant.

Det ter sig sannolikt att (ii) är lika falsk som (i) – och att utmaningen nu i stället handlar om hur vi kan hantera en värld där tekniken gör samhället alltmer komplext och svårförutsägbart. Om vi ska kunna acceptera detta måste vi också överge den illusion av kontroll som tekniken alltid har gett oss. Från cybernetikens löften om ett rationellt samhälle till visionen om det post-industriella samhället, informationssamhället och nu senast ett samhälle som kan ordnas upp av artificiell intelligens, har vi missuppfattat teknikens väsen som en sorts kodifierad rationalitet.

Tekniken är något mycket mer intressant än så – den är ett sätt för oss att påverka vår verklighet och utveckla nya idéer – en motor för kreativitet och innovation. Inget i samhället blir enklare med teknik, men det blir rikare och mer intressant.

Asimov själv tillhörde kretsarna kring det demokratiska partiet och det går naturligtvis att spekulera kring om hans tekniksyn bär spår av New Deal-tänkande eller liknande, men det leder förmodligen ingenstans. Vad som är tydligt är att tekniken i Asimovs berättelser är en vetenskapsmans teknik – en teknik som lydigt följer instruktioner, 1950-talsteknik.

De kända robotlagarna är ett exempel på detta – och att de inte används alls i dag är också ett tecken på att vi håller på att lära oss att tekniken inte fungerar så. De som arbetar med AI är mer intresserade av hur system kan bilda flexibla normsystem än att implementera förment exakta men meningslösa robotlagar.

Asimovs böcker är fortfarande fantastiska, men vi måste kanske överge den tekniksyn som lever kvar i mycket av den science fiction som han skrev – och hitta ett nytt sätt att se på tekniken som firar komplexiteten i den värld vi nu lever i.

Framsteget sker till priset av en ständigt ökande komplexitet och leder inte till ett samhälle som kan planeras, utan till ett alltmer öppet och oförutsägbart samhälle.