Nick Bostrom: ”Superintelligens. Vägar, faror, strategier”


Nick Bostrom: ”Superintelligens. Vägar, faror, strategier”
Fri Tanke Förlag 2020, pocket, 520 s. ISBN: 9789188589897

Adlibris Bokus

Artificiell intelligens, AI har fascinerat mig sen ungdomsåren, redan innan begreppet blivit allmänt känt. (AI-forskningen kan anses ha startat år 1956 vid Dartmouth Summer Project). Då tyckte jag det var spännande med tänkande maskiner. På senare år har jag blivit mer tveksam och den skepsisen förstärks efter läsningen av Bostroms bok.

Man kan i sammanhanget knappast låta bli att nämna Sf-filmen ”År 2001 – ett rymdäventyr” från 1968. Ombord på ett rymdskepp på väg att utforska Jupiter finns den med artificiell intelligens försedda datorn HAL 9000. Filmen illustrerar verkligen faran med att släppa lös en superintelligens. Just det som Bostrom tar upp i sin bok.

Boken är förstås mer utförlig än så. Den beskriver olika teoretiskt tänkbara sätt att skapa superintelligens, t ex genom att påverka den mänskliga evolutionen eller genom hjärnemulering – att kopiera en mänsklig hjärna till digital form. Det verkar dock mest luta åt utveckling av maskinintelligens.

Den digitala superintelligensen kan skapas i olika form som Bostrom kallar Orakel (ett system som besvarar frågor), Andar (ett system som verkställer kommandon), Suveräner (ett system som är utformat för öppen autonom drift), Verktyg (ett system som inte är utformat för att uppvisa målinriktat beteende). Alla formerna, eller Kast som de kallas i boken har olika fördelar och nackdelar. Framför allt kontrollfunktionen, säkerheten tas upp. Förmågan till snabb självförbättring är just den avgörande egenskap som gör det möjligt för ett AI-frö att utlösa en intelligensexplosion.

Snabb superintelligens är ett system som kan göra allt som ett mänskligt intellekt kan göra, men mycket snabbare. Snabb uppåtsväng av intelligenskurvan, då ”lyftkraften” i systemet passerar en brytpunkt då fortsatta förbättringar i systemet främst drivs av systemets egna handlingar kan leda till singleton – en världsordning där det finns en enda beslutsfattande instans på global nivå. Kapitel 11 Multipolära scenarier tar upp vad som kan hända om flera snabbutvecklingar tillkommer samtidigt. Här blir det snarast fråga om statsvetenskap med förhandlingstaktik mellan två eller flera agenter, eller i värsta fall krig.

Ibland kan framställningen tyckas sväva ut lite väl långt i riktning mot science fiction. Men maskiner behöver varken mat eller luft att andas, så varför skulle de inte vilja ta över även världsrymden om ingen förprogrammerad moral eller försiktighet skulle hindra dem.

Värdeuppbyggnad i de maskiner man vill skapa måste av säkerhetsskäl på något sätt byggas in så att maskinen tar hänsyn till mänskliga värderingar och samtidigt undviker mänskliga brister. Flera kapitel mot slutet av boken behandlar riskerna med en utvecklad superintelligens.

Inför utsikterna till en intelligensexplosion i det sista kapitlet ”Dags att mobilisera” liknar Bostrom människorna vid små barn som leker med en bomb. ”Chansen att vi alla kommer att vara förståndiga nog att lägga ifrån oss den farliga grejen verkar nästan försumbar. Någon liten idiot kommer säkert att trycka på knappen bara för att se vad som händer”

Texten i översättning av Jim Jakobsson är klar, utförlig och verkar vara väl genomtänkt, facktermerna få. Men det gäller att vara koncentrerad om man ska hänga med i Bostroms tankekedjor.

Nick Bostrom (Nicklas Boström) född 1973 är en svensk filosof verksam vid Oxford University i Storbritannien. Han räknas till en av världens skarpaste hjärnor.

https://en.wikipedia.org/wiki/Nick_Bostrom
https://sv.wikipedia.org/wiki/Nick_Bostrom
https://www.nickbostrom.com/

Om Börje

Kulturupplevelser och mina bilder
Det här inlägget postades i böcker, samhällsdebatt. Bokmärk permalänken.

2 kommentarer till Nick Bostrom: ”Superintelligens. Vägar, faror, strategier”

  1. Börje skriver:

    Dagen efter att jag postat texten om Superintelligens skriver Håkan Lindgren en krönika om artificiell intelligens i SvD: ”Låt inte de fantasilösa ta makten över poesin”
    https://www.svd.se/lat-inte-fantasilosa-ta-makten-over-poesin.

    Ännu ett skäl att se upp för övertron på artificiell intelligens.

  2. Börje skriver:

    Bokrecension i Aftonbladet – Cecilia Djurberg: ”Kan maskiner måla meningsfullt?
    Kreativ artificiell intelligens börjar ta över konsten”
    https://www.aftonbladet.se/kultur/bokrecensioner/a/K3OkzM/kan-maskiner-mala-meningsfullt

    ”Kan maskiner måla, komponera musik och skriva poesi eller romaner? Detta har redan bevisats, så frågan är föråldrad. Det intressanta i dag är i stället hur det görs, hur meningsfullt det blir och inte minst varför maskiner över huvud taget ska syssla med detta? Det är just sådant Marcus du Sautoy undersöker i boken De skapande maskinerna — Hur AI lär sig koda mänsklig kreativitet. ”

    Jag har inte läst boken och det är tveksamt om jag kommer att göra det. Är detta ännu ett trist exempel på människans kommande utplåning via AI?

Kommentera

E-postadressen publiceras inte. Obligatoriska fält är märkta *


två + = åtta