Cogito, ergo sum. Descartes tänkte sig att vårt medvetande är beviset på att vi verkligen finns, att vi inte bara är matematiska formler som beter sig enligt en viss struktur. Hans övertygelse byggde på att han var säker på att Gud finns och att Gud aldrig skulle lura eller bedra oss. Jag tänker, därför finns jag.

Så länge som hjärnan har varit ett svårutforskat organ har det varit lätt att hänvisa det vi vet mycket litet om till Gud och till själen. Vetenskap och religion har inte nödvändigtvis behövt ta ut varandra.

De senaste tio åren har möjligheterna att utforska hjärnan nått stora förbättringar. Läkarna vet nu en hel del om var i hjärnan olika funktioner sker, alltså vilken del av hjärnan det är som jobbar för att lösa vilka uppgifter, och när.

Arbetsminnet spelar en signifikant roll för den effekt som har med intelligens att göra förklarar Torkel Klingberg i Den lärande hjärnan. Arbetsminnet är en starkare prediktor för utveckling av matematik än intelligens. En dator har betydligt starkare arbetsminne än människan, och än mer omfattande kommer det att bli. Vi är helt rökta vad gäller intelligens.

Humans always die due to some technical glitch. If traditionally death was the speciality of priests and theologians, now the engineers are taking over.

Youval Noah Harari, pratar i Homo Deus om två olika framtidsscenarier – en där vi med hjälp av tekniken gör oss själva till odödliga gudar, och en mer sannolik, där människans värde står på spel i förhållande till den överlägsna artificiella intelligens som vi själva kommer att utveckla.

Max Tegmark i sällskap med flera framstående fysiker och filosofer, hävdar vikten av att vi förstår vad vi vill att AI ska vara, så att det som tar form har rätt mål och restriktioner i sin utveckling. Och eftersom det är en ny intelligens vi pratar om, har det nära koppling till hur vår egen hjärna fungerar. När vi utvecklar artificiell intelligens, är det högst relevant att ha koll på vad det är som gör oss människor unika. Om det finns någonting som gör oss unika.

Väsentliga frågor är  – kommer det att finnas någon skillnad mellan vår och AI:s intelligens? Har vi ett medvetande som AI kommer att få eller inte? Hur påverkar våra sensoriska förmågor vårt medvetande och vad händer om ett AI inte har samma, kanske t o m andra sensoriska upplevelser? Vad vill vi att AI ska göra? Kan vi ge AI etiska restriktioner? Vems etik är det som gäller i sådant fall? Hur länge gäller den etik vi tror är den rätta idag med tanke på hur vår uppfattning om människors, djurs och naturs värde har förändrats över tid? Bryr en intelligent överlägsen art sig som om vad en lågstatusart har att säga?

Max Tegmark beskriver ingående i Liv 3.0 hur någon forskare tänker sig att medvetandet uppstår när Fi – andelen sammanlänkande informationsnoder – är hög nog. Någon annan tror inte det räcker, utan tror att medvetandet är en emergens som likt vågor på vatten är ett beteende som uppstår när tillräckligt många vattenpartiklar samlas. Ytterligare andra tror att medvetandet finns i alla partiklar och att det blir mer och mer komplext ju fler partiklar som kopplas tätt ihop.

Fasta ämnen, vätskor och gaser är alla emergenta fenomen: de är mer än summan av sina delar eftersom de har egenskaper utöver dem som deras partiklar har. De har egenskaper som partiklarna saknar. Så kan medvetandet också vara – i stor grupp har de fler egenskaper utöver sina partiklar. När man sätter ihop en massa partiklar för att skapa allt från vatten till en hjärna uppstår nya fenomen med observerbara egenskaper (Tegmark)

Länge har människan grundat vår självkänsla på idén om människan som särart: övertygelsen om att vi är de smartaste på planeten, och därför både unika och högre stående. Det är klart att det krävs en hel del eftertänksamhet innan vi skapar våra övermän/robotar.

Filosoferna, menar Tegmark, vill kontrastera Homo sapiens (förmågan att tänka intelligent) mot Homo sentiens (förmågan att subjektivt uppleva qualia – en subjektiv upplevelse). Vi vet att vi kan skapa en högre intelligens än oss själva. Nu gäller det att förstå vad vårt medvetande  – det som skänker mening med livet – är. Och än är det ingen som vet – rent vetenskapligt.