Nexus

Den gode nyhed er, at hvis vi undgår både at blive selvtilfredse og modløse, vil vi være i stand til at skabe afbalancerede informationsnetværk, der kan holde deres egen magt i skak. At gøre det er ikke et spørgsmål om at opfinde en eller anden mirakuløs teknologi eller få en genial ide, som af en eller anden grund er undsluppet alle tidligere
generationer. For at skabe klogere netværk må vi derimod opgive både den naive og den populistiske opfattelse af information, droppe vores fantasier om ufejlbarlighed og forpligte os på det hårde og meget prosaiske arbejde, som det er at opbygge institutioner med stærke selvkorrigerende mekanismer. Det er måske det vigtigste budskab, denne bog har at tilbyde.

De klogestes udryddelse
Lad os vende tilbage til det spørgsmål, jeg stillede ved bogens begyndelse: Hvis vi er så kloge, hvorfor er vi så så selvdestruktive? Vi er på en og samme tid både det klogeste og det dummeste dyr på Jorden. Vi er så kloge, at vi kan producere atommissiler og superintelligente algoritmer. Og vi er så dumme, at vi fortsætter med at producere disse ting, selv om vi ikke kan være sikre på, at vi kan kontrollere dem, og at hele menneskeheden kan blive udslettet, hvis vi ikke formår dette. Hvorfor gør vi det? Er der noget i vores natur, der tvinger os til at gå ned ad selvdestruktionens vej?

Mange mennesker er skeptiske over for menneskets evne til at ændre sig og især dets evne til at give afkald på vold og skabe stærkere globale bånd. For eksempel har ”realistiske” tænkere som Hans Morgenthau og John Mearsheimer argumenteret for, at en total konkurrence om magten er et uundgåeligt vilkår i det internationale system. Mearsheimer forklarer, at ”ifølge min teori er stormagterne primært optaget af at finde ud af, hvordan de kan overleve i en verden, hvor der ikke findes noget organ, der kan beskytte dem mod hinanden”, og at ”de hurtigt indser, at magt er nøglen til deres overlevelse”. Mearsheimer spørger dernæst, ”hvor meget magt stater ønsker”, og svarer, at alle stater ønsker så meget magt, som de kan få, ”for det internationale system skaber stærke incitamenter for stater til at søge muligheder for at få magt på bekostning af rivaler”. Han konkluderer: ”En stats ultimative mål er at blive systemets hegenom.”

Mens det i demokratier antages, at alle er fejlbarlige, er den grundlæggende antagelse i totalitære regimer, at det herskende parti eller den øverste leder altid har ret. Regimer, der hviler på denne antagelse, er vant til at tro på eksistensen af en ufejlbarlig intelligens og er modvillige til at skabe stærke selvkorrigerende mekanismer, der kan holde øje med og regulere geniet øverst i systemet.

Fremkomsten af maskinlærende algoritmer kan imidlertid netop være det, som denne verdens Stalin’er har ventet på. Kunstig intelligens truer med at tippe den teknologiske magtbalance til fordel for totalitarismen. Mens det kan overvælde mennesker, hvis man sender store mængder data i deres retning, hvilket fører til fejl, gør det kun kunstig intelligens mere effektiv at få tilført store mængder data. Som følge heraf synes kunstig intelligens at favorisere koncentrationen af information og beslutningsprocesser ét sted.

Vores informationsnetværks stigende uudgrundelighed er en af årsagerne til den nye bølge af populistiske partier og karismatiske ledere. Når mennesker ikke længere kan forstå verden, og når de føler sig overvældet af enorme mængder informationer, de ikke kan fordøje, falder de nemt for konspirationsteorier, og de vender sig mod noget, de kan forstå – et menneske. Selv om der uden tvivl er fordele ved karismatiske ledere, kan intet menneske, hvor inspirerende eller genial han eller hun end måtte være, på egen hånd desværre dechifrere, hvordan
de algoritmer, som i stigende grad dominerer verden, fungerer, og sikre sig, at de er fair. Problemet er, at algoritmerne træffer beslutninger på baggrund af adskillige data, mens mennesker har meget svært ved bevidst at reflektere på baggrund af et stort antal data og afveje dem mod hinanden. Vi foretrækker at arbejde med udgangspunkt i et mindre antal data. Dette er grunden til, at vi i konfrontationen med komplekse problemstillinger – en låneansøgning, en pandemi eller en krig – ofte leder efter en enkelt grund til at foretage os noget bestemt og ignorere alle de andre overvejelser. Det er en fejl at tro, at der kun findes én grund til noget.

Den vigtigste menneskelige færdighed til overlevelse i det 21. århundrede er sandsynligvis fleksibilitet, og demokratier er mere fleksible end totalitære regimer. Computere er ikke i nærheden af at have realiseret deres fulde potentiale, men det samme gælder også for mennesker. Det er noget, vi igen og igen har opdaget gennem historien.

Men at slippe af med en algoritmisk bias kan vise sig at være lige så svært, som vi mennesker selv har ved at slippe af med vores bias. Når først en algoritme er blevet trænet, tager det en masse tid og energi at få den til at aflære, hvad den har lært. Vi kan vælge blot at droppe den forudindtagede algoritme og træne en helt ny algoritme med et mindre forudindtaget datasæt. Men hvor i alverden kan vi finde et datasæt helt uden bias?

I takt med at platformene er blevet overtaget af usandheder og vrede, har lederne fortsat håbet på, at hvis blot flere mennesker fik mulighed for at udtrykke sig frit, ville sandheden i sidste ende sejre. Det er imidlertid ikke sket. Som vi har set igen og igen gennem historien, taber sandheden ofte i en fuldstændig fri informationskamp. For at tippe balancen til fordel for sandheden er et netværk nødt til at udvikle stærke selvkorrigerende mekanismer, som belønner, at man fortæller sandheden. Disse selvkorrigerende mekanismer er omkostningskrævende, men hvis man gerne vil finde frem til sandheden, er man nødt til at investere i dem.

En endnu vigtigere grund til at betragte USA i 1824 som et demokrati er, at dette nye land i sammenligning med de fleste andre af datidens stater var i besiddelse af meget stærkere selvkorrigerende mekanismer. De amerikanske forfatningsfædre, ”The Founding Fathers”, var inspireret af antikkens Rom – se for eksempel Senatet og United States Capitol i Washington – og de var alle bevidste om, at den romerske republik med tiden udviklede sig til et autokratisk rige. De frygtede, at en amerikansk Cæsar ville gøre noget lignende i deres republik og udformede som følge heraf flere forskellige og overlappende selvkorrigerende mekanismer, der er kendt som systemet af ”checks and balances”, der gør brug af princippet om magtens deling. En af disse kontrolmekanismer var en fri presse. I antikkens Rom holdt de selvkorrigerende mekanismer op med at fungere, da republikken udvidede sit territorium og sin befolkning. I USA gjorde moderne informationsteknologi i kombination med pressens frihed det muligt for selvkorrigerende mekanismer at overleve, samtidig med at landet blev udvidet, så det til sidst strakte sig fra Atlanterhavet til Stillehavet.