Det er vel ganske enkelt å se for seg at vi får se nøyaktig hva AGI kan få til, med negativt fortegn?
Det er drøssevis av nasjoner der ute som kan tenkes å sette AI til å f.eks forsvare landet sitt, eller bruke AGI til å hacking og spionasje. Underlegne land har kanskje størst sjanse til å gjøre noe overilt?
Så vil andre land måtte forsvare seg med AI, og vipps har vi et par systemer som sloss mot hverandre… Kanskje får et system til å fyre av noen missiler eller nukes? Ta ned strømnettet? Kutte internett? AGI vil kunne sende hvilke beskjeder den vil elektronisk, den kan høres ut og se ut som hva den vil, så å tro at mennesker skal kunne forstå at de blir lurt tenker jeg blir naivt.
Who knows. Alt er forandret allerede i hvert fall, og det startet for bare tre måneder siden, så vi får bare bli med på ferden.