Åpenhet og krav på utviklere har jeg mer sans for, f.eks kan man kreve at AI innen visse områder må være transparent og åpen for inspeksjon. Det er noe annet enn å kreve at man skal “pause/stoppe utviklingen” i 6 måneder.
Med science fiction scenarioer mener jeg at noen tror at AIen vil få bevissthet og ta over kloden/kolonisere menneskene.
Og det finnes mange eksempler på det motsatte. At ting tar lengre tid enn man ser for seg ut i fra et teknologi optimistisk syn.
Jeg pleier å nevne selvkjørende biler som et eksempel på dette siden jeg jobbet med noe relatert under studiene mine. Da hadde akkurat en selvkjørende bil kommet seg fra Paris til München (eller hva det var) på egenhånd. Mange så for seg at selvkjørende biler og kommersialisering av dette nå var rett rundt hjørnet.
Dette var 20 år siden…!
I dag har utviklingen kommet lengre ja, men likevel, kommersialiseringen av selvkjørende biler er fortsatt “rett rundt hjørnet”.
Et annet standard eksempel er flyvende biler. Om du hadde spurt folk på 60-tallet om det kom til å være vanlig med flygende biler i år 2000, så hadde 90% svart ja selvfølgelig. Nå skriver vi 2023 og flyvende biler er fortsatt langt langt unna…
Jeg kan gi deg et mer plausibelt scenario enn AGI, som er minst like skummelt: Vi har nå fått AutoGPT som kan lage tasks selv, og gjennomføre disse taskene uten menneskelig input. En utvikler laget ChaosGPT, som skulle være en spøk for å vise hvor potensielt farlig disse verktøyene kan være.
Med ChaosGPT får du en ufiltrert A:I som kan gjøre skumle ting for deg. F.eks kan du spør den om hvordan du kan lage sprengstoff av husholdningsartikler, og be den gi deg en step-by-step guide for å gjennomføre et terrorangrep.
Du kan be den hacke servere og innhente data ved å utnytte svakheter. Alt du trenger å gjøre er å prompte den til å hacke og innhente informasjon. Hvordan den gjør det trenger du ikke å tenke på. Den vil automatisk finne en måte å gjøre det på.
Hva om man ber den ta ut et flytårn? Eller en selvkjørende bil?
Er det sci-fi?
Nei, det er mulig, om enn vanskelig.
Men vi trenger ikke å gå så ekstremt til verks heller. Har brukt eksempelet med paperclip maximizer før, men det funker veldig bra for å illustrere poenget. La oss si til A.Ien at den må redde verden. Vi har global oppvarming, verden brenner, finn en løsning. OK; A.I innser at årsaken til at verden brenner er mennesker. Mennesker har utnyttet naturressurser og andre levende vesener for sitt eget beste i tusenvis av år. Konsekvensene av dette er at det har gått ut over jorden og andre arter. Så hva er løsningen? Rent logisk for en A.I kan løsningen være å ta vekk årsaken til problemene, altså oss.
Du ser her at man trenger ikke en selvbevisst A.I med onde intensjoner for å skape et dommedagsscenario, man trenger kun en eller noen få aktører med onde (eller gode) hensikter og disse verktøyene for å skape kaos. Akkurat som verden ikke var kaotisk nok fra før 
AI gjør det nok mye lettere for Kina å implementere “1984” systemet sitt Social Credit System - Wikipedia og Mass surveillance in China - Wikipedia med full overvåking.
Du må og tenke på at en AI trenger ikke tenke være bevisst eller intelligent for å gjøre ubotelig skade. Det er gjerne vi mennesker som setter et mål for en selvlærings algoritme, og vi utformer en belønningsfunksjon for å nærme seg det målet. Om den belønningen ikke har en veldig gjennomtenkt uforming og tar alle tenkelige hensyn mot å gjør skade, så kan en av veiene mot et høyere tall fra belønningsfunksjonen være uønsket (enkelt og dumt eksempel, belønning for å få selvkjørende bil uskadd til et mål, siden myke trafikkanter ikke skader bilen, kjør over fotgjengerene som er i veien,)
Og derfor, ingen vits å stoppe, for katten er allerede ute av sekken i så måte. I og med at hvemsomhelst nå kan logge på chatgpt og snakke seg frem til en fungerende programvare og instruksjoner for å trene sine egne “AI’er” i veldig enkle former i det minste, men mer enn godt nok til å gjøre rare ting som å erstatte PID kontrollere, og få fysiske maskiner til å gjøre gøyale ting.
Og du har helt rett, eneste farbare vei er at det må være mulig å forstå det som skjer inni (åpen for inspeksjon)
For all del, krev at alle selskapene må være åpne om teknologien slik at google, microsoft, og twitter kan lage konkurrerende teknologi som er minst like god - og så kaste mer penger på problemet og utkonkurrere de som leder for øyeblikket.
Det må bli bra. Og helst lage reguleringer som er så kostbare å overholde at bare store selskaper kan gjøre det.
Så kan de og politikerne bli enige på bakrommet om hvordan sensuren skal være, og hvordan befolkningen skal holdes i sjakk. Det er nok til det beste for oss alle.
Best av alt er at vi slipper å vite om det, borgerne har ikke godt av å vite for mye om hvordan vi styres.
Høres ut som en god plan, sikkert sånn det blir 
Det lureste er nok å regulere akkurat like mye eller lite som andre teknologier / bedrifter.
AI er et nytt verktøy i verktøykassa som hjelper de som vil la seg hjelpe, og andre som tviholder på «gamle måten» vil bli akterutseilt akkurat som da datamaskinen kom, da internett kom, da smart phones kom osv osv
Det er en stor og viktig utvikling, men ikke en ny farlig intelligens som wiper ut alt liv på planeten.
Ja, for Google, Microsoft m.fl. sitter bare rolig og ser på utviklingen
Det må bli bra. Og helst lage reguleringer som er så kostbare å overholde at bare store selskaper kan gjøre det.
Hvorfor må reguleringer være kostbare? Man kunne krevd at man fikk innsyn, kanskje begrenset innsyn som ikke offentliggjøres, men at det foretas av et kredibelt, uavhengig organ som består av folk som vet hva det går i.
Sensur finner man en masse uansett. Dette kommer man ikke unna.
Er det bedre at vi ikke vet hva disse selskapene har i pipen og hva som kommer?
Igjen, det er en balansegang dette her, ikke sort hvitt som du fremstiller det.
lol.
Hva er formålet med ett “kredibelt uavhengig organ” ? Det er sånn den offentlige sensuren fungerer. Man velger de “riktige” folkene og så snakker de sammen på bakrommet og bestemmer uten noen som helst form for demokratisk kontroll.
Verste løsningen som finnes.
Det er ingenting galt med sensur.
Det er noe galt når offentlige myndigheter sensurerer uten at borgerne vet hva som sensureres, hvorfor, av hvem, hvordan, osv.
Sensur bør foregås etter offentlige demokratiske vedtatte lover som man kan prøve i domstolene. Ikke på bakrommet, i hemmelighet, etter maktkåte byråkrater og politikeres personlige preferanser.
Det er rimelig sort hvitt, og jeg har rett.
Det er mitt syn, vi har ytringsfrihet, du har rett til å ha dine meninger. Vi er helt fundamentalt uenige om temaet, og jeg gir uttrykk for mitt syn på samme måte som du gjør for ditt syn.
I første omgang vil du ikke ha offentlig kontroll av A.I fordi det vil føre til sensur. Men vi er begge enig om at sensur forekommer uansett.
Når du snakker om sensur så er det ikke greit med at myndighetene gjør det, men A.I selskapene driver jo også med sensur av chatbotene sine? Ingen har tilgang på ufiltrerte versjoner av GPT-4 f.eks (tro meg, jeg har forsøkt å finne en modell uten filtre).
Nettopp sensuren du mener bør foregå i det offentlige rom, foregår på bakrommene til disse A.I selskapene. Men her skal man ikke ha noen kontroll eller innsyn; i mitt hode er det derfor en logisk brist i argumentet.
At du har rett eller ikke kommer jo an på perspektiv. Kan godt hende du har rett fra ditt perspektiv, men det er absolutt ikke sort hvitt slik jeg ser det.
Ser du en forskjell mellom at selskaper sensurerer, og velger hva de skal sensurere, og at offentlige myndigheter i hemmelighet krever - og får gjennomslag - for sensur etter sine preferanser?
Du tar helt feil.
Det er en enorm forskjell mellom at selskaper, som kan konkurrere, velger forskjellig sensurmodell ut fra hva som tjener dem, kontra at myndighetene dikterer til alle hvordan sensuren skal foregå uten noen som helst form for offentlig innsyn.
Myndighetene velger spillereglene i samfunnet.
Hvis myndighetene sier “du har ikke lov til å skrive positive ting om Hitler, negative ting om vaksiner, eller vise bilder av døde barn etter masseskytinger” så vil jeg at det skal forankres i ett lovverk. Ett lovverk vi har innsyn i og som kan prøves for domstolene.
Om CNN eller Fox eller VG eller Pornhub velger en sensurmodell tilpasset sin forretningsmodell er det noe helt annet enn om myndighetene sensurerer.
Det er ikke noe galt med sensur i seg selv.
Det er noe forferdelig stygt med hemmelig sensur i regi av myndighetene uten offentlig innsyn eller demokratisk kontroll.
Det er noe forferdelig stygt med hemmelig sensur i regi av myndighetene uten offentlig innsyn eller demokratisk kontroll.
Og det mener du jeg er uenig i? Nei, jeg er enig i den påstanden.
Men hvorfor mener du et regelverk for A.I må tuftes på hemmelighold og sensur?
Hvis man danner et uavhengig kontrollorgan med helt klare direktiver, som kan rapportere til offentligheten hva de finner, og HVIS det er sensitive opplysninger, i allefall utelater dette og tar det opp med de det gjelder, så ser jeg ingen problemer med det. Hvor er problemet?
Vi har alt f.eks GDPR som et direkte resultat av at myndighetene måtte gripe inn for å verne om personvernet til folk. Det er utopisk å tro at myndighetene ikke vil gripe inn for å regulere A.I, problemet er mer at de kanskje vil gjøre det når det er for sent, og reglene vil være mye strengere når de først får samlet seg, enn det de kunne vært om man gjorde noe nå.
Jeg er enig i at det er forskjell på hva private aktører velger å sensurere, og hva myndighetene sensurerer – men private aktører er også underlagt lover og regler som gjelder alle som operer innenforbi samme bransje. Noen bransjestandarder kommer til å komme, og det er nå man kan være med å utforme disse.
Konsekvensen med å ikke ta tak i det nå, er at man får mye mer sensur og myndighetskontroll senere, nettopp det du er redd for.
Kanskje den største trusselen ved AI er bruk av slike verktøy for å fremme et politisk budskap, Argumentert både med eller uten rot i virkeligheten.
Eller regelrett svindel/social engineering ved stemmekloning / videokloning o.l . Vurderer å innføre sikkerhetsord så vi kan verifisere at den vi prater med er “ekte”
Jeg har sans for regulering som sier at man må informere om at bilder/video/tekst/lyd er AI-generert hvis “det er plassert i en kontekst som er egnet til å villede en normal konsument” eller noe sånt
Spesielt bilder, veldig mye tekst kommer til å kjøres gjennom AI på en eller annen måte, men i nært samarbeid med forfatter. Ikke godt å si hva som er hva
Jeg er faktisk ikke spesielt redd for mer sensur og myndighetskontroll senere. Etter mitt syn har det toget forlatt stasjonen og vil skje uansett. Det vil bli mer sensur enn jeg er komfortabel med uansett, fordi det er retningen samfunnet tar. Blir samfunnet mer enig med meg på sikt så kan vi reversere det.
Jeg er redd for at det skjer utenfor offentligheten og demokratisk kontroll, eller at man regulerer på en helt idiotisk måte som stopper utviklingen fordi noen over 50 frykter for arbeidsplassen sin og vil ha en bedagelig tilværelse inntil pensjonsalder.
Det jeg virkelighet hater er når myndighetene i hemmelighet vedtar lover og reguleringer som offentligheten ikke får innsyn i, og presser private selskaper til å sensurere i henhold til deres preferanser uten at man vet at det skjer, eller kan debattere det.
Eller at jeg ikke skal få tilgang til nye morsomme ting å konsumere fordi det har blitt regulert i hjel.
Jeg ser en helt fantastisk framtid for generering av innhold innen forskjellige underholdningsmedium, filmer, tv-serier, animasjon, spill, bøker, lyd, bilde, osv så lenge man slipper teknologien fri for eksperimentering.
Dessverre har jeg PCen på reparasjon nå, men stable diffusion er utrolig morsomt, og det å laste ned og eksperimentere med forskjellig input er ekstremt interessant. Og dette vil garantert komme til lyd og 3d-modeller også.
Noe jeg er redd for er at man skal vedta reguleringer som i enda større grad beskytter opphavsrettigheter i form av treningsmaterialet. At man skal vedta at man ikke kan trene opp AI basert på journalistisk materialet. At de ikke skal kunne trenes opp på tekst fra twitter. At alle må gi eksplisitt samtykke til at data kan brukes til AI-trening, osv osv osv.
Kort sagt - at kun de som allerede eier plattformer som har massive mengder data (microsoft, twitter, facebook) skal ha rett til å kunne bruke dataene til å trene AI.
Og det kan fort skje. Disse selskapene har nok penger å bruke på lobbyvirksomhet.
Slik jeg ser det vil strenge reguleringer nå sannsynligvis tjene de største og rikeste selskapene i verden. Jeg vil mye heller ha en vill vest verden i flere år til man ser mer konsekvensene og hva AI reelt sett kan gjøre før man regulerer det for mye.
Det er allerede lover som tillater deg å saksøke selskaper som påfører deg eller ditt selskap skade. Så det er allerede sterke incentiver hos disse AI-selskapene til å unngå å være onde med vilje eller påføre andre skade, oppfordre til selvmord, osv.
Jeg tegnet meg et abon. på mandag etter å ha testet ulike gratisversjoner av GPT-4.
Er det verdt pengene? Vel, det er kanskje for tidlig å si, men jeg merker ikke stor forskjell på 3.5 og 4.
Merker svarene den gir er mindre generiske, og litt bedre formulerte, men hvor stor nytteverdi det har å betale for dette, når jeg uansett må gjennomgå teksten i etterkant, vet jeg ikke. Kommer nok ikke til å fortsette å betale for det.
Men det er ingen tvil om at det er nyttig. Mange som bruker den aktivt på min arbeidsplass.
I går fikk jeg f.eks gjort research og laget en oppsummering på et tema jeg fikk i oppgave å undersøke på ca. 20 min. Jeg regnet ut at det ville normalt tatt meg 2-3 timer å gjøre samme jobb uten GPT-4 (!)
Men det er mange begrensninger som gjør at dette ikke er et fullverdig verktøy for egen del.
Eksempelvis:
Dette er noen av tingene jeg umiddelbart savner. Men kommer disse tingene på plass så betaler jeg gjerne for å bruke dette på lik linje med annen programvare jeg bruker til daglig.
Jeg skal betale for det når GPT-5 kommer tenker jeg. Eller om 6-12 måneder. Venter og ser på tekst for tiden da jeg ikke har behov per dags dato.
Akkurat nå syntes jeg bildegenerering er mye morsommere og følger med på video, og håper på 3d-modeller osv.
Dette er jo allerede tilfelle, f.eks er ikke Craiglist en del av datasettet til GPT 4 fordi de motsatte seg dette (hør intervjuet med Sam Altman i Lex podden). Reddit vurderer det samme. Du vil raskt se at vi får et nytt marked hvor man selger store datasett til folk som vil trene spesifikke LLMer. Her vil jo selvfølgelig de som har høstet data i mange tiår (de store du nevner) ha et konkurransefortrinn.