Diskusjon Triggere Porteføljer Aksjonærlister

AI: Kunstig Intelligens - diskusjon - konsekvenser.

I en gruppe jeg er i påstås det at programvare om få år vil være i stand til å lage egen programvare, at det allerede finnes programmer som lager seg selv. For en stund siden klarte programmene å skrive ca 25%, nå er de ved 37% - visstnok. Så det er litt tid igjen!

Men vi kan vente oss selvskrivende kunstig intelligens innen fem-seks år.

De som er mest redd for utviklingen er dem som driver med det selv, altså eksperter innen AI.

Det er snakk om at programmene vil lære å skrive programmer som igjen skriver programmer, vi får en ekstrem utvikling i software (og hardware) som vi kanskje ikke vil være istand til å stoppe.

Det kan selvsagt skape uante konsekvenser.

Mulig vil de færreste måtte jobbe dersom programvare lærer av seg selv og kan utvikle nye typer roboter og andre løsninger, nye måter å dyrke og høste, osv. Eller programmene kan se oss som lite verdt og ønske måter å eliminere oss, eller bare la oss leve våre liv.

Vi snakker om Singularity. Tech ute av kontroll.

Fremtidskonspirasjonsteorier? Som slett ikke er usannsynlige?

Elon Musk er en av dem som er skeptisk til AI siden det ikke er regulert på noen måte.

Det er et ikke bare interessant tema, men et tema som bør diskuteres seriøst i langt større grad enn det gjøres i dag.

Hvor er politikerne når det gjelder dette svært aktuelle spørsmålet? AI generelt, skattlegging spesielt, eller hvordan det i hvert fall kan komme menneskeheten generelt til gode, ikke bare eierne av programvaren?

Hvordan ser samfunnet ut når programmer kan skrive seg selv? Utvikle seg selv?

Utviklingen kan gå rett til værs: tusen ganger fortere enn nå - og tusen ganger fortere enn det.

Det er faktisk skremmende om man tenker over det.

Og altså - det finnes ingen reguleringer. Programmer jobber gjerne etter regler, så om de kam lage sine egne regler, hvordan vil de bli?

Hva blir konsekvensene?

5 Likes

Konsekvensene blir vel i beste fall at vi har mer fritid og kan fokusere på strategiske / overordnete valg, mens datamaskinene tar bort det kjedelige rutinearbeidet som bare må gjøres. I verste fall kommer man fram til at det kjedelige rutinearbeidet er mer krevende for AI å utføre enn vi kanskje trodde… :thinking:

Ellers er datamaskinene bra til å finne mønstre og trender så forhåpentligvis kan de hjelpe oss å løse en del vanskelige problemer også, men det gjelder mer R&D / innovasjon etc.

Har fortsatt tilgode å se veldig stor påvirkning fra AI på min hverdag. Først og fremst er det vel at det popper opp reklame på ting som er relatert til sider eller butikker jeg har besøkt.

3 Likes

Ifht. AI så tror jeg scenariet med Skynet eller Matrix ligger langt, langt frem i tid.
Forhåpentligvis er ikke dette noe vi må ta hensyn til i vår levealder, men hvem vet.
Ting går sjeldent slik man tror.

Disse videoene skremmer i allefall meg litt:

image

Myndigheter rundt omkring bør være på ballen (som de er i følge artikkelen under) og ha strenge reguleringer om bruk og forskning på AI. Tanken på en maskin som kan tenke selv er både forlokkende og spennende, men hvor lurt det er å skape noe slikt er jeg ikke sikker på.

1 Like

Blander vel litt Robotics og AI her? Virker som det er roboter du er mest redd for (og/eller statlig overvåkning)?

1 Like

Ikke egentlig; roboter slik de fremstår i disse videoene er fremdeles veldig primitive. Dersom man klarer å skape A.I slik @VargVemund skriver i sitt innlegg, så antar jeg det vil bli overført til noe fysisk - altså en robot. Det er det jeg er redd for; roboter som tenker selv og tar egne avgjørelser uten menneskelig innvirkning.

Jeg tror som sagt det er langt frem dit, men kombinasjonen AI + Robotics synes jeg er skummel… :frowning:

2 Likes

Når programmer nå nærmer seg å kunne skrive halvparten av koden selv, så kan det nærme seg en vanvittig vekst når de etterhvert klarer å skrive 90% eller 99% og til slutt også 100% av koden selv.

Jeg tror de fleste undervurderer hva AI er i stand til nå.

Her tror jeg kina vil bli farlig i framtiden,tviler på at de vil regulere noe .Her kommer nok dyret fram som er omtalt i Johannes Åp med tiden er mitt tips.

1 Like

100% av koden er lett, men så er spørsmålet om den koden gjør noe meningsfullt og skaper verdi :thinking:

3 Likes

Enig med @holmes her - og en annen ting som er verdt å tenke over; vi antar at roboter vil oppføre seg som oss siden det er vi som er skaperne; men hvis vi forutsetter en intelligens som er smartere enn oss, og raskere enn oss i å tenke, så er det ikke sikkert vi har noe å frykte. Det blir litt på samme måte som med Aliens; mange er redde for invasjon fra verdensrommet, men jeg tenker at vesener mer intelligente enn oss ville tatt skrittet med å gjøre oss til slaver eller mat for lenge siden hvis det var det som var målet deres.

Jeg skjønner bare ikke hva vitsen er - hvorfor skal vi på død og liv prøve å gjenskape bevissthet, slik vi opplever / definerer bevissthet? Holder det ikke med å automatisere systemer til å utføre repetitive og kjedelige oppgaver, uten å også gi dem muligheten til å tenke seg frem til mer effektive måter å gjøre jobben på? Det bør jo være vår jobb? :man_shrugging:

2 Likes

Burde være vel så lett, så lenge koden lærer av seg selv og utvikler seg selv, som jo er poenget?

Dersom AI skal begynne å lage nye og bedre versjoner av seg selv, så må de først erhverve kreativitet, visjon og evne til å tenke nytt.

Dette virker som et enormt steg opp fra å kun utføre kommandoer. Kanskje uoverstigelig.

5 Likes

Tror @holmes og @Graaspurv er inne på noe her. Det å kopiere eksisterende kode sånn som GitHub copilot gjør, og kanskje optimalisere og effektivisere koden, er et kult party-triks, og kan sikkert brukes til å effektivisere programmeringsarbeidet. Men det er langt derfra til å få nye ideer om hvordan løse spesifikke problemer.
Det er mye kult som skjer inn AI men det er strengt tatt “bare” brute force pattern recognition i bakgrunnen.
Dagens Machine Learning og Neural Networks er rimelig langt fra noe some ligner på å “tenke sjæl”. Det er en helt annen fotballbane.

Den dagen noen lager noe som har en smule egen kreativitet derimot… da er jeg enig i at det kan bli trøbbel. Men som sagt, det ser ut som det er langt unna. Vi skjønner jo ikke engang hvordan vår egen hjerne tenker :man_shrugging:

4 Likes

Ja, jeg vet ikke hvem som er mest informert, oss her på forumet eller insiderne i SiliconValley.

Men utviklingen kommer til å skje lynraskt - og på et punkt kan den bli umulig å stoppe.

En grunn er jo å skape noen den enkelte kan snakke med, tror det er et ekstremt marked for det faktisk. :smiley:

1 Like

Du tenker på noe slik som i “HER”? Hadde vi fått en A.I med stemmen til Scarlett Johansson ville jeg også vært interessert… :sweat_smile:

Ja feks, stemmen er nok forresten noe av det viktigste for at det skal slå an…!

Bare tenk deg at avtalene dine, alle prosjektene dine, alle notatene du har gjort (usortert og sortert, samtaler du har gjort osv, og kunnskap på internett og kunnskap om at kunnskap ikke alltid er rett, kan brukes til å gi deg forslag til hva du burde gjøre i øyeblikket, eller du kan diskutere en samtale du har hatt med andre, eller politikk, planlegge ferien eller en gave - med noen som er 1000 ganger bedre enn noe tilsvarende i dag. Det vi har i dag av chatroboter er jo ganske begredelig. :sweat_smile:

1 Like

Jeg jobber innen feltet og er ikke redd for dette. Maskiner er i dag bare i stand til å erstatte det vi kaller ‘boilerplate’, dvs omtrent hjernedød kode. I prinsippet har det ikke skjedd noe nytt siden 70-tallet rent matematisk. Det er bare hardware som er blitt så mye raskere at man kan trene på større mengde datasett. Algoritmene trenger hjelp til å bestemme hva som er min og maks, optimalt osv. Man lager egne funksjoner for å beskrive hvordan algoritmene skal score observasjonsdata. Noen synes at Googles AlphaZero virker skremmende, men disse tilnærmingene virker ikke særlig bra uten veiledning fra mennesker om man ikke befinner seg i et lukket system med 100% informasjonstransparens. Den virkelige verden er mye mer kompleks. Men det er klart at man kan få mye hjelp fra algoritmer framover, men at de «tenker» selv er vi ikke noe nærmere enn på 70-tallet.

Denne gir et godt innblikk på en forståelig måte hva som er kjent state of art innen dype nevrale nettverk:

12 Likes

Mener det var denne dokumentaren der der forskerne ble forbløffet over at kunstig intelligens,der maskinen gjorde ting den ikke var programmert til.

1 Like

Her er en AI generert samtale:

Tipper vi vil se ganske heftig utvikling på den slags innen fem år.

Og det er altså mange andre i bransjen som predikerer singularity, Elon Musk er en av dem som er svært skeptisk.

1 Like

Hei, jeg så dokumentaren nå. Det er jo selvsagt skremmende hvordan dette kan påvirke samfunnet via tap av arbeidsplasser. Det er konsekvensene av automatisering dokumentaren fokuserer på. Når det gjelder de tekniske mekanismene bak automatiseringen er det ikke noe nytt her, det er ikke noe bevissthet bak algoritmene, heldigvis. Det er lynraske prosessorer, tilgang til masse data, lagringskapasitet og mennesker som kan veilede læringen med klassifisering osv. Selv da er det mye som kan gå galt, som algoritmer som ender opp med f.eks å diskriminere pga skjevhet i datagrunnlag eller modellen, eller andre faktorer som kan være vanskelig å isolere (For enkelt om kunstig intelligens: – Diskriminerende og fordomsfull AI er ikke alltid lett å løse). Men det er viktig å skjønne at selv om en algoritme gir et resultat, svar eller hva det er så gis dette svaret fordi det er en score tilknyttet det svaret og den scoren er den som til enhver tid gir lavest sannsynlig feilmargin for systemet. Av og til kan det få fatale konsekvenser som Teslas problemet med røde lastebiler…

4 Likes