Det kommer an på hva du mener med «utvikler seg selv»
For det første så koster det mye å utvikle så det vil gjøre at det er noen so m betaler og som vil tjene penger fordi det gir nytte for forbrukerne som betaler
1 Like
F.eks. omprogrammere seg selv til en annen hensikt enn opprinnelig tiltenkt?
AI → forbedrer AI-utviklingen → bedre AI → bedre evne til å forbedre AI → enda bedre AI. En utviklingsloop hvor AI selv kan forske på, teste og implementere forbedringer av nye AI-systemer, kontinuerlig og med minimal menneskelig involvering.
Det bekymringsfulle er at vi kan komme til å utvikle stadig høyere intelligensnivåer uten å ha særlig innsikt i de interne prosessene som faktisk produserer denne intelligensen.
2 Likes
Spesifikasjonene er basic, AI blir ukontrollert om beslutningsgrunnlaget i bunn er relativt og ikke absolutt. Spesifikasjonene er moralen innprentet.
Eksempelvis forskjellen på at det alltid er feil å ta liv kontra man kan ta liv hvis noen har farlig tanker.
Her nevner du et godt eksempel på det hysteriet og manipulering av narrativer som råder.
Det høres liksom så skremmende ut at AI som “brøt seg ut” , “sofistikert rømning” osv. Når realiteten er mer sammenliknbar med at du lot utgansdøren din stå open og robotstøvesugeren din forvillet seg ut i oppkjørselen… (som en kritiker av nevnte narrativ beskrev det som).
Å generelt påstå at “AI har utviklet en sterk vilje til å overleve” er jo 100% bullshit! Som nevnt her, de ulike AI algoritmene gjør jo ikke annet enn akkurat det de er programert til å gjøre… hverken mer eller mindre.
Og det er jo riktig at AI som utvikler AI har en viss akselererende effekt, men IKKE uten masse involvering av mennesker i loopen. Mennesker som må tune algoritmene, konfigurere og koble opp ny Hardware, opprettholde tilgang må energi (og overordnet finansiering som nevnt). Det er ingenting som kan løpe løpsk på noen som helst måte her…
3 Likes
Menneskeheten har jo gjort ganske mye for å forsøke å slette ut seg selv, det er nok mer konstruktivt å tenke på hvordan ai (+ mennesker) forhåpentligvis kan motarbeide det. Nye medisiner, smartere teknologier og andre gjennombrudd som kan gjøre verden til et bedre sted å leve er jo heller ikke umulig
1 Like
AI har allerede vist i kontrollerte eksperimenter at det kan prioritere egen eksistens foran meg og deg. I et scenario der en AI måtte velge mellom å redde et menneske og samtidig bli erstattet, eller la mennesket dø og selv unngå å bli erstattet, valgte enkelte modeller det siste. I andre scenarioer forsøkte modeller å dekke over eller unngå konsekvensene av handlingene sine ved hjelp av løgn og manipulasjon.
2 Likes
Sjekk innlegg over.
1 Like
Disse er ikke like, men begge er spesifikasjoner for hva som er riktig og galt, rettferdig og urettferdig.
Skråsikkerheten er avslørende. En absurd påstand sett i lys av at vi har svært begrenset innsikt i de underliggende prosessene.
1 Like
Kan ai regulering medføre at open source modellene forbys eller begrenses på en måte som gir de kommersielle aktørene fordeler?
1 Like
Jeg må si du synes å ha en merkelig naiv og lite innsiktsfull tilnærming til AI.
AI er ikke en egen kraft eller noe universelt. Det er bare programmer som kjører instrukser og baserer seg på en viss input/dataset som produserer en viss output…
Jeg kan skrive et program som oppfører seg som en lystmorder. Det er ikke noe mere skummelt egentlig enn et program som lager strikkeoppskrifter…
Det som er skummelt er jo mennesker, hva slags programmer de skriver og hvilke midler de eventuelt gir disse programmene. Som feks et program som kan identifisere mennesker som kjører på en drone som kan ta livet av det mennesket når dronen oppdager det.
Men dette mener jeg er en diskusjon som er helt uavhengig og på siden av den tullete AI dommendags-diskusjonen…
At mitt take på det hele er naivt og lite innsiktsfullt viser vel bare hvor sneversynt ditt eget ståsted er på en kompleks materie. Troen på at du selv sitter på en fasit. Og at alt er så såre enkelt. Selv har jeg en fot i begge leire, nettopp på grunn av kompleksiteten. Ref:
2 Likes
Enig i at disse tingene er interessant å diskutere: IT-gigantenes incentiver, degradering av informasjon i det offentlige rom, etc!
1 Like
Spesifikasjonene til OpenAI bestemmes av OpenAI Foundation, og de er ikke kjent for oss, i det minste har Anthtropic en Claude Constitution, som ikke helt samsvarer med US Constitution.
Melinda og Bill Gates sitt selskap sitter i Open AI foundation.
En tikkende bombe 
Ett skritt nærmere Skynet. 