Diskusjon Triggere Porteføljer Aksjonærlister

AI: Kunstig Intelligens - diskusjon - konsekvenser.

Det er vel ganske enkelt å se for seg at vi får se nøyaktig hva AGI kan få til, med negativt fortegn?

Det er drøssevis av nasjoner der ute som kan tenkes å sette AI til å f.eks forsvare landet sitt, eller bruke AGI til å hacking og spionasje. Underlegne land har kanskje størst sjanse til å gjøre noe overilt?

Så vil andre land måtte forsvare seg med AI, og vipps har vi et par systemer som sloss mot hverandre… Kanskje får et system til å fyre av noen missiler eller nukes? Ta ned strømnettet? Kutte internett? AGI vil kunne sende hvilke beskjeder den vil elektronisk, den kan høres ut og se ut som hva den vil, så å tro at mennesker skal kunne forstå at de blir lurt tenker jeg blir naivt.

Who knows. Alt er forandret allerede i hvert fall, og det startet for bare tre måneder siden, så vi får bare bli med på ferden. :slight_smile:

5 Likes

Vis mer

2 Likes

"Ifølge tilsynet kan masseinnhentingen og lagringen av personlige data i den hensikt å «trene» opp algoritmene ChatGPT bygger på, ikke forsvares.

Forbudet trådte fredag i kraft med umiddelbar virkning og vil inntil videre begrense prosesseringen av italienske brukerdata vis-à-vis OpenAI, heter det i en kunngjøring".

1 Like

Det er jo en måte å løse problemet rundt opphavsrettigheter og kopibeskyttelse.

Samme årsak til at ingen har fokusert på AI for å lage musikk. Selvsagt mulig, selvsagt ett minefelt pga mektige bransjeorganisasjoner og selskaper som vil saksøke deg inn i helvete :slight_smile:

Men det vil ikke stoppe utviklingen at Italia (eller for så vidt hele EU, eller hele vesten), velger å forby masseinnhenting og prosessering av data.

3 Likes

Foreslår at vi slår av internett noen måneder så slipper vi alle brudd på opphavsrettigheter osv mens vi tenker ut hva neste steg er :crazy_face:

4 Likes

Hvem bryr seg om hvordan den “tenker” ? :slight_smile:

4 Likes

Er dette en aprilspøk?

Myndighetene har nå vist at de kan mestre både pandemier, pengetrykking mm neste ut er tydeligvis detaljstyring av AI boter

2 Likes
1 Like

Fantastisk utvikling. Og ting vil bare bli bedre.

1 Like

Jeg syntes denne tok temaet AI og AI konsekvenser, langt mer seriøst enn den degenererte debatten jeg stort sett ser rundtom.

Hele AI debatten degenerer til en pascals wager, 3 stadier, uendelig belønning og uendelig tap. og den tredje, med at hele problemstillingen er irrelevant for AI finnes ikke. Synet er da at vi kan la vær å ta hensyn til det siden det er en logisk feil å sette uendelig belønning/tap for noe som ikke kan bevises å finnes.

Det er en youtube jeg virkelig liker, fordi han så tydelig går gjennom pascals wager og mugging. Det hele er et filosofisk argument om at du ikke har noe valg men må tro på gud for selv om gud ikke kan bevises, så er belønningen for å tro, og det tilhørende tapet for å ikke tro, begge uendelige, og alle motargumenter er derfor av uendelig liten verdi.

Videoen er en glede det bare for filosofien, og motargumentene for å “løse” pascals wager
For så å komme til poenget sånn ca 8-9minutter inn med AI safety. Satt i samme spilleteoretiske kontekst som pascals water.

Anbefales! Is AI Safety a Pascal's Mugging? - YouTube
(for de som er kjent med computerphile og numberphile vil kjenne seg godt igjen, (søsken kanaler til denne brukeren))

3 Likes

Du vet når et menneske spør deg om noe og du vet de ikke har godt av å vite sannheten, så du pynter på svaret…good luck AI :sweat_smile:

1 Like

Finnes mange A.I generatorer som lager musikk:

https://boomy.com/

Hvem trenger Jay-Z ? :wink:

4 Likes

En av de mest informative podcastene jeg har hørt om temaet fordi man starter med et større teoretisk rammeverk for å analysere utfordringene med A.I, nærmere bestemt metakrisen vi står ovenfor (som igjen består av en mengde faktorer). Med introduksjon av A.I, vil metakrisen bare øke i omfang og styrke i følge Schmactenberger. Han spør blant annet hvordan man kan snakke om alignment når de som skal sørge for dette ikke er «aligned» med interessene til «folk flest» i utgangspunktet.

Når motivasjonen er profitt vil man naturlig nok anta at A.Ien man lager er rigget med dette som utgangspunkt. Om den ikke er det, så er det uansett konteksten den blir skapt i. Veien er da meget kort til et paperclip maximizer scenario (alle forstår at instruksen “doble omsetningen vår på kortest mulig tid” kan føre til utilsiktede konsekvenser).

2 Likes
1 Like

Dette må da også være smått revolusjonerende for selvkjørende biler/lastebiler/busser… Alt.

Vi er vel kun i startgropen av noe virkelig stort.

1 Like

Ja, dette er veldig stort. I denne videoen gjennomgås noen av testresultatene fra tidlig testing av GPT-4 (ref. den siste videoen jeg postet «GPT4 Bombshell»).

Merk at testingen ble gjort på den «usensurerte» versjonen, som fremdeles ble optimalisert under testingen. Funnene er både fascinerende og urovekkende. Her adresseres også de som har reservasjoner av typen «dette er bare en copy/tekst bot» eller «den har ingen interne representasjoner av virkeligheten». For å gi en meningsfull output må man forstå kontekst.

I videoen gjennomgår man flere eksempler på abstrakte spørsmål som krever litt logikk for å løse – noe en enkel input / output maskin ikke ville klart å løse ved å «gjette neste ord». Det sies også at dette bare er begynnelsen; GPT-4 er både raskere og gir kvalitativt og kvantitativt bedre informasjon enn GPT 3.5. Nå finnes det heller ikke lenger begrensninger ifht. skalering med de nye CPU / GPUene som kommer. . :grimacing:

Dette kommer til å gå veldig fort…

image

9 Likes

Jeg gleder meg til å se hvordan dette blir om noen år. Forhåpentligvis ender vi opp med ekstrem økonomisk vekst og ett rikere samfunn. Det er min gjetning.

Tror ikke jeg er første i tråden som sier dette, men AI er eneste som virkelig gjør meg optimistisk når det kommer til makro de neste årene. Ellers er reversering av globalisering, handelskriger, demografi, og det jeg misliker av ESG/Equity-initiativer/progressiv politikk (ikke alt, men majoriteten) stort sett ting som trekker i motsatt retning.

6 Likes

Tror du ikke dette vil gjøre de største selskapetene i verden mye større og en arbeidsledighet som vil skyte i været? Om det går så fort frem kan vi se en arbeidsledighet på sikkert 30-40% innen 5-10år. Er veldig spent på hvordan samfunnet skal håndtere det.

2 Likes

Mye av det samme jeg tenker, de første årene så er det gull og skoger. Så vil selskapene kutte og ha mer overskudd og det vil være flere om beina på de få jobbene som finnes.

2 Likes