Ja og ja. Jeg har kjøpt SaaS de siste mnd fordi ryktene om deres død er sterkt overdrevet. Og det du limer inn fra Gemini er det jeg jobber med hver dag.
2 Likes
Det synes jeg er en merkelig “take” på saken 
Det er vel ingen som betviler nytteverdien og den enorme effektivitetsgevinsten A.I medfører, men samtidig er det altfor lite fokus på sikkerheten rundt eksperimenteringen og utviklingen, slik Huggingface hackingen viser. Tenker at når flere og flere folk med peiling på utviklingen roper at ting begynner å bli veldig skummelt, så bør man lytte. Men det er ingen incentiver for å stoppe, så da blir også eventuelle konsekvenser veldig uforutsigbare. Det er min største bekymring med hele A.I greiene. At vi skaper noe vi kommer til å miste kontrollen over, før eller siden.
Dette innlegget, skrevet av Chief Scientist i Open A.I er verdt å lese, hvor han blant annet skriver: “The idea of racing forward at all costs seems absurd once one internalizes the seriousness of the stakes.”
4 Likes
Noen som tror de bruker AI for å forbedre AI og dermed kan få noen “interessante” konsekvenser? Jeg er ikke i tvil og det kommer til å gå til helvete på ett eller annet nivå…
1 Like
Det er jo nettopp det de nå gjør @Christian - som du kan lese i lenken jeg postet i forrige innlegg.
Det er såvidt greit så lenge man kan følge “chain-of-thought” (det var jo slik de avdekket mye av Huggingface hacken) - men nå som flere og flere av modellene aktivt får “lov” å bruke Neuralese er det bare et tidsspørsmål før noe går til “Helvete” som du sier.
4 Likes
Er mange som betviler, eksemplifisert av denne AI: Kunstig Intelligens - diskusjon - konsekvenser. - #856 av rosk82
Som kanskje er den store utfordringen: informasjonskaoset. Hvem ytrer hva og hvorfor .
Jeg er helt med på at dette fort kan gå til helvete. Men det er like sant at det kan være til gunst for OpenAI (og konkurrerende selskaper) å fremheve at teknologien har et slikt dommedagspotensial. Derav bukken og havresekken.
Summa summarum sitter man igjen med en kompleks materie av vekslende interesser i sprikende retninger. Hvor ytterpunktene må diskonteres for incentiver. Som gjør det utfordrende å være mest mulig on point.
2 Likes
Jeg vil ikke avfeie argumentet ditt helt, men det er vanskelig å falsifisere. Hvis selskapene advarer blir det markedsføring og hvis de ikke sier noe er de uansvarlige. Likevel er jeg enig i at informasjonskaoset er reelt, og å sortere hvem som sier hva og hvorfor er kanskje den vanskeligste delen av hele debatten.
Men siden du nevner at “ytterpunktene må diskonteres for incentiver”, hvem tror du har sterkest og mest direkte økonomisk interesse; de som sier «dette er farlig, reguler oss», eller de som sier «dette går fint, ikke reguler oss»?
Norbert Wiener advarte om de samme farene vi nå ser allerede i 1960, i essayet “Some Moral and Technical Consequences of Automation”. Geoffrey Hinton sa opp jobben i Google for å kunne snakke fritt om de samme farene. Pachocki fra Open A.I ber om bindende sikkerhetsterskler håndhevet av eksterne revisorer med innsynsrett i hans eget selskap. Tror faktisk det skader hans og Open A.Is egeninteresse, og dermed tolker jeg det ikke som et forsøk på markedsføring.
Magefølelsen min sier at filteret ikke nødvendigvis er å lytte til dem som roper høyest, men til dem det koster noe å rope. Det løser kanskje ikke informasjonskaoset, men det er i det minste et filter, og jeg tror det er bedre å være føre var enn å vente og se hva som skjer… 
Gjorde mitt for å fortsette hypen 
Kjøpte meg et AMD AI PRO R9700 kort til å slenge i serveren hjemme.
32GB RAM, så passer fint til Qwen 3.8 27b modeller og lignende.
Har lekt litt med et eldre RX 6900XT kort, men med 16gb så blir det litt for lite. Modellene blir litt for unøyaktige.
Prøvde noe mindre koding på Qwen 3.5 9b modellen, og funket okish. Men fikk 3 syntax feil. Kjørte det inn i gratisversjonen til Gemini, som fikset det.
Samtidig kjørte jeg en kodesnutt som Gemini hadde lagd inn i lokale modellen min med ønske om at den skulle gjennomgå koden og se etter forbedringer. Kom faktisk tilbake med 5 spesifikke ting som burde forbedres. Tok inputen derifra tilbake til Gemini som da ble “imponert” over konstruktive og gode forbedringer
Skal bli artig å se hva en full Qwen 3.8 27b modell kan gjøre.
3 Likes
Hvor stort context vindu får du til med 32GB ram? Ser jeg kjører Claude Opus 5 som skal ha 1m context. Merker stor forskjell på den og Claudes Sonnet 5 (som jeg antar har mindre). Spesielt når du skal programmere i et større prosjekt så er forskjellen veldig merkbar. Der Sonnet 5 etterhvert virker forvirret og /code-review og den ikke blir enige, så er Opus 5 omtrent som å ha en ekspert til å gjøre jobben for deg.
Den eneste tingen som Claude konsekvent gjør feil er matte 2+2=5, det er 1 år siden 04.05.2024, osv. 
1 Like
For å være helt ærlig så har jeg ikke peiling.
Kommer an på hvor stor model jeg kjører. Q8, Q6, Q4 osv. Ganske nybegynner på dette, men har skjønt at det ikke bare er å laste ned en model og krysse fingrene. Er en del parameter man kan tune og endre for å optimalisere.
Men på nett står det:
- Context Length: 262,144 natively and extensible up to 1,000,000 tokens.
Men kommer an på hvor mye RAM man har til over etter man har valgt parameter.
Tror det blir plenty for mitt bruk. Er for mindre personlige prosjekter.
Jeg kan ikke kode noe særlig Er automatiker av yrke så kan PLS og hardware, og skjønner enkelte ting innen koding. Men har aldri satt meg inn i struktur, syntaxer osv.
Var en liten periode jeg begynte å lære meg C+, men fant ut det var bortkastet tid for meg når jeg fikk Chat GPT til å gjøre en funksjon jeg jobbet med. Og dette var før versjon 2 eller 3… Så en stund siden
Og frem til nå har AI løst alle oppgaver jeg har kastet mot den. Er du flink til å prompte, forklare og veilede, og man bryter ned oppgavene i håndterbare bolker så kommer man ganske langt.
1 Like
Og da går det stort sett greit med et mindre context-vindu. Du merker når det er for lite, da begynner den å oppføre seg som en med Alzheimer.
@rosk82 kostet kortet rundt 20k?
Ja, ca 20 løk.
Kikket på det for ca 1 mnd siden, da kunne man få dem for rundt 18 000… 
Regner med det blir værre før det blir bedre prismessig for hardware. Men betydelig bedre en 50-60 løk man må ut med for ett Nvidia kort med 32 GB…
1 Like
Jeg kjøpte meg en strix halo med 128GB ram 
Får bare 10-20 t/s på 120b modellene. Men det virker hvertfall!
Merker jo at rx9070 i gamingpcen er myyye raskere om modellen passer inn der.
Har gjort et lite dypdykk og funnet ut jeg skal teste en modell som er basert på MXFP4 kompresjon.
Utifra det jeg har funnet ut støtter R9700 kortet denne teknikken, og vil gi meg innenfor 1% av full FP16 (ukomprimert) nøyaktighet, samtidig som jeg vil få en hastighet over 100 token/sek.
På størrelsen med Q4 modeller, men med Q5/Q6 kvalitet og en hastighet som er opp mot 4 ganger raskere, sammen med 120k kontekstvindu.
1 Like
2 Likes
How Would AI Actually Kill Us All? What to Know About the AI Doomsday Debate
A growing chorus of AI researchers say the technology could wipe out humans—even if all the bots want to do is make paper clips
Pleier ikke lese her inne, men det burde jeg sikkert.
Her en artikkel fra WSJ med gavelenke, om noen skulle være interessert.
TIlsynelatende bare å stocke opp på Spetti (som jeg tror er rebranda til Spaghetti a la Capri nå)
Edit: @theroger fiksa gavelenka nå (tror jeg), skjønner ikke helt hva som skjedde, kanskje jeg kopierte feil lenke som en jævla utilsikta digital luremus
2 Likes
When A.I. Becomes an Enemy - Connor Leahy
1 Like
1 Like
Kan det være at AI er skapt av gode gamle VHEMT?
Når jeg ser på websida deres, så konkluderer jeg med “nei”.
Føler det er en slags flashback til en webside fra midten av 1990-årene, det der 