Som softwareutvikler, så er det å kunne google seg til et kjapt greit svar på hvordan du skal løse noe (typisk bruke en API uten å lese side opp og ned med api dokumentasjon) noe som jeg nesten følte var en større del av ingeniørutdannelsen 
Har ikke tatt i bruk AI for kodegenereringen enda, men ser at verktøyene der begynner å bli bedre og bedre, så tipper det blir tatt i bruk i løpet av det neste året.
Bare vent til ChatGPT også blir sponset og resultatet blir som på Google, at søkfunksjonaliteten blir ødelagt av sponsede resultater.
“Hei ChatGPT! Har fjellsport.no noen gode tilbud denne uka?”
“Finner ikke fjellsport.no dessverre, men XXL har kjempetilbud på sokker!”
“Prøv igjen. Fjellsport.no eksisterer definitivt.”
“Ja, beklager, jeg søkte tydeligvis ikke nøye nok. Fjellsport.no eksisterer, men jeg ser ikke at de har noen tilbud. XXL har derimot kjempetilbud på svømmeføtter!”
“Drit nå i XXL. Fjellsport.no har ukentlige tilbud, det vet jeg. Jeg vil bare vite hva de er.”
“Ja, beklager, jeg ser nå at fjellsport.no har tilbud på soveposer denne uka.”
Dette er vel spesifikt rettet mot LLMs. Hvis man får til AGI har man helt andre problemer.
Utover det - det var en mye omtalt sak i mediene for en ukes tid siden om en AI drone som «drepte» sin operatør under en simulering. Det amerikanske forsvaret har senere gått ut og sagt at det var et «hypotetisk scenario», og at det aldri skjedde, men det er jo lett å tenke seg hvor realistisk følgende er:
A.Ien fikk poeng for å treffe targets i simuleringen. På et tidspunkt begynte operatøren å si at den IKKE skulle drepe targets som den fikk poeng for. Den drepte da operatøren fordi vedkommende hindret den i å utføre sitt oppdrag.
Problemet som tas opp er nettopp det som er så farlig med «dum» A.I. Det er umulig å gjette seg til alle enkeltfaktorene man må ta stilling til, når man skal få en A.I til å gjøre noe IRL. Resonneringen den gjør kan resultere i utilsiktede konsekvenser man umulig kan ta høyde for.
Det som beskrives her er problemet med autonome systemer.
Det er derfor man trenger testing og at selskapene og ledelsen som driver med dette kan holdes ansvarlig, både gjennom straffesaker og sivile søksmål.
Det er ikke ett “AI” problem, men ett “uhell skjer når rare hendelser oppstår.” Og da er spørsmålet, skyldes det at man ikke tok sikkerheten alvorlig, eller var det - i praksis - umulig å forutse.
At man finner sånne ting under testing er jo akkurat slik det skal gjøres.
Hvordan foreslår du å teste noe som er open source?
Dette eksperimentet sier jo sitt om hva som er mulig med disse verktøyene:
Ved at de som implementerer det tester det?
Altså, det er jo mulig å bruke teknologien til ondskap? Folk har også hacket seg inn i datasystemer som gir dem tilgang til faenskap. Skal man forby datasystemer?
Jeg syntes veldig mye av frykten rundt “tenk hva AI kan” ikke tar høyde for “men dette skjer allerede uten AI.”
Ja, det er jeg enig med deg i, folk vil alltid kunne utføre ondskap.
Men det er stor forskjell på å hacke seg inn i et datasystem (krever mye kunnskap om hacking og systemet man hacker) og å få en A.I til å utføre hackingen for deg (krever riktig prompt).
A.I kan gi deg boosten du trenger for å faktisk gjennomføre noe ondsinnet, på en veldig enkel måte. En ting er å spørre den rett ut om den kan gi deg ideer på faenskap, men man kan også gå mer systematisk til verks.
F.eks disse forskerne som bare reverserte inputen til sin A.I, som skulle screene vekk potensielt farlige kjemikalier. Alt de trengte å gjøre var å si den skulle komme opp med potensielt farlige komboer av kjemikalier, og den laget 40 000 av dem på 6 timer.
Er det vanskelig å replikere? Nei, i følge forskerne selv:
How easy is it for someone to replicate what you did? What would they need?
I don’t want to sound very sensationalist about this, but it is fairly easy for someone to replicate what we did.
If you were to Google generative models, you could find a number of put-together one-liner generative models that people have released for free. And then, if you were to search for toxicity datasets, there’s a large number of open-source tox datasets. So if you just combine those two things, and then you know how to code and build machine learning models — all that requires really is an internet connection and a computer — then, you could easily replicate what we did. And not just for VX, but for pretty much whatever other open-source toxicity datasets exist.
Merk at artikkelen er over 1 år gammel, og at man i dag ikke heller trenger å kunne kode eller bygge MLMs, dette kan man enkelt fremskaffe gratis. Den eneste barrieren jeg ser er at man må a). ha tilgang til ingrediensene for å lage dette og b). man må vite hvordan man faktisk mikser stoffene, men dette kan man vel også få hjelp til… 
Jeg husker at folk syntes det var kjempekult å ha “The Anarchist Cookbook” når jeg var tenåring på 90-tallet. Nå kan du vel bare gå til youtube og google “how to make TNT” eller “how to improvise explosives” - eller for mange amerikanere, bare kjøpe våpen som tillater deg å gjøre forferdelige ting.
Jeg vet ikke om jeg kjøper tanken på at en generering av 40 000 farlige kombinasjoner av kjemikalier gjør verden mer utrygg. Jeg føler generelt at denne typen informasjon i stor grad allerede er ekstremt lett tilgjengelig.
Men det er min mening 
Eller bare kjøpe en bil? Hvis noen vil gjøre stor skade, så får de til det. Å gå den lange veien om å gjøre det ulovlig virker for meg som bortkastet tid hvis det er målet.
Det er jo latterlig mye sikkerhetsteater på fly. Hvorfor ikke det samme på buss? Tror ikke det er så lett å overleve hvis noen bestemmer seg for å kapre en buss og kjøre den opp i maks fart og så kræsje.
Så, det du sier er at hvis man har en webside, så kan du bare få en AI til å teste sikkerheten? Nice.
Fordi det ville være irriterende
Ellers har jeg alltid lurt på hvorfor man på død og liv skal inn på ett fly når det er flere folk samlet i sikkerhetskontrollen… er dramatikken så viktig liksom? 
Akkurat slik, den som implementer og selger en løsning er og ansvarlig for sikkerhet iht f.eks maskindirektiv o.l.
Gjør du det selv, aka “open source” så er du selv ansvarlig for forsvarlig bruk og opplæring i bruk for å være i henhold til loven.
Ja, til du har en A.I som er bedre til å hacke enn den som tester sikkerheten. Det blir jo bare det samme kappløpet vi har nå, som @anon80503862 sier, bare på steroider.
Jeg er egentlig mer bekymret for de utilsiktede konsekvensene av A.I som vi ikke har forutsetning for å snakke om nå – (ref. sosiale medier og hvordan det har ført til økt kroppspress, dårligere sosiale relasjoner, mer egoisme, mindre tid ute, mer depresjon, mer tid på skjerm, dårligere livsstil etc. etc).
Som nevnt over tenker jeg da spesielt på hvordan man kan forsikre seg om at forsøk med gode intensjoner ikke resulterer i større negative konsekvenser way down the line. Jeg opplever at dette blir veldig lite diskutert, antagelivis fordi det krever ganske mye å tenke så langt.
Eksempel på dette er f.eks at man sier til A.Ien «stopp global oppvarming», og den finner ut at den beste måten å gjøre det på, (etter å ha forsøkt mange ulike ting som ikke gir nødvendig ønsket effekt), er å fjerne alt som er med på å forårsake oppvarmingen, inkludert mennesker…
https://www.dn.no/marked/kunstig-intelligens/sprak/meta/sprakbarrieren-faller/2-1-1479346
Facebookeieren Meta lanserte nylig en modell som kan lese, tolke og skrive de aller fleste språk i verden. De har full kontroll på 1100 språk og kan gi en grei oversettelse på ytterligere 3000 andre språk.
Jeg har testet ut språkmodellene på vegne av et bilimportfirma jeg er medeier i. Det var vel et titall selskap som samlet skyldte oss én million i momsutlegg.
Tidligere purringer på dårlig norsk-tysk hadde ikke fått de til å betale. Men, da jeg tok i bruk de nye språkmodellene og plutselig formulerte meg som en tysk advokat, rant pengene inn.
Gjør det mao mye lettere å drive business på tvers av språkbarrierer.
Modellene til Meta er også så raske at de snart egner seg for simultanoversettelse. Dermed er det bare å ta på airpods’ene og snakke sammen med folk som taler et helt annet språk.
Hey, simultanoversettelse! For å si det sånn, jeg følger med på krigen i Ukraina, tildels via google translated russisk/ukrainsk. Den er svært god. Meta sin oversettelse ser ut til å være et par hakk skarpere.
Dette var inntil nylig Sci-Fi. Nå er det høyst reelt.
Enormt potensialet for effektivisering rundt alt av språk, fiksjon, oversettelser, osv.
“Jeg har skrevet en bok på norsk, kjør gjennom her, og oversett til 100 språk, selvpubliser på amazon, og kjør lokalt tilpassede annonser på forskjellige språk avhengig av geolokalisering på google/facebook/twitter/wherever.”
Alt trenger ikke være perfekt, ofte er godt nok mer enn bra nok.
Jeg tenker det også på sikt vil være mulig å kjøre det gjennom muntlig, og få tv serier og filmer oversatt også, og så vil AI basert på lydsporet generere samtaler på forskjellige språk som er basert på skuespillernes stemmer. Perfekt? Nei. Bra nok? På sikt vil jeg tro det.
Også kopiering 
Jeg finner populære bøker i sør-amerika, kjører de gjennom norsk-oversettelse og selger dem her
Man kan også eventuelt kopiere influencere fra andre land og lage sin egen fiktive profil og se om den slår an likt her. Ta alle bilder og poster, kjøre dem igjennom oversetter og spre dem i hundre land på hvert sitt språk og se om noen kontoer vokser. Selge dem videre og leve av det
Mja, jeg tror faktisk at automatiske systemer vil fange opp det på sikt og det vil bli enkelt å saksøke deg
Folk gjør jo allerede dette forresten, men primært med kinesiske webnoveller osv. Begge veier.
Ja, det går også an, men da kan man si til AI-en at den skal endre alle navn til nye navn, endre litt på plot og oppstilling, så har du en helt ny bok på 5 min Skal teste kjapt med Chatgpt ^^
Funker fett på Sherlock Holmes første side i hvert fall 
Først med AI-tekstgjennkjenning og så AI-rewriting ^^
En bok bygges opp av ord, setninger, avsnitt ,scener, kapitler, akter (3, 4 eller 5 er normalen). En AI som gjenkjenner en bok vil plukke opp avsnitt og scener og finne ut at det er plagiering. Er nok av folk som har forsøkt å lage “nye” bøker ved å - i praksis - gjenfortelle en bok, og de støter på problemer med lovligheten av det. Normalt fordi lesere sier “jeg har lest det før” og klager til amazon, og så blir forfatteren kontaktet.
Men å gjenfortelle eventyr og andre ting som har gått ut og ikke lenger er beskyttet av opphavsrettigheter er faktisk ganske normalt. Er uendelig mange “modern fairytale retelling” bøker på amazon osv.
