Jeg føler noe vi er mest uenig i ikke skyldes hva som kan skje eller vil skje, men hvem som skal styre det.
Jeg er sterk motstander av unødvendig statlig regulering, kontroll og sensur.
Om den samme kontrollen og sensuren skjer frivillig fra private selskaper fordi det passer deres forretningsmodell så er det ikke så nøye for min del. Mye fordi min antagelse er at så lenge det er basert på frivillighet så vil forskjellige selskaper ha forskjellige incentiver, og ta forskjellige valg, og hvis alle marsjerer i takt så vil nye selskaper fylle tomrommene som kommer.
Eksempelvis vokser Kick og Rumble mye pga sensurpolitikken til youtube, twitch, facebook, etc. Det er livestreamingmarkedet.
Det er mye verre hvis man har statlig regulering, da er det ofte full stopp - eller så krever det ekstremt mye penger for å kunne ignorere det og betale bøtene i etterkant.
Jeg er heller ikke FOR statlig kontroll og myndighetsovervåkning, men hvis alternativet er at ingen regulerer dette, så blir det å velge mellom pest eller kolera for egen del. Da vil jeg faktisk si ja til at myndighetene overvåker det.
Det er vel her vi er mest uenige (slik jeg tolker deg; du vil ha fri flyt og fri utvikling uten noen form for kontroll eller innblanding?)
Et annet alternativ er jo at bransjen selv tar ansvar, og setter sammen et konsortium av et eller annet slag som blir enige om best practice og retningslinjer (dos and donts) som alle medlemmene av denne klubben etterlever. Finnes mange slike innstanser i andre bransjer.
Videre kunne man gitt fordeler til de selskapene som faktisk etterlever retningslinjene, og på den måten regulert utviklingen, uten for mye innblanding. Selskapene som etterlever retningslinjene vil da få et eller slags stamp of approval.
Og inkluder de som er mest skeptiske i dette panelet. Da ville faktisk også de som betegnes som alarmister i dagens klima kanskje også blitt hørt…? Og man ville kommet frem til et kompromiss.
Jeg har ikke fasiten på hva som er riktig å gjøre, men at man burde stille spørsmål, og at klokere hoder enn meg burde undersøke og bestemme retningen nå, mens dette enda er i barndommen, det er jeg ikke i tvil om. Vi gjorde feilen med å ikke regulere sosiale medier og det finnes nå en rekke studier på hvor negativt det har vært for samfunnet som helhet - og hvilke konsekvenser det har ført til (som man ikke forutså da). Å gjøre det samme med A.I kan potensielt være katastrofalt.
Stort sett. Spesielt når det kommer til digitale medier (artikler, tekst, chatting, bilde, lyd, video, 3d-modeller, programmering, generering av ting).
Jeg er ikke så ekstrem at jeg mener du skal kunne selge selvkjørende biler uten noen form for statlig godkjennelse, prøveordninger osv.
Vi har ingen garanti for at dette eventyret ender bra til beste for menneskeheten. Enten det forsøkes kontrollert av myndigheter, eller om det slippes helt fritt på det demokratiske alter. Problemet med f.eks. demokratiske prosesser er gjerne at de har en tendens til å bli korrumpert av kapitalkrefter.
Alle gamle tekstbaserte spill kan få voice-acting av all tekst? Og kvaliteten vil selvfølgelig bli bedre og bedre med tiden. Bare fordi noen syntes det var morsomt å lage.
Det var da veldig ensidig fokus på en del av argumentet hans i den artikkelen, han har også sagt:
Professor Stephen Hawking has warned that the creation of powerful artificial intelligence will be “either the best, or the worst thing, ever to happen to humanity”, and praised the creation of an academic institute dedicated to researching the future of intelligence as “crucial to the future of our civilisation and our species”.
“The potential benefits of creating intelligence are huge,” he said. “We cannot predict what we might achieve when our own minds are amplified by AI. Perhaps with the tools of this new technological revolution, we will be able to undo some of the damage done to the natural world by the last one – industrialisation. And surely we will aim to finally eradicate disease and poverty.
“Every aspect of our lives will be transformed. In short, success in creating AI could be the biggest event in the history of our civilisation.”
Når de mulig negative konsekvenser er så voldsomme som i dette tilfellet, så mener jeg det er riktig å fokusere på nettopp dem. Som debatten her i denne tråden også har belyst, så kan det bli svært vanskelig å kontrollere denne utviklingen, slik at vi sikrer at det blir til menneskehetens beste.
Problemene oppstår når man tilgjengeliggjør dette for massene. Ikke alle der ute er rasjonelle vesener med gode hensikter. Han her er et eksempel på en som finner et bruksområde som kan kopieres og brukes til noe helt annet…
Øyne? Hva med å gi den en kropp også, så kan den leve livet ditt for deg
De negative konsekvensene om myndighetene forbyr eller stanser utvikling er mye større. Den type teknologi som chatgpt består av er noe helt annet en Hawking beskriver (en ny livsform)
Men Holmes, du erkjenner vel at en AI uten begrensninger, som gis tilgang til det åpne nettet, vil kunne ta styring over deler av IOT og gjøre mye skade f.eks.?
Et annet poeng her er effekten av feilinformasjon på nett på AI som lages fra informasjon den finner på nettet. Kanskje gruppene som produserer tusenvis av falske artikler vil kunne påvirke standpunktene til en slik AI bare ved å fylle internett med ræl?
Du virker for meg å ha et svært lettsindig forhold til risiko? Til og med når de potensielle konsekvenser i verste fall er undergangen til menneskeheten?
Jeg har uansett ikke hevdet at myndighetskontroll løser dette. Poenget er i det minste at vi bør være klar over hva vi holder på med. For meg virker det rett og slett naivt å kun glede seg over hvor lettvint og bra alt skal bli.
De finnes så urolig mange måter å være destruktiv på, det kan man også helt sikkert være med en AI, men det er nok mer effektive måter for en kriminell mastermind å ødelegge for vanlige folk.
The only thing to fear is fear itself - ikke akkurat sant, med tanke på alle utfordringene vi står overfor, men kanskje passende når det gjelder AI dommedagsprofeter
