Når vi gir mål til stadig mer intelligente maskiner, blir det stadig viktigere å sørge for at målene vi gir dem, ikke strider mot våre overordnede mål.

Godt sagt! (8) Varsle Svar

Viser 4 svar.

Jeg blir nysgjerrig, finnes det en samlet enighet om hva som er våre overordnede mål? Tror nemlig det spriker i alle retninger, og at penger og fortjeneste vinner uansett. Sier boken noe om dette? Fikk uansett lyst å lese den…

Godt sagt! (3) Varsle Svar

I følge forfatteren er våre overordnede mål

Sitat
at alle mennesker skal ha et lykkelig liv, være friske og leve godt mens vi tar vare på kloden, har økonomisk vekst og hva vet jeg
Sitat

Menneskehetens overordnede mål drøftes ikke inngående, og er selvsagt noe man kan være uenig i. Poenget er at forfatteren avslutningsvis advarer om at utviklernes og forskernes mål kan være mer kortsiktige og profittorientert, og at dette igjen kan bli farlig for mennskeheten når AI-systemene utvikler superintelligens og dersom denne superintelligensens mål er forskjellige fra målene menneskeheten egentlig har.

Godt sagt! (3) Varsle Svar

Et veldig godt spørsmål synes jeg. Som du sier, vinner alltid penger og fortjeneste. Hva er imidlertid noe av det viktigste i et velfungerende demokrati? Pålitelige sikkerhets- og helsesystemer er blant det.
Vi skal kunne bo trygt og leve uten dominerende frykt for at vi kreperer alene uten mulighet til å forlenge (kvaliteten på) eksistensen vår.
Tradisjonelle håndverksyrker, innsatsen bak hardt arbeid, den kompromissløse gode følelsen som følger et stykke hardtarbeidet resultat, følelsen av å arbeide hardt for noe, slite, lide med et mål i horisonten, det å ikke vegre seg over fysiske strebelser, det å følge i våre foreldres fotspor, begjæret om å prestere like bra eller bedre enn det gemene hop, presset fra familie og samfunnsstandarder som belønnet sterkt fokus på innsats og utdanning, alt dette som forsvant og fortsetter å svinne hen for hver digitale time som tikker.
Verden er vid. Det går ikke an å snakke om alle nasjoner, byer og bydeler som ett eller trekke direkte linjer mellom hva som fantes og hva som er borte i dag. Hvis det ikke finnes Starbucks i landet, er det virkelig et utviklet land? Kommentarene mine har grobunn i det norske samfunnet; verdens til syvende og sist mest utviklede land, tar vi med alt fra bruk av moderne teknologi til helhetlig innsikt i hva det vil si å kunne leve trygt og med muligheter til et sunt liv.
Med alt fokus på å forenkle hverdagen, forsvinner tradisjonene og de som blir født inn i verden i dag lider av mange hemninger som følge av det som mangler i samfunnet (mtp. å arbeide hardt for å oppnå noe). De som er unge i dag har ikke mulighet til å minns det som var, og våre eldre søsken og foreldre, som omfavnes i samme grad av dagens teknologieksistens, bidrar mindre og mindre til å opprettholde den innsatsviljen som fantes i dem da de var unge, som ledet dem til å ikke syte for å gjøre noe ekstra for å få til det som krevdes for å lykkes. Per i dag gjør vi ekstra innsats relativt til grunninnsatsen, som i dag er lavere enn den var for noen tiår siden. Den ekstra innsatsen anses da objektivt som lav. Folk syter raskere. År går forbi og man forblir på samme plassen, og lurer gjerne fortsatt på hva som er meningen med livet.
I min bok så skader det samfunnet i sin helhet når man forenkler alle prosesser, digitaliserer alt tidligere strev og reduserer de gode, sterke karakteristikkene vi var vant med å se i mennesket. Som jeg nevnte blir dagens innsats og dagens sammenligningsgrunnlag et nivå svakere enn det var tidligere, selv om det kan føles 'likt'. Den yngre generasjonen har bare dagens standarder å sammenligne med, og dermed nøyer man seg med mindre. Tidligere, mellom arbeidsøktene, innsatsen, strevet og reisen mot målene sine, belaget man seg på mindre stimuli enn per i dag. Kanskje vi mottok 10-15 inntrykksgivende stimuli i løpet av en dag, da i form av de menneskene vi møtte på, de ressursene vi hadde å lære av, og hendelser vi observerte eller som påvirket oss.
I dag har vi apper, eksempelvis Pinterest, som en gjennomsnittsbruker kanskje mottar 200 stimuli om dagen fra. Intense brukere, kanskje 1000 om dagen. 1000 bilder som man enten tenker bra/dårlig om, eller grader av bra/dårlig (kult, veldig kult, wow/æsj, så teit, for en tragedie), slik at man sitter igjen på enden av dagen som en opphakket personlighet avledet av 1000 avgjørelser om man likte noe eller ikke likte noe. Hvem er vi? Det stadige resultatet av alle disse sammenligningene?
Overordnede mål mener jeg bør rettes mot det som opprettholder et sunt demokrati, og det grunnleggende er ikke så altfor komplisert. Ved å inkorporere ny teknologisk stimuli, og utvikle den digitale hverdagen, forvirrer vi oss selv og over-kompliserer det som ikke trenger å være så innviklet. Det var mulig å følge trender i fortiden også, det var mulig å våkne opp 3 dager på rad med samme gode lynne, altså å være positivt innstilt i 72 timer. I dag våkner man sjelden opp med samme humør som man var dagen før. Nyheter og stimuli dominererer tilstedeværelsen og vi blir et produkt av en overflod av inntrykk, i stedet for en mer kalkulert eller redusert tilfeldig tilnærming som var tilfelle tidligere. Solide, trofaste karakterer. Enten var du godhjertet eller en råtass. I dag kan vi veksle mellom dette annenhver dag, og det godtas på lik linje som om det er den sunneste atferden i verden.
For å se objektivt på overordnet idealisme, må vi ta i betraktning all patologi som nå er hverdagen og inkorporere essensen i mennesket som fantes før vi startet denne nedadgående kurven. For det ultimate ønsket for arten vår i sin helhet, er vel å fremme sterke individer som ikke hemmes av vilkårlige inntrykk i en slik grad at det trekker ned prestasjoner, sinnsstemning og lysten/evnen til å drømme om noe for seg selv?
Overbefolkning, eller den eksponensielle veksten av arten vår, som skyter i været raskere enn vi kan, eller har råd og evne til å, bygge hjem og stabile samfunn for, er et objektiv problem å regne. Farlige yrker krever ofte menneskeliv. Moderne teknologi kan forhindre tap av liv i farlige situasjoner f.eks. ved å redusere risikomomenter eller i det hele tatt utføre farlig arbeid for mennesket, og dermed forsterke overbefolkningsfaktoren. Det er godt å forhindre tap av liv, men også med hvert forlengede liv, så tynges en annen persons liv ned. Det er ingen balanse sånn sett, ettersom vi alle kjemper for å komme oss til de reduserte mulighetene.
Det å være lat, eller å nøye seg med mindre, kan ses på som et gode i en overbefolket verden. Folk gjør mindre ut av seg, og de som faktisk griper sjansen, har fortsatt gode muligheter til å lykkes. Det blir et veldig Darwinistisk perspektiv, der den sterkeste er den som overlever.
Men hva er det som anses å være sterk i dag?
Hvordan kan vi etablere disse beskrivelsene uten å ta med hvordan det var tidligere?
Hvordan kan fortidens innsats gå i glemmeboken, og hvorfor skal teknologien sluke oss alle hele?

Jeg innser at jeg sporet av her. For å se konsekvensene så må erfaringer og studier i etterkant til, med mindre det skytes masse penger inn i prognoseforskningsetater som har monopol på avgjørelser om patenter skal godkjennes eller ikke. Ettereffekter kan først måles 'eksakt' etter en generasjon, eller et helt liv. Det virker det ikke som om vi har evne til å ta oss tid til, og suget etter nye måter å tjene penger på resulterer i sjeledød. Og prestasjonsangst. Og redusert potensiale.

Godt sagt! (3) Varsle Svar

Hei, ser at jeg ikke har gitt noen respons på innlegget ditt, men jeg husker at jeg ville finne tid til å lese det grundig. Jeg synes det er fint med litt avsporing, særlig når det inneholder så mye engasjement som teksten din, det heier jeg på.
Jeg synes du har mange gode poeng, og det virker som du har zoomet ut og betraktet verden og oss individer på avstand og spurt deg selv, hva er det vi driver med og hva er egentlig viktig?
Ser for meg at vi kunne hatt stor glede av en samtale om emnet.
Fortsett avsporingen, formidlingen og engasjementet ditt, det er nok av dem som ikke sier noe.

Godt sagt! (1) Varsle Svar

Sist sett

Bjørg L.IreneleserKorianderKirsten LundBeathe SolbergMarit HåverstadIngunn SPiippokattaDolly DucksiljehusmorAstrid Terese Bjorland SkjeggerudCarine OlsrødLene MHilde H HelsethKaramasov11Kari ElisabethStein KippersundAnn Helen ETrude JensenTorill RevheimGodemineHarald KTone SundlandBente NogvaMarianne MKristine LouiseAgnete M. HafskjoldAnn-ElinalpakkaTonesen81RonnyTor Arne DahlCathrine PedersenEivind  VaksvikÅsmund ÅdnøyBirkaBerit B LieLabbelineJohn LarsenHeidi Nicoline Ertnæs