Bokelskere.no

For hva skjer om du prøver å oppdra en krokodille som et menneske, eller gir den belønning hver gang den oppfører seg etisk? Uansett hvor pedagogisk du er, vil krokodillen før eller siden spise deg.

Om AI genererte bilder: )
Vi gjør lurt i å gå ut fra at vi lever i en verden der vi ikke kan se forskjell på ekte vare og deepfakes. (s 177)
Mange bekymrer seg for hva deepfakes vil gjøre med informasjonsutvekslingen i samfunnet, og i ytterste konsekvens det opplyste demokratiet. På den annen side kan generert innhold være en velsignelse i forkledning: Vissheten om at all digital informasjon i prinsippet kan være villedende, gir oss et kraftig insentiv til å utvikle kritisk tankegang. Kritisk tenking er uhyre viktig, for den utgjør evnen til å ettergå og undersøke informasjonen vi får servert, og er dermed det mest robuste forsvaret vi har mot manipulasjon - også i den virkelige verden. (s 178)

"De siste par årene har maskinene begynt å tilegne seg evner vi ikke har vært vant til at de har: De skaper bilder, skriver tekst, ser sammenhenger vi mennesker ikke ser, og tar beslutninger raskere og bedre enn vi klarer,"

Det er en gigantisk utfordring at kunstig intelligens utvikles i et kommersielt marked, hvor kortsiktige mål stort sett aldri samspiller med langsiktige mål.

Når vi gir mål til stadig mer intelligente maskiner, blir det stadig viktigere å sørge for at målene vi gir dem, ikke strider mot våre overordnede mål.