Chatbotene kan øke motsetningene i samfunnet
Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.
Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.
Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.
– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.
Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».
Skrev ned tanker
Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.
De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.
Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.
Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.
Bekrefter oppfatninger
Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.
Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.
Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.
Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.
– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.
Store språkmodeller
Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.
– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.
Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.
ChatGTP svarer
Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:
«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.
Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».
Kan gjøre feil
«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.
Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.
Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.
Regjeringen vil bruke 94 millioner på nasjonal tidstjeneste
Regjeringen foreslår å bruke 94 millioner kroner på en nasjonal tjeneste for presis tid. Målet er å styrke beredskapen for samfunnskritiske systemer.
Forskningsnettet til Sikt skal bygge tjenesten, melder NRK. I dag er store deler av samfunnet avhengig av tidssignaler fra satellitter, men slike signaler kan forstyrres.
– At klokken er riktig og sporbar, er helt avgjørende for svært mange samfunnskritiske funksjoner i Norge og resten av Europa, sier næringsminister Cecilie Myrseth (Ap) til NRK.
Blant systemene som trenger presis tid, er mobilnett, betalingsterminaler og datanettverk. Myrseth sier bevilgningen på 94 millioner kroner skal få arbeidet med den nasjonale tidstjenesten i gang.
En nasjonal tidstjeneste ble også foreslått i en utredning fra Justervesenet og Nasjonal kommunikasjonsmyndighet tidligere i år. Datasystemer må vite hva klokken er med millisekunders presisjon. Hvis de ikke gjør det, kan for eksempel en mobiltelefon miste posisjonen.
Flytrafikken i Finnmark rammes ofte av GPS-forstyrrelser. Pilot og nestleder Sindre Haanshuus i Norsk Flygerforbund sier forstyrrelser skjer daglig på flygninger i Øst-Finnmark.
Macron: – Gaza bringer skam over oss alle
Frankrikes president Emmanuel Macron oppfordret verdenssamfunnet til å velge FN og folkeretten framfor den sterkestes rett i sin siste tale til FNs generalforsamling.
– Spørsmålet vi står foran er for å si det veldig enkelt hvorvidt vi vil leve i dagens tilstand, med en slags tilbakegang til den sterkestes rett, eller i et sivilisert verdenssamfunn, sa han.
Han la til at budskapet hans er at verdenssamfunnet bør kreve at regler opprettholdes og at imperier ikke kan misbruke sin makt. Den franske presidenten trakk også fram at verdenssamfunnet som helhet bør bygge arkitekturen for utvikling av kunstig intelligens, framfor å la USA og Kina få monopol.
Macron oppfordret til en slutt på angrep mot sivile mål og mål i energisektoren fra Russland og Ukraina.
– Vi har sett ødeleggelsen av sivil infrastruktur og menneskerettighetsbrudd. Det er en ny æra med barbariske handlinger.
Også palestinernes sak tok den franske presidenten opp.
– Hva er vår troverdighet egentlig verdt om vi forblir passive når det kommer til Gaza? Noen hevder at det er blitt fred, men det har ikke åpnet for nødhjelp. Det er et skue som bringer skam på oss alle, sa Macron.
Støre diskuterte KI med New Yorks ordfører
Statsminister Jonas Gahr Støre (Ap) og New York-ordfører Zohran Mamdani deler en interesse for å begrense bruken av kunstig intelligens i skolen, og diskuterte dette tirsdag.
– Vi er veldig begeistret for å møtes i dag og diskutere politikken vi har rundt kunstig intelligens, og hvordan vi kan sikre at barn får alle verktøyene og all kontakten med lærere de trenger, sier Mamdani til VG.
I likhet med Norge har New York innført begrensninger på bruk av KI i skolen. Støre og Mamdani diskuterte saken med småskoleelever på Beekman Hill International-skolen et drøyt steinkast fra FN-bygningen i New York.
– Han er en veldig interessant politiker, og mye ute blant folk her i byen. Han tar hverdagen på alvor, sier Støre.
Statsministeren er i byen for å delta på FNs høynivåuke. Med seg i bagasjen hadde han også en signert Martin Ødegaard-drakt til Arsenal-supporteren Mamdani.
Trump bytter offisielt navn på KI i USA til «superintelligens»
USAs president Donald Trump kunngjorde fra FNs talerstol at KI skal få nytt navn på amerikansk.
Navnet endres fra tidligere «artificial intelligence», altså kunstig intelligens på norsk, til «super intelligence» eller superintelligens på norsk.
– Heretter, i alle offisielle amerikanske dokumenter, og forhåpentlig også i resten av verden, vil det mer passende bgrepet «super» bli brukt istedenfor kunstig. Så det er superintelligens, sa Trump.
Trump brukte også tid fra talerstolen på å kalle alle advarsler rundt KI, bønner om regulering og frykt for at utviklingen skal gå for raskt, er tullball.
– Jeg kommer ikke til å hemme veksten til noe som kommer til å bli større enn den industrielle revolusjonen, sa Trump.
Ny måling: 11 prosent av amerikanerne er positive til KI
73 prosent av amerikanerne er bekymret for om KI-selskapene har gjort nok for å hindre at teknologien gjør alvorlig skade på samfunnet, ifølge en ny meningsmåling.
I målingen fra Reuters / Ipsos svarer bare 11 prosent at de mener kunstig intelligens (KI) er «en positiv ting». Mange er usikre eller har latt være å svare på dette spørsmålet.
39 prosent svarer at KI har en negativ effekt på samfunnet – en økning fra 36 prosent da det samme spørsmålet ble stilt i forrige måned.
Et spørsmål som har vært mye diskutert i USA den siste tiden, er om KI-utviklingen bør bremses. I meningsmålingen svarer 55 prosent at brems hadde vært bra, mens 13 prosent er uenig.
Et flertall i målingen mener amerikanske myndigheter bør spille en sentral rolle i å få på plass sikkerhetsstandarder for kunstig intelligens.
23 prosent svarer at det viktigste er at USA beholder den globale «førsteplassen» i KI-utviklingen, mens 73 prosent mener det er viktigere at utviklingen skjer på en trygg og ansvarlig måte.
FN-sjefen sammenligner KI-dialog med atomvåpendialog
FN-sjef Antonio Guterres kom med en rekke advarsler i sin åpningstale under FNs generalforsamling.
Blant annet fikk de store oljeselskapene, som han omtaler som «big oil», gjennomgå.
– Vi vet at fossilbrensel-interessene ikke vil tre til side av seg selv. I tiår har oljegigantene behandlet atmosfæren som et åpent kloakksystem, og tjent på konsekvensene, sa Guterres.
I talen advarte han også mot en farlig rask KI-utvikling. Særlig er han kritisk til bruken av barn som prøvekaniner for teknologigiganter. For å få kontroll oppfordrer han Kina og USA til dialog, og viser til dialogen om atomvåpen mellom USA og Sovjetunionen under den kalde krigen.
– Stater med de største KI-kapasitetene har det største ansvaret overfor menneskeheten, sa Guterres.
Han mener også at verden «ugjenkallelig» beveger seg i retning en mer multipolar verdensorden.
– Supermaktene må innse at deres makt ikke er så super, sa han, og la til at militærmakt alene ikke kan sikre fred.
Guterres kom også med kritikk av utvidelse av Israels bosetninger på Vestbredden, som han mener skaper fare for etnisk rensing.
Rubio mener diskusjon om KI-sikkerhet burde startet før
I et nytt intervju tar USAs utenriksminister Marco Rubio til orde for sikkerhetstiltak rundt kunstig intelligens (KI).
– Spørsmålet er hvordan vi får på plass sikkerhetstiltak og et rammeverk rundt det, slik at vi kan få fordelene av KI samtidig som risikoene begrenses, sier han til NBC.
Han sammenligner situasjonen nå med utviklingen av kjernekraft på 1900-tallet.
– Det er farer forbundet med kjernekraft, så vi måtte ha sikkerhetstiltak. Men det er også store fordeler ved kjernekraft.
Ifølge Rubio er det nødvendig å få til noe lignende med kunstig intelligens (KI). Det kan imidlertid bli vanskeligere siden KI-modellene utvikler seg så fort.
– Jeg mener dette er en diskusjon som trolig burde startet for to eller tre år siden. Men i det minste skjer det nå.
Rubio sier det er global bekymring som følge av KI-situasjonen og at også Kina er bekymret.
Mandag frontet statsminister Jonas Gahr Støre og Finlands president Alexander Stubb et internasjonalt opprop med krav om flere tiltak for å holde KI-utviklingen under kontroll. Det er undertegnet av en rekke stats- og regjeringssjefer.
Imidlertid har president Donald Trump tidligere avvist kravene om strengere kontroll med KI og sagt at det eneste sikkerhetstiltaket som trengs i USA, er en «sterk og smart» president.
Alibaba med ny KI-databrikke: – Den kraftigste i Kina
IT-giganten Alibaba sier deres nyeste KI-databrikke blir den kraftigste av alle som produseres i Kina.
Brikken Zhenwu V900 ble presentert på selskapets årlige konferanse i byen Hangzhou tirsdag.
Toppsjef Eddie Wu kalte nyvinningen «den kraftigste KI-databrikken i Kina i dag». Ytelsen skal være det tredobbelte av Alibabas forrige modell.
Selskapet planlegger også en ny og langt kraftigere KI-modell som skal få mellom 5 og 10 billioner parametre – en indikasjon på hva store språkmodeller er kapable til.
Samtidig skal datasentre utvides, og Alibaba tar sikte på 20 gigawatt med datakraft innen 2032. Til sammenligning har det amerikanske selskapet SpaceX i dag rundt 1,4 gigawatt.
Alibabas konferanse ble holdt dagen før Kinas president Xi Jinping ankommer USA for samtaler med president Donald Trump.
Samtidig skal KI-sikkerhet denne uken diskuteres på FNs generalforsamling i New York. Forskere, eksperter og ansatte i amerikanske KI-giganter har den siste tiden advart om at de stadig kraftigere KI-modellene kan utgjøre en trussel mot menneskeheten.
I USA er det forbud mot eksport av de kraftigste amerikanske KI-databrikkene til Kina. Forbudene omfatter også maskiner og utstyr som brukes til å lage slike brikker.
Amerikansk databrikkeprodusent passerte 1000 milliarder dollar i verdi
Den amerikanske databrikkeprodusenten AMD passerte mandag en børsverdi på 1000 milliarder amerikanske dollar.
Selskapets aksjekurs steg 10 prosent og passerte dermed en total verdi på hele selskapet på 1000 milliarder dollar, skriver CNBC. Det utgjør snaut 9500 milliarder norske kroner.
AMD-aksjen har steget voldsomt helt siden det i fjor ble kjent at de inngikk en avtale med OpenAI. Bare de siste fem dagene har kursen steget 25 prosent og siden årsskiftet 185 prosent.
Ifølge AMDs administrerende direktør Lisa Su er det forventninger om at selskapet vil doble omsetningen fra datasentervirksomheten neste år. I andre kvartal i år sto denne delen av virksomheten for en omsetning på 6,7 milliarder dollar, en vekst på 107 prosent fra samme periode året før.
AMD er verdensledende Nvidias største konkurrent på databrikker og er en av verdens største produsenter av prosessorer til alt fra datamaskiner, spillkonsoller og datasentre. Nvidia hadde mandag en markedsverdi på 5480 milliarder dollar.
British Columbia saksøker OpenAI etter skoleskyting
Den canadiske provinsen British Columbia saksøker OpenAI, etter at selskapet skal ha unnlatt å melde fra om voldelig aktivitet på KI-tjenesten ChatGPT.
Søksmålet går i den amerikanske delstaten California. Ifølge provinsens justisminister Niki Sharma søker søksmålet «ansvarliggjøring og endring» fra OpenAI.
Selskapet har tidligere beklaget at de ikke varslet om en konto knyttet til den 18 år gamle transkvinnen som først drepte sin mor og stebror hjemme, deretter fem elever og en lærer på en skole i bygda Tumbler Ridge i februar.
25 mennesker ble såret i et av de verste massedrapene i canadisk historie. Kvinnen tok sitt eget liv i etterkant.