Chatbotene kan øke motsetningene i samfunnet

Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.

Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.

Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.

– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.

Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».

Skrev ned tanker

Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.

De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.

Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.

Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.

Bekrefter oppfatninger

Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.

Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.

Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.

Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.

– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.

Store språkmodeller

Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.

– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.

Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.

ChatGTP svarer

Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:

«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.

Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».

Kan gjøre feil

«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.

Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.

Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.

15:40 - Redaksjonen

Skygard-sjefen blir direktør for nytt nødnett

Nasjonal kommunikasjonsmyndighet (Nkom) har ansatt Elise Lindeberg som avdelingsdirektør for den nye avdelingen for nød- og beredskapskommunikasjon.

Hun får dermed får ansvaret for å lede arbeidet med utviklingen av Norges nye nødnett. Det regnes som en av de største satsningene i Norge innen samfunnssikkerhet og beredskap de kommende årene, og innebærer at nødnettet skal inn i de kommersielle mobilnettene.

Idag er nødnettet et separat kommunikasjonsnett, som ikke tillater annen kommunikasjon enn tale og enkle meldinger. Når det nye nødnettet etter planen er på plass i 2031, åpner det for at nødetatene kan ta i bruk en rekke nye tjenester.

Elise Lindeberg har også tidligere jobbet i Nkom, blant annet som sikkerhetsdirektør, men ble våren 2024 ansatt som administrerende direktør i datasenterselskapet Skygard.

- Vi er svært glade for at Elise skal lede dette arbeidet. Hun har solid ledererfaring, kjenner Nkom godt og har den kompetansen som trengs for å lede en satsing med stor betydning for samfunnssikkerheten, sier Nkom-direktør John-Eivind Velure i en melding Nkom har sendt ut.

13:22 - NTB

Ingen skjerping av loven mot sosiale medier i Australia – foreløpig

Australias statsminister Anthony Albanese retter kraftig kritikk mot folkevalgte som denne uken forsinket en skjerping av det som er verdens første forbud mot at barn bruker sosiale medier.

Albanese mener at faren nå er stor for at tekselskapene ødelegger viktige dokumenter som ellers kunne vært brukt som bevis for at de ikke gjør nok for å hindre at barn bruker sosiale medier.

– Forsinkelsen er skandaløs, fordi som eSafety-ombudet har sagt veldig klart, så vil det gi plattformene mulighet til å bare slette en mengde materiell, sier Albanese til australsk rikskringkasting fredag.

– Hadde det blitt vedtatt i går, ville det vært datoen som kravene fra kommissæren kunne gjøres gjeldende fra. Dermed kan bøter ilegges, føyer han til.

Vil ha grundigere arbeid

Både det borgerlige opposisjonspartiet De liberale og De grønne avviste å stemme for forslagene. I stedet ba de Senatet om å bruke åtte uker på å gjennomgå endringene.

Forslagene fra den sosialdemokratiske regjeringen går blant annet ut på at bøtene som tekgigantene må betale hvis de ikke gjør nok, økes til 99 millioner australske dollar, en dobling fra dagens nivå. Det tilsvarer om lag 675 millioner kroner.

I tillegg skal datatilsynet eSafety få større fullmakt til å kreve interne dokumenter fra tekselskapene om hva de gjør for å utelukke brukere under 16 år – slik at det blir lettere å ilegge bøter.

16-årsgrensen i sosiale medier ble innført i desember, men undersøkelser viser at det er vanskelig å håndheve. Mange barn som fikk slettet sine kontoer på blant annet Facebook, Instagram, Youtube, Snapchat og Tiktok, har fått opprettet nye.

Stor oppslutning

Forbudet, som er verdens første, ble vedtatt med stort flertall i 2024. Da fikk tekgigantene ett år på seg til å innføre tiltak som gjør at 16-årsgrensen blir overholdt.

Mens De grønne stiller spørsmål ved hvorfor en bot som aldri er brukt, skal dobles, mener høyreopposisjonen at loven må bli enda strengere.

– Dette er et forbud mot sosiale medier som er i ferd med å feile – en halvkokt lov som er dårlig utformet, som ble hastebehandlet, som er dårlig gjennomført, og som ikke virker, sier senator Sarah Henderson fra De liberale.

– Vi vil behandle dette lovforslaget grundig, og for å si det rett ut: Jeg mener endringsforslagene som er til behandling i parlamentet må være mer vidtgående, legger hun til.

USA fjerner Anthropics KI-begrensninger

KI-selskapet Anthropic kan gjenopprette tilgangen til de kraftige modellene Fable 5 og Mythos 5 etter at USA nå har fjernet restriksjonene.

Det opplyser Anthropic, som viser til et brev fra USAs næringsdepartement om vedtaket.

Imidlertid vil Mythos 5 kun være tilgjengelig for en utvalgt gruppe amerikanske selskaper.

I brevet fremgår det av brevet fra departementet at næringsminister Howard Lutnick er fornøyd med en risikogjennomgang som Anthropic har gjort i samarbeid med amerikanske myndigheter.

President Donald Trumps administrasjon hadde påberopt seg bekymringer rundt nasjonal sikkerhet og innførte begrensninger på Anthropics kraftigste modeller 12. juni. En av hovedbekymringene var at modellene kunne brukes til avanserte dataangrep.

Forut for dette var det strid mellom Anthropic og forsvarsdepartementet fordi Anthropic nektet å la deres teknologi bli brukt til masseovervåkning og autonome våpen, noe som førte til at Pentagon avsluttet sine kontrakter med selskapet.

Fifa: Eksplosjon i hatefulle innlegg under VM – størst andel rasisme

Fifa har registrert 89.000 hatefulle innlegg i sosiale medier under gruppespillet i fotball-VM 2026. Mer enn én av ti innlegg var rasistisk motivert, viser en ny rapport.

Tallene kommer fra Fifas tjeneste for beskyttelse i sosiale medier (SMPS), som overvåker og modererer innhold rettet mot spillere, trenere, dommere og andre aktører under den pågående turneringen i USA, Canada og Mexico.

Over seks millioner innlegg og kommentarer ble analysert i løpet av gruppespillet. Kunstig intelligens flagget rundt 250.000 innlegg for manuell gjennomgang, og 89.000 av disse ble bekreftet som krenkende og fulgt opp.

Rasisme øker

Rundt tusen kontoer er sendt videre til politiet for nærmere etterforskning, mens 181.000 hatefulle kommentarer er skjult som del av modereringsarbeidet.

Ifølge rapporten inneholdt elleve prosent av de hatefulle innleggene rasistisk sjikane. Det er en økning på tre prosent sammenlignet med VM i Qatar i 2022. Rasisme utgjør den største enkeltkategorien av krenkende innhold.

Fifa har registrert 13 ganger flere hatefulle innlegg enn under VM i 2022. Samtidig understreker forbundet at årets mesterskap hadde et utvidet gruppespill med 48 lag, mot 32 for fire år siden. Det kan forklare noe av økningen.

Mange rettssaker?

Totalt ble over to millioner kommentarer moderert under gruppespillet, en firedobling sammenlignet med 2022. Dette inkluderer søppelpost og innhold generert av roboter eller falske kontoer.

Som del av videreutviklingen av SMPS-tjenesten samler tjenesten også inn bevis til bruk for rettshåndhevelse. Over hundre tilfeller fra gruppespillet er identifisert som sterke nok til å danne grunnlag for juridiske saksdokumenter.

Siden SMPS-tjenesten ble lansert i 2022, har den fjernet over 30 millioner hatefulle innlegg og kommentarer på mer enn 50 språk, på tvers av alle store sosiale medieplattformene.

Jan Kjærstad tror KI kan skrive gode romaner

Jan Kjærstad utelukker ikke at lesere en dag vil foretrekke KI-generert litteratur.

– Min oppfordring er å la seg inspirere av denne nye teknologiske utviklingen til å skrive på nye måter. Men også å være veldig skeptisk, sier han til Vårt Land.

Avisen snakket med ham i kjølvannet av at Kjærstad skrev essayet «Ai, ai, ai» i Klassekampens Bokmagasinet. Der tok han for seg bokbransjens manglende interesse i møtet med kunstig intelligens-teknologi.

Det skjedde etter at Tore Renberg kalte KI for «djevelen» og fortalte at han nekter KI adgang til sine bøker.

– Vi humanister har jo berøringsangst for teknologi. Sånn har det alltid vært, sier Kjærstad, og minnes skepsisen da han begynte å skrive manusene sine «på computer» på 1980-tallet.

– Og så tok det fem år, så hadde halvparten av forfatterforeningens medlemmer computer.

Han mener det er naivt å tro at en språkmodell aldri vil kunne skrive romaner like gode som mennesker, men trøster seg med at det foreløpig finnes en kontrakt der leserne vil vite at det er et menneske bak teksten.

01. juli 2026, 06:21 - Redaksjonen

USA fjerner Anthropics KI-begrensninger

KI-selskapet Anthropic kan snart gjenopprette tilgangen til de kraftigste verktøyene Fable 5 og Mythos 5 verden rundt, etter at USA nå har fjernet restriksjonene.

Det opplyser Anthropic, som viser til et brev fra USAs handelsdepartement om vedtaket.

– Vi har fått beskjed om at handelsdepartementet har opphevet eksportkontrollen på Claude Fable 5 og Mythos 5. Vi starter med å gjenopprette tilgangen i morgen (onsdag), står det i uttalelsen.

Det skjer fire dager etter at Anthropic fikk tillatelse fra Trump-administrasjonen til å la en liten gruppe amerikanske nettsikkerhetsselskaper få tilgang til Mythos 5.

I brevet fremgår det at handelsminister Howard Lutnick er fornøyd med en risikogjennomgang som Anthropic har gjort i samarbeid med amerikanske myndigheter.

President Donald Trumps administrasjon hadde påberopt seg bekymringer rundt nasjonal sikkerhet og innførte begrensninger på Anthropics kraftigste verktøy 12. juni.

Forut for dette var det strid mellom Anthropic og forsvarsdepartementet fordi Anthropic har nektet Trump-administrasjonen å bruke teknologien til masseovervåkning og autonome våpen, noe som førte til at Pentagon avsluttet sine kontrakter med selskapet.

(NTB)

Beste kvartal for Nasdaq på seks år

Den teknologitunge Nasdaq-indeksen kan se tilbake på det beste kvartalet på seks år. Oppgangen var på 1,5 prosent på siste handelsdag i juni.

Dermed endte Nasdaq på 26.213,72 poeng tirsdag.

For andre kvartal sett under ett var oppgangen på Nasdaq på 21,4 prosent. Det er Nasdaqs beste kvartal på seks år.

– Veldig ofte ser man gevinstsikring på den siste dagen når man har et svært godt kvartal. Men det er ikke noe vi ser nå, og det viser optimisme rundt tredje kvartal, sier Chris Low i finansinstitusjonen FHN Financial.

Noe av optimismen henger sammen med at oljeprisene faller etter at USA og Iran inngikk en intensjonsavtale.

– Hvis vi går inn i årets siste halvår med lave energipriser, bør det hjelpe med å gjenopprette BNP-veksten, sier Low.

Dow Jones-indeksen avsluttet den siste handledagen i andre kvartal med en oppgang på 0,3 prosent. Den bredt sammensatte S&P 500-indeksen gikk opp 0,8 prosent.

Nordsjøolje ble omsatt for 72,92 dollar fatet, en nedgang på 0,3 prosent, da markedene stengte i USA tirsdag. Et fat amerikansk lettolje kostet 69,50 dollar, en nedgang på 1,8 prosent.

Danske myndigheter: Trussel fra russiske cyberangrep har økt

Det danske Direktoratet for samfunnssikkerhet oppfordrer alle som jobber med samfunnsviktige funksjoner, til å fokusere på cybersikkerhet, skriver direktoratet i en pressemelding.

Vurderingen er basert på at Russlands statlige hackergrupper har vist økt risikovillighet til å gjennomføre destruktive cyberangrep mot europeiske Nato-land.

Dette gjelder særlig russiske statlige hackere, ettersom danske myndigheter vurderer at de har kapasitet til å gjennomføre koordinerte cyberangrep mot kritisk infrastruktur.

30. juni 2026, 10:41 - Redaksjonen

Ber om penger for Lørenskog-data

En gruppe ber om penger for data som skal være hentet ut i angrepet mot Lørenskog kommune i begynnelsen av mai. Gruppen har publisert bilder av pass og dokumenter som angivelig skal stamme fra angrepet. Digi har vært i kontakt med Lørenskog kommune. De har ikke besvart våre henvendelser.

30. juni 2026, 06:00 - Redaksjonen

Australia vil skjerpe loven for å tvinge tekselskaper til å overholde 16-årsgrense

Australia etterforsker flere tekselskaper for brudd på landets 16-årsgrense i sosiale medier. Nå vil regjeringen doble bøtene og gi et tilsynsorgan flere fullmakter til å gå etter lovbryterne.

Forslagene ble mandag lagt fram i nasjonalforsamlingen i Canberra. De innebærer at boten for å bryte forbudet oppjusteres til 99 australske dollar, tilsvarende cirka 680 kroner – noe som er dobbelt så høyt som tidligere.

Følges med argusøyne

Facebook- og Instagram-eier Meta, Snapchat, Tiktok og Googles YouTube er under etterforskning i Australia for ikke å rette seg etter forbudet, som trådte i kraft i desember i fjor.

Australia var da det første landet i verden som innførte et forbud mot sosiale medier for barn under 16 år. Men undersøkelser fra tilsynsmyndigheten eSafety har vist at mange barn fortsatt har tilgang, eller de har klart å lage nye kontoer etter at de forrige ble slettet.

En rekke land har de siste månedene varslet lignende forbud, noe som gjør at utviklingen i Australia følges med argusøyne, blant annet i Norge.

Rett til innsyn

Statsminister Anthony Albanese varslet mandag at regjeringen ikke kommer til å gi seg i kampen for å få forbudet til å fungere. Han oppfordret samtidig den borgerlige opposisjonen til å stemme ja til forslagene.

De skal også gi myndighetene rett til å kreve innsyn i selskapenes interne dokumenter og e-postutvekslinger. Slik skal det bli lettere å dokumentere lovbrudd og rettsforfølge selskapene.

– Vi setter i dag foten ned for sosiale medier-selskapene og forsterker de endringene som vi har gjort, og som vi er forberedt på å gjøre, sa statsministeren til pressen mandag.

– I dag legger vi fram lovforslag som går enda lenger for å sikre at selskapene gjør alt som står i deres makt for å hindre at barn under 16 år bruker plattformene deres, sa han videre.

– Skitne triks

Ingen av de store selskapene som er under etterforskning, hadde kommentert saken mandag.

Da Australias kommunikasjonsminister Anika Wells la fram forslagene i nasjonalforsamlingen, anklaget hun selskapene for å bruke «skitne triks» for å undergrave forbudet.

– I dag sender Australia et budskap til disse selskapene: Vi ser hva dere gjør, og vi er ikke her for å leke. Hvis dere ønsker å gjøre forretninger med Australia, så skal dere rette dere etter australske lover. Og hvis dere ikke gjør det, så vil dere merke konsekvensene, sa hun.

(©NTB)