Chatbotene kan øke motsetningene i samfunnet

Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.

Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.

Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.

– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.

Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».

Skrev ned tanker

Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.

De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.

Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.

Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.

Bekrefter oppfatninger

Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.

Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.

Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.

Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.

– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.

Store språkmodeller

Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.

– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.

Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.

ChatGTP svarer

Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:

«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.

Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».

Kan gjøre feil

«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.

Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.

Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.

17:11 - NTB

USA anklager Kina for omfattende hacking

USA hevder å ha avdekket og stanset en større kinesisk hackeroperasjon blant annet rettet mot den amerikanske sentralbanken, justisdepartementet, Senatet og Nasa.

Ifølge FBI og det amerikanske justisdepartementet er det tatt beslag i domener brukt av to hackerplattformer kalt QScan og QTRouter.

Rettsdokumenter viser angivelig at de to plattformene ble skapt og driftet av den statsstøttede kinesiske gruppen QTFY, som er hyret av Nanjing Xinjiuwei Network Technology Company i Kina.

– Statsstøttede ondsinnede hackere som angriper amerikansk kritisk infrastruktur vil bli stoppet og straffeforfulgt, sier justisminister Todd Blanche.

Kinas ambassade i Washington har ikke besvart spørsmål fra Reuters i saken, men kinesiske myndigheter avviser rutinemessig anklager om at de står bak hacking i andre land.

12:07 - Redaksjonen

Elhub rammet av dataangrepet mot Digdir-tjenester

Elhub, Norges IT-plattform for innsamling og distribusjon av strømdata, skriver i en melding at selv om Digdir melder om bedring, så er deres innloggingsbaserte tjenester fortsatt utilgjengelige som følge av det pågående tjenestenekt-angrepet mot Digdir og deres driftspartner Vivicta.

Problemene rammer både Elhub Min side for strømkunder og Aktørportalen for markedsaktører, skriver Elhub.

Elhub opplyser at situasjonen blant annet påvirker bestilling av Norgespris, tilgang til måleverdier og tjenester i Aktørportalen.

- Elhubs underliggende systemer fungerer imidlertid som normalt, og den ordinære datautvekslingen i kraftmarkedet er ikke berørt, står det i meldingen.

Digdirs pressevakt opplyser til Digi at flere offentlige tjenester som krever BankID-pålogging kan oppleve problemer som følge av angrepet fordi disse er avhengig av ID Porten - en av tjenestene som er påvirket.

10:27 - Redaksjonen

Lyse-sjefen forsvarer datasentrene

Datasentre krever både strøm og nettkapasitet, og kritikere – som gjerne omtaler datasentre som «strømsluk» – har stilt spørsmål ved hvor mye av norske kraftressurser som bør gå til dem. Konsernsjef Rosalie Poen mener diskusjonen ofte begynner på feil sted.

– Datasentre er grunnmuren i digitaliseringen. Sykehus, politi, næringsliv og vanlige forbrukere bruker tjenester som til slutt må prosesseres og lagres et sted. Hvis norske sikkerhets- og helsedata skal lagres i Norge, må vi også ha datasentre i Norge.

Hun mener at datasentrene må bidra til løsninger dersom strømnettet blir presset. Det kan innebære vilkår der et stort forbruk i perioder kan kobles ned, eller at datasenteraktørene selv bidrar økonomisk til infrastrukturen som er nødvendig.

– Vi må finne løsninger som gjør at dette ikke går på bekostning av husholdninger eller annen næring. Men bare å utelukke en næring som er grunnmuren i digitaliseringsløpet, mener jeg er uklokt, sier Poen.

07:45 - NTB

Dataangrepet fortsetter, løsninger er stabile

Dataangrepet mot Digitaliseringsdirektoratet (Digdir) er inne i sitt tredje døgn. Tjenestenektangrepet går i bølger, og for øyeblikket er de aktuelle løsningene i drift.

Angrepet som startet natt til mandag er det tredje og største på kort tid. Ti tjenester har vært berørt, blant dem ID-porten, MinID, Altinn og E-innsyn.

– Det siste om situasjonen nå onsdag morgen er at angrepet ennå pågår, løsningene er oppe og går og stabile, men vi jobber fortsatt med å håndtere angrepene, sier pressevakt Are Kvistad i Digdir til NTB.

Dette har ifølge ham også vært situasjonen natta gjennom.

Ifølge den siste oppdateringen klokka 1.40 natt til onsdag har angrepet pågått stort sett hele tirsdagen med unntak av en liten pause.

– Leverandørene på eSignering har gjort tiltak slik at denne tjenesten fungerer som normalt igjen nå.

– ID-porten har fortsatt begrensninger, og vi vet at det allerede er, og begynner å bli kritisk for flere kunder og tjenester. Vi har dessverre ikke noe estimat for når vi kan slippe opp enda litt mer.

07:14 - Redaksjonen

Lyse-sjefen: – Skal være utfordreren til Telenor i Norge

Konsernsjef Rosalie Poen i Lyse har brukt sitt første år på å stramme inn, satse milliarder på strøm- og mobilnett og gjøre beredskap til en stadig større del av lederjobben, skriver Kapital/Finansavisen.

For telekom har Poen ambisiøse planer. Lyse kjøpte Ice i 2022 og samlet senere Ice, Altibox og store deler av fibervirksomheten i Lyse Tele.

– Vi skal være utfordreren til Telenor i Norge. Å bli det nest største telekomselskapet i Norge og ha hovedkontor i Stavanger hadde vært bra, sier Poen.

Ved utgangen av 2025 hadde Lysekonsernet 2410 ansatte; 26,7 milliarder kroner i omsetning og et resultat før skatt på 7,6 milliarder kroner. Stadig mer av virksomheten regnes som samfunnskritisk, og toppsjefen konstaterer at digitaliseringen utvikler seg i enorm fart.

Telekomvirksomheten investerte alene 3,6 milliarder kroner i 2025, hovedsakelig i mobilnett og fiber. 

Dame
Konsernsjef Rosalie Poen i Lyse, fotografert under Arendalsuka 2025. Foto: Håvard Fossen

07:00 - Redaksjonen

Sikkerhetseksperter velger gammel teknologi

Frykten for å bli hacket har ført til at noen benytter gammel teknologi som cyberkriminelle ikke kan bryte seg inn i. Ett eksempel er Mikko Hyppönen. Han benytter ikke Hotmail eller Gmail, men den gamle epostvarianten Eudora, skriver BBC News.

Han foretrekker Eudora av mange grunner. Selv om programvaren er langt fra perfekt sikker, er det ingen hackere som kjenner til den alderstegne eposten. Hyppönen kaller dette «security by antiquity». Andre kaller det «security by obsolescence». I begge tilfeller handler det om å stole på eldre teknologi som viser seg å være tryggere enn nyere alternativer. (hf)

 

07:00 - Redaksjonen

SpaceX tror på datasentre i bane i 2028

Med Nvidia med på lasset tror SpaceX at datasentre i rommet vil nå betydelig skala i 2028. De første datasentrene for kunstig intelligens vil være i bane rundt jorda i fjerde kvartal 2027, ifølge Elon Musks planer, skriver Light Reading.

Elon Musk har tidligere sagt at de har planer om å sette én million datasenter-satellitter i bane for å håndtere kunstig intelligens. Planen er å benytte komponenter fra Nvidia i satellittene. Ifølge Musk har Nvidia laget en rom-optimalisert versjon av sitt KI-system Vera Rubin NVL72. Dette er samme GPU som blant annet vil bli brukt i Tydal Data Center. (hf)

05:30 - NTB

FN og Røde Kors advarer mot «drapsroboter»

I en felles uttalelse ber FN og Røde Kors innstendig om regler mot autonome våpen som på egen hånd kan velge angrepsmål og drepe mennesker.

– Vi er nå farlig nær å krysse en moralsk rød linje: at maskiner på egen hånd velger ut mennesker som mål, står det i uttalelsen fra FN-sjef António Guterres og Den internasjonale Røde Kors-komiteens president Mirjana Spoljaric.

Bekymringen dreier seg om droner og andre typer våpen som utstyres med kunstig intelligens (KI). Den teknologiske utviklingen gjør at slike våpen gradvis kan operere mer selvstendig.

Delvis autonome våpensystemer finnes allerede og er brukt i Ukraina, Sudan, Gaza og Iran. Enkelte anti-missil-systemer opererer helt selvstendig.

– Et kappløp

– Autonome våpensystemer er ikke noe som tilhører en fjern framtid, sier Guterres og Spoljaric.

Et kappløp i retning utvikling av slike våpen er i full gang, advarer de.

Innføring av internasjonale regler for å håndtere situasjonen skal drøftes på et møte i Genève neste uke, ifølge nyhetsbyrået Reuters. I november skal det avgjøres om forhandlinger om juridisk bindende regler for autonome våpen igangsettes.

Guterres og Spoljaric ber landene om å begynne å forhandle og raskt vedta regler med tydelige forbud og restriksjoner.

Russisk KI-drone

Så langt er det ikke bekreftet at det i dag finnes våpen som velger ut mål på slagmarken og angriper mennesker uten menneskelig innblanding i prosessen. Det er dette som kalles «dødelige autonome våpen» eller «drapsroboter».

Men forsvaret i Ukraina mener Russland har tatt i bruk angrepsdroner som opererer selvstendig når de nærmer seg målet. Ukrainske eksperter har undersøkt vraket av en slik drone, som drepte tre personer ved en bensinstasjon i juli, skriver The New York Times.

– Dette er en risiko for hele verden. Om noen få år vil vi leve i en «Terminator»-film. Det er ingen spøk: Maskiner tar avgjørelser om å angripe, sier Serhij Minajev, lederen for luftvernet i byen Zaporizjzja, til den amerikanske avisen.

Lange diskusjoner

Internasjonale samtaler om mulige regler eller forbud mot «drapsroboter» har pågått helt siden 2014.

Den gang fantes ikke kunstig intelligens som kunne gjøre det mulig å bygge slike våpen. Men aktivister og eksperter forsøkte å være i forkant og advarte om følgene av den teknologiske utviklingen.

Også i 2023 ba António Guterres og Røde Kors-president Spoljaric om innføring av internasjonale restriksjoner og forbud.

Om det vil lykkes å få nye regler på plass, er foreløpig høyst usikkert. Blant dem som har gått imot nye juridisk bindende regler, er USA og Russland. Og hvis landene i Genève skal starte forhandlinger, må alle landene være enige om det.

05:23 - NTB

Ekspert om Digdir-angrepet: – Kan like gjerne være skoleungdom

Tjenestenektangrepet mot Digdir behøver verken å skyldes svak sikkerhet eller å stå i forbindelse med Russland, mener to sikkerhetseksperter.

Angrepet som startet mandag, er det tredje mot Digdirs innloggingstjenester denne sommeren og det hittil største. Ti tjenester har vært berørt, blant dem ID-porten, MinID, Altinn og E-innsyn, skriver Digi.

Professor i cybersikkerhet Audun Jøsang ved Universitetet i Oslo sammenligner tjenestenektangrep med en tautrekkingskamp. Hvor store angrep en virksomhet kan motstå, er i stor grad et spørsmål om hvor mye den er villig til å betale for beskyttelse, mener han.

– Det finnes ingen enkle triks for å motstå disse angrepene. Man kan selvfølgelig bruke masse penger, som vil dempe forstyrrelsen, men aldri fjerne den helt, sier Jøsang.

Sikkerhetsanalytiker Hans-Petter Fjeld i selskapet Defendable påpeker at også selskaper som Google, Microsoft og Amazon kan få problemer ved store DDoS-angrep. Han mener det ikke er grunnlag for å slå fast at angrepet er statsstøttet.

– Det trenger absolutt ikke være statssponset, angrepet kan like gjerne være utført av skoleungdom fra Rælingen, sier Fjeld.

Tjenestene var tilbake i stabil drift tirsdag ettermiddag. Digdir-direktør Frode Danielsen sier hendelsen skal evalueres, og at direktoratet vil vurdere ytterligere tiltak.

KI-skapt musikk forbys på Australias hitlister

Alle låter som prøver seg på de australske hitlistene, må fra denne uken av være «i all vesentlighet menneskeskapt» for å kvalifisere.

Den australske platebransjeorganisasjonen Australian Recording Industry Association (Aria) opplyser ifølge BBC at de nye retningslinjene skal bidra til å «fremheve den menneskelige siden ved kunstnerisk virksomhet».

Beslutningen ble tatt etter en kontrovers om en coverversjon av Madonnas 1989-hit «Like A Prayer», som den australske DJ-en Josh Fawaz sto bak.

Låten toppet hitlistene i Australia etter at den ble sluppet i april og er strømmet over 48 millioner ganger bare på Spotify.

Men Fawaz ble ifølge Rolling Stone Australia møtt med bred fordømmelse fra det australske musikkmiljøet for bruken av generative KI-verktøy i produksjonen av låten.

DJ-en hadde først oppført seg selv som artist og onkelen Fadi Fawaz, mest kjent som avdøde George Michaels partner, på synth og produksjon. Senere la han til KI-kreditering på låten for vokal og trommer, skriver The Guardian.

– Jeg bruker KI som verktøy. Alt jeg bryr meg om er å gi lytterne mine god musikk, skrev Josh Fawaz på Instagram.

Ifølge de nye australske reglene kan KI-verktøy fortsatt brukes som hjelpemiddel, men mennesker må ha skrevet sangen og stå for hovedvokal og primærinstrumenter.