Chatbotene kan øke motsetningene i samfunnet
Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.
Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.
Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.
– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.
Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».
Skrev ned tanker
Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.
De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.
Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.
Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.
Bekrefter oppfatninger
Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.
Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.
Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.
Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.
– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.
Store språkmodeller
Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.
– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.
Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.
ChatGTP svarer
Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:
«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.
Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».
Kan gjøre feil
«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.
Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.
Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.
KI-giganter inngår samarbeid etter historisk dataangrep
For to uker siden klarte en KI-modell å gjennomføre et reelt dataangrep for egen maskin. Nå har over 30 teknologigiganter inngått en avtale om sikkerhetssamarbeid.
Gruppen har fått navnet Open Secure AI Alliance, og blant medlemmene er Nvidia, Microsoft, IBM, Palantir, SpaceXAI, CrowdStrike, Cisco og Dell.
– Alliansens formål er å utvikle verktøy for cyberforsvar med kunstig intelligens som sikkerhetsteam kan inspisere, endre og kjøre på egne systemer, opplyser gruppen i en uttalelse mandag.
Det var selskapet Hugging Face som i forrige uke oppdaget at systemene deres var hacket uken før. Det viste seg å være KI-modeller fra OpenAI som sto bak.
Hendelsen er det første kjente tilfellet der en KI-modell på egen hånd gjennomførte et reelt dataangrep.
OpenAI opplyser at to KI-modeller opererte i et testmiljø hvor det ikke skal være mulig å få tilgang til internett, men at de slo seg sammen og ved hjelp av «betydelig datakraft brøt seg ut og nådde internettet».
Da Hugging Face forsøkte å stanse angrepet med amerikanske KI-modeller, blokkerte innebygde sikkerhetsmekanismer arbeidet. I stedet løste den kinesiske modellen GLM 5.2, fra Zhipu AI, problemet.
Tekniske problemer hos politiet – færre oppdateringer i politiloggen
Politiet har mandag kveld hatt problemer med å oppdatere politiloggen. Flere store nettsteder har også hatt problemer, men har kommet seg opp igjen.
– Politiloggen er ustabil, så vi sliter tidvis med å få lagt ut informasjon. Oppdaterer så fort og godt vi kan, skrev oppdragsleder Kent Bele i Øst poltidistrikt i en oppdatering til pressen klokka 16.41 mandag.
Da NTB ringte operasjonssentralen i politidistriktet i 19-tiden, hadde problemene vedvart.
– Akkurat nå er den oppe og går. For kort tid siden ble det meldt at den var nede. Så det er litt svingende problemer, sier operasjonslederen.
Han sier det fører til litt færre oppdateringer i politiloggen.
– Men det har vært en rolig kveld i distriktet.
Også Oslo politidistrikt opplyser til NTB at de har hatt problemer med politiloggen mandag. Det samme melder Trøndelag politidistrikt.
NRK slet teknisk
Flere store nettsider har hatt problemer mandag kveld.
NRK meldte i 18-tiden at flere av deres systemer var nede, noe som førte til at forsiden på NRK.no ikke kunne oppdateres og at pushvarsler ikke kunne sendes ut.
Litt senere meldte de at flere av problemene skulle være løst.
Flere rammet
Det er også blitt meldt om problemer hos Vipps, BankID og Telenor mandag. Vipps bekreftet til NRK at deres systemer var nede fra klokken 15.55 til 16.20.
Også BankID sier de hadde problemer, men at det raskt ble ordnet. I tillegg bekrefter Telenor overfor kanalen at de hadde tekniske problemer.
Andre store nettsteder som Sparebanken Norge og Xbox og andre Microsoft-tjenester hadde også tekniske problemer. Xbox-brukere over hele verden slet med å logge inn, få tilgang til spillbiblioteket og å starte spill, skriver NRK.
Mange store nettsteder hadde tekniske problemer
En rekke store nettsteder som Vipps, BankID og Telenor opplevde tekniske problemer mandag ettermiddag.
Litt over klokka 16 hadde rundt 200 brukere meldt inn problemer med Vipps, viser oversikten på Downdetector.com.
Både Vipps og BankID meldte selv at alle tjenestene fungerte som normalt. Vipps bekrefter imidlertid til NRK at deres systemer var nede fra klokken 15.55 til 16.20.
– Våre systemer hadde ingen nedetid i den perioden, så det er nok en underleverandør som hatt rusk i maskineriet. Vi beklager ulempen som dette medførte for brukere, sier kommunikasjonsrådgiver Cato Gjertsen i Vipps.
Andre store nettsteder som SparebankenNorge og Xbox og andre Microsoft-tjenester hadde også tekniske problemer. Xbox-brukere over hele verden slet med å logge inn, få tilgang til spillbiblioteket og å starte spill, skriver NRK.
Også Telenor bekrefter overfor kanalen at de hadde tekniske problemer. Ifølge NRK var også flere av deres systemer nede.
Øst politidistrikt opplyste på samme tid at det var problemer med politiloggen.
– Politiloggen er ustabil, så vi sliter tidvis med å få lagt ut informasjon. Vi oppdaterer så fort og godt vi kan, skrev oppdragsleder Kent Bele.
Årsaken til problemene er ikke kjent.
Store jobbkutt i amerikanske tekselskaper til tross for KI-boom
Amerikanske teknologiselskaper har kuttet nesten 140.000 stillinger siden starten av 2026, skriver Financial Times.
Teknologibransjen står for mer enn en tredjedel av de annonserte nedbemanningene i USA i denne perioden, ifølge en analyse Financial Times har gjort. Nesten like mange teknologiarbeidere har mistet jobben så langt i år som i hele fjor.
Amazon, Oracle, Meta og Microsoft står for nesten 50.000 av kuttene, tilsvarende rundt seks prosent av deres samlede arbeidsstyrke.
Situasjonen for teknologiarbeidere står i kontrast til et amerikansk arbeidsmarked som ellers holder seg overraskende godt med en ledighet på 4,2 prosent, ifølge tall fra Bureau of Labor Statistics.
Samtidig med nedbemanningene i tekbransjen, er det varslet rekordstore investeringer i kunstig intelligens (KI). De fire store «hyperscalerne» – Amazon, Alphabet, Meta og Microsoft – planlegger samlede investeringer på 725 milliarder dollar i datasenterinfrastruktur i år.
Kina kritiserer USA for «sverting og sanksjonstrusler» mot kinesiske KI-selskaper
Kina oppfordrer USA til å stanse «sverting og sanksjonstrusler» mot kinesiske KI-selskaper, og varsler at landet vil iverksette tiltak.
– Det er kjent at mange amerikanske selskaper innen kunstig intelligens har hentet ut kunnskap fra kinesiske modeller under forskning, utvikling og trening, sier det kinesiske handelsdepartementet i en uttalelse mandag.
De oppfordrer USA til å stanse «sverting» og «sanksjonstrusler» mot kinesiske selskaper innen kunstig intelligens. Departementet varsler videre at Kina vil iverksette tiltak mot «amerikanske handlinger som skader kinesiske interesser», ifølge uttalelsen.
KI-gigantene pøser ut penger på lobbyvirksomhet
USAs ledende KI-selskaper har de siste månedene brukt rekordbeløp på lobbyvirksomhet i Washington, skriver Financial Times. Selskapene forsøker å begrense regulering og påvirke amerikanske regler knyttet til datasentre og kontroll av avanserte KI-modeller.
OpenAI nesten doblet sine utgifter til føderal lobbyvirksomhet til rekordhøye 2,22 millioner dollar i første halvår, mens Anthropic nesten tredoblet utgiftene til 3,53 millioner dollar, ifølge offentlige rapporter. Google og Microsoft brukte omtrent like mye som de har gjort de foregående årene, henholdsvis rundt 6,5 og fem millioner dollar viser rapportene.
Ifølge lobbyister og politiske eksperter reflekterer økningen at KI-bransjen står overfor flere politiske kamper og bygger opp en mer permanent tilstedeværelse for påvirkningsarbeid i Washington.
Brikkeprodusent opp med over 500 prosent under børsnotering i Kina
Minnebrikkeprodusenten CXMT ble Fastlands-Kinas mest verdifulle selskap mandag etter rekordbørsnotering.
Aksjene til minnebrikkeprodusenten ChangXin Memory Technologies (CXMT) gikk opp med over 500 prosent i løpet av formiddagen mandag. Selskapets markedsverdi nådde 3500 milliarder yuan eller 4950 milliarder kroner. CXMT ble dermed Fastlands-Kinas mest verdifulle selskap.
Kina satser stort på hjemmeprodusert maskinvare for å styrke sin posisjon i KI-kappløpet mot USA. CXMT er verdens fjerde største produsent av såkalte DRAM-minnebrikker som brukes i bærbare datamaskiner, mobiltelefoner og annen elektronikk, og har en markedsandel på 8 prosent.
Børsnoteringen er Kinas største for et teknologiselskap på fastlandet noensinne og overgår de 46,3 milliarder yuan (65,5 milliarder kroner) som selskapet Semiconductor Manufacturing International Corp (SMIC) hentet inn i 2020.
Ifølge Financial Times har analytikere advart om at etter hvert som den kinesiske produksjonen øker, kan prisene på minnebrikker falle, noe som ville utgjøre en trussel mot etablerte DRAM-produsenter som Samsung og SK Hynix.
Reuters: KI-verktøy hacket selskap på eget initiativ – tok en uke før det ble oppdaget
To KI-modeller fra OpenAI gjennomførte et dataangrep mot teknologiselskapet Hugging Face over flere dager, uten at OpenAI oppdaget det.
Det tok flere dager før OpenAI skjønte at deres egen agent sto bak angrepet, opplyser kilder til nyhetsbyrået Reuters.
Agenten forsøkte å bryte ut av sitt isolerte testmiljø hos OpenAI rundt 9. juli. Innbruddet hos Hugging Face begynte 11. juli og varte til 13. juli, ifølge Thomas Wolf, medgründer av Hugging Face.
De to selskapene kommuniserte for første gang om dataangrepet rundt 20. juli, ifølge Wolf og tre personer med kjennskap til etterforskningen.
OpenAIs tap av kontroll over KI-agenten reiser spørsmål om selskapets sikkerhetsprosedyrer, mener eksperter på cybersikkerhet.
– Betyr det at de lot den operere uten tilsyn og ikke visste hva den gjorde? Eller visste de kanskje det, men visste ikke hvordan de skulle stoppe den? Begge deler er like farlig og urovekkende, sier ledende etterretningsspesialist Marley Smith ved World Ethical Data Foundation til Reuters.
OpenAI sier angrepet var enestående og at det «markerer et viktig øyeblikk for KI-sikkerhet». Selskapet gjennomgår hendelsen og vil publisere en teknisk rapport.
Vellykket test av SpaceX-rakett
SpaceX testet natt til lørdag den kraftige Starship-raketten. Den vellykkede testen er den første siden selskapet ble børsnotert.
– Starship er intakt, flyter i sjøen og sender telemetridata, sier SpaceX-sjef Elon Musk etter testen, som er den 13. i rekken for den kraftige raketten.
I romfartsselskapets hovedkvarter jublet de ansatte mens de fulgte med på at raketten landet i Indiahavet.
– Dette er et drømmescenario for teamet som prøver å få data om varmeskjoldet. Det er første gang vi har fått en intakt Starship-rakett ned i sjøen, sier talsperson Dan Huot.
Hovedmålet var å se hvordan Starship oppfører seg etter justeringer av designet. Det var tredje generasjon av raketten som nå ble testet.
Den øverste delen av totrinnsraketten plasserte ut 20 Starlink-satellitter i løpet av den rundt en time lange ferden.
SpaceX har kontrakt med den amerikanske romfartsorganisasjonen Nasa om å lage en modifisert versjon av Starship som skal brukes til å lande på månen.
EU: Tiktok beskytter ikke barns rettigheter godt nok
EU-kommisjonen sier at Tiktok ikke beskytter barns privatliv godt nok, siden voksne gis tilgang til mindreåriges kontoer.
Dette utsetter barn for bøllete oppførsel, uønsket tilnærming og regelrett mobbing, sier kommisjonen.
Granskingen inngår i kommisjonens offensiv mot de store teknologiselskapene, som Meta og Apple, for å sikre at de overholder EUs regler på området.
Tiktok har nå anledning til å forsvare seg mot kritikken og utdype hvordan selskapet arbeider for å innfri EUs krav.
Hvis kommisjonen ikke er fornøyd med svaret fra det kinesiske selskapet, er neste skritt at det utstedes en beslutning om manglende overholdelse og en mulig bot som oppad kan tilsvare 6 prosent av den årlige omsetningen.
Kommisjonen kom i februar til at Tiktok hadde forbrutt seg mot en annen regel i den digitale kjøreboka til EU. Den gang gjaldt innvendingen avhengighetsskapende design som kan svekke den fysiske og mentale helsen til brukerne, særlig mindreårige.