Chatbotene kan øke motsetningene i samfunnet
Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.
Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.
Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.
– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.
Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».
Skrev ned tanker
Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.
De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.
Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.
Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.
Bekrefter oppfatninger
Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.
Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.
Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.
Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.
– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.
Store språkmodeller
Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.
– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.
Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.
ChatGTP svarer
Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:
«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.
Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».
Kan gjøre feil
«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.
Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.
Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.
Ariana Grande-hackere: Gikk etter fotografer og produsenter som jobbet med henne
Ariana Grande har gått til søksmål mot anonyme hackere som har lekket uutgitt musikk og videoopptak av henne.
Ifølge Grandes advokater har hackerne fulgt et mønster der de ulovlig skaffet seg tilgang til de personlige kontoene til fotografer og produsenter som samarbeidet tett med artisten.
Deretter skal de ha solgt det stjålne materialet for «betydelige pengesummer», skriver Variety, som har sett sakspapirene.
Blant annet fikk hackere i 2019 tak i innloggingsinformasjonen til en Dropbox-konto som tilhørte en fotograf som jobbet med Ariana Grande. Året etter hacket de mobiltelefonen til en produsent som jobbet med henne og fant uutgitte masteropptak, demoer og opptak fra innspillingsøkter.
Bare i 2023 skal hackerne ha skaffet seg tilgang til 45 uutgitte sanger av Grande, som deretter ble lekket. I søksmålet hevder Grande og hennes advokater at hundrevis av lekkasjer har funnet sted siden hun debuterte som artist i 2011.
Nå ønsker hun å få avdekket identiteten til dem hun mener står bak handlingene, «slik at de kan holdes ansvarlige for sin krenkende og forkastelige opptreden», heter det i søksmålet.
Nvidia-ansatt pågrepet på Taiwan for smugling av ettertraktet databrikke
En ansatt i det amerikanske teknologiselskapet Nvidia er pågrepet på Taiwan for å ha deltatt i smugling av databrikker til Kina, sier en informert kilde til AFP.
Mannen ble pågrepet etter en ransaking av boligen og arbeidsplassen hans 24. juli, opplyser påtalemyndigheten i Keelung-distriktet. Nvidias navn er ikke nevnt i kunngjøringen.
Formelt heter det at mannen er mistenkt for å ha forfalsket forretningsdokumenter.
USA har innført strenge begrensninger på eksporten til Kina av de mest avanserte KI-brikkene som er produsert av Nvidia.
Amerikanske tjenestemenn sa i mai at de gransket forsendelser av avanserte KI-servere som det Nasdaq-registrerte selskapet Super Micro sto bak. Forsendelsene skal blant annet ha inneholdt Nvidia-brikker myntet på Kina, Macau og Hongkong, sier den ikke navngitte kilden til AFP tirsdag.
Apple er igjen verdens mest verdifulle selskap
Apple gikk mandag forbi Nvidia og gjenerobret tronen som verdens mest verdifulle selskap.
Markedsverdien økte til rundt 4940 milliarder dollar, noe som er hakket mer enn Nvidias 4830 milliarder dollar.
Apples markedsverdi tilsvarer svimlende 48.000 milliarder norske kroner.
Investorer har i økende grad sett på Apples tilbakeholdne investeringsstrategi som en styrke, særlig sammenlignet med konkurrenter som bruker enorme summer på KI-infrastruktur.
Mens selskaper som Alphabet og Tesla har trappet opp investeringer i blant annet datasentre og robotdrosjer, har Apple kuttet utgifter den siste tiden – selv om selskapet også videreutvikler Apple Intelligence.
Torsdag legger Apple fram sin kvartalsrapport, og investorer kommer til å se etter signaler om selskapets KI-strategi framover.
Det blir også den siste kvartalsrapporten for administrerende direktør Tim Cook før han går inn i rollen som styreleder fra 1. september. John Ternus, som har vært sjef for selskapets maskinvare, ventes å ta over som toppsjef.
KI-giganter inngår samarbeid etter historisk dataangrep
For to uker siden klarte en KI-modell å gjennomføre et reelt dataangrep for egen maskin. Nå har over 30 teknologigiganter inngått en avtale om sikkerhetssamarbeid.
Gruppen har fått navnet Open Secure AI Alliance, og blant medlemmene er Nvidia, Microsoft, IBM, Palantir, SpaceXAI, CrowdStrike, Cisco og Dell.
– Alliansens formål er å utvikle verktøy for cyberforsvar med kunstig intelligens som sikkerhetsteam kan inspisere, endre og kjøre på egne systemer, opplyser gruppen i en uttalelse mandag.
Det var selskapet Hugging Face som i forrige uke oppdaget at systemene deres var hacket uken før. Det viste seg å være KI-modeller fra OpenAI som sto bak.
Hendelsen er det første kjente tilfellet der en KI-modell på egen hånd gjennomførte et reelt dataangrep.
OpenAI opplyser at to KI-modeller opererte i et testmiljø hvor det ikke skal være mulig å få tilgang til internett, men at de slo seg sammen og ved hjelp av «betydelig datakraft brøt seg ut og nådde internettet».
Da Hugging Face forsøkte å stanse angrepet med amerikanske KI-modeller, blokkerte innebygde sikkerhetsmekanismer arbeidet. I stedet løste den kinesiske modellen GLM 5.2, fra Zhipu AI, problemet.
Tekniske problemer hos politiet – færre oppdateringer i politiloggen
Politiet har mandag kveld hatt problemer med å oppdatere politiloggen. Flere store nettsteder har også hatt problemer, men har kommet seg opp igjen.
– Politiloggen er ustabil, så vi sliter tidvis med å få lagt ut informasjon. Oppdaterer så fort og godt vi kan, skrev oppdragsleder Kent Bele i Øst poltidistrikt i en oppdatering til pressen klokka 16.41 mandag.
Da NTB ringte operasjonssentralen i politidistriktet i 19-tiden, hadde problemene vedvart.
– Akkurat nå er den oppe og går. For kort tid siden ble det meldt at den var nede. Så det er litt svingende problemer, sier operasjonslederen.
Han sier det fører til litt færre oppdateringer i politiloggen.
– Men det har vært en rolig kveld i distriktet.
Også Oslo politidistrikt opplyser til NTB at de har hatt problemer med politiloggen mandag. Det samme melder Trøndelag politidistrikt.
NRK slet teknisk
Flere store nettsider har hatt problemer mandag kveld.
NRK meldte i 18-tiden at flere av deres systemer var nede, noe som førte til at forsiden på NRK.no ikke kunne oppdateres og at pushvarsler ikke kunne sendes ut.
Litt senere meldte de at flere av problemene skulle være løst.
Flere rammet
Det er også blitt meldt om problemer hos Vipps, BankID og Telenor mandag. Vipps bekreftet til NRK at deres systemer var nede fra klokken 15.55 til 16.20.
Også BankID sier de hadde problemer, men at det raskt ble ordnet. I tillegg bekrefter Telenor overfor kanalen at de hadde tekniske problemer.
Andre store nettsteder som Sparebanken Norge og Xbox og andre Microsoft-tjenester hadde også tekniske problemer. Xbox-brukere over hele verden slet med å logge inn, få tilgang til spillbiblioteket og å starte spill, skriver NRK.
Mange store nettsteder hadde tekniske problemer
En rekke store nettsteder som Vipps, BankID og Telenor opplevde tekniske problemer mandag ettermiddag.
Litt over klokka 16 hadde rundt 200 brukere meldt inn problemer med Vipps, viser oversikten på Downdetector.com.
Både Vipps og BankID meldte selv at alle tjenestene fungerte som normalt. Vipps bekrefter imidlertid til NRK at deres systemer var nede fra klokken 15.55 til 16.20.
– Våre systemer hadde ingen nedetid i den perioden, så det er nok en underleverandør som hatt rusk i maskineriet. Vi beklager ulempen som dette medførte for brukere, sier kommunikasjonsrådgiver Cato Gjertsen i Vipps.
Andre store nettsteder som SparebankenNorge og Xbox og andre Microsoft-tjenester hadde også tekniske problemer. Xbox-brukere over hele verden slet med å logge inn, få tilgang til spillbiblioteket og å starte spill, skriver NRK.
Også Telenor bekrefter overfor kanalen at de hadde tekniske problemer. Ifølge NRK var også flere av deres systemer nede.
Øst politidistrikt opplyste på samme tid at det var problemer med politiloggen.
– Politiloggen er ustabil, så vi sliter tidvis med å få lagt ut informasjon. Vi oppdaterer så fort og godt vi kan, skrev oppdragsleder Kent Bele.
Årsaken til problemene er ikke kjent.
Store jobbkutt i amerikanske tekselskaper til tross for KI-boom
Amerikanske teknologiselskaper har kuttet nesten 140.000 stillinger siden starten av 2026, skriver Financial Times.
Teknologibransjen står for mer enn en tredjedel av de annonserte nedbemanningene i USA i denne perioden, ifølge en analyse Financial Times har gjort. Nesten like mange teknologiarbeidere har mistet jobben så langt i år som i hele fjor.
Amazon, Oracle, Meta og Microsoft står for nesten 50.000 av kuttene, tilsvarende rundt seks prosent av deres samlede arbeidsstyrke.
Situasjonen for teknologiarbeidere står i kontrast til et amerikansk arbeidsmarked som ellers holder seg overraskende godt med en ledighet på 4,2 prosent, ifølge tall fra Bureau of Labor Statistics.
Samtidig med nedbemanningene i tekbransjen, er det varslet rekordstore investeringer i kunstig intelligens (KI). De fire store «hyperscalerne» – Amazon, Alphabet, Meta og Microsoft – planlegger samlede investeringer på 725 milliarder dollar i datasenterinfrastruktur i år.
Kina kritiserer USA for «sverting og sanksjonstrusler» mot kinesiske KI-selskaper
Kina oppfordrer USA til å stanse «sverting og sanksjonstrusler» mot kinesiske KI-selskaper, og varsler at landet vil iverksette tiltak.
– Det er kjent at mange amerikanske selskaper innen kunstig intelligens har hentet ut kunnskap fra kinesiske modeller under forskning, utvikling og trening, sier det kinesiske handelsdepartementet i en uttalelse mandag.
De oppfordrer USA til å stanse «sverting» og «sanksjonstrusler» mot kinesiske selskaper innen kunstig intelligens. Departementet varsler videre at Kina vil iverksette tiltak mot «amerikanske handlinger som skader kinesiske interesser», ifølge uttalelsen.
KI-gigantene pøser ut penger på lobbyvirksomhet
USAs ledende KI-selskaper har de siste månedene brukt rekordbeløp på lobbyvirksomhet i Washington, skriver Financial Times. Selskapene forsøker å begrense regulering og påvirke amerikanske regler knyttet til datasentre og kontroll av avanserte KI-modeller.
OpenAI nesten doblet sine utgifter til føderal lobbyvirksomhet til rekordhøye 2,22 millioner dollar i første halvår, mens Anthropic nesten tredoblet utgiftene til 3,53 millioner dollar, ifølge offentlige rapporter. Google og Microsoft brukte omtrent like mye som de har gjort de foregående årene, henholdsvis rundt 6,5 og fem millioner dollar viser rapportene.
Ifølge lobbyister og politiske eksperter reflekterer økningen at KI-bransjen står overfor flere politiske kamper og bygger opp en mer permanent tilstedeværelse for påvirkningsarbeid i Washington.
Brikkeprodusent opp med over 500 prosent under børsnotering i Kina
Minnebrikkeprodusenten CXMT ble Fastlands-Kinas mest verdifulle selskap mandag etter rekordbørsnotering.
Aksjene til minnebrikkeprodusenten ChangXin Memory Technologies (CXMT) gikk opp med over 500 prosent i løpet av formiddagen mandag. Selskapets markedsverdi nådde 3500 milliarder yuan eller 4950 milliarder kroner. CXMT ble dermed Fastlands-Kinas mest verdifulle selskap.
Kina satser stort på hjemmeprodusert maskinvare for å styrke sin posisjon i KI-kappløpet mot USA. CXMT er verdens fjerde største produsent av såkalte DRAM-minnebrikker som brukes i bærbare datamaskiner, mobiltelefoner og annen elektronikk, og har en markedsandel på 8 prosent.
Børsnoteringen er Kinas største for et teknologiselskap på fastlandet noensinne og overgår de 46,3 milliarder yuan (65,5 milliarder kroner) som selskapet Semiconductor Manufacturing International Corp (SMIC) hentet inn i 2020.
Ifølge Financial Times har analytikere advart om at etter hvert som den kinesiske produksjonen øker, kan prisene på minnebrikker falle, noe som ville utgjøre en trussel mot etablerte DRAM-produsenter som Samsung og SK Hynix.