Chatbotene kan øke motsetningene i samfunnet
Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.
Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.
Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.
– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.
Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».
Skrev ned tanker
Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.
De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.
Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.
Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.
Bekrefter oppfatninger
Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.
Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.
Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.
Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.
– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.
Store språkmodeller
Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.
– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.
Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.
ChatGTP svarer
Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:
«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.
Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».
Kan gjøre feil
«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.
Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.
Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.
SpaceX kjøper KI-selskap for 570 milliarder kroner
Romfartsselskapet Space X blar opp 60 milliarder dollar for å kjøpe opp KI-selskapet Cursor.
Nyheten om oppkjøpet kommer kun to dager etter at Elon Musks romfartsselskap gikk på børs i USA, noe som umiddelbart gjorde det til et av verdens høyest verdsatte.
Selskapet Anysphere er eierselskapet til KI-oppstartsbedriften Cursor. Tjenesten brukes særlig til koding og utvikling. SpaceX sier de venter at oppkjøpet kan fullføres i årets tredje kvartal.
Cursor ble grunnlagt i 2022 og har raskt fått en rekke kunder som bruker kunstig intelligens til utvikling og automatisert koding. De inngikk nylig avtaler med Anthropic og Google om å leie datakraft verdt 26 milliarder dollar hos deres datasentre.
Fra før eier SpaceX KI-tjenesten Xai, som driver KI-tjenesten på det sosiale mediet X, som Musk også eier etter at han kjøpte det som Twitter. De nevnte først interessen for Cursor i april, ifølge Reuters.
Fransk etterretning dropper Palantir
Den franske innenlandske etterretningstjenesten DGSI avslutter samarbeidet med det kontroversielle amerikanske teknologiselskapet Palantir.
Bakgrunnen er frykten for å bli avhengige av USA, som Frankrike har begynt å anse som en upålitelig partner.
– Vi kan ikke akseptere ny strategisk avhengighet i den digitale sfæren, sa statsminister Sébastien Lecornu i en video der han kunngjorde offentlige investeringer verdt 655 millioner euro (7,25 milliarder kroner) i utviklingen av fransk KI-industri.
I forrige uke valgte amerikanske myndigheter å sperre tilgangen til Fable-modellen til KI-giganten Anthropic for ikke-amerikanske brukere.
– Frankrike burde ikke være avhengig av godvilje fra enkelte partnere, som kan stenge tilgangen til kunstig intelligens, sa Lecornu.
Palantir ble grunnlagt av Peter Thiel, som lenge har hatt tette bånd til Trump-administrasjonen. Staters bruk av selskapets produkter har blitt svært kontroversielt i Europa, blant annet på grunn av potensialet for masseovervåking, brudd på individets rettigheter og personvernshensyn.
Det norske Forsvaret vurderer å ta Palantir i bruk, skriver blant annet Morgenbladet.
Frankrike med milliardinvestering – skal lage egen KI-chat for statsansatte
Frankrikes statsminister varsler investeringer på 7,2 milliarder kroner i kunstig intelligens de neste årene, blant annet i en KI-chat for ansatte i staten.
Statsminister Sébastien Lecornu kunngjorde tirsdag 655 millioner euro i KI-investeringer fram mot 2030. Blant annet skal det lages en digital helseassistent knyttet til det statlige helseforsikringsselskapet Ameli.
– Som elektrisiteten i sin tid, og som internett for 30 år siden, så endrer kunstig intelligens allerede livene våre, skriver Lecornu i sosiale medier.
De neste årene skal det lages en ny plattform for å gjøre tilgang til offentlig data enklere og en felles chat for alle offentlig ansatte.
– Vi kan enten bli utsatt for denne revolusjonen, eller vi kan lede den, skriver han.
Under et KI-toppmøte i Paris i Februar la president Emmanuel Macron fram sin visjon for å få fart på KI-utviklingen i Frankrike, som blant annet innebar nedkutting av byråkrati.
Løfter Arktis-samarbeid i EUs nye romsatsing
Hvordan Norge posisjonerer seg i EUs nye romsatsing og arktiske strategi var tema da Norges delegasjonen til EU inviterte til seminar med representanter fra EU-institusjoner, norske myndigheter, industri og forskningsmiljøer i Brussel forrige uke, kan vi lese i et nyhetsbrev fra regjeringen.
EU er i gang med å oppdatere sin arktiske strategi og Norge har spilt inn at strategien bør bygge på sterke partnerskap og gjensidig nytte.
Under arrangementet understreket Kommisjonen betydningen av det nære samarbeidet med Norge, og omtalte Norge som EUs nærmeste partner på romområdet. Romdialogen i rammen av Partnerskapsavtalen for sikkerhet og forsvar ble beskrevet som en viktig milepæl i samarbeidet.
Det pågående samarbeidet ble også reflektert i EU–Norge Arktis dialog som fant sted i Oslo forrige uke. (hf)
Nvidia tungt inne i Sør-Korea
Teknologiprodusenten Nvidia har fortalt om en rekke prosjekter i Sør-Korea, det meste knyttet til kunstig intelligens. De skal levere sin referansearkitektur for SK Telecoms nye gigawatt-skala sky-infrastruktur.
Nvidia har også inngått avtale med SK Hynix for utvikling av neste generasjon minnebrikker for KI-fabrikker, og LG Group bygger en KI-fabrikk basert på Nvidia-teknologi.
Hva som er viktigst er ikke lett å spå, men dårlig tilgang på minnebrikker er ventet å bremse mange KI-prosjekter rundt om i verden. SK Hynix skal utvikle minneenheter for Nvidias serie av superdatamaskiner, CPUer, PCer og selskapets robotplattform. (hf)
Norske redaktører reagerer på dansk KI-forslag
I Danmark vil regjeringen kutte pressestøtte til medier som bruker kunstig intelligens til å skrive nyheter. – Håpløst forslag, sier VG-topp Gard Steiro.
Den danske regjeringen lover i sin ferske regjeringsplattform å gjøre endringer i pressestøtten. For å regulere bruken av kunstig intelligens i mediene, vil de slutte å betale ut pressestøtte for KI-genererte nyheter.
Til Klassekampen sier VGs ansvarlige redaktør Gard Steiro at tiltaket vil virke svært begrensende for utviklingen til mediene.
– Det er litt som å stå i 1995 og si at medier som bruker internett, ikke skal få pressestøtte, sier han.
– Det finnes forsvarlig bruk av KI, og det finnes dårlig bruk av KI, men å forby det er en dårlig idé, legger han til.
Også Nettavisen-redaktør Alexandra Beverfjord er skeptisk.
– Brukt riktig av redaktørstyrte medier med tydelige etiske rammer kan kunstig intelligens tilføre verdi til både samfunnsoppdraget og til leserne, sier hun.
Verken VG eller Nettavisen mottar direkte pressestøtte i form av produksjonstilskudd, men nyter godt av momsfritaket, som ofte omtales som indirekte pressestøtte.
Oppgang på USA-børsene – SpaceX inn på sjetteplass blant verdens mest verdifulle selskaper
Amerikanske børser hadde mandag vind i seilene etter meldingen om en intensjonsavtale om å åpne Hormuzstredet. Også SpaceX-aksjen fortsatte himmelferden.
Teknologiindeksen Nasdaq la på seg 3,1 prosent i løpet av handelsdagen. SpaceX bidro kraftig til oppgangen.
På handelsdag nummer to etter børsnoteringen la romfartsselskapet på seg hele 19,6 prosent. Det er enda mer enn på første handelsdag fredag, da kursen økte med 19 prosent. Ifølge nettstedet Companiesmarketcap er selskapet dermed det sjette mest verdifulle i verden og inntar plassen under Amazon på listen.
Industriindeksen Dow Jones steg o,9 prosent og endte med ny toppnotering, mens den brede S&P 500 steg 1,7 prosent.
Aksjonærer til sak mot Microsoft i USA
Microsoft saksøkes av aksjonærer som anklager selskapet for å ha svindlet dem og blåst opp aksjekursen kunstig.
Et pensjonsfond i Michigan står bak gruppesøksmålet, som ble fremmet i en føderal domstol i Seattle fredag. Bakgrunnen er børsutviklingen for selskapet den 29. januar, da aksjekursen falt 10 prosent dagen etter at selskapet la fram sin kvartalsrapport.
Saksøkerne mener Microsoft unnlot å opplyse om avtagende vekst i skyvirksomheten Azure og behovet for å bruke milliarder av dollar på infrastruktur for kunstig intelligens.
Nyhetsbyrået Reuters skriver sent mandag ettermiddag at selskapet ikke har svart på henvendelser om saken så langt.
Russisk kaptein siktet i Finland for å ha skadet undersjøiske kabler
En russisk kaptein på et handelsskip er i Finland siktet for å ha skadet to telekom-kabler på bunnen av Østersjøen på nyttårsaften i fjor.
Også skipets aserbajdsjanske båtsmann ble mandag siktet. Kablene ble skadet da skipet dro et ødelagt anker langs havbunnen over en strekning på minst 130 kilometer.
Finsk påtalemyndighet mener de to forsøkte å skade også flere andre undersjøiske kabler. Senere skal det avgjøres om det tas ut siktelse mot ytterligere to besetningsmedlemmer.
Skipet var på vei fra Russland til Israel da hendelsen skjedde i Estlands økonomiske sone. Kapteinen og båtsmannen nekter straffskyld og har blant annet argumentert med at Finland ikke har jurisdiksjon siden kablene ble skadet utenfor finsk territorialfarvann.
De siste årene har det vært flere hendelser der kabler på bunnen av Østersjøen er påført skader. En del av hendelsene anses av vestlige eksperter som et ledd i Russlands «hybridkrig» mot Vesten.
Krig og KI på agendaen for årets G7-møte
Medlemsland ventes å presse USA for detaljer rundt Iran-avtalen når G7-landene møtes i Évian-les-Bains i Frankrike mandag.
Det er fremdeles ikke blitt publisert noen avtaletekst i forbindelse med konflikten i Midtøsten, verken fra USA eller Iran. Det forventes at resten av G7-landene vil legge press på USA og president Donald Trump for å avsløre detaljer rundt avtalen som forventes å signeres i Sveits fredag.
Frankrikes president Emmanuel Macron uttalte i et innlegg på Instagram at konsekvensene av Iran-avtalen skal diskuteres under møtet. Europeiske ledere venter utålmodig på en gjenåpning av Hormuzstredet.
Storbritannia og Frankrike har tilbudt seg å bidra med militære styrker for å kunne gjenåpne stredet.
Også krigen i Ukraina står på timeplanen for det tre dager lange møtet, og landets president Volodymyr Zelenskyj skal delta fra tirsdag. Allierte vil trolig bruke møtet til å forsøke å overbevise Trump om å presse fram en fredsavtale som gagner Ukraina.
Zelenskyj sier han har tilbudt å møte Russlands president Vladimir Putin på G7-møtet for å diskutere en slutt på krigen, men at den russiske lederen ikke er klar for samtaler.
Frankrike ønsker å utvide rekkevidden til G7 utover medlemslandene og har invitert flere verdensledere til Évian-les-Bains, blant annet Brasils president Luiz Inacio Lula da Silva og Indias statsminister Narendra Modi.
Også flere KI-sjefer som Sam Altman i OpenAI, Dario Amodei i Anthropic og Arthur Mensch i Mistral AI deltar på et lunsjmøte der det skal diskuteres hvordan man beskytter mindreårige på nettet.