Chatbotene kan øke motsetningene i samfunnet

Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.

Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.

Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.

– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.

Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».

Skrev ned tanker

Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.

De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.

Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.

Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.

Bekrefter oppfatninger

Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.

Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.

Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.

Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.

– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.

Store språkmodeller

Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.

– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.

Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.

ChatGTP svarer

Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:

«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.

Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».

Kan gjøre feil

«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.

Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.

Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.

08:00 - Redaksjonen

Nkom frykter at 2G-slukkingen kan gi kalde hytter

Nkom ber hytteeiere sjekke at ikke utstyret som styrer varme, alarmer og sensorer er avhengig av fungerende 2G-nett.

Myndigheten frykter at flere hytteeiere har utstyr som har kommunisert på Telias 2G-nett, som har blitt lagt ned i løpet av høsten, og ikke har oppdaget dette fordi årets milde og snøfattige vinter har ført til færre hyttebesøk enn vanlig.

Også utstyr med utenlandske simkort vil slutte å virke når mobilnettet det bruker, legges ned.

Telenor legger ned sitt mobilnett først i 2027, men Nkom ber Telenor-kunder bytte ut sitt 2G-avhengige utstyr i god tid før stengingen.

07:43 - Redaksjonen

Forstyrrelser i mobilnettet stengte svenske gruver

Forstyrrelser i mobilnettet førte søndag til at LKABs gruver i Kiruna måtte akuttstenges, skriver nyhetsbyrået TT i en melding publisert i Ny Teknik.

Alle arbeiderne som befant seg under jorden, ble nødt til å samles i ett rom i gruvene da problemene oppstod søndag morgen, men i 12-tiden kunne gruvevirksomheten tas opp igjen, opplyser LKAB.

LKAB vil ikke si noe om de tekniske detaljene rundt mobilnettforstyrrelsene, ut over at problemene var koblet til selskapets telefoni.


Det franske postverket rammet av IT-angrep

Det franske postverket La Poste har blitt rammet av et IT-angrep, noe som rammer kunder som bruker postens nettbank og mobilapplikasjoner.

Angrepet skal også påvirke pakkeleveranser i årets mest hektiske periode, skriver La Poste på X.

– Siden tidlig i morges har en hendelse påvirket tilgangen til nettbanken og mobilappen. Det arbeides med å løse problemene, og teamet vårt gjør alt for å raskt gjenopprette tjenesten, heter det.

Ifølge en kilde i selskapet som franske BFMTV har snakket med, dreier det seg om et overbelastningsangrep, som har som mål å overbelaste servere med forespørsler til de til slutt krasjer.

La Poste forsikrer kundene om at deres opplysninger ikke har havnet på avveie eller blitt påvirket av angrepet.

KI-bekymring i bokbransjen

Flere norske forlag bekrefter at de har begynt å bruke kunstig intelligens (KI) i utgivelsen av bøker. Bokbransjen er bekymret for utviklingen.

– Hva er poenget hvis det er KI som skal skape kunst og litteratur fremover, og vi menneskene blir redusert til operatører? Da vil det føles meningsløst å skrive, sier forfatter Jan Grue til Sivilisasjonen.

– Hvis du forsøker å gjøre KI til forfatter, vil det være maskinens bøker og ikke dine. Du gir fra deg forfatterrollen, stemmen og erkjennelsesarbeidet, sier han.

Bruken av kunstig intelligens i næringslivet har økt kraftig de siste årene, viser tall fra SSB. Forlag internasjonalt har også begynt å eksperimentere med KI-skapte barnebøker, lydbokmanus og innhold til romanserier. Også i bokbransjen i Norge, tas KI i bruk.

KI brukes hovedsakelig for å styrke grammatikken i bøkene, og i oversettelsen fra andre språk til norsk, forteller forlagssjef Arno Vigmostad i Vigmostad & Bjørke. Det samme har forlaget Aschehoug begynt med, bekrefter markedssjef for skjønnlitteratur, Julie Kalager.

Begge understreker at all KI-bruk må kontrolleres av mennesker.

Vigmostad forteller at de får inn manus fra forfattere, hvor det er merkbart at deler av teksten er KI-generert, der det personlige er så godt som forsvunnet fra teksten.

– Derfor er jeg litt bekymret for denne utviklingen. Det går jo ikke an å være en skjønnlitterær forfatter uten en «stemme», sier han.

86 millioner lydfiler fra Spotify kan ha havnet hos hackere – skjerper sikkerheten

Spotify har deaktivert flere kontoer som tilhører hackere som hevder å ha stjålet opptil 86 millioner lydfiler fra musikktjenesten.

Hackergruppen har til hensikt å gjøre opptil 86 millioner lydfiler tilgjengelige i et åpent arkiv med formål om å «bevare menneskehetens kunnskap og kultur», melder Billboard.

Hackergruppen opplyser at metadata er gjort tilgjengelig i en første utgivelse, og at lydfiler vil bli delt senere.

Spotify opplyser i en uttalelse at de har identifisert et innbrudd, at metadata er stjålet og at ulovlige metoder er brukt for å få tilgang til plattformens lydfiler.

Som følge av dette har de nå skjerpet sikkerheten.

– Vi har innført nye sikkerhetstiltak mot denne typen angrep på opphavsretten, og vi følger aktivt med på mistenkelig atferd, opplyser Spotify.

Hackergruppen står bak nettsiden Anna's Archive, hvor man kan få tilgang til store mengder digitale bøker og andre skriftlige kilder. Men framover skal det altså også ligge musikk på nettsiden, som gruppen omtaler som et åpent arkiv.

Gruppen har ikke skaffet seg tilgang til data om brukerne. Sikkerhetsbruddet får altså ikke konsekvenser for de mange millioner menneskene som bruker Spotify.

Nytt datatrøbbel hos apotekene løst

Det var mandag nye problemer i datasystemet som brukes til å hente ut resepter hos apotekene. Også før helgen var det problemer med dette.

– Jeg har fått beskjed om at det er tregheter som gjør at det er krevende å få ekspedert, og i hvert fall i det tempoet man ønsker. Så det er noe som henger, sa pressekontakt Jostein Soldal i Apotekforeningen til VG klokken 11.47.

Like før klokken 14 sa han til NRK at problemene var løst.

Problemene rammet reseptsystemet Eik, som brukes av alle norske apoteker.

VG skriver at de fikk flere tips fra flere personer som ikke fikk hentet ut reseptbelagte legemidler mandag.

Fredag hadde apotekene lignende problemer. Også da var det feil i reseptsystemet Eik.

Helseplattformen får dagsbot etter tilsyn

Helseplattformen har fått en dagsbot på 50.000 kroner av Tilsynet for universell utforming av IKT (UU-tilsynet) for feil på nettstedet Helsa Mi.

Tilsynet avdekket 119 enkeltfeil innenfor 12 av 14 enkeltkrav, skriver de i en pressemelding.

Det gjensto fremdeles 64 feil etter at fristen for å rette feilene utløp 8. desember. En oppfølgingstest 19. desember viste at seks feil fremdeles gjensto. Dermed får Helseplattformen dagbøter på 50.000 kroner fra 20. desember. Dette vil øke med ti prosent i måneden fra 1. februar dersom de fremdeles ikke er rettet, skriver tilsynet.

Feilene innebærer at løsningen ikke kan brukes på like vilkår av alle, og at Helseplattformen AS bryter med kravene i likestillings- og diskrimineringsloven, ifølge tilsynet.

– Digitale helsetjenester er viktige for alle innbyggere. For at alle skal kunne bruke dem, må løsningene være universelt utformet. Dette er særlig viktig for eldre og personer med nedsatt funksjonsevne, og for personer som er i en sårbar livssituasjon. Da er det avgjørende at en stor aktør med så mange brukere tar ansvar for å sikre tilgjengelige løsninger, sier tilsynsdirektør Malin Rygg.

Helseplattformen AS er ansvarlig for løsningen HelsaMi som blir brukt av 425.000 innbyggere i Midt-Norge.

I går, 07:57 - Redaksjonen

Telenor Sverige: 1500 av våre kunder kan ikke ringe nødnummer

Telenor Sverige opplyser at de har 1500 mobiltelefoner i sitt nett, som ikke kan ringe nødnummeret 112, og derfor kommer til å bli blokkert fra mobilnettene i Sverige.

Det skriver Telekomnyheterna.

Blokkeringen trer i kraft fra 2. februar neste år, etter at det svenske Post- og teletilsynet (PTS) har bestemt at de ikke vil tillate at disse telefonene skal kunne nødroames inn i Telias 2G-nett etter at de andre mobiloperatørene nå har stengt sine 2G-nett.

I Sverige ble det nylig klart at rundt 70.000 mobiltelefoner ikke har kunnet ringe 112 etter at 2G-nettene til Telenor, Tele2 og Tre ble lagt ned 1. desember, fordi de mangler Volte Emergency-teknologien som gjør det mulig å ringe nødnummer på 4G-nettet.

Rundt 7000 av disse telefonene ble blokkert allerede 1. desember fordi eierne måtte foreta fysiske endringer i telefoninnstillingene eller simkortet for at de skulle kunne rutes inn i Telias 2G-nett.

De siste rundt 60.000 telefonene blir blokkert 2. februar, fordi PTS mener det er for risikabelt å ha nødroaming til Telias 2G nett som eneste sikkerhet for at eierne klarer å ringe nødetatene ved en ulykke.


Nye språkmodeller trenes på norske aviser

Kopinor og Nasjonalbiblioteket har signert en avtale om bruk av innhold fra landets aviser i trening av norsk kunstig intelligens.

Tidlig neste år kommer de første språkmodellene som er trent på avisinnhold, opplyser biblioteket i en pressemelding.

De får nå bruke innhold som er eldre enn ett år, til å utvikle norsk og samisk kunstig intelligens. Staten skal betale 45 millioner kroner årlig, og språkmodellene skal være gratis for alle.

Kopinor inngikk avtalen på vegne av Mediebedriftenes Landsforening (MBL) og landets aviser.

Arbeidet er allerede i gang med å utvikle modeller basert på åpent tilgjengelig innhold. Men med denne avtalen kan man bruke langt mer oppdatert innhold av høy kvalitet, ifølge pressemeldingen.

– Norge blir først ut i verden med en slik vederlagsavtale. Det er gode nyheter både for opphavspersoner og for alle som bruker kunstig intelligens, sier kultur- og likestillingsminister Lubna Jaffery (Ap).

Administrerende direktør Randi S. Øgrey i MBL minner om de redaktørstyrte medienes avgjørende rolle for demokratiet i en uforutsigbar verden.

– Denne avtalen viser at det er mulig å bygge kunstig intelligens på en måte som både ivaretar avisenes interesser og sikrer at innhold med høy kvalitet og redaksjonell integritet ligger til grunn for utviklingen, sier hun.

Datatilsynet advarer: Tiktok fortsetter å sende personopplysninger til Kina

Tiktok fortsetter å sende informasjon til Kina. Det er i strid med avgjørelsene fra flere europeiske datatilsyn.

Tiktok sendte denne uken epost til norske brukere om at de kommer til å fortsette å sende informasjon til Kina. Der skriver de at de vil fortsette å gjøre opplysninger tilgjengelige for sine ansatte i Kina, skriver Datatilsynet i en pressemelding.

Det er til tross for at flere europeiske tilsynsmyndigheter har reagert på praksisen.

Datatilsynet i Irland påla tidligere i år Tiktok å stanse overføringen av europeiske brukeres opplysninger til Kina med umiddelbar virkning. Kinesisk lovgivning åpner for at myndighetene kan kreve å få utlevert opplysningene.

– Praksisen kan ha negative konsekvenser for personvernet siden kinesisk lovgivning potensielt kan kreve at dataene deles med kinesiske myndigheter. Samtidig er det vanskelig å forutse om disse dataene faktisk vil utleveres til kinesiske myndigheter i fremtiden, sier seksjonssjef Tobias Judin i Datatilsynet.

Datatilsynet ber norske tiktokbrukere om å tenke gjennom om de vil fortsette å bruke Tiktok og andre tjenester som sender personopplysninger til land utenfor EU.

De oppfordrer også folk til å sjekke om appen har tilgang til kamera, mikrofon, kontakter og lokasjon, og om man mener at alle tilganger er nødvendig.