Chatbotene kan øke motsetningene i samfunnet
Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.
Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.
Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.
– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.
Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».
Skrev ned tanker
Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.
De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.
Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.
Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.
Bekrefter oppfatninger
Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.
Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.
Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.
Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.
– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.
Store språkmodeller
Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.
– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.
Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.
ChatGTP svarer
Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:
«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.
Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».
Kan gjøre feil
«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.
Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.
Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.
British Columbia saksøker OpenAI etter skoleskyting
Den canadiske provinsen British Columbia saksøker OpenAI, etter at selskapet skal ha unnlatt å melde fra om voldelig aktivitet på KI-tjenesten ChatGPT.
Søksmålet går i den amerikanske delstaten California. Ifølge provinsens justisminister Niki Sharma søker søksmålet «ansvarliggjøring og endring» fra OpenAI.
Selskapet har tidligere beklaget at de ikke varslet om en konto knyttet til den 18 år gamle transkvinnen som først drepte sin mor og stebror hjemme, deretter fem elever og en lærer på en skole i bygda Tumbler Ridge i februar.
25 mennesker ble såret i et av de verste massedrapene i canadisk historie. Kvinnen tok sitt eget liv i etterkant.
DNB forbyr KI-briller
Storbanken DNB innfører et forbud mot å bruke smartbriller for å verne om sensitiv informasjon. Forbudet gjelder i bankens lokaler og filialer.
Banken er urolig for at sensitive kundeopplysninger og forretningshemmeligheter kan komme på avveie. I tillegg er de opptatt av å beskytte de ansattes arbeidsmiljø, skriver E24.
– Vi ønsker et arbeidsmiljø der ansatte slipper å lure på om kolleger eller andre bruker teknologi som kan filme dem, eller hvor vi kan ende opp i en situasjon hvor vi ikke har kontroll over informasjonen, sier kommunikasjonsdirektør Liselotte Lunde til avisen.
DNB mener det er nødvendig å ta grep fordi det mangler lovverk for bruk av KI-briller (kunstig intelligens). Brillene ser ut som vanlige briller, men er utstyrt med teknologi som kamera, mikrofon og kunstig intelligens. DNB frykter at kundeinformasjon eller fortrolige samtaler kan fanges opp ved hjelp av brillene.
– Den risikoen kan ikke vi ta, og derfor har vi valgt å sette en tydelig grense fra og med i dag, sier hun.
Regjeringen vurderer et forbud mot smartbriller, opplyste digitaliseringsminister Torgeir Michaelsen (Ap) forrige uke. Hans forgjenger Karianne Tung ønsket derimot ikke et forbud, men tok heller til orde for at offentlig og privat sektor selv skulle vurdere egne retningslinjer for bruk av briller i lokaler og på arbeidsplassen.
Støre og Stubb fronter krav om KI-kontroll
Statsminister Jonas Gahr Støre (Ap) og Finlands president Alexander Stubb står bak et initiativ for å sikre internasjonal kontroll over kunstig intelligens (KI).
Et opprop lanseres mandag i forbindelse med høynivåuka til FNs generalforsamling.
– Vi må få bedre kontroll på de mest avanserte KI-modellene. KI er en ekstremt kraftig teknologi med stort potensial, men den kan også utgjøre en betydelig sikkerhetsrisiko, sier Støre til NTB.
«Vi må handle nå» er hovedbudskapet i oppropet.
– KI er den teknologien som vil få størst betydning i menneskehetens historie. Den vil påvirke vitenskapen, politikken, sikkerheten og hvordan vi er som mennesker. Mennesker kan og bør sitte i førersetet, sier Stubb.
– Vi har et valg: Vi kan konkurrere, samarbeide eller bremse utviklingen. For meg er samarbeid den beste veien videre, slår han fast.
Mange advarsler
Den siste tiden har flere KI-forskere og eksperter advart kraftig om at den hyperraske utviklingen kan få uante konsekvenser. Advarslene har gitt KI-risiko et kraftig løft på den internasjonale dagsordenen.
– Oppropet sier egentlig to ting: Selskapene må ta ansvar og ha rutiner for intern kontroll, intern inspeksjon og muligheten for å stoppe og varsle om utvikling som kan være farlig. Det andre er at vi trenger et internasjonalt samarbeid om felles standarder, åpenhet og deling av rapportering om alvorlige sikkerhetshendelser som kan treffe landene, sier Støre til NTB.
Han var søndag på vei til Canada for samtaler med statsminister Mark Carney om saken.
Ideen om et felles opprop kom for en uke siden på en middag med europeiske ledere i Rovaniemi i Finland, der Arktis sto på menyen. Der ble Støre og Stubb enige om å fronte saken.
– Vi tror dette oppropet vil få stor oppmerksomhet, og det er bra, sier Støre.
Hektisk telefonering
Den siste uka har det vært hektisk telefonvirksomhet med land i øst, vest, sør og nord. Målet er å samle så mye støtte som mulig under FNs høynivåuke i New York.
Til nå har blant annet ledere av en rekke EU-land samt EU-kommisjonens leder Ursula von der Leyen, og ledere fra blant annet Canada, Australia, Kenya, De forente arabiske emirater, Tyrkia, Singapore og Sør-Afrika undertegnet oppropet.
– FNs generalsekretær António Guterres snakket jeg med for to dager siden, og han hilste dette velkommen. Og han kommer nok til å ha dette som et av sine viktige punkter i talen sin til FN, sier Støre.
– Hvor sannsynlig er det at man kan få gjennomslag for et sånt tiltak når ledere som Donald Trump har avvist behov for mer regulering?
– Jeg tror at sånne nye utfordringer aldri er enkle å møte. Men man kan ikke begynne med å gi opp, sier Støre.
Dyp uro
Han erkjenner imidlertid at veien fram til tiltak avhenger mye av hva Kina og USA gjør.
– Men også der er det dyp uro for det destruktive potensialet til KI, sier han og trekker en parallell til atomteknologien.
– Den kan både gjøre fantastiske ting, som å skape kraft, men den kan også være et farlig våpen. Derfor fikk vi ikkespredningsavtalen, og det ble opprettet en organisasjon, IAEA, som har rutiner, sikkerhet og kontrollmekanismer som gjør verden tryggere.
– Hvordan vil dere ta denne saken videre – hvem skal ha ansvaret?
– Det vil jeg ikke konkludere på nå. Om det skal skje innenfor rammen av FN, eller om det skal skje mer regionalt, det må tiden vise.
– Men jeg vet at G7 under fransk ledelse jobber med ideer til hvordan dette kan tas videre. Får du enighet i G7, så er jo USA inne, påpeker Støre.
Sparebank 1 og Vipps har driftsproblemer
Problemer hos selskapet Tieto skaper litt trøbbel for Vipps-brukere og Sparebank 1-kunder mandag. Man kan imidlertid fortsatt «tæppe» og betale fra kort hos Vipps.
– På grunn av driftsproblemer kan du oppleve problemer med betalingstjenester. Vi beklager ulempene dette medfører og jobber med å løse problemene, heter det i en melding i Sparebank 1s mobilløsning.
Kommunikasjonsdirektør Christine Meling sier til TV 2 at banken jobber med å løse problemene.
Også Vipps har trøbbel, melder VG. Problemene der går på vennebetaling som ikke fungerer fra enkelte banker, sier kommunikasjonssjef Kari Kjær til avisa. Hun understreker at vippsing gjennom kort og såkalt «tæpping» funker som normalt.
Overfor NTB bekrefter hun at én av bankene med trøbbel er Sparebank 1, men sier at det er uklart hvilke andre. Selve problemet ligger hos Tieto, som har bankinfrastruktur i enkelte banker.
– Jeg kan bekrefte at vi har en teknisk feil i vår infrastruktur som gjør at det er tregheter med å få gjennomført vennebetalinger i Vipps, sier kommunikasjonssjef Geir Remman i Tieto.
Remman legger til at det er snakk om flere banker, men at det ikke er klart akkurat hvilke som er rammet ennå – utenom Sparebank 1.
Han understreker at det er snakk om tregheter, men at dette for en god del brukere vil oppleves som at det ikke lar seg gjøre. Selskapet beklager ulempene det medfører for kundene.
Bessent: USA og Kina oppretter KI-varslingsordning
USAs finansminister Scott Bessent sier USA og Kina skal opprette en direktelinje for å kunne kommunisere om sikkerhetsrelaterte KI-hendelser.
I et intervju med CNBC bekrefter Bessent at en slik linje skal opprettes.
– Og så vil vi begynne å diskutere prosedyrer, slik at begge parter kan bli enige om hva de viktigste KI-farene er. Om det er ukontrollerbare agenter eller ikke-statlige aktører, sier Bessent.
Han hadde søndag et møte med Kinas visestatsminister He Lifeng i New York hvor forslaget om en ny varslingsordning for KI-hendelser ble diskutert.
Sikkerheten rundt utviklingen av kunstig intelligens (KI) har fått økt oppmerksomhet den siste tiden, i kjølvannet av en mye omtalt hendelse hos KI-giganten OpenAI i vår. En «sverm» av selskapets KI-agenter hacket på eget initiativ både OpenAI og et annet KI-selskap.
Ansatte i KI-selskapet Anthropic hevdet nylig at KI-utviklingen utgjør en trussel mot menneskeheten.
Ifølge Bessent skal USA og Kina ha et nytt møte om kunstig intelligens (KI) i Shenzhen i Kina om rundt to måneder.
Personopplysninger på avveie – Datatilsynet starter tilsyn med tre hotellkjeder
Datatilsynet starter tilsyn med hotellbransjen etter en rekke avviksmeldinger, klager og tips om hotellkjedene Thon Gruppen, Strawberry Hotels og Citybox.
Hotellkjedene fikk forrige uke brev fra Datatilsynet, hvor de ble varslet om et skriftlig tilsyn.
«Det overordnede temaet for tilsynet er personopplysningssikkerhet (informasjonssikkerhet) i tilknytning til booking- og reservasjonsprosesser», sto det i brevet.
Datatilsynet har over tid mottatt en rekke avviksmeldinger, klager og tips om systematiske svindelforsøk i etterkant av hotellbookinger.
– Personopplysninger har kommet på avveie på tvers av ulike hoteller og kjeder, skriver Datatilsynet.
Forvaltningsorganet har konkludert med at misbruk av disse opplysningene kan få konsekvenser for dem som rammes.
– På bakgrunn av henvendelsene vi har fått, har vi sett behov for å gjøre nærmere undersøkelser. Vi vil blant annet kartlegge omfanget av og årsakene til disse svindelforsøkene. Videre vil vi undersøke om hotellkjedene har etablert tilstrekkelige tekniske og organisatoriske tiltak slik at nivået på sikkerheten er i tråd med kravene i personvernreglementet, sier direktør Line Coll i Datatilsynet.
Tilsynet vil foregå i to faser. Første fase er et skriftlig tilsyn og i andre fase vil Datatilsynet gjennomføre stedlige tilsyn med utvalgte hotell.
Milliardbot til Google etter norsk avsløring
Søkemotorkjempen Google er ilagt en bot på 403 millioner euro for behandlingen av lokaliseringsdata. Boten kommer etter en norsk rapport i 2018.
Beløpet tilsvarer godt over 4 milliarder norske kroner.
– Denne saken dreier seg om tidligere innstillinger som for lengst er blitt oppdatert. Siden 2019 har vi gjort store endringer og laget enkle verktøy som gir folk god kontroll over egne posisjonsdata, skriver kommunikasjonssjef Sondre Ronander i Google Norge i en e-post til NTB.
Ifølge NRK er boten den fjerde største GDPR-boten noensinne.
Saken er behandlet av det irske datatilsynet fordi Google har sitt europeiske hovedkontor i landet. Avgjørelsen kan ankes videre i det irske rettssystemet.
Forbrukerdirektør: En merkedag
– Dette er en merkedag i arbeidet med å sikre våre rettigheter på nett. Vi skal vite hva vi takker ja til uten å bli lurt og manipulert til å ta valg vi ellers aldri ville tatt, sier forbrukerdirektør Mette Fossum.
Det norske Forbrukerrådet slo i 2018 fast hvordan mobilbrukere med Googles operativsystem Android etter deres syn ble manipulert til kontinuerlig sporing gjennom «utspekulert design, misvisende informasjon og gjentakende masing».
Sammen med sju andre europeiske forbrukerorganisasjoner anklaget Forbrukerrådet Google for brudd på personvernlovgivningen. Det er i denne saken det irske datatilsynet åtte år senere har konkludert.
– Denne avgjørelsen sender også et viktig signal. Det er ikke er fritt frem å samle inn og bruke informasjon om oss etter eget forgodtbefinnende, sier Mette Fossum.
Kritisk til lang saksbehandlingstid
Direktøren er samtidig kritisk til den lange saksbehandlingstiden.
– Skal vi sikre at forbrukernes rettigheter blir ivaretatt og skape rettferdig konkurranse på nett, er det en forutsetning at regelverket vi har blir håndhevet raskt og avskrekkende, sier Fossum.
– Dessverre har det irske datatilsynet blitt en flaskehals for effektiv håndheving av personvernregelverket i Europa. Så godt som alle de store teknologiselskapene er etablert der, som gjør at klager på vegne av alle europeiske forbrukere ender i et saktegående behandlingssystem i Dublin, legger hun til.
Google-KI hacket tre selskaper i test
Googles kunstig intelligens-modell Gemini har på egen hånd hacket seg inn i tre selskaper under en test av cybersikkerhet, forteller selskapet. Gemini fant offentlig informasjon på nettet og gjettet passord for å få tilgang til nettsteder som KI-en trodde var del av testen, skriver BBC News.
Testen skjedde i mai og de hackede selskapene er informert om hendelsen. Det uavhengige selskapet Irregular sto bak testen.
Googles direktør for sikkerhet, Heather Adkins, sier til BBC at hendelsen understreker viktigheten av å trene kraftige KI-modeller opp til å handle ansvarlig. (hf)
Bessent foreslår KI-varslingsordning mellom USA og Kina
USA foreslår en ny varslingsordning med Kina om KI-hendelser som kan få betydning for nasjonal sikkerhet.
Forslaget ble fremlagt under samtaler mellom USAs finansminister Scott Bessent og Kinas visestatsminister He Lifeng i New York søndag. Bessent sa at USA ønsker en ny KI-dialog med Kina, med større åpenhet om felles mål og trusler.
– Det er svært viktig med mer åpenhet mellom verdens største og nest største KI-makt, sa Bessent.
Kinesiske statlige medier skrev mandag at partene hadde «åpne, grundige og konstruktive samtaler» om viktige økonomiske og handelspolitiske spørsmål, blant annet kunstig intelligens.
Samtalene skal legge grunnlaget for mulige avtaler før president Donald Trump og Kinas president Xi Jinping møtes i Washington senere denne uken.
Partene diskuterte også mulige tollkutt på ikke-strategiske varer. USAs handelsrepresentant Jamieson Greer nevnte blant annet forbruksvarer, energi, landbruksvarer og medisinsk utstyr som mulige områder.
USA og Kina forsøker samtidig å unngå en ny opptrapping av handelskonflikten. Den nåværende handelsvåpenhvilen utløper 10. november.
NRK avpubliserer dokumentar av frykt for at KI kan avsløre kilder
NRK og danske DR har fjernet dokumentarer fra nettsidene sine av frykt for at KI-verktøy kan avsløre identiteten til anonyme kilder.
Blant programmene som er tatt ned, er «Skyggekrigen», en nordisk dokumentarserie om russisk etterretning, skriver Klassekampen.
– Kildevernet er hellig for oss. Det veier tyngre enn tilgjengeligheten. Derfor avpubliserte vi «Skyggekrigen» midlertidig da vi fikk informasjon fra DR i sommer, sier redaksjonssjef Frode Frøyland i NRK Brennpunkt til avisen.
KI-professor Morten Goodwin ved Universitetet i Agder sier at svak anonymisering kan gjøre det mulig å identifisere kilder.
– Det finnes tilfeller hvor anonymiseringen er ganske dårlig, hvor man bare har gjort bildet litt blurry og forvrengt stemmen litt. Da går det helt fint å finne tilbake til kilden, sier han.
Ved grundig anonymisering kan ikke KI gjenskape kildens virkelige ansikt eller stemme, men teknologien kan snevre inn hvem personen sannsynligvis er dersom utvalget av mulige kilder er begrenset.
Goodwin mener norske medier stort sett har en god kultur for anonymisering, men sier at de kan føle seg «litt trygge, men ikke kjempetrygge».
(©NTB)