Chatbotene kan øke motsetningene i samfunnet
Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.
Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.
Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.
– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.
Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».
Skrev ned tanker
Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.
De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.
Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.
Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.
Bekrefter oppfatninger
Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.
Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.
Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.
Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.
– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.
Store språkmodeller
Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.
– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.
Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.
ChatGTP svarer
Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:
«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.
Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».
Kan gjøre feil
«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.
Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.
Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.
Nasjonal sikkerhetsmyndighet om dataangrepene: – Sikkerheten må løftes
Flere norske virksomheter har blitt rammet av tjenestenektangrep den siste tiden. Nasjonal sikkerhetsmyndighet (NSM) understreker at angrepene ikke er farlige, men at sikkerheten må løftes.
– Det er viktig å understreke at tjenestenektangrep i seg selv ikke er farlig eller en trussel mot nasjonal sikkerhet. Denne type angrep handler som regel om oppmerksomhet og skape forstyrrelser, sier avdelingsdirektør operativ cyber i NSM, Martin Albert-Hoff, i en e-post til NTB.
Samtidig advarer han om at angrepene kan få konsekvenser ved at tidskritiske tjenester blir utilgjengelige.
– Sikkerheten må løftes, virksomheter i Norge må sørge for reserveløsninger og må øve på hvordan de håndterer denne typen hendelser, sier Albert-Hoff.
Digitaliseringen gjør samfunnet mer avhengig av digitale tjenester, og konsekvensene blir derfor mer merkbare.
– Når avhengigheten øker, må også sikkerhet og tiltak gjenspeile dette, mener han.
Ifølge NSM har Etterretningstjenesten og PST pekt på konkrete trusselaktører som har en interesse av å gjennomføre denne typen operasjoner.
– Tjenestenektangrep er et lavkost-virkemiddel for aktører som ønsker å skape oppmerksomhet, irritasjon, og ikke minst - svekket tillit til norske myndigheter, sier Albert-Hoff.
Ukrainsk etterretningskontor truffet i russisk angrep
Fredag er flere drept i angrep både i Ukraina og Russland. Ukrainsk etterretning skal ha vært mål for et angrep, opplyser Ukrainas president Volodymyr Zelenskyj.
Hovedkvarteret til den ukrainske etterretningstjenesten SBU i Kyiv er truffet i et russisk droneangrep, ifølge Zelenskyj.
Også journalister ved nyhetsbyrået AFP har sett et angrep mot SBUs hovedkvarter.
Dronen var ifølge Zelenskyj rettet mot SBU-sjef Oleksandr Poklads kontor.
– Jeg har gitt Poklad i oppdrag å svare på dette russiske angrepet på en passende, betydelig og, om mulig, symmetrisk måte, sier Zelenskyj ifølge avisen Kyiv Independent.
En sivil er drept og minst fem såret i russiske angrep mot havnebyen Odesa natt til fredag, ifølge guvernør Oleh Kiper. I Dnipro lenger øst i landet ble to politibetjenter drept i russiske angrep, ifølge lokale tjenestemenn. I Kyiv er flere drept i et droneangrep mot en boligblokk, melder nyhetsbyrået AP.
I Russland har Ukraina gått til motangrep flere steder. Tidlig fredag opplyste lokale myndigheter i Sotsji at et oljelager sto i brann etter et ukrainsk angrep. I tillegg er to menn drept i et ukrainsk droneangrep mot et boligbygg i byen Brjansk i Russland, ifølge den fungerende regionale guvernøren Jegor Kovaltsjuk.
– Dette er en stor tragedie, skriver han på X.
Dagens rakettoppskyting på Andøya er avlyst
Isar Aerospace har nok en gang avlyst oppskytingen av Spectrum 2 fra Andøya Spaceport. Dette var sjette gang selskapet forsøkte å sende raketten opp i bane.
Avlysingen bekreftes av administrerende direktør ved Andøya Space Center, Ketil Olsen, til NRK. Forrige forsøk var 15. juni.
Isar Aerospace har foreløpig ikke oppgitt årsaken til at oppskytningen ble avbrutt, men det blåser mye på Andøya fredag, og Meteorologisk institutt har utstedt gult farevarsel for kuling.
Politiet opplyser til NRK at ferdselsforbudet i området er opphevet.
Raketten er lastet med norske og utenlandske satellitter, og målet er å styrke norsk og europeisk tilgang til verdensrommet.
Daglig leder i Isar, Daniel Metzler, håpet i forkant at oppskytningen skulle skje før kong Haralds gravferd onsdag, etter et løfte gitt til daværende kronprins Haakon i 2023, skriver kanalen.
Stor nordisk IT-leverandør utsatt for datainnbrudd
Dustins nettsider er nede. Kunders personlige data kan være på avveie, skriver Kode24.
Den svenske IT-leverandøren Dustin har tatt ned nettsidene sine, ifølge Kode24.
Dette gjelder selskapets nettsider i Norge, Sverige, Danmark, Finland, Nederland og Belgia.
Årsaken skal være et datainnbrudd hvor personopplysninger kan ha havnet på avveie.
Dustin skriver at de beklager ulempene og at de jobber med å få tjenestene tilbake så snart som mulig.
Selskapet ble etablert i 1984 og er en av Nordens største leverandører og forhandlere av IT-produkter.
De har egne avdelinger i Norge, blant annet i Moss og Oslo.
OpenAI ruller ut ny og kraftig KI-modell
KI-selskapet OpenAI begynner utrullingen av sin nyeste og kraftigste modell, GPT-6 Astra.
Modellen skal først rulles ut til utvalgte kunder, ifølge en kunngjøring torsdag.
Samtidig lover selskapet at det har innført sikkerhetstiltak for å redusere risikoer.
– På dette nivået må sikkerhet bli vår høyeste prioritet, sa OpenAIs medgrunnlegger Greg Brockman.
Selskapet har den siste tiden rapportert om flere hendelser der modeller har handlet utenom menneskelig kontroll. I juli gjennomførte to KI-modeller et dataangrep, til tross for at de ikke skulle ha tilgang til internett.
Nvidia kjøper KI-plattform for 120 milliarder kroner
Databrikkegiganten Nvidia skal kjøpe opp KI-programvareselskapet Hugging Face for 12,9 milliarder dollar.
Hugging Face brukes av utviklere og andre til å dele KI-modeller, datasett og programmer. Ifølge Nvidia-sjefen Jensen Huang er det mer enn 200.000 selskaper som bruker plattformen.
I juli ble Hugging Face angrepet av to KI-modeller fra OpenAI, tilsynelatende uten at OpenAI oppdaget det.
Nvidia skal bevare Hugging Face som en åpen og tilgjengelig plattform, skriver Huang i et blogginnlegg.
Én av fem barn utsatt for seksuelle overgrep på nett
Rundt 20 millioner barn i 21 land er utsatt for seksuell utnyttelse eller overgrep digitalt i løpet av ett år, viser en Unicef-rapport.
Undersøkelsen omfatter rundt 21.000 internettbrukende barn mellom 12 og 17 år. Ett av fem barn oppga å ha blitt utsatt for minst én form for seksuell utnyttelse eller overgrep digitalt.
Mer enn 15 millioner ble eksponert for uønsket seksuelt innhold, mens rundt 9 millioner ble bedt om å delta i seksuelle samtaler eller dele bilder mot sin vilje. Seksuelle bilder av rundt 4 millioner barn ble delt uten samtykke.
Nesten 60 prosent av tilfellene skjedde på sosiale medier som Facebook, Instagram, Snapchat, Tiktok og Whatsapp. Ytterligere 14 prosent skjedde i nettspill.
I 57 prosent av tilfellene var overgriperen noen barnet kjente fra før. Samtidig hadde 38 prosent først fått kontakt med personen på nettet. Mer enn 40 prosent fortalte aldri noen om det de hadde opplevd, og mindre enn 1 prosent av sakene ble meldt til politi, sosialtjenester eller hjelpelinjer.
Norge er ikke blant landene i undersøkelsen. Men Unicef Norge viser til Kripos-tall som tyder på at norske barn og unge står overfor mye av den samme risikoen.
– Vi vet at sosiale medier fyller mange timer av barn og unges liv hver dag, også her i Norge. Ifølge Kripos blir de digitale overgrepene stadig mer voldelige og brukt som økonomisk pressmiddel. Og stadig flere yngre blir rammet, sier generalsekretær Maria Greenberg Bergheim i Unicef Norge.
Ahus ber brukere endre passord
Akershus universitetssykehus ber brukere av Kompetansebroen om å endre passord som følge av en sikkerhetshendelse i nettjenesten.
– Ahus har den siste tiden håndtert et digitalt angrep på Kompetansebroen, et nettsted for samhandling og kompetansedeling, kurs og faglig samarbeid i helsetjenesten. Som et sikkerhetstiltak blir alle registrerte brukere bedt om å opprette et nytt passord, skriver sykehuset i en pressemelding.
– Vi ber alle brukere om å bytte passord. Dette gjør vi for å redusere risikoen og ivareta sikkerheten til brukerne av tjenesten, sier Jørn Limi, viseadministrerende direktør ved Akershus universitetssykehus og styreleder for Kompetansebroen.
Dataangrep mot flere universiteter
Nettsidene til en rekke universiteter er utsatt for et dataangrep.
– Flere i universitets- og høyskolesektoren er under et DDoS-angrep. Vi jobber med å stabilisere tjenestene, skriver seniorrådgiver Camilla Chausse ved Universitetet i Oslo (UiO) til VG.
Onsdag ettermiddag rundt klokken 15 var flere universiteters nettsider nede eller ustabile. Ifølge Khronos kartlegging gjaldt det Universitetet i Agder, Universitetet i Oslo, NMBU, Universitetet i Sørøst-Norge og OsloMet.
Klokken 15.35 var nettsidene til Universitetet i Oslo, Universitetet i Agder og OsloMet er oppe igjen.
Den prorussiske hackergruppen Server Killers har påtatt seg ansvaret for angrepet. De melder på Telegram at de har rammet flere norske universiteter og høyskoler, skriver VG.
I forrige uke erklærte gruppen cyberkrig mot Norge på grunn av Norges støtte til Ukraina og en ny avtale om forsvars- og sikkerhetssamarbeid, skrev TV 2.
DDoS-angrep, eller tjenestenektangrep, er et dataangrep som overbelaster en nettside eller server med falsk trafikk fra mange maskiner, slik at den slutter å virke for vanlige brukere.
Knowit får ny Norge-sjef: - Jeg frykter gammel teknologi
Den nordiske konsulent-kjempen Knowit melder onsdag at de samler Norge-virksomheten i ett selskap og utnevner Amund Brandsrud (44) til ny Norge-sjef.
Knowit Norge skriver i en melding de har sendt ut at de med den nye modellen går fra en organisasjon bygget rundt fagområder på tvers av Norden, til landsorganiserte organisasjoner.
- Målet er å komme tettere på kundene og gjøre det enklere å hente riktig kompetanse til riktig oppgave, står det i meldingen.
Den nye Norge-sjefen tror ikke kunstig intelligens truer konsulentbransjen.
– Jeg frykter ikke ny teknologi. Jeg frykter gammel teknologi. Det er ikke kunstig intelligens som truer konsulentbransjen, det er konsulenter som jobber som i 2015, sier han.
Brandsrud har en MBA fra Norges Handelshøyskole (NHH) og har vært i Knowit siden oppkjøpet av Metronet i 2014. Han har hatt en rekke lederroller i selskapet, senest som leder for Knowit Solutions i Norge.
Knowit Norge har rundt 1000 medarbeidere fordelt på kontorer i Oslo, Bergen, Trondheim, Stavanger, Kristiansand, Arendal og Hamar.
Knowit-konsernet har til sammen rundt 3700 medarbeidere - hovedsaklig i Norden, men også i andre europeiske land.