Chatbotene kan øke motsetningene i samfunnet
Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.
Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.
Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.
– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.
Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».
Skrev ned tanker
Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.
De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.
Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.
Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.
Bekrefter oppfatninger
Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.
Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.
Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.
Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.
– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.
Store språkmodeller
Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.
– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.
Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.
ChatGTP svarer
Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:
«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.
Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».
Kan gjøre feil
«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.
Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.
Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.
WhatsApp kan bli presset ut av det russiske markedet
Meldingsappen WhatsApp bør forberede seg på å forlate det russiske markedet, advarer russisk lovgiver som regulerer IT-sektoren.
WhatsApp, som eies av Meta Platforms, kan med stor sannsynlighet bli satt på en liste over begrenset programvare i Russland.
Forrige måned signerte Russlands president Vladimir Putin en lov som gir grønt lys for utviklingen av en statlig støttet meldingsapp. Formålet er å redusere avhengigheten av plattformer som WhatsApp og Telegram.
Nestleder i statsdumaens komité for informasjonspolitikk, informasjonsteknologi og kommunikasjon, Anton Gorelkin, mener den statlige appen kan vinne større markedsandeler dersom WhatsApp forsvinner fra det russiske markedet.
BBC: Britiske spioner i Afghanistan avslørt i datalekkasje
Mer enn 100 briter, deriblant spioner og spesialstyrker, har fått sine identiteter avslørt i en større britisk datalekkasje om Afghanistan.
Tidligere denne uken ble det kjent at flere tusen afghanere er blitt hentet til Storbritannia etter at personopplysninger lekket ved et uhell i 2022. Nå skriver BBC at rundt 100 briter også er omfattet av datalekkasjene.
Nesten 9000 afghanere har kommet til Storbritannia eller er på vei som del av et bosettingsprogram som fram til nå har vært strengt hemmelig. Det anslås å ha kostet 850 millioner pund, som tilsvarer rundt 11,6 milliarder kroner med dagens kurs.
Opplysningene om afghanere som hadde samarbeidet med det britiske militæret mellom 2001 og 2021, ble ved et uhell frigitt av en ansatt i det britiske forsvarsdepartementet i februar 2022. Lekkasjen ble oppdaget halvannet år senere, i august 2023, da noen av de lekkede opplysningene ble lagt ut anonymt på Facebook.
BBC omtaler det som en av de verste sikkerhetsbristene i moderne britisk historie.
Det fryktes at informasjonen har havnet i Talibans hender. Mange av afghanerne som er hentet til Storbritannia, var i stor fare for å bli utsatt for alvorlig skade eller død som følge av at Taliban søker hevn mot afghanere som har samarbeidet med britiske styrker de siste 20 årene.
Noen av personene på listen, skal ha blitt drept, ifølge Sky News, men det er uklart om det har noe med lekkasjen å gjøre.
Norden og Syden leder an i 5G-utbygging
De nordiske og sør-europeiske landene preger den øverste delen av listen over 5G-dekningen i Europa, melder innsiktsselskapet Ookla i sin siste kvartalsrapport.
Bare Sveits klemmer seg inn blant land uten middelhavskyst eller polarsirkel blant de ti øverste landene på lista.
Frankrike på 10. plass har en 5G-dekning på 69,1 prosent, Danmark topper listen med en dekning på 83,9 prosent. Norge ligger på 7. plass, med en 5G-dekning på 72,6 prosent.
Statnett ber om å få øke sendereffekten til droner
Statnett har bedt Nkom om å få øke sendereffekten på frekvensene som brukes av dronene de bruker for å vedlikeholde strømlinjene sine. Det skriver bransjemagasinet Energiteknikk.
Statnett mener dagens sendereffekt begrenser bruken av droner, fordi det går ut over kvaliteten på bildene dronene tar, og gjør det vanskeligere å styre dronene langs strømlinjene.
Droneprodusenten har forklart Statnett at de trolig vil kunne låse opp dronene til to watt makseefekt, som er effekten som tillates i USA. Øyvind Murberg i Nkoms spektrumavdeling sier til Energiteknikk at det i ren effekt er en øking på inntil 20 ganger sammenlignet med det de har tillatelse til nå.
Frekvensene Statnett ber om å få øke effekten på, er 2,4 GHz, 5,1 GHz og 5,8 GHz.
Politiet har tidligere fått tillatelse til å øke sendereffekten for sine droner, men Nkom vil ikke si hva som blir resultatet av Statnetts søknad.
Murberg sier til Energiteknikk at den må tas inn i en større diskusjon om hvordan Nkom skal forholde seg til stadig flere søknader om økt effekt for droneflyging, og at man vil se på søknaden til høsten.
Tele2s Q2-resultat opp 15 prosent fra i fjor
Den svenske teleoperatøren Tele2 har lagt fram sitt andrekvartalsresultat, og melder om et Resultat før renter, skatt, av- og nedskrivninger, men etter leieforpliktelser (EBITDAaL) på 2,9 milliarder svenske kroner.
Det er en organisk vekst på 15 prosent fra samme periode i fjor.
Selskapet framhever kostnadskontroll, nedbemanning og automatisering, reforhandling av store kontrakter, og gode resultater for selskapets virksomhet i Baltikum, som årsaker til resultatveksten.
Europol: Pro-russisk hackergruppe oppløst etter aksjon
En prorussisk hackergruppe er oppløst etter en koordinert Europol-aksjon som involverte tolv land. De mistenkes for dataangrep mot Ukraina og støttespillere.
Tolv land var involvert i operasjonen som førte til to pågripelser, en i Frankrike og en i Spania, opplyser EUs politiorgan Europol og Eurojust, EUs organ for samarbeid på tvers av landenes påtalemyndigheter, i en felles pressemelding.
Nettverket er kjent som NoName057 (16). Gruppen mistenkes for å stå bak en rekke angrep mot kritisk infrastruktur i Europa, som strømleverandører og kollektivtransportsystemer.
Ytterligere sju personer er etterlyst, og seks av dem antas å oppholde seg i Russland. To av dem antas å være gruppens bakmenn.
Aksjonene i tidsrommet 14. til 16. juli førte også til at store mengder datamaskiner ble beslaglagt, og mesteparten av gruppens servere og digitale infrastruktur ble mørklagt.
Angrepene har i hovedsak vært rettet mot Ukraina, men har i stadig større grad også rammet andre land. En rekke av angrepene ble gjort i Tyskland, mens også Sverige og Sveits er blitt rammet av gruppens angrep, ifølge Europol. Så sent som i slutten av juni angrep gruppen Nederland mens Nato-toppmøtet pågikk i landet, ifølge Europol.
Metoden som oftest ble brukt, var såkalte DDoS-angrep eller tjenestenektangrep. Det går ut på at angriperne sender så mange henvendelser til en nettserver at den overbelastes, og dermed kommer ingen inn på siden.
Meta har slettet 10 millioner Facebook-profiler
Facebook-eieren Meta har i løpet av første halvår slettet flere millioner Facebook-profiler i et forsøk på å bekjempe spam.
Meta sletter profiler daglig, men 10 millioner i løpet av årets første seks måneder er i det øvre sjiktet.
– Problemet er at det har blitt for enkelt for avsendere av spaminnhold å lage dårlig innhold. Det ligger som digitalt søppel på plattformer som Facebook og Youtube, sier Torben Vognsen, redaktør for teknologinettstedet input.dk, til det danske nyhetsbyrået Ritzau.
Ifølge Meta har de slettede profilene enten delt kopier av andres innhold eller delt innhold generert av kunstig intelligens.
Altfor ofte dukker samme meme eller video opp gang på gang – noen ganger fra profiler som later som de er innholdsskapere, andre ganger fra ulike kontoer som sprer søppelinnhold, skriver Meta i en pressemelding.
«Teen Hacker»-dokumentaren har fått premieredato: – Kunne ikke vært mer aktuell
Den finske dokumentarserien «Most Wanted: Teen Hacker», om tenåringsgutten regnet som en av verdens farligste hackere av FBI, har fått premieredato.
« Most Wanted: Teen Hacker» har premiere 5. september på HBO Max, og de fire episodene – hver tre kvarter lange – slippes ukentlig.
– Dette er en historie som ikke kunne vært mer dagsaktuell, sier seriens regissør Sami Kieksi. Han peker på de alvorlige og omfattende konsekvensene av nettkriminalitet og håper «Teen Hacker»-serien vil starte samtaler om hvor alvorlig nettsikkerhet bør tas.
Finske Julius Kivimäki, kjent som zeekill, startet med såkalte tjenestenektangrep mot spill som PlayStation. I 2015 var han ansvarlig for 50.000 angrep, men slapp fengselsstraff på grunn av alderen – han var bare 15 år.
Han gikk videre og regnes ifølge programomtalen som ansvarlig for å ha tvunget et amerikansk passasjerfly til å nødlande. Han sto også bak flere tilfeller av alvorlig «swatting» – blant annet mot hjemmet til en FBI-agent som etterforsket ham. Swatting er tulletelefoner eller meldinger som lurer politiet til å aksjonere.
Serien viser blant annet hvordan FBI klarte å spore ham opp på et kasino i Las Vegas. Den inneholder intervjuer med FBI-agenter, SWAT-teammedlemmer, ofre for Kivimäkis handlinger, internasjonale datasikkerhetseksperter som blant andre Allison Nixon og Brian Krebs, og andre internasjonalt kjente hackere.
Også Kivimäki (27) selv dukker opp i serien – fra fengselet.
Der soner han siden i fjor en seks år lang straff for å ha hacket et selskap som tilbød psykoterapi. Han forsøkte å utpresse 33.000 klienter ved hjelp av deres personlige informasjon, noe som ifølge BBC skal ha ført til minst ett selvmord.
I dokumentaren beskrives Kivimäki som «arrogant» og at han «syntes det var gøy å se andre lide», sier FBI-agenten som avhørte ham.
Nvidia får gjenoppta eksport av databrikker til Kina
Databrikkeprodusenten Nvidia sier de forventer å gjenoppta eksporten av brikker til Kina etter at amerikanske myndigheter har gitt grønt lys.
Selskapets H20-brikke er en nedskalert modell av kraftigere databrikker for kunstig intelligens (KI) og ble laget for å oppfylle tidligere amerikanske regler. Innstramminger i april førte til at brikken likevel ikke kunne selges til Kina.
Mandag skrev Nvidia-sjef Jensen Huang et blogginnlegg om at selskapet vil søke om tillatelse til å gjenoppta salget av H20 -brikker til Kina.
– Amerikanske myndigheter har forsikret oss om at eksportlisensen vil bli innvilget, og Nvidia håper å starte leveransene snart, legger selskapet til.
Oppdateringen kommer etter at Huang nylig møtte president Donald Trump og flere tjenestemenn der han gjentok sin «støtte til administrasjonens innsats for å skape arbeidsplasser, styrke landets infrastruktur for KI og hente produksjon hjem og sikre USA globalt lederskap innen KI».
Både Trump og forgjengeren Joe Biden har begrenset eksporten av enkelte databrikker og utstyr til Kina, med henvisning til rikets sikkerhet.
USAs forsvarsdepartement inngår milliardavtaler om bruk av kunstig intelligens
Flere store selskaper innen kunstig intelligens (KI) har inngått avtaler med USAs forsvarsdepartement der KI skal benyttes for å håndtere nasjonale sikkerhetsutfordringer.
Kontraktene, hver med en øvre grense på 200 millioner dollar, skal bedre departementets evne til å støtte soldater og opprettholde strategiske fortrinn overfor USAs motstandere, heter det i en melding fra Kontoret for digital og kunstig intelligens (CDAO).
Blant selskapene som har fått tildelt kontrakter, er Anthropic, støttet av investeringer fra Google og Amazon, og xAI, eid av teknologimilliardæren Elon Musk.
Avtalene vil utnytte teknologien og talentet til ledende amerikanske KI-selskaper for å fremskynde departementets innføring av avansert KI, skriver CDAO.
– Å utnytte kommersielt tilgjengelige løsninger i en integrert tilnærming vil fremskynde bruken av avansert KI som en del av våre felles oppdragskritiske oppgaver innen krigføring, samt etterretning, forretningsvirksomhet og informasjonssystemer for virksomheten, sier Doug Matty, leder for digital og kunstig intelligens i det amerikanske forsvarsdepartementet.