Chatbotene kan øke motsetningene i samfunnet
Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.
Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.
Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.
– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.
Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».
Skrev ned tanker
Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.
De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.
Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.
Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.
Bekrefter oppfatninger
Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.
Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.
Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.
Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.
– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.
Store språkmodeller
Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.
– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.
Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.
ChatGTP svarer
Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:
«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.
Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».
Kan gjøre feil
«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.
Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.
Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.
Elektroniske produkter kan spionere på deg hjemme – myndighetene advarer før julehandelen
Nesten alle nye elektroniske hverdagsprodukter har mulighet til å koble seg til internett. Nå advarer myndighetene om å kjøpe usikre produkter under julehandelen.
Norske hjem fylles av smarte løsninger som kan kobles til internett og gjøre hverdagen enklere, men robotstøvsugere, smartplugger, smarte kjøleskap og smartbelysning kan også utgjøre en sikkerhetsrisiko hvis du ikke vet hva du kjøper.
Nå advarer myndighetene om å kjøpe usikre produkter under julehandelen, skriver Nasjonal kommunikasjonsmyndighet (Nkom) i en pressemelding.
Risikoen er at produkter du kobler opp til hjemmenettverket ditt kan inneholde spionvare og andre sikkerhetstrusler. Nkom nevner som eksempel at et WiFi-kamera på en robotstøvsuger eller babycall kan misbrukes til skjult overvåking.
«Hackere kan også utnytte utstyret til å gjennomføre cyberangrep på annet internett-tilkoblet utstyr, eller få tilgang til personopplysninger lagret i enheten», skriver de i meldingen.
– Vi skal ikke overdrive bekymringen, men heller ikke være naive. Når vi bruker produkter som kan kobles til internett, gir vi fra oss informasjon som kan utnyttes, enten det er personopplysninger eller betalingsinformasjon. Før handelen til julen vet vi at særlig kostbare elektriske produkter selges rabattert. Det er ikke noe galt i det, men vær obs på hva du kjøper, sier avdelingsdirektør i Nkom, Espen Slette.
Konkurransetilsynet skal vurdere Telenors varslede milliardoppkjøp
Telenors planer om å styrke fibersatsingen settes på vent. Konkurransetilsynet skal vurdere om oppkjøpet kan føre til høyere priser på bredbånd.
Nå skal Konkurransetilsynet «se litt mer» på det varslede milliardoppkjøpet av GlobalConnect, opplyser tilsynet i en pressemelding.
prosjektleder Eva Nysæther i Konkurransetilsynet understreker hvor viktig bredbåndstjenester er for hverdagslivet til folk flest.
– Dersom konkurransen svekkes, kan det føre til høyere priser og færre valgmuligheter for kundene, sier hun i pressemeldingen.
Tilsynet skal se nærmere på om oppkjøpet kan gjøre det vanskeligere for andre bredbåndsaktører å få tilgang til Telenors infrastruktur.
Hvorvidt oppkjøpet gir negative virkninger på konkurransen om TV-tjenester til privatkunder, skal også vurderes.
Da Telenor i sommer kunngjorde at de kjøper GlobalConnects fibervirksomhet for privatkunder, ble det lagt fram som en viktig brikke i Telenors langsiktige plan om å styrke fiberdekningen i Norge.
Telenors pressesjef Anders Krokan sier det er naturlig at Konkurransetilsynet gjør vurderinger av slike oppkjøp.
– Vi har god dialog med tilsynet og leverer all informasjon de ber om. Vår klare vurdering er at oppkjøpet vil styrke konkurransen og gi kundene bedre tjenester over hele landet, skriver han i en epost til NTB.
Tyskland sier de har solide bevis for russiske dataangrep
Tyskland kalte fredag Russlands ambassadør inn på teppet for å protestere mot det de mener er russiske dataangrep blant annet mot landets luftfartstilsyn.
Russlands ambassade i Berlin kaller anklagene for absurde og grunnløse
Men den tyske regjeringen synes sikker i sin sak.
– Basert på omfattende analyser fra de tyske etterretningstjenestene har vi kunnet identifisere håndskriften og bevise Moskvas ansvar, sier en talsmann for tysk UD fredag.
Han sier videre at landets sikkerhetstjeneste har solide bevis for at hackergrupper som blir drevet av Russlands militære etterretningstjeneste (GRU), sto bak.
Dataangrep skal ha vært rettet mot det tyske luftfartstilsynet i august.
– Vi kan nå tydelig tilskrive dataangrepet mot det tyske luftfartstilsynet i august 2024 til hackerkollektivet APT28, også kjent som Fancy Bear, sier han.
– Våre funn beviser at GRU bærer ansvaret for dette angrepet, legger han til.
I tillegg anklages Russland for å ha forsøkt å påvirke valget på ny nasjonalforsamling i februar i år.
– Vi kan nå definitivt si at Russland, gjennom Storm 1516-kampanjen, forsøkte å påvirke og destabilisere det siste forbundsvalget, sier talsmannen.
Ekomloven endret for å fikse paragraftabbe
Stortinget vedtok torsdag å endre ekomloven, etter at det nylig kom fram at ingen hadde myndighet til å behandle klager på Nkom-vedtak før det blir etablert en egen klagenemnd.
I utgangspunktet skulle paragrafen om klagenemnda ikke vært trådt i kraft før nemnda var på plass, men ved en feil ble hele loven virksom fra nyttår.
Nå er paragraf 18-3 i ekomloven endret, og sier at Digitaliseringsdepartementet kan avgjøre klager til nemnda er nedsatt. Det er ventet å skje tidlig i 2026.
En klage som departementet behandlet i sommer, må avgjøres på nytt fordi departementet som følge av lovtabben ikke hadde hjemmel til å avgjøre den.
Sikrere bruer med digital overvåkning
I august 2022 kollapset Tretten bru og falt ned i Gudbrandsdalslågen mens et vogntog og en personbil var på bruen. Hendelsen viste at det er behov for bedre overvåking av kritisk infrastruktur. Smart Sensor Systems AS har utviklet en digital løsning for kontinuerlig overvåking av bruer, bygg og annen infrastruktur. Systemet kan bidra til å forhindre slike ulykker, skriver Samferdsel & Infrastruktur.
Selskapet har utviklet iBridge, en trådløs og 4G-basert datalogger som kobles til ulike sensorer og sender data i sanntid til en portal eller direkte inn til kundenes systemer. Løsningen varsler når konstruksjoner utsettes for belastninger eller endringer utenfor normale grenser. På den måten kan tiltak settes inn før det oppstår alvorlige skader – før det blir farlig å bruke konstruksjonene.
iBridge fungerer uavhengig av sensortype og kan tilpasses ulike behov. Systemet er utviklet for å kunne fungere også i områder med dårlig eller manglende mobildekning. Data lagres lokalt og sendes videre når full dekning blir tilgjengelig, og det kan kombineres med funksjoner som lysvarsling eller automatisk strømstans. (hf)
Åpenhet om bruk av KI svekker tilliten
Selv om bruk av kunstig intelligens blir stadig vanligere, kan åpenhet om det straffe seg, viser ny forskning fra Schilke og Reimanns. Det skriver professor Linda Lai ved Handelshøyskolen BI i DN.no.
Resultatene viste at tilliten til en leder eller medarbeider sank når de informerte om bruk av KI. Dette gjaldt uansett hvilke arbeidsoppgaver det var snakk om, uansett hvilke begrunnelser eller beskrivelser som ble oppgitt, og uansett om åpenheten om KI-bruk var frivillig eller pålagt.
Skjult KI-bruk ga altså høyere tillit enn åpenhet, men bare så lenge brukeren ikke ble avslørt. Medarbeidere og ledere som ikke opplyste om bruk av KI og ble avslørt, fikk den største svekkelsen i tillit. (hf)
Snart kan du lage din egen Disney-film med KI – helt lovlig
Disney gjør tilsynelatende helomvending og omfavner kunstig intelligens. En ny avtale lar fans lage korte KI-videoer med kjente Disney-figurer.
Hittil har Disney og andre kreative giganter i film- og underholdningsindustrien stått steilt imot KI-selskapene og blant annet saksøkt dem for å bruke innhold ulovlig til å trene opp teknologien.
Men nå gjør en ny avtale mellom OpenAI og Disney at selskapet bak Mikke Mus, Donald Duck, Elsa Ariel og en lang rekke andre figurer omfavner den nye teknologien og deler med sine fans. Den tre år lange lisensavtalen innebærer at den som vil, kan lage og dele KI-generert innhold med mer enn 200 Disney-karakterer ved hjelp av OpenAIs plattformer Sora og ChatGPT.
– Dette samarbeidet vil gi vår historiefortelling utvidet rekkevidde på en gjennomtenkt og ansvarlig måte, sier Disney-sjef Bob Iger. I tillegg til klassiske Disney-figurer, dekker avtalen også Marvel, Pixar og Star Wars, men Iger understreker at stemmene deres ikke følger med på kjøpet. Så da blir kanskje KI-stumfilm med Mikke Mus det neste?
Mange opphavsrettseiere var lite fornøyd da OpenAI lanserte Sora for deling av KI-videoer i høst. Toppsjef Sam Altman måtte raskt gå ut og love mer kontroll til dem som eide figurer og annet beskyttet materiale.
Den nye avtalen innebærer også at Disney investerer 1 milliard dollar – rundt 10 milliarder kroner – i OpenAI. Den kommer samtidig som OpenAI og andre KI-selskaper møter på stadig flere spørsmål om hvorvidt forretningsmodellen er økonomisk bærekraftig. KI krever stor datakraft, og investeringskostnadene skyter i været mye raskere enn inntektene.
Børsrekorder på Wall Street tross KI-uro
De to viktigste indeksene på New York-børsen endte rekordhøyt torsdag, mens Oracle og ny frykt for overprising av kunstig intelligens dro Nasdaq-børsen ned.
Bank- og industriselskaper var blant dem som gjorde det best på Dow Jones-indeksen og bidro til at den gikk opp 1,3 prosent og endte på rekordhøye 48.704,01 poeng. Også den bredere S&P 500-indeksen gikk opp, om enn bare med 0,2 prosent til 6901 poeng, også det en ny rekord.
Teknologibørsen Nasdaq ble imidlertid tynget av at IT-giganten Oracle endte dagen ned 10,8 prosent etter å ha vært enda dypere i rødt territorium i løpet av dagen. Komposittindeksen på Nasdaq gikk ned 0,3 prosent.
Oracle-fallet kommer etter at selskapet onsdag kveld meldte om svakere kvartalstall enn ventet og en kraftig økning i utgiftene til datasentre for å håndtere kunstig intelligens (KI).
Dave Grecsek i Aspiriant Wealth Management sier markedets reaksjon på Oracle-resultatet understreker uro rundt aggressive investeringer i kunstig intelligens.
– Det er fortsatt mye engstelse rundt hvor bærekraftige noen av investeringsplanene er, hva slags avkastning de gir, særlig når de er finansier med gjeld, sier Grecsek.
Nkom etablerer egen utviklergruppe
Nkom har lyst ut en rekke nye stillinger. Blant de ni stillingene man nå kan søke på, er fire knyttet til at Nkom etablerer en egen utviklergruppe med en dataingeniør, en low code-utvikler og to fullstack-utviklere. I tillegg skal det ansettes en webutvikler.
- Alle våre prosesser skal digitaliseres, og vår evne til å utvikle og forvalte effektive og sikre løsninger blir mer kritiske. KI/ML benyttes i økende grad for å få merverdi av våre data. Det er derfor en strategisk satsning å etablere en ny utvikler-gruppe, skriver Nkom i stillingsannonsene.
Telia lanserer ren 5G i Litauen
Telia er allerede den første operatøren i Litauen med ren 5G, i bransjen kalt 5G standalone (5G SA). Nå blir teknologien tilgjengelig for alle mobilkunder i landet.
Ifølge en pressemelding fra Telia Company ser de for seg å levere tjenester som mulighet til å reservere nettverkskapasitet for å sikre seg topp hastighet, stabilitet og sikkerhet også når nettverkstrafikken er stor. 5G SA benytter ikke 4G-nettet til oppkobling, slik de fleste 5G-nettene fungerer i dag.
Den store endringen er at 5G i dag benytter 4G-nettets kjerneutstyr og 5G i radioutstyret. Med 5G i hele nettet kan operatørene tilby nye tjenester. I starten vil tilbudet gjelde et begrenset antall kunder. Telia 5G SA-nett i Litauen benytter en kombinasjon av 3,5 GHz- og 700 MHz-båndene. (hf)