Chatbotene kan øke motsetningene i samfunnet
Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.
Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.
Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.
– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.
Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».
Skrev ned tanker
Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.
De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.
Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.
Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.
Bekrefter oppfatninger
Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.
Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.
Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.
Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.
– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.
Store språkmodeller
Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.
– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.
Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.
ChatGTP svarer
Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:
«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.
Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».
Kan gjøre feil
«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.
Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.
Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.
OpenAI dropper planer om erotisk chatbot
Selskapet OpenAI utsetter på ubestemt tid sine planer om å tilby KI-generert erotisk innhold.
Det opplyser selskapet selv torsdag. Ifølge avisa Financial Times har både investorer og ansatte vært bekymret for konsekvensene av planene.
To ikke navngitte kilder sier til avisa at det har vært utfordrende å trene den seksuelt eksplisitte versjonen av prateroboten ChatGPT. Noen av utfordringene skal være knyttet til bruk av treningsdata med seksuelt innhold.
Det var i fjor høst at OpenAI varslet at de ville tillate seksuelle samtaler for voksne brukere av ChatGPT. Toppsjef Sam Altman sa at de ville «behandle voksne brukere som voksne».
Siden den gang har konkurrenten xAI fått mye kritikk for seksuelt innhold generert av KI-verktøyet Grok. Bakgrunnen er noen brukere laget nakenversjoner av bilder av virkelige personer. Torsdag sluttet Nederland seg til landene som har forbudt Grok. En domstol i Amsterdam sier forbudet gjelder inntil tjenesten slutte å lage og spre seksualisert innhold uten samtykke
I januar varslet EU gransking av Grok siden verktøyet var blitt brukt til å lage KI-genererte overgrepsbilder av barn.
Ny rapport: Det kan koste 14,2 milliarder kroner å skrote Helseplattformen
Konsulentselskapet Sopra Steria anslår at prislappen for å skrote Helseplattformen blir 14,2 milliarder kroner og kan ta sju år.
Det omstridte IT-systemet Helseplattformen skal nok en gang behandles av styret i Helse Midt. Torsdag kveld kom sakspapirene før styremøtet fredag, skriver Adresseavisen.
Der kommer det fram at det kan koste 14,2 milliarder kroner og ta sju år å skrote Helseplattformen, ifølge en rapport laget av konsulentselskapet Sopra Steria.
Spesialisthelsetjenesten må ut med 3,4 milliarder, de 34 kommunene som bruker Helseplattformen, en milliard og 2,7 milliarder for å drifte fram til ny løsning er mulig klar i 2032, ifølge rapporten.
I rapporten kommer det fram at det kan være en gradvis utfasing av Helseplattformen til 2033. I tillegg kommer omtrent like mye i avskrivning og finansielle utgifter.
Styremøtet holdes fordi Miljøpartiet De Grønne har foreslått å avvikle Helseplattformen. Stortinget skal vedta systemets fremtid før sommerferien.
Helseplattformen leverer journalløsning og samhandlingsløsning til sykehus og kommuner i Midt-Norge, men systemet har fått kritikk for feil og mangler.
EUs tek-sjef: Ny sosiale medier-dom sender tydelig signal om endring
Kjennelsen mot Meta og Google, der en kvinne fikk medhold i søksmål om avhengighet av sosiale medier, sender et tydelig signal om behov for endring, sier EU-topp.
De to teknologigigantene er kjent skyldig for å ha gjort en kvinne avhengig av sosiale medier i ung alder.
– Denne kjennelsen, sammen med tusenvis av lignende saker, sender et veldig tydelig signal om at nettplattformer må ta risikoen de utgjør på alvor, sier EU-kommissær Henna Virkkunen.
En kvinne i 20-årene gikk til sak mot Meta og Youtube-eier Google og anklaget dem for å gjøre henne avhengig av sosiale medier i ung alder. Hun sier det forverret depresjonen og selvmordstankene hennes.
En jury i Los Angeles kom onsdag fram til at de to IT-gigantene er ansvarlig for å ha skadet kvinnen gjennom den avhengighetsskapende utformingen av deres sosiale medieplattformer.
Hun ble tilkjent erstatning på 6 millioner dollar, tilsvarende i underkant av 60 millioner norske kroner.
(NTB)
Nkom krever skjerpede rutiner rundt utsending av kodebrikker fra BankID
Nasjonal kommunikasjonsmyndighet varsler at BankID kan miste godkjenningen på sikkerhetsnivå «høyt» hvis de ikke strammer inn på hvordan kodebrikker utleveres.
For at BankID skal være godkjent på det høyeste sikkerhetsnivået, kreves det at alle kodebrikker utleveres ved fysisk oppmøte og kontroll av legitimasjon.
– BankID har hatt avvik knyttet til utsendelse av kodebrikken over flere år, og det er deres ansvar å passe på at de følger regelverket. Nkom har over lang tid informert og veiledet aktørene slik at de forstår hva de må utbedre for å være i tråd med lovverket, sier sikkerhetsdirektør Svein Sundfør Scheie i Nkom i en pressemelding.
– Likevel ser vi at avviket fortsatt ikke er lukket, og da varsler vi at de kan miste godkjenningen sin for det høyeste sikkerhetsnivået, fortsetter han.
Varsler tilsyn
For å logge inn på offentlige tjenester, må du bruke elektronisk ID. Du kan velge mellom fire ulike elektroniske identiteter, hvorav én av dem er BankID. Den kan brukes enten med app eller kodebrikke.
Nkom ber dagens BankID, som eies av norske banker, om å dokumentere at de oppfyller kravene til sikkerhetsnivå «høyt».
Dersom de ikke gjør noe med problemet som er påpekt med kodebrikkene, vil BankID bli fjernet fra listen over de som har dette sikkerhetsnivået.
Nkom varsler samtidig tilsyn med selskapet Stø, som drifter dagens BankID-løsning.
– Endrer rutinen
Jan Bjerved, leder av ID i Stø, forsikrer overfor NTB at BankID-utstedelse alltid er basert på fysisk oppmøte og fremvisning av gyldig pass eller ID-kort.
– Forbedringspunktet Nkom peker på, gjelder utlevering av kodebrikke i etterkant. Noen banker har hatt som rutine å sende kodebrikken i posten, på samme måte som politiet sender ut pass og nasjonalt ID-kort. Denne rutinen jobber vi nå med å endre slik at utsendelse av kodebrikker blir i tråd med kravene, sier han.
– Ingen svindeltilfeller
Bjerved viser ellers til at det i 2022 ble påpekt fem forbedringspunkter – og at Stø og bankene har prioritert fire av disse.
– Det femte forbedringspunktet er mer krevende fordi det innebærer å re-identifisere millioner av mennesker. Vi er imidlertid nå godt i gang, men det vil ta noe tid å komme i mål, sier han.
Bjerved sier at selskapet ikke har registrert svindel som følge av at en kodebrikke er blitt sendt til feil person.
EU etterforsker Snapchat for manglende beskyttelse av barn
EU innleder etterforskning av Snapchat, som de mistenker for å ikke ha beskyttet barn godt nok på sin plattform.
EU-kommisjonen sier de gransker om Snapchat har brutt EU-reglene for digitalt innhold ved å utsette barn for forsøk på såkalt grooming.
Med «grooming» menes tilfeller der en voksen person tar kontakt med barn i den hensikt å begå seksuelle overgrep.
Meldinger om mulig narkosalg på plattformen skal også undersøkes.
Samtidig beskylder EU også fire pornonettsteder for ikke å ha hindret mindreårige i å få tilgang til innholdet deres. Selskapene risikerer store bøter.
Ifølge EU-kommisjonen tyder foreløpige funn på at Pornhub, Stripchat, XNXX og XVideos ikke har beskyttet barns rettigheter, siden et enkelt klikk på en alderserklæring er nok for å få tilgang til nettstedene.
(NTB)
Romsatsing knytter Europa og Norge tettere sammen
Sikrere kommunikasjon via satellitt er et av hovedpoengene med Secure Connectivity-programmet, som EU og Norge nå skal samarbeide om.
Næringsminister Cecilie Myrseth signerte torsdag den nye samarbeidsavtalen mellom Norge og EU, som også omfatter Govsatcom-samarbeidet.
Tjenestene skal gi bedre og sikrere tilgang til kommunikasjonstjenester i områder som Afrika, Arktis, Østersjøen, Svartehavet og Atlanterhavet.
– Det vil gi Norge tilgang på sikre satellittbaserte kommunikasjonstjenester og gjøre det mulig for norsk næringsliv å bidra mer til strategiske systemer for hele Europa, sier Myrseth i en pressemelding.
Hun sier Norge ønsker å ha en hånd på rattet i utviklingen av europeisk romsatsing. EU legger ifølge Myrseth stadig mer vekt på systemets militære bruk i framtida.
– Med vår beliggenhet i nord, høy kompetanse og etablerte næringsmiljøer, kan vi bidra til at Europa når målene om å bli ledende innen romindustri, sier hun videre.
Avtalen vil koste Norge i underkant av en halv milliard kroner. Før avtalen trer i kraft, skal den behandles av både EU-parlamentet og Stortinget.
Ericsson skal modernisere SoftBanks kjernenett i Japan
Ericsson har inngått en flerårig avtale med SoftBank Corp. i Japan om å utvide og modernisere selskapets kjernenett. Ifølge en pressemelding fra Ericsson skal avtalen bidra til raskere overgang til 5G Standalone og redusere både drifts- og investeringskostnader gjennom automatisering og skybaserte løsninger.
Teknologien fra Ericsson vil gjøre det mulig for SoftBank å håndtere både eksisterende 4G- og 5G-tjenester på en integrert måte, noe som skal forbedre nettverkets skalerbarhet og pålitelighet.
– Ericssons avanserte skybaserte teknologier og automatiseringsløsninger er en svært viktig grunnmur for å oppnå sammensmeltingen av kunstig intelligens og nettverk, sier Hideyuki Tsukuda, teknologidirektør i SoftBank Corp. (hf)
Høyre vil få bukt med KI-juks på skolene
Juks ved bruk av kunstig intelligens er et økende problem på norske skoler. Høyre foreslår at eksamener på grunnskole og videregående gjennomføres uten tilgang til hjelpemidler.
– Lærere og elever sier rett ut at det ikke lenger er mulig å vite om en karakter gjenspeiler det eleven kan, eller det KI kan, sier leder av utdanningskomiteen på Stortinget, Mathilde Tybring-Gjedde (H) til TV 2.
TV 2 har tidligere skrevet at 190 studenter ved norske universiteter i fjor ble felt for fusk med mistanke om bruk av kunstig intelligens (KI). Tallene, som TV-kanalen har hentet inn fra landets ti største studiesteder, viser at mengden KI-fusk på eksamen dermed har doblet seg fra året før. En tilsvarende utvikling varsles også om i grunnskole og videregående
Nå krever Høyre at regjeringen tar grep – og vil fremme tre konkrete forslag for Stortinget.
* Endre eksamen, slik at flere eksamen gjennomføres uten tilgang til hjelpemidler under eksamen og i forberedelsestiden.
* Gi alle skoler tilgang til en «sikker nettleser» som kan brukes til å gjennomføre skriftlige vurderinger gjennom hele året.
* Sikre alderstilpassede retningslinjer for bruk av kunstig intelligens i skolen.
Kunnskapsdepartementet opplyser at muligheten for at eksamen gjennomføres uten hjelpemidler er noe de vurderer, når de nå jobber med en mer rettferdig eksamen i lys av den teknologiske utviklingen.
Ajax-nettsiden hacket: Kunne stjele sesongkort og oppheve stadionforbud
Nettsiden til den nederlandske fotballklubben Ajax er blitt hacket, melder RTL, som ble tipset om sikkerhetsbruddet av en hacker.
Hackerne fikk muligheten til å se private data for flere enn 300.000 registrerte Ajax-fans og stjele eller kansellere 42.000 sesongkort. De kunne også se hvilke 538 personer som i øyeblikket er ilagt stadionforbud på grunn av dårlig oppførsel.
Noen av disse ble kontaktet av RTL og sa seg sjokkert over at informasjonen var blitt tilgjengelig for uvedkommende.
– Dette kan skade karrieren min, sa en av dem, som er kommuneansatt.
– Potensielle arbeidsgivere vil neppe ansette noen med stadionforbud, sier Bart Schermer, professor i personvern og nettkriminalitet, til kanalen.
Etter å ha blitt tipset av hackeren, greide RTL å stjele Ajax-direktør Menno Geelens sesongkort og sikre seg seter i VIP-området. Kanalen meldte om dette til klubben, som deretter hentet billetten og returnerte den til direktørens konto.
Ajax opplyser på sitt nettsted om datainnbruddet og beklager det inntrufne. Det meldes at det har vært påvist visning av e-postadressene til noen hundre personer, og av navn, e-postadresser og fødselsdatoer til færre enn 20 av personene med stadionforbud.
Klubben hevder å ha informert alle de berørte, men ber alle som er registrert i klubbens app om å være oppmerksomme på mistenkelige e-poster og å unngå å klikke på linker eller åpne vedlegg fra ukjente avsendere. Hendelsen er anmeldt til politiet.
Fredag spiller Norge landskamp mot Nederland på Ajax’ hjemmebane i Amsterdam.
OpenAI legger ned KI-videotjeneste
OpenAI har besluttet å legge ned Sora, videogenereringsteknologien de lanserte i 2024.
– Vi sier farvel til Sora, skriver OpenAI i et innlegg i sosiale medier, gjengitt av blant andre New York Times.
– Til alle som brukte Sora, delte det og bygget et samfunn rundt det, takk. Det dere lagde med Sora betydde noe, og vi vet dette er skuffende, skriver de.
Tjenesten skapte bølger i underholdningsbransjen da den med KI-hjelp raskt kunne generere korte videoer som kunne se ut som de var laget i et Hollywood-studio.
Nyheten om nedleggelsen kommer bare tre måneder etter at OpenAI signerte en lisensavtale med Disney som tillot Sora-brukere å generere videoer med Disney-karakterer som Mikke Mus, Askepott og Yoda.
OpenAI stenger ned både brukerappen sin og internettjenesten som filmskapere og andre brukte for å generere bilder til filmer, TV og andre medier.
I en uttalelse til New York Times sier OpenAI at de vil fortsette å bruke videogenereringstjenester backstage for å lære opp roboter.
De oppgir ingen konkret begrunnelse for hvorfor de legger ned Sora. New York Times setter det i sammenheng med selskapets arbeid med å strømlinjeforme tjenestene sine mens de forbereder seg på å bli børsnotert så tidlig som i år.