Chatbotene kan øke motsetningene i samfunnet
Kunstig intelligens gir oss ofte svarene de tror vi vil ha. På denne måten kan de forsterke mer ekstreme ideer og bidra til økt polarisering, advarer forskere.
Vi kan ta grundig feil dersom vi tror at man får et objektivt svar eller grundig informasjon fra chatboter.
Eksperter på kunstig intelligens (KI) advarer om at chatbot vil kunne gi deg svar som bare støtter ideene og meningene du allerede har, altså heller bli ekkokamre enn å gi oss ny informasjon eller ideer.
– Mange tror at bare fordi de leser en tekst laget av KI, vil de få objektive og faktabaserte svar, sier forsker på menneskers interaksjon med KI, Ziang Xiao ved Johns Hopkins University.
Han er hovedforfatter bak studien « Generative Echo Chamber? Effect of LLM-Powered Search Systems on Diverse Information Seeking».
Skrev ned tanker
Forskerne fikk i utgangspunktet 272 deltakere i studien til å skrive ned sine tanker og meninger om en rekke ulike emner. Det kunne for eksempel handle om helsetjenester eller studielån.
De fikk deretter i oppgave å finne ut mer informasjon om de samme temaene, enten via en standard søkemotor eller via en chatbot.
Etterpå skrev deltakerne en annen tekst om samme tema og skulle også svare på spørsmål om temaet.
Forskernes konklusjon er at deltakerne som brukte chatboten ble mer styrket i sine resonnementer og i sine teser enn de som søkte etter informasjon gjennom en søkemotor.
Bekrefter oppfatninger
Ifølge studien, som ble presentert på Konferansen om menneskelige faktorer i datasystemer i mai, produserte de som søkte informasjon via en chatbot svar og formuleringer som var nærmere deres opprinnelige meninger. De fikk altså ikke utvidet resonnementene sine.
Brukerne av chatboter reagerte også sterkere på meninger og spørsmål som utfordret deres synspunkter enn de som brukte tradisjonelle søkemotorer.
Ifølge forskerne skyldes dette at chatbot-brukere skriver inn mer konkrete spørsmål som «Hvor mye koster offentlig helsevesen» i stedet for bare å skrive inn et nøkkelord.
Chatboten vil da svare på det konkrete spørsmålet og presentere hvor mye helsetjenesten koster, men vil ikke nevne fordelene.
– Det er alltid en risiko for at informasjonen vi søker vil være et ekko av det vi allerede tenker. Med KI og chatboter vil den effekten bli enda større, mener Ziang Xiao.
Store språkmodeller
Chatboter, basert på store språkmodeller (LLM), har allerede blitt brukt av hundrevis av millioner av mennesker, og antas å gi mange fordeler i forhold til konvensjonelt søk. Men altså ikke uten farer.
– Totalt sett fant vi at deltakerne engasjerte seg i mer partisk informasjonsspørring gjennom LLM. Samtalesøk som forsterket deres synspunkter forverret denne skjevheten, heter det i rapporten.
Forskerne peker på at disse resultatene er viktige å ha med seg i den videre utviklingen av LLM og samtalesøk-systemer – og for politikken som ligger bak disse teknologiene.
ChatGTP svarer
Når journalisten i NTB spør ChatGTP om farene ved å bruke en chatbot, får vi følgende svar:
«Selv de mest avanserte chatbots kan ha problemer med å forstå komplekse eller tvetydige forespørsler, noe som kan føre til misforståelser og frustrasjon for brukeren. Chatbots samler inn og lagrer data fra samtaler, noe som kan utgjøre en risiko for personvern hvis dataene ikke håndteres riktig. Sikkerhetsbrudd kan også føre til at sensitive data blir kompromittert.
Overavhengighet av chatbots kan redusere menneskelig interaksjon, noe som kan være uheldig i situasjoner som krever empati og personlig tilpasning».
Kan gjøre feil
«Chatbots kan gjøre feil eller ha begrensninger i funksjonalitet, noe som kan påvirke brukeropplevelsen negativt og føre til misnøye.
Bruken av chatbots kan føre til etiske bekymringer, som tap av arbeidsplasser for kundeservicemedarbeidere og spørsmål om ansvar og ansvarlighet hvis en chatbot gir feil informasjon eller dårlig rådgivning.
Mens chatbots tilbyr mange fordeler som økt tilgjengelighet, skalerbarhet og kostnadseffektivitet, er det også viktige farer å være klar over, inkludert begrenset forståelse, personvern- og sikkerhetsproblemer, og etiske bekymringer. En balansert tilnærming, der både fordelene og farene vurderes nøye, er viktig for å implementere chatbots på en måte som maksimerer nytten og minimerer risikoen», skriver altså chatboten ChatGTP, som ikke nevner farene for å bidra til polarisering.
Meta vant monopolsak i USA
Teknologigiganten Meta sikret seg ikke ulovlig monopol i sosiale medier ved å kjøpe Instagram og WhatsApp, slår en føderal dommer i USA fast.
Dommeren James Boasberg avviste tirsdag det amerikanske konkurransetilsynets monopolsøksmål mot Facebook-eier Meta og satte dermed punktum for en fem år lang dragkamp i det amerikanske rettsvesenet.
Konkurransetilsynet hevdet at Meta kjøpte Instagram i 2012 og WhatsApp i 2014 for å kvitte seg med konkurrenter, noe Boasberg ikke er enig i.
Dommeren viser til at Meta møter tilstrekkelig konkurranse fra rivaler som Tiktok og Youtube og at selskapet derfor ikke kan sies å ha monopolmakt i markedet for sosiale medier.
Identiske funksjoner
I sin kjennelse viser han videre til at amerikanere nå bare benytter 17 prosent av tiden de er på Facebook til å se innhold fra venner, mens det tilsvarende tallet for Instagram er 7 prosent.
Brukerne ser i stedet på såkalte reels, korte videoer fra fremmede, anbefalt av kunstig intelligens og styrt av algoritmer.
– Facebook, Instagram, Tiktok og Youtube har dermed utviklet seg til å ha nesten identiske hovedfunksjoner, påpeker Boasberg.
Meta gleder seg over kjennelsen og opplyser at de nå ser fram til å samarbeide med Trump-administrasjonen og investere i USA.
Før rettssaken startet i april, besøkte Metas toppsjef og grunnlegger Mark Zuckerberg gjentatte ganger Det hvite hus i et forsøk på å overtale president Donald Trump til å hindre at FTC fikk føre saken.
Tilbakeslag
Dommen blir sett på som et tilbakeslag for amerikanske konkurransemyndigheter som har ført en aggressiv kamp mot store teknologiselskaper, men med blandede resultater i retten.
Amerikanske myndigheter har blant annet åpnet sak mot Google, Apple og Amazon.
En annen amerikansk dommer avviste i september et forsøk fra myndighetene på å splitte opp Google, etter at søkemotorgiganten ble funnet å ha sikret seg ulovlig monopol.
Dommeren i den saken viste til at Googles grep om søkemotormarkedet var truet av nye aktører som ChatGPT og andre KI-selskaper.
Open AI dømt for brudd på opphavsrett i Tyskland
Tysk rett har slått fast at Open AI har brutt opphavsretten ved å trene sin KI-modell på sangtekster uten tillatelse, melder Kode24. Norske Tono kaller dommen historisk.
Dommen fra forrige uke er den første store og prinsipielle i Europa som setter grenser for hvordan generativ KI kan bruke musikk og tekster.
Det er den tyske rettighetsorganisasjonen GEMA som har fått medhold i søksmålet mot Open AI. Dommen gjelder brudd på opphavsretten til ni kjente tyske sangtekster.
Retten slo fast at både lagringen av sangtekstene i modellens parametere og gjengivelsen av tekstene i Chat GPT sine svar utgjør opphavsrettskrenkelser, opplyser Willy Martinsen i Tono til Kode24.
Rettighetsorganisasjonen Tono innkrever vederlag for offentlig bruk av musikk og distribuerer inntektene til komponister, sangtekstforfattere og musikkforlag.
Dommen fra lagmannsretten i München slår også fast at det er Open AI som er ansvarlig for innholdet chatboten genererer, og ikke brukerne, som Open AI mente.
– Det er en historisk og viktig seier for musikkskapere og et viktig skritt på veien mot bedre regulering av kunstig intelligens, sier administrerende direktør Karl Vestli i Tono.
Martinsen understreker at dommen er viktig fordi det som skjer i Tyskland, får presedens for hele Europa. Dommen er ikke rettskraftig ennå, og det er uklart om Open AI vil anke.
EU-kommisjonen vurderer hardere konkurranseregler for tech-giganter
Skytjenestene til tech-gigantene Amazon og Microsoft kan bli underlagt strengere regler i EU, melder EU-kommisjonen.
Under et teknologitoppmøte i Berlin sier teknologikommissær Henna Virkkunen at de to selskapenes rolle skal bli grundig gjennomgått og reglene eventuelt skjerpet.
– Skytjenester er av avgjørende betydning for Europas konkurransedyktighet og motstandskraft. Vi ønsker at denne strategiske sektoren skal vokse på en åpen og rettferdig måte, også når det kommer til konkurransevilkår, sa EUs antitrust-sjef, kommisjonens visepresident Teresa Ribera.
Google-sjef advarer mot følgene hvis KI-boblen brister
Ingen selskaper er immune mot følgene dersom KI-boblen skulle komme til å briste, advarer Google-sjef Sundar Pichai.
I et eksklusivt intervju med BBC sier Pichai at investeringsveksten i KI-sektoren har vært helt eksepsjonell, men at det er noe han kaller en viss irrasjonalitet innbygd i den pågående KI-boomen.
Pichai er toppsjef i Alphabet, selskapet som blant annet eier Google og Youtube.
Uro
Bakteppet for advarselen til Pichai er en tiltakende uro i Silicon Valley og andre teknologisentre for at det har utviklet seg en usunn KI-boble. Verdien til de store KI-selskapene har skutt i været de siste månedene, og stadig flere aktører bruker enorme summer i den blomstrende industrien.
På spørsmål om hvorvidt Google vil være immun mot følgene av at boblen eventuelt sprekker, svarte Pichai at selskapet har muskler til å stå imot. Men han kom med en klar advarsel:
– Jeg tror ikke noe selskap vil være uberørt av en slik utvikling, heller ikke oss.
Store summer
Tilstanden til KI-markedet blir for tiden fulgt med argusøyne, og analysene er tallrike og sprikende. Alphabet har doblet sin børsverdi på sju måneder, et uttrykk for at markedene har tiltro til at søkegiganten har kraft til å stå imot utfordringene fra ChatGPTs eier Open AI.
Uroen i markedene skyldes frykt for overinvestering og en boble-effekt som den som rammet dotcom-markedet og internett på 2000-tallet.
– Industrien kan skyte over målet midt i en investeringssyklus som nå. Vi kan se tilbake på erfaringene fra internettutviklingen, men ingen av oss vil stille spørsmål ved det grunnleggende ved internett. Jeg venter at KI kan gå gjennom det samme, sier Pichai til BBC.
Han sier at det i dag både er elementer av rasjonalitet og irrasjonalitet i KI-sektoren.
Vil kalle Tung inn på teppet
Sofie Marhaug, energipolitisk talsperson i Rødt, er kritisk til den raske utbyggingen av datasentre i landet. Både Rødt og SV vil ha nasjonal kontroll over utbyggingen. Det melder Klassekampen.
Marhaug vil kalle digitaliseringsminister Karianne Tung inn på teppet på Stortinget.
– Vi vil utfordre henne på å få nasjonal kontroll. Vi må bestemme hva som skal bygges ut fra egne nasjonale interesser, ikke markedsinteressene til Sam Altman, sier hun til Klassekampen.
Dermed kan det bli nye debatter om konsesjonsordninger og kontroll med datasenternæringa i Stortinget.
Cyberangrep og innsidere utgjør stor risiko for ekomsektoren
Stadig mer sofistikerte cyberangrep og økt risiko fra personer på innsiden av kritiske virksomheter utgjør de største truslene for den norske ekomsektoren.
Det skriver Nasjonal kommunikasjonsmyndighet (Nkom) i sin årlige risiko- og sårbarhetsrapport. Ekom-sektoren, som omfatter mobilnett og bredbåndsfiber, datasentre og satellittsystemer, er under økende trusler og mål for hybride angrep, også i Norge, går det fram av rapporten.
Kriminelle nettverk, ofte rekruttert av statlige aktører, bruker kunstig intelligens til å planlegge, automatisere og skjule digitale angrep mot kritisk infrastruktur, skriver Nkom i omtalen av rapporten.
– Årets rapport viser en klar økning i alvorlige cyberhendelser der vi internasjonalt stadig ser angrep på telekomsektoren, sier direktør John-Eivind Velure i Nkom.
Innsidere
I august gikk PST ut og bekreftet at de mente prorussiske hackere hadde angrepet et damanlegg i Bremanger og tatt kontroll over styringen av et lukkesystem. Angrepet førte til at lukene ble åpnet for fullt og slapp ut 500 liter vann i sekundet før det ble oppdaget og stanset. PST kommenterte hendelsen med at Russland var blitt en farligere nabo.
Foruten trusler utenfra advarer Nkom også mot aktører på innsiden av kritiske organisasjoner, som bevisst eller ubevisst kan utgjøre en trussel mot system og stabilitet.
– Et angrep fra innsiden kan være like ødeleggende som et digitalt angrep utenfra. Når noen med tilgang misbruker tillit, kan det ramme både systemene og samfunnets tillit til dem, sier Nkom-direktøren.
GPS-jamming
De fleste nettutfall de siste årene har vært forårsaket av ekstremvær og ikke angrep. Digitaliserings- og forvaltningsminister Karianne Tung har varslet en oppgradering av sikkerheten til Norges kritiske infrastruktur. Norge er blitt et av verdens mest digitaliserte land og er blitt svært avhengig av at systemene fungerer og er oppe.
– Samfunnets økende avhengighet av digitale tjenester og et stadig mer alvorlig trusselbilde gjør en robust og sikker digital infrastruktur helt avgjørende for beredskapen og tryggheten vår, sier Tung.
En annen trussel som også har økt kraftig etter Russlands angrep mot Ukraina, er såkalt jamming av GPS-signaler, særlig i Nord-Norge og Øst-Finnmark. Slike forstyrrelser utgjør en betydelig risiko og fare for feilnavigasjon for både luftfart og sjøfart.
Telia på topp og bånn i kundetilfredshet i Norden
I en sammenstilling er Telenor Sveriges konkurransemerke Vimla best, med Telia Sveriges tilsvarende merkevare Fello som nummer to, før dansker fyller de tre neste plassene. (Andre, CBB og Oister.) Beste norske merkevare er Chilimobil, som er deleid av Telia Norge.
Analytikerne i Tefficient har på Linkedin satt sammen to undersøkelser av kundetilfredshet, fra EPSI Rating Group og Svenskt Kvalitetsindex. Selv om kundetilfredshet egentlig må sees per marked, viser grafen at kundenes tilfredshet med sine leverandører er best i merkevarene selskapene bruker til å konkurrere om de minst lojale kundene.
Tydeligste resultat er at hovedmerkevarene til mobilnetteierne har jevnt over dårlig kundetilfredshet. Like tydelig er det at svenske aktører ikke bare er på topp, men bekler også de fem plassene med aller minst fornøyde kunder. (hf)
McCartney slipper låt uten lyd – protest mot kunstig intelligens
Ingen musikk, ingen sang. Bare litt båndsus og klirring. Slik lyder den første låten Paul McCartney har utgitt på fem år.
Sangen er en del av albumet « Is This What We Want», som er britisk musikkbransjes svar på foreslåtte endringer i landets opphavsrettslover.
Platen, som er ute digitalt, utkommer i november i begrenset vinylopplag med McCartneys bidrag som bonuslåt.
Lovendringene kan gi store teknologiselskaper lov til å bruke opphavsrettsbeskyttet materiale for å trene generative KI-modeller – selv uten tillatelse fra skaperne.
– Vi må være forsiktige, for det kan bare ta over, og det ønsker vi ikke skal skje, har McCartney uttalt ifølge The Guardian.
Han har uttrykt særlig bekymring for dagens unge musikere og komponister. Bak protesten stiller tusen britiske artister seg, blant dem Kate Bush, Sam Fender, Pet Shop Boys, Annie Lennox, Damon Albarn, Billy Ocean, The Clash, Jamiroquai, Imogen Heap og Yusuf/Cat Stevens.
De byr på stille opptak fra sine studioer. McCartneys bidrag beskrives av avisen som 55 sekunder med båndsus før 15 sekunder med udefinerbar klirring, før ytterligere 80 sekunder med sus og rasling, før «låten» fader ut.
Låttitlene danner til sammen setningen «The British Government Must Not Legalise Music Theft To Benefit AI Companies».
Nytt nettverk skal styrke europeisk digital uavhengighet
På et toppmøte om europeisk digital suverenitet i Berlin, har flere europeiske tenke-tanker og institutter gått sammen i et nytt nettverk.
− Europa står i kritisk digital avhengighet og begrenset valgfrihet i essensiell teknologi, mener det ferske nettverket, som har tatt navnet European Network for Technological Resilience an Sovereignty (ERTS)
Målet er å samkjøre, til nå, adskilte forsøk på å utbedre situasjonen, gjennom deling av kompetanse, politisk påvirkning og koordinering av tiltak og forskning.
Nå er nettverket på jakt etter flere eksperter og institusjoner som vil bli med på arbeidet.
Dansk gruppesøksmål mot Meta
− Systematisk svikt mot barn og unge.
Det mener en gruppe danske organisasjoner og eksperter som nå saksøker Meta.
Saksøkerne oppfordrer foreldre og andre å bli med å holde plattformen ansvarlige, gjennom å bli med på søksmålet.
− Sosiale medier profiterer på barn og unge, man har gjort alt for lite for å beskytte dem. Det har vært nærmest umulig for foreldre og barn å ta opp kampen mot disse gigantene, sier Ask Hesby Holm, direktør i Digitalt ansvar, om søksmålet.
Søksmålet er det første av sitt slag i Danmark, melder DR.