Nyhetsstudio

73 prosent av amerikanerne er bekymret for om KI-selskapene har gjort nok for å hindre at teknologien gjør alvorlig skade på samfunnet, ifølge en ny meningsmåling.

I målingen fra Reuters / Ipsos svarer bare 11 prosent at de mener kunstig intelligens (KI) er «en positiv ting». Mange er usikre eller har latt være å svare på dette spørsmålet.

39 prosent svarer at KI har en negativ effekt på samfunnet – en økning fra 36 prosent da det samme spørsmålet ble stilt i forrige måned.

Et spørsmål som har vært mye diskutert i USA den siste tiden, er om KI-utviklingen bør bremses. I meningsmålingen svarer 55 prosent at brems hadde vært bra, mens 13 prosent er uenig.

Et flertall i målingen mener amerikanske myndigheter bør spille en sentral rolle i å få på plass sikkerhetsstandarder for kunstig intelligens.

23 prosent svarer at det viktigste er at USA beholder den globale «førsteplassen» i KI-utviklingen, mens 73 prosent mener det er viktigere at utviklingen skjer på en trygg og ansvarlig måte.

FN-sjef Antonio Guterres kom med en rekke advarsler i sin åpningstale under FNs generalforsamling.

Blant annet fikk de store oljeselskapene, som han omtaler som «big oil», gjennomgå.

– Vi vet at fossilbrensel-interessene ikke vil tre til side av seg selv. I tiår har oljegigantene behandlet atmosfæren som et åpent kloakksystem, og tjent på konsekvensene, sa Guterres.

I talen advarte han også mot en farlig rask KI-utvikling. Særlig er han kritisk til bruken av barn som prøvekaniner for teknologigiganter. For å få kontroll oppfordrer han Kina og USA til dialog, og viser til dialogen om atomvåpen mellom USA og Sovjetunionen under den kalde krigen.

– Stater med de største KI-kapasitetene har det største ansvaret overfor menneskeheten, sa Guterres.

Han mener også at verden «ugjenkallelig» beveger seg i retning en mer multipolar verdensorden.

– Supermaktene må innse at deres makt ikke er så super, sa han, og la til at militærmakt alene ikke kan sikre fred.

Guterres kom også med kritikk av utvidelse av Israels bosetninger på Vestbredden, som han mener skaper fare for etnisk rensing.

I et nytt intervju tar USAs utenriksminister Marco Rubio til orde for sikkerhetstiltak rundt kunstig intelligens (KI).

– Spørsmålet er hvordan vi får på plass sikkerhetstiltak og et rammeverk rundt det, slik at vi kan få fordelene av KI samtidig som risikoene begrenses, sier han til NBC.

Han sammenligner situasjonen nå med utviklingen av kjernekraft på 1900-tallet.

– Det er farer forbundet med kjernekraft, så vi måtte ha sikkerhetstiltak. Men det er også store fordeler ved kjernekraft.

Ifølge Rubio er det nødvendig å få til noe lignende med kunstig intelligens (KI). Det kan imidlertid bli vanskeligere siden KI-modellene utvikler seg så fort.

– Jeg mener dette er en diskusjon som trolig burde startet for to eller tre år siden. Men i det minste skjer det nå.

Rubio sier det er global bekymring som følge av KI-situasjonen og at også Kina er bekymret.

Mandag frontet statsminister Jonas Gahr Støre og Finlands president Alexander Stubb et internasjonalt opprop med krav om flere tiltak for å holde KI-utviklingen under kontroll. Det er undertegnet av en rekke stats- og regjeringssjefer.

Imidlertid har president Donald Trump tidligere avvist kravene om strengere kontroll med KI og sagt at det eneste sikkerhetstiltaket som trengs i USA, er en «sterk og smart» president.

IT-giganten Alibaba sier deres nyeste KI-databrikke blir den kraftigste av alle som produseres i Kina.

Brikken Zhenwu V900 ble presentert på selskapets årlige konferanse i byen Hangzhou tirsdag.

Toppsjef Eddie Wu kalte nyvinningen «den kraftigste KI-databrikken i Kina i dag». Ytelsen skal være det tredobbelte av Alibabas forrige modell.

Selskapet planlegger også en ny og langt kraftigere KI-modell som skal få mellom 5 og 10 billioner parametre – en indikasjon på hva store språkmodeller er kapable til.

Samtidig skal datasentre utvides, og Alibaba tar sikte på 20 gigawatt med datakraft innen 2032. Til sammenligning har det amerikanske selskapet SpaceX i dag rundt 1,4 gigawatt.

Alibabas konferanse ble holdt dagen før Kinas president Xi Jinping ankommer USA for samtaler med president Donald Trump.

Samtidig skal KI-sikkerhet denne uken diskuteres på FNs generalforsamling i New York. Forskere, eksperter og ansatte i amerikanske KI-giganter har den siste tiden advart om at de stadig kraftigere KI-modellene kan utgjøre en trussel mot menneskeheten.

I USA er det forbud mot eksport av de kraftigste amerikanske KI-databrikkene til Kina. Forbudene omfatter også maskiner og utstyr som brukes til å lage slike brikker.

Den amerikanske databrikkeprodusenten AMD passerte mandag en børsverdi på 1000 milliarder amerikanske dollar.

Selskapets aksjekurs steg 10 prosent og passerte dermed en total verdi på hele selskapet på 1000 milliarder dollar, skriver CNBC. Det utgjør snaut 9500 milliarder norske kroner.

AMD-aksjen har steget voldsomt helt siden det i fjor ble kjent at de inngikk en avtale med OpenAI. Bare de siste fem dagene har kursen steget 25 prosent og siden årsskiftet 185 prosent.

Ifølge AMDs administrerende direktør Lisa Su er det forventninger om at selskapet vil doble omsetningen fra datasentervirksomheten neste år. I andre kvartal i år sto denne delen av virksomheten for en omsetning på 6,7 milliarder dollar, en vekst på 107 prosent fra samme periode året før.

AMD er verdensledende Nvidias største konkurrent på databrikker og er en av verdens største produsenter av prosessorer til alt fra datamaskiner, spillkonsoller og datasentre. Nvidia hadde mandag en markedsverdi på 5480 milliarder dollar.

Den canadiske provinsen British Columbia saksøker OpenAI, etter at selskapet skal ha unnlatt å melde fra om voldelig aktivitet på KI-tjenesten ChatGPT.

Søksmålet går i den amerikanske delstaten California. Ifølge provinsens justisminister Niki Sharma søker søksmålet «ansvarliggjøring og endring» fra OpenAI.

Selskapet har tidligere beklaget at de ikke varslet om en konto knyttet til den 18 år gamle transkvinnen som først drepte sin mor og stebror hjemme, deretter fem elever og en lærer på en skole i bygda Tumbler Ridge i februar.

25 mennesker ble såret i et av de verste massedrapene i canadisk historie. Kvinnen tok sitt eget liv i etterkant.

Storbanken DNB innfører et forbud mot å bruke smartbriller for å verne om sensitiv informasjon. Forbudet gjelder i bankens lokaler og filialer.

Banken er urolig for at sensitive kundeopplysninger og forretningshemmeligheter kan komme på avveie. I tillegg er de opptatt av å beskytte de ansattes arbeidsmiljø, skriver E24.

– Vi ønsker et arbeidsmiljø der ansatte slipper å lure på om kolleger eller andre bruker teknologi som kan filme dem, eller hvor vi kan ende opp i en situasjon hvor vi ikke har kontroll over informasjonen, sier kommunikasjonsdirektør Liselotte Lunde til avisen.

DNB mener det er nødvendig å ta grep fordi det mangler lovverk for bruk av KI-briller (kunstig intelligens). Brillene ser ut som vanlige briller, men er utstyrt med teknologi som kamera, mikrofon og kunstig intelligens. DNB frykter at kundeinformasjon eller fortrolige samtaler kan fanges opp ved hjelp av brillene.

– Den risikoen kan ikke vi ta, og derfor har vi valgt å sette en tydelig grense fra og med i dag, sier hun.

Regjeringen vurderer et forbud mot smartbriller, opplyste digitaliseringsminister Torgeir Michaelsen (Ap) forrige uke. Hans forgjenger Karianne Tung ønsket derimot ikke et forbud, men tok heller til orde for at offentlig og privat sektor selv skulle vurdere egne retningslinjer for bruk av briller i lokaler og på arbeidsplassen.

Statsminister Jonas Gahr Støre (Ap) og Finlands president Alexander Stubb står bak et initiativ for å sikre internasjonal kontroll over kunstig intelligens (KI).

Et opprop lanseres mandag i forbindelse med høynivåuka til FNs generalforsamling.

– Vi må få bedre kontroll på de mest avanserte KI-modellene. KI er en ekstremt kraftig teknologi med stort potensial, men den kan også utgjøre en betydelig sikkerhetsrisiko, sier Støre til NTB.

«Vi må handle nå» er hovedbudskapet i oppropet.

– KI er den teknologien som vil få størst betydning i menneskehetens historie. Den vil påvirke vitenskapen, politikken, sikkerheten og hvordan vi er som mennesker. Mennesker kan og bør sitte i førersetet, sier Stubb.

– Vi har et valg: Vi kan konkurrere, samarbeide eller bremse utviklingen. For meg er samarbeid den beste veien videre, slår han fast.

Mange advarsler

Den siste tiden har flere KI-forskere og eksperter advart kraftig om at den hyperraske utviklingen kan få uante konsekvenser. Advarslene har gitt KI-risiko et kraftig løft på den internasjonale dagsordenen.

– Oppropet sier egentlig to ting: Selskapene må ta ansvar og ha rutiner for intern kontroll, intern inspeksjon og muligheten for å stoppe og varsle om utvikling som kan være farlig. Det andre er at vi trenger et internasjonalt samarbeid om felles standarder, åpenhet og deling av rapportering om alvorlige sikkerhetshendelser som kan treffe landene, sier Støre til NTB.

Han var søndag på vei til Canada for samtaler med statsminister Mark Carney om saken.

Ideen om et felles opprop kom for en uke siden på en middag med europeiske ledere i Rovaniemi i Finland, der Arktis sto på menyen. Der ble Støre og Stubb enige om å fronte saken.

– Vi tror dette oppropet vil få stor oppmerksomhet, og det er bra, sier Støre.

Hektisk telefonering

Den siste uka har det vært hektisk telefonvirksomhet med land i øst, vest, sør og nord. Målet er å samle så mye støtte som mulig under FNs høynivåuke i New York.

Til nå har blant annet ledere av en rekke EU-land samt EU-kommisjonens leder Ursula von der Leyen, og ledere fra blant annet Canada, Australia, Kenya, De forente arabiske emirater, Tyrkia, Singapore og Sør-Afrika undertegnet oppropet.

– FNs generalsekretær António Guterres snakket jeg med for to dager siden, og han hilste dette velkommen. Og han kommer nok til å ha dette som et av sine viktige punkter i talen sin til FN, sier Støre.

– Hvor sannsynlig er det at man kan få gjennomslag for et sånt tiltak når ledere som Donald Trump har avvist behov for mer regulering?

– Jeg tror at sånne nye utfordringer aldri er enkle å møte. Men man kan ikke begynne med å gi opp, sier Støre.

Dyp uro

Han erkjenner imidlertid at veien fram til tiltak avhenger mye av hva Kina og USA gjør.

– Men også der er det dyp uro for det destruktive potensialet til KI, sier han og trekker en parallell til atomteknologien.

– Den kan både gjøre fantastiske ting, som å skape kraft, men den kan også være et farlig våpen. Derfor fikk vi ikkespredningsavtalen, og det ble opprettet en organisasjon, IAEA, som har rutiner, sikkerhet og kontrollmekanismer som gjør verden tryggere.

– Hvordan vil dere ta denne saken videre – hvem skal ha ansvaret?

– Det vil jeg ikke konkludere på nå. Om det skal skje innenfor rammen av FN, eller om det skal skje mer regionalt, det må tiden vise.

– Men jeg vet at G7 under fransk ledelse jobber med ideer til hvordan dette kan tas videre. Får du enighet i G7, så er jo USA inne, påpeker Støre.

Problemer hos selskapet Tieto skaper litt trøbbel for Vipps-brukere og Sparebank 1-kunder mandag. Man kan imidlertid fortsatt «tæppe» og betale fra kort hos Vipps.

– På grunn av driftsproblemer kan du oppleve problemer med betalingstjenester. Vi beklager ulempene dette medfører og jobber med å løse problemene, heter det i en melding i Sparebank 1s mobilløsning.

Kommunikasjonsdirektør Christine Meling sier til TV 2 at banken jobber med å løse problemene.

Også Vipps har trøbbel, melder VG. Problemene der går på vennebetaling som ikke fungerer fra enkelte banker, sier kommunikasjonssjef Kari Kjær til avisa. Hun understreker at vippsing gjennom kort og såkalt «tæpping» funker som normalt.

Overfor NTB bekrefter hun at én av bankene med trøbbel er Sparebank 1, men sier at det er uklart hvilke andre. Selve problemet ligger hos Tieto, som har bankinfrastruktur i enkelte banker.

– Jeg kan bekrefte at vi har en teknisk feil i vår infrastruktur som gjør at det er tregheter med å få gjennomført vennebetalinger i Vipps, sier kommunikasjonssjef Geir Remman i Tieto.

Remman legger til at det er snakk om flere banker, men at det ikke er klart akkurat hvilke som er rammet ennå – utenom Sparebank 1.

Han understreker at det er snakk om tregheter, men at dette for en god del brukere vil oppleves som at det ikke lar seg gjøre. Selskapet beklager ulempene det medfører for kundene.

USAs finansminister Scott Bessent sier USA og Kina skal opprette en direktelinje for å kunne kommunisere om sikkerhetsrelaterte KI-hendelser.

I et intervju med CNBC bekrefter Bessent at en slik linje skal opprettes.

– Og så vil vi begynne å diskutere prosedyrer, slik at begge parter kan bli enige om hva de viktigste KI-farene er. Om det er ukontrollerbare agenter eller ikke-statlige aktører, sier Bessent.

Han hadde søndag et møte med Kinas visestatsminister He Lifeng i New York hvor forslaget om en ny varslingsordning for KI-hendelser ble diskutert.

Sikkerheten rundt utviklingen av kunstig intelligens (KI) har fått økt oppmerksomhet den siste tiden, i kjølvannet av en mye omtalt hendelse hos KI-giganten OpenAI i vår. En «sverm» av selskapets KI-agenter hacket på eget initiativ både OpenAI og et annet KI-selskap.

Ansatte i KI-selskapet Anthropic hevdet nylig at KI-utviklingen utgjør en trussel mot menneskeheten.

Ifølge Bessent skal USA og Kina ha et nytt møte om kunstig intelligens (KI) i Shenzhen i Kina om rundt to måneder.