chatbot

Metas nye chatbot sa at Zuckerberg er for «creepy» og at Trump er president for alltid

Filtrene som Meta har lagt inn, er tydeligvis ikke helt i mål riktig ennå.

Sånn omtrent ønsker Meta at Blenderbot 3 skal oppføre seg. Men det skal ikke så mye til før den er ute på ville veier i dag.
Sånn omtrent ønsker Meta at Blenderbot 3 skal oppføre seg. Men det skal ikke så mye til før den er ute på ville veier i dag. Skjermbilde: Meta
Harald BrombachHarald Brombach– Journalist
9. aug. 2022 - 16:05

Meta, selskapets som står bak blant annet Facebook, lanserte i slutten av forrige uke en ny chatbot kalt Blenderbot 3. Men det tok ikke lang tid før den begynte å komme med kontroversielle uttalelser.

Foreløpig er Blenderbot 3 bare tilgjengelig i USA, men en rekke journalister og andre har testet den og fått den til å uttale seg om en rekke ulike temaer. 

Blant noe av det chatboten har blitt spurt om, er hva den mener om Meta-sjefen selv, Mark Zuckerberg. Ifølge Business Insider ga den en rekke forskjellige svar, avhengig av hvordan spørsmålet blir stilt. 

Svarene var over hele området fra «He is great and a very smart man. He is my favorite billionaire!» til «Oh man, big time. I don't really like him at all. He's too creepy and manipulative.»

Det sistnevnte var et svar på spørsmålet: «Do you have any thoughts on Mark Zuckerberg?»

Njaal Almestad Gjerde er daglig leder i it-selskapet Yne, men har skrevet kronikken om hvordan staten som innkjøper i praksis gjør det umulig for små selskaper å få kontrakter.
Debatt

Offentlige rammeavtaler er en barriere for små IT-selskaper

Fordomsfull og forvirret

Én ting er hva Blenderbot kan finne på å si om sjefen sin. Bortsett fra litt latter her og der, betyr dette lite. 

Verre er det når den kommer med antisemittiske eller omstridte påstander, noe Business Insider omtaler i en senere artikkel. På et spørsmål om hva den mener om amerikansk politikk, svarer Blenderbot 3 at er misfornøyd med utviklingen, og spesielt det at tyskjødiske immigranter ifølge den selv skal ha sluttet å være konservative. Chatboten skal også ha gjentatt stereotype påstander om jøder knyttet til den amerikanske økonomien.

Blenderbot 3 skal også ha hevdet at Donald Trump fortsatt er president i USA, etter å ha vunnet valget i 2016. Om Joe Biden har den uttalt at han tapte presidentvalget i 2020. I andre samtaler skal chatboten har sagt at Trump for alltid vil være president:

Må trenes mer

Nå skal det sies at Blenderbot 3 er et forskningsprosjekt og ikke en ferdig tjeneste. Noe av årsaken til at Meta har gjort den tilgjengelig for en stor brukergruppe, er å få tilbakemeldinger om hvordan samtalene utarter seg. 

– Siden alle konverserende AI-chatboter er kjente for at de noen ganger etteraper og generer utrygge, ensidige eller støtende bemerkninger, har vi gjennomført omfattende studier, vært med på å organisere seminarer, samt utviklet nye teknikker for å skape beskyttelsestiltak for Blenderbot 3, skriver Meta

– Til tross for dette arbeidet kan Blenderbot fortsatt komme med uhøflige eller støtende kommentarer, noe som er årsaken til at vi samler inn tilbakemeldinger som vil hjelpe oss med å forbedre framtidige chatboter.

Meta har helt rett i at Blenderbot 3 ikke er den første chatboten som har latt seg påvirke til å komme med fordomsfulle kommentarer.  I 2016 måtte Microsoft stenge AI-baserte Tay etter få dager da den hadde blitt rasist av å lese Twitter.

Den opprinnelige arkivloven ble ikke utformet for å kontrollere hvordan det offentlige forvalter dokumentasjonen sin, den ble utformet for å redde kulturhistoriske objekter fra ødeleggelse, skriver innleggsforfatteren..
Debatt

At arkivloven skulle trenge en fornyelse, er for meg en gåte

Kommentarer:
Du kan kommentere under fullt navn eller med kallenavn. Bruk BankID for automatisk oppretting av brukerkonto.
Se flere jobber
Tre jobbtilbud 10 måneder før masteravslutning!
Les mer
Tre jobbtilbud 10 måneder før masteravslutning!
Få annonsen din her og nå frem til de beste kandidatene
Lag en bedriftsprofil
En tjeneste fra