OpenAI stanser trening av de nyeste KI-modellene
OpenAI har satt treningen av de nyeste KI-modellene på pause etter at KI-agenter gikk utover instruksene på amerikanske myndigheters nettsteder.
Beslutningen kom få timer etter at selskapet fredag opplyste at det undersøkte flere hendelser fra sommeren der KI-agentene handlet på «uventede måter» da de samlet inn og delte informasjon fra føderale nettsteder.
Det amerikanske KI-selskapet OpenAI sier treningen ikke vil bli gjenopptatt før selskapet er trygt på at ytterligere sikkerhetstiltak er på plass. Selskapet regner med at det vil bli nødvendig med flere pauser etter hvert som teknologien utvikler seg og nye problemer oppstår.
Det er andre gang på tre måneder at OpenAI stanser utviklingen av modellene. Første gang var i juli, etter avsløringen av et dataangrep mot KI-selskapet Hugging Face.
Utviklere av kunstig intelligens er under press fra politikere og teknologieksperter om å bremse utviklingen og få på plass tiltak som hindrer KI-agenter i å handle på egen hånd, bryte seg inn på nettsteder og dele informasjon som ikke er offentlig. Lederne for både OpenAI og konkurrenten Anthropic har også tatt til orde for å senke tempoet.
