programmering
Hvorfor datamaskinen din ikke alltid oppgir at 0,1 + 0,2 = 0,3
Det er ikke bare enkelt å forstå hvordan datamaskiner gjør beregninger med desimaltall. Det kan gi overraskende resultater. Illustrasjonsfoto: Colourbox/1STunningArt
Moderne datamaskiner jobber vanligvis binært, det vil si at de er basert på totallsystemet med 2 som grunntall, i stedet for titallsystemet (desimal) med tallet 10 som grunntall, noe de fleste mennesker bruker til daglig.
Det er vanligvis problemfritt å konvertere mellom to- og titallsystemene så lenge det er snakk om heltall. Men straks dataene er desimaltall («kommatall»), kan det oppstå unøyaktigheter som kan føre til at beregningene ikke gir det resultatet som kanskje er ventet.
Brøker og primtall
