Noggrannhetsförlust, eller kancellation, är en typ av beräkningsfel, en noggrannhetsförlust som inträffar då två nästan lika tal som har fel subtraheras och kan uppstå på grund av avrundningar eller från fel i indata. Detta beror på att närmevärdet blir litet och att felen i de två talen adderas, man får alltså ett stort relativt fel.
Noggrannhetsförlust kan ske när datorer arbetar med flyttal då de ibland måste avrundas och således introducerar fel i talen. För att reducera förlusten av signifikanta siffror beroende på kancellation är det ibland möjligt att omformulera beräkningsuttrycken, genom så kallad omskrivning.
Exempel När man ska beräkna för små x så gäller att . Dessutom kan inte beräknas exakt, vilket ger ett fel och alltså kancellation.
Det finns tre typer av omskrivningar för att undvika kancellation, i detta fall kan alla tre appliceras:
Serieutveckling
Förlängning med konjugatet
Trigonometrisk formel
Externa länkar Lärobok i programmering: http://lix.hisvux.se/martinf/pascalfel.html Programmeringsfel
Kategori:Datavetenskap