6218157388

Poprawność obliczeń komputerowych Błędy danych wejściowych Błędy obcięcia Błędy zaokrągleń Reprezentacja liczb w komputerze Oszacowania błędów zaokrągleń

Błędy danych wejściowych

podobnych przypadkach w obliczeniach wartość dokładną liczby zastępujemy jej wartością przybliżoną a. Rozróżniamy tu dwa przypadki:

9 a jest wartością przybliżoną liczby A z nadmiarem, jeśli a > A, 9 a jest wartością przybliżoną liczby A z niedomiarem, jeśli

a < A]

Różnicę pomiędzy wartością liczby A a jej wartością przybliżoną a AA = A - a,    (3)

nazywamy błędem liczby A.