Aneks A.4 Dokładność obliczeń 259
Dla przykładu zapis 2,7182 oznacza, że błąd bezwzględny tej liczby nie przekroczy 0,00005.
Błąd bezwzględny liczby 270 nie przekracza liczby 0,5, jednakże jeżeli liczba ma większą dokładność np. dla danej liczby błąd bezwzględny jest mniejszy od 0,005, to liczbę tę należy zapisać w postaci 270,00. Tak więc liczby przybliżone zapisane jako 27-10; 270; 270,0; 270,00 mają różny stopień dokładności i ich graniczne (maksymalne) błędy bezwzględne wynoszą odpowiednio 5; 0,5; 0,05; 0,005.
Błędy bezwzględne większych liczb mogą być rzędu jednostek, dziesiątek, setek itp. Zachowując dla tych liczb podaną wyżej zasadę, nie należy zapisywać wszystkich ich cyfr. Na przykład liczbę dwieście siedemdziesiąt tysięcy z błędem bezwzględnym 500, należy zapisać w postaci 270-103. Nie można zastosować zapisu 270000 gdyż zapis ten oznacza, że graniczny błąd bezwzględny wynosi 0,5.
Liczbę posiadającą większą ilość cyfr należy zaokrąglić, odrzucając zbyteczne cyfry według niżej podanej zasady.
Reguła zaokrąglania liczb
Jeżeli pierwsza z odrzuconych cyfr jest mniejsza lub równa 4, to ostatnią z pozostających cyfr pozostawiamy bez zmian, natomiast gdy pierwsza z odrzuconych cyfr jest większa lub równa 5, to ostatnią z pozostawionych cyfr zwiększamy o 1.
Wyjątek od tej reguły stanowi przypadek, kiedy odrzuca się tylko piątkę lub piątkę z zerami. Przyjęto zostawiać wtedy bez zmian ostatnią cyfrę, jeżeli jest ona parzysta lub zwiększać ją o jeden, jeżeli jest nieparzysta.
Podane wyżej reguły zapisu i zaokrąglania liczb przybliżonych stosuje się do zapisywania danych wejściowych do prowadzonych obliczeń, otrzymanych wyników pomiarów oraz danych w tablicach matematycznych. Nie podaje się w tym przypadku błędu bezwzględnego, bowiem zakłada się, że nie przekracza on połowy jednostki ostatniego rzędu zachowanej w zapisie. W podanym sposobie zapisu wszystkie cyfry są dokładne.
W końcowych wynikach obliczeń przyjęto zapisywać liczby z jedną cyfrą wątpliwą tzn. zachowując jedną cyfrę za cyfrą dokładną. Należy wtedy podawać graniczny