Błąd pomiaru kątów został przyjęty za 1’ kątową (0,00029 radiana) ponieważ taka była rozdzielczość noniusza w spektrometrze.
Podczas wyznaczania kąta łamiącego pryzmatu i minimalnego kąta odchylenia były dokonywane pomiary dwóch kątów, wynika z tego że błąd pomiaru mógł być popełniony dwukrotnie, czyli: Δγ = 2*2’ = 2 * 0,00029 = 0,00058 radiana γ
Δγ
δmin
n
Δn
n±Δn
kolor
stonie
radany
stopnie
radiany
stopnie radiany 47º 51' 0,83514 1,62029 0,02861 1,62029±0,02861 czerwony 48º 6'
0,83950
1,62287 0,02863 1,62287±0,02863 żółty 54º 44' 1,04254
2'
0,00058 48º 43' 0,85027
1,62921 0,02868 1,62921±0,02868 zielony 50º 37' 0,88343 1,64845 0,02885 1,64845±0,02885 niebieski 51º 27' 0,89797 1,65675 0,02893 1,65675±0,02893 fioletowy