współczynników bo \ b\ aproksymującego modelu liniowego o postaci danej ogolną zależnością:
Yxin = bo + bxX (7)
takich, aby opisana tą zależnością prosta najlepiej (wg pewnego kryterium) przybliżała rzeczywistą charakterystykę statyczną badanego przetwornika. Wartość TimCA) rożni się od wartości rzeczywistej Y(X) - patrz rys. 3, a różnica ta jest błędem nieliniowości modelu, określonym zależnością:
An(X)= Yiin(X) - Y(X) (8)
Błąd nieliniowości nie jest stały, lecz jest pewną funkcją wartości wielkości mierzonej. Podstawą do obliczenia współczynników bo i b\ są wyniki pomiarów określające pewna liczbę N punktów (X;, Yi) rzeczywistej charakterystyki przetwornika.
Jako kryterium optymalnego wyznaczenia prostej regresji przyjmuje się zwykle minimalizację sumy kwadratów' odchyleń poszczególnych punktów' zmierzonych (A/. Yi), i=l..N, od charakterystyki modelowej (tzn. błędów nieliniowości), tj.:
N
(9)
minimum ,)
Po przeprowadzeniu rachunków opartych na tym kryterium otrzymuje się wzory określające w7artości współczynników modelu liniowego badanego przetw ornika [2]:
(10)
4, -■
- 1 N r-
— i N
gdzie: X = — Ąxi;
Przybliżone równanie przetwornika dane jest zatem zależnością (7), a jego współczynniki określone są związkami (10). Miarą jakości tego przybliżenia może być błąd średniokwadratowy:
lub największa bezwzględna wartość błędu nieliniowości określonego zależnością (8) - tzw. maksymalny błąd nieliniowości przetwornika A,reix.
Możliwe jest wykorzystanie opisanej wyżej regresji liniowej do wyznaczenia zależności funkcyjnej dla pewnych typów nieliniowych modeli przetwornika. Należy wówczas dokonać zmiany zmiennych według odpowiedniej transformacji nieliniowej. Przykładowo przy postulowanym dla przetwornika modelu wykładniczym: można zastosować podstaw ienia:
(12)