Program Matlab używa konwencjonalną notację dziesiętną, z kropka dziesiętną. W przypadku notacji naukowej litera e służy do określenia wykładnika potęgi dziesięć. W przypadku liczb zespolonych używa się zarówno literę i, jak j przy części urojonej liczby zespolonej.
Przykłady liczb w programie Matlab :
3
-99
0.0001
1.60210e-20
6.02252e23
li
-3.14159j
3e5i
Wszystkie liczby są zachowywane w formacie długim (format long). Na komputerach wykorzystujących 32-bitowy procesor odpowiada to dokładności do 16 cyfr znaczących po kropce dziesiętnej i zakresowi od 10-308 do 10+308.
Polecenie format kontroluje format liczb wyświetlanych przez program MATLAB. Polecenie jest jedynie odpowiedzialne za sposób wyświetlania liczb, a nie dokładność obliczeń i sposób ich zapamiętywania.
Wpisz w Command Window następujące polecenie:
»help format
Zapoznaj się pomocą dotyczącą formatu wyświetlanych liczb.
Wykonaj następujące ćwiczenie wpisując w Command Window następujące polecenia:
» a = 0.12345678901234567890 » a
» format short e » a
» format short
» a
» format long
» a
» format long e
» a
Stosując powyższe komendy przeanalizuj różnice między formatami dostępnymi w programie Matlab.