175
Számítási tartomány és pontosság
Számítási
tartomány
vagy
A számjegyek
száma a belső
számításhoz
15 számjegy
Pontosság
Általában ±1 a 10. számjegynél egy számításnál.
Az exponenciális kijelzés pontossága ±1 a
legkevésbé jelentős számjegynél. A hibák
egymást követő számítások esetén
kumulálódnak.
Függvényszámítás, bemeneti tartományok
és pontosság
sinx
DEG
0 ≤ |𝑥| < 9 𝑥 10
9
RAD
0 ≤ |𝑥| < 157079632.7
GRA
0 ≤ |𝑥| < 1 𝑥 10
10
Cosx
DEG
0 ≤ |𝑥| < 9 𝑥 10
9
RAD
0 ≤ |𝑥| < 157079632.7
GRA
0 ≤ |𝑥| < 1 𝑥 10
10
Tanx
DEG Ugyanaz, mint a sinx, kivéve, ha
|𝑥| = (2𝑛 −
1) × 90.
RAD Ugyanaz, mint a sinx, kivéve, ha
|𝑥| = (2𝑛 −
1) × 𝜋/2.
