Zahlenbereich und Genauigkeit

Zahlenbereich und Genauigkeit des RedCrab Calculator


Fließkomma (14 digits)


 

Genauigkeit

15 – 16  Stellen

 

Zahlenbereich

von ±5 * 10-324 bis ±1.7 * 10308

 

Hexadezimal

12 digits

     
  Fließkomma ist aufgrund eines großen Wertebereichs für technische und wissenschaftliche Berechnungen geeignet
     

Dezimal (24 digits)


 
 

Genauigkeit

28-29 Stellen

 

Zahlenbereich

from -79,228,162,514,264,337,593,543,950,335
to 79,228,162,514,264,337,593,543,950,335

   

Ist ungefähr (-7.9 * 1028 to 7.9 * 1028) / (100 to 1028)

 

Hexadezimal

16 Stellen

     
  Dezimalzahl eignet sich aufgrund des kleinen Rundungsfehlers für Finanz-Berechnungen