CalculationPrecisionStrategy

CalculationPrecisionStrategy enumeration

Listet Strategien zum Umgang mit der Rechengenauigkeit auf. Aufgrund des Genauigkeitsproblems der IEEE 754-Gleitkommaarithmetik werden einige “scheinbar einfache” Formeln möglicherweise nicht als erwartetes Ergebnis berechnet. Wie Formel “=-0,45 + 0,43 + 0,02” , wenn Operanden direkt mit dem ‘+’-Operator berechnet werden, ist das Ergebnis nicht Null. Bei solchen Genauigkeitsproblemen können einige spezielle Strategien das erwartete Ergebnis liefern.

public enum CalculationPrecisionStrategy

Werte

NameWertBeschreibung
None0Keine Strategie auf die Berechnung angewendet. Bei der Berechnung einfach den ursprünglichen Double-Wert als Operanden verwenden und das Ergebnis direkt zurückgeben. Am effizientesten für die Leistung und für die meisten Fälle anwendbar.
Round1Rundet das Rechenergebnis nach signifikanten Stellen.
Decimal2Verwendet nach Möglichkeit Dezimalzahlen als Operanden. Am ineffizientesten für die Leistung.

Siehe auch

CalculationOptions Cell