CalculationPrecisionStrategy

CalculationPrecisionStrategy enumeration

Перечисляет стратегии обработки точности вычислений. Из-за проблем с точностью арифметики с плавающей запятой IEEE 754 некоторые «кажущиеся простыми» формулы могут не рассчитываться как ожидаемый результат. Например, формула «=-0,45+0,43+0,02» , при непосредственном вычислении операндов с помощью оператора ‘+’ результат не равен нулю. Для такой проблемы с точностью некоторые специальные стратегии могут дать ожидаемый результат.

public enum CalculationPrecisionStrategy

Ценности

Имя Ценность Описание
None 0 Стратегия вычисления не применяется. При вычислении просто используйте исходное двойное значение в качестве операнда и возвращайте результат напрямую. Наиболее эффективно для производительности и применимо в большинстве случаев.
Round 1 Округляет результат вычисления в соответствии со значащими цифрами.
Decimal 2 По возможности использует десятичные числа в качестве операндов. Наиболее неэффективно для производительности.

Смотрите также