Какова точность чисел с плавающей точкой формата IEEE 754? Укажите конкретное значение.

Question

Гавриил

алгебра , алгоритмы , c#

Какова точность чисел с плавающей точкой формата IEEE 754? Укажите конкретное значение.

<pre><code class="cs">float k = 500f;
                float k2 = k - 1e-5f; // 0.00001F
                Console.WriteLine(k);
                Console.WriteLine(k2);
                Console.WriteLine(k2 == k); // TRUE</code></pre> <br/> Почему вычитание не дало ожидаемого результата? <br/> В интерактивном окне для этой операции возвращается значение false. <br/> Зная, что мантисса имеет 23 бита, может ли это объяснить, почему число с точностью в 10 знаков вызывает ошибку? <br/> Я не могу понять, как исправить алгоритм, чтобы он работал корректно. Как мне добиться результата 499.999999? Нужно ли вычитать 1e-4f? <b>Есть ли гарантия, что при других значениях результаты будут верными?</b> В документации указано, что точность составляет 6 значащих цифр, но 5 не дает ожидаемого результата. Обычно я вижу код, где сравниваются два значения типа float с использованием <br/> <pre><code class="cs">float epsilon = 1e-5f; // Пример
   if (MathF.Abs(a - b) < epsilon) { }</code></pre> <br/> Однако в этом примере данный подход, присутствующий во многих тестах и учебниках, не работает. К тому же, диапазон значений в задаче может варьироваться от 0 до 1, и вычитание 0.0001 может быть больше некоторого шага. Поэтому мне необходимо вычитать значение, имеющее как минимум 0.00001.

3 марта 2025 г. 14:44

Ответы на вопрос 2

Похожие вопросы

Answer 1

Формат чисел с плавающей точкой IEEE 754 (в частности, 32-битный формат `float`) обеспечивает точность примерно от 6 до 7 значащих цифр. Это означает, что в результате операций с числами типа `float` могут возникать ошибки округления, особенно при использовании очень больших или очень маленьких значений.

В вашем примере, когда вы вычитаете `0.00001f` из `500f`, вы не получаете ожидаемого результата `499.99999f` из-за ограничений представления чисел с плавающей точкой. 

### Почему сравнение равно TRUE?

При работе с числами типа `float` может возникнуть ситуация, когда результат операций теряет точность из-за ограниченной мантиссы (23 бита для `float`). Таким образом, результат вычитания `k2 = k - 1e-5f` фактически может быть закодирован в памяти как значение, равное `500f`, что и приводит к тому, что `k2 == k` возвращает `TRUE`.

### Объяснение погрешности

- **Проблема мантиссы**: Поскольку мантисса в `float` имеет всего 23 бита, ваш результат может быть потерян в округлении, когда вы работаете с числами, которые находятся близко друг к другу, как в этом случае.
- **Сравнение `float`**: При сравнении `float` (или `double`) часто используется небольшая величина, называемая `epsilon`, чтобы учесть погрешности арифметических операций.

### Как добиться корректного результата?

Чтобы добиться корректного результата `499.99999`, вы можете воспользоваться набором правил:

1. **Используйте `double`**: Если вам нужна большая точность, может быть полезнее использовать тип `double`, который имеет 53 бита для мантиссы и обеспечивает более высокую точность (примерно 15 значащих цифр).
   
2. **Определите значение epsilon**: Даже если вы хотите вычесть `1e-5f`, вам, скорее всего, придется использовать подход с `epsilon`, чтобы избежать проблем с сравнениями.
   
3. **Измените значение вычитания**: Важно понимать, что вычитание даже небольших значений может быть неэффективным в пределах диапазона около 0, так как числа могут быть частью числа, которое округляется до большого значения. В некоторых случаях использование `1e-4f` может быть лучшим вариантом, но опять же это зависит от контекста задачи.

### Почему метод с epsilon не сработал?

Если ваш диапазон чисел варьируется от 0 до 1, необходимо контролировать размер `epsilon`, чтобы он был пропорционален величине переменной, с которой вы работаете. Например, если вы работаете с числами, ближайшими к 0, значение `1e-5` может быть слишком большим.

### Заключение

Общий подход к работе с `float` и `double` заключается в том, чтобы применять методы проверки с использованием `epsilon`, учитывая размеры вычислений. Не существует универсального решения для всех случаев, и вам может потребоваться настроить `epsilon` или изменить используемые значения в зависимости от контекста вашей задачи.

Answer 2

У 32-битового вещественного числа в IEEE754 точность ~7 десятичных разрядов. То есть, для числа 500 это будет 499.9999 и 500.0001. 
 Значение ε при сравнении вещественных надо вычислять исходя из значений самих чисел. Примерно так: 
 function equal(float a, float b) {
    float eps = 1e-6 * max(fabs(a), fabs(b));
    return fabs(a - b) < eps;
}