ИИЭР 754-1985

Первое издание стандарта IEEE 754 для чисел с плавающей точкой

IEEE 754-1985 ^[1] — исторический отраслевой стандарт для представления чисел с плавающей точкой в ​​компьютерах , официально принятый в 1985 году и замененный в 2008 году IEEE 754-2008 , а затем снова в 2019 году незначительной редакцией IEEE 754-2019 . ^[2] В течение своих 23 лет он был наиболее широко используемым форматом для вычислений с плавающей точкой. Он был реализован в программном обеспечении в виде библиотек с плавающей точкой и в аппаратном обеспечении в инструкциях многих центральных процессоров и FPU . Первой интегральной схемой , реализовавшей проект того, что должно было стать IEEE 754-1985, была Intel 8087 .

IEEE 754-1985 представляет числа в двоичной системе счисления , давая определения для четырех уровней точности, из которых наиболее часто используются два:

Стандарт также определяет представления для положительной и отрицательной бесконечности , « отрицательного нуля », пять исключений для обработки недопустимых результатов, таких как деление на ноль , специальные значения, называемые NaN, для представления этих исключений, ненормальные числа для представления чисел, меньших, чем показано выше, и четыре режима округления .

Представление чисел

Число 0,15625, представленное как число с плавающей точкой одинарной точности IEEE 754-1985. См. текст для объяснения.

Три поля в 64-битном формате IEEE 754 с плавающей точкой

Числа с плавающей точкой в ​​формате IEEE 754 состоят из трех полей: знакового бита , смещенной экспоненты и дроби. Следующий пример иллюстрирует значение каждого из них.

Десятичное число 0,15625 _10, представленное в двоичном виде, равно 0,00101 ₂ (то есть 1/8 + 1/32). (Нижние индексы указывают основание системы счисления .) По аналогии с научной записью , где числа записываются так, чтобы иметь одну ненулевую цифру слева от десятичной точки, мы переписываем это число так, чтобы оно имело один бит 1 слева от «двоичной точки». Мы просто умножаем на соответствующую степень числа 2, чтобы компенсировать сдвиг битов влево на три позиции:

${\displaystyle 0.00101_{2}=1.01_{2}\times 2^{-3}}$

Теперь мы можем прочитать дробь и показатель степени: дробь равна 0,012 _, а показатель степени равен −3.

Как показано на рисунках, в представлении IEEE 754 этого числа имеются три поля:

знак = 0, так как число положительное. (1 указывает на отрицательное.)

смещенная экспонента = −3 + «смещение». В одинарной точности смещение равно 127 , поэтому в этом примере смещенная экспонента равна 124; в двойной точности смещение равно 1023 , поэтому смещенная экспонента в этом примере равна 1020.

дробь = .01000… ₂ .

IEEE 754 добавляет смещение к показателю, так что числа во многих случаях можно удобно сравнивать с помощью того же оборудования, которое сравнивает целые числа со знаком в дополнительном коде . При использовании смещенного показателя меньшее из двух положительных чисел с плавающей точкой будет «меньше» большего, следуя тому же порядку, что и для целых чисел со знаком и величиной . Если два числа с плавающей точкой имеют разные знаки, сравнение знака и величины также работает со смещенными показателями. Однако, если оба числа с плавающей точкой со смещенным показателем отрицательны, то порядок должен быть обратным. Если показатель степени был представлен, скажем, как число в дополнительном коде, сравнение для определения того, какое из двух чисел больше, было бы не таким удобным.

Начальный бит 1 опущен, поскольку все числа, кроме нуля, начинаются с начальной 1; начальная 1 подразумевается и на самом деле не нуждается в хранении, что дает дополнительный бит точности «бесплатно».

Ноль

Число ноль представлено особым образом:

знак = 0 для положительного нуля , 1 для отрицательного нуля .

смещенный показатель степени = 0.

дробь = 0.

Денормализованные числа

Представления чисел, описанные выше, называются нормализованными, что означает, что неявная ведущая двоичная цифра равна 1. Чтобы уменьшить потерю точности при возникновении потери значимости , IEEE 754 включает возможность представления дробей, меньших, чем это возможно в нормализованном представлении, делая неявную ведущую цифру равной 0. Такие числа называются ненормализованными . Они не включают столько значащих цифр, сколько нормализованное число, но допускают постепенную потерю точности, когда результат операции не равен нулю, но слишком близок к нулю, чтобы быть представленным нормализованным числом.

Ненормальное число представлено смещенной экспонентой из всех нулевых бит, что представляет экспоненту −126 при одинарной точности (не −127) или −1022 при двойной точности (не −1023). ^[3] Напротив, наименьшая смещенная экспонента, представляющая нормальное число, равна 1 (см. примеры ниже).

Представление нечислов

Поле смещенной экспоненты заполняется всеми единичными битами, чтобы указать либо на бесконечность, либо на недопустимый результат вычисления.

Положительная и отрицательная бесконечность

Положительная и отрицательная бесконечность представлены следующим образом:

знак = 0 для положительной бесконечности, 1 для отрицательной бесконечности.

смещенная экспонента = все биты 1.

дробь = все биты 0.

NaN

Некоторые операции арифметики с плавающей точкой недопустимы, например, извлечение квадратного корня из отрицательного числа. Действие по достижению недопустимого результата называется исключением с плавающей точкой. Исключительный результат представлен специальным кодом, называемым NaN, что означает « Не число ». Все NaN в IEEE 754-1985 имеют следующий формат:

знак = 0 или 1.

смещенная экспонента = все биты 1.

дробь = все, кроме нулевых битов (поскольку все нулевые биты представляют бесконечность).

Дальность и точность

Относительная точность чисел одинарной (binary32) и двойной точности (binary64) в сравнении с десятичными представлениями, использующими фиксированное количество значащих цифр . Относительная точность здесь определяется как ulp( x )/ x , где ulp( x ) — единица на последнем месте в представлении x , т. е. промежуток между x и следующим представимым числом.

Точность определяется как минимальная разница между двумя последовательными представлениями мантиссы; таким образом, она является функцией только мантиссы; в то время как зазор определяется как разница между двумя последовательными числами. ^[4]

Одинарная точность

Числа одинарной точности занимают 32 бита. В одинарной точности:

• Положительные и отрицательные числа, ближайшие к нулю (представленные денормализованным значением со всеми нулями в поле показателя степени и двоичным значением 1 в поле дроби), равны

  ±2–23 ^× 2–126 ^≈ ± ^1,40130 × 10–45

• Положительные и отрицательные нормализованные числа, ближайшие к нулю (представленные двоичным значением 1 в поле показателя степени и 0 в поле дроби), равны

  ^{± 1} × 2–126 ^≈ ±1,17549 × 10–38

• Конечные положительные и конечные отрицательные числа, наиболее удаленные от нуля (представленные значением с 254 в поле показателя степени и всеми единицами в поле дроби), равны

  ±(2−2−23 ⁾ × 2 ^{127 [5]} ≈ ±3,40282 × 10³⁸

Некоторые примеры значений диапазона и зазора для заданных показателей степеней с одинарной точностью:

Например, 16 777 217 не может быть закодировано как 32-битное число с плавающей точкой, поскольку оно будет округлено до 16 777 216. Однако все целые числа в пределах представимого диапазона, которые являются степенью 2, могут быть сохранены в 32-битном числе с плавающей точкой без округления.

Двойная точность

Числа двойной точности занимают 64 бита. В двойной точности:

• Положительные и отрицательные числа, ближайшие к нулю (представленные денормализованным значением со всеми нулями в поле Exp и двоичным значением 1 в поле Fraction), равны

  ±2–52 ^× 2–1022 ^≈ ± ^4,94066 × 10–324

• Положительные и отрицательные нормализованные числа, ближайшие к нулю (представленные двоичным значением 1 в поле Exp и 0 в поле дроби), следующие:

  ±1 × 2–1022 ^{≈ ±} 2,22507 × 10–308

• Конечные положительные и конечные отрицательные числа, наиболее удаленные от нуля (представленные значением 2046 в поле Exp и всеми единицами в поле дроби), равны

  ±(2−2−52 ⁾ × 2 ^{1023 [5]} ≈ ±1,79769 × 10³⁰⁸

Некоторые примеры значений диапазона и промежутка для заданных показателей степени с двойной точностью:

Расширенные форматы

Стандарт также рекомендует использовать расширенный формат(ы) для выполнения внутренних вычислений с более высокой точностью, чем требуется для конечного результата, чтобы минимизировать ошибки округления: стандарт определяет только минимальные требования к точности и показателю для таких форматов. Расширенный формат x87 80-бит является наиболее часто реализуемым расширенным форматом, который соответствует этим требованиям.

Примеры

Вот несколько примеров представлений IEEE 754 с одинарной точностью:

Сравнение чисел с плавающей точкой

Каждая возможная комбинация битов — это либо NaN, либо число с уникальным значением в аффинно расширенной системе действительных чисел с соответствующим порядком, за исключением двух комбинаций битов для отрицательного нуля и положительного нуля, которые иногда требуют особого внимания (см. ниже). Двоичное представление обладает особым свойством, заключающимся в том, что, за исключением NaN, любые два числа можно сравнивать как целые числа со знаком и величиной ( применяются проблемы с порядком байтов ). При сравнении как целых чисел с дополнением до 2 : если биты знака различаются, отрицательное число предшествует положительному числу, поэтому дополнение до 2 дает правильный результат (за исключением того, что отрицательный ноль и положительный ноль следует считать равными). Если оба значения положительны, сравнение с дополнением до 2 снова дает правильный результат. В противном случае (два отрицательных числа) правильный порядок FP противоположен порядку с дополнением до 2.

Ошибки округления, присущие вычислениям с плавающей точкой, могут ограничивать использование сравнений для проверки точного равенства результатов. Выбор приемлемого диапазона — сложная тема. Распространенным методом является использование значения эпсилон сравнения для выполнения приблизительных сравнений. ^[6] В зависимости от того, насколько снисходительны сравнения, распространенными значениями являются 1e-6или 1e-5для одинарной точности, и 1e-14для двойной точности. ^{[7] [8]} Другим распространенным методом является ULP, который проверяет, какова разница в последних цифрах, эффективно проверяя, на сколько шагов отличаются два значения. ^[9]

Хотя отрицательный ноль и положительный ноль обычно считаются равными для целей сравнения, некоторые реляционные операторы языков программирования и подобные конструкции рассматривают их как разные. Согласно спецификации языка Java ^[10] , операторы сравнения и равенства рассматривают их как равные, но и различают их (официально начиная с версии Java 1.1, но фактически с 1.1.1), как и методы сравнения , и даже классов и .Math.min()Math.max()equals()compareTo()compare()FloatDouble

Округление чисел с плавающей точкой

Стандарт IEEE предусматривает четыре различных режима округления: первый используется по умолчанию, остальные называются направленными округлениями .

• Округление до ближайшего значения – округляет до ближайшего значения; если число попадает на середину, оно округляется до ближайшего значения с четным (нулевым) младшим битом, что означает, что оно округляется в большую сторону в 50% случаев (в IEEE 754-2008 этот режим называется roundTiesToEven, чтобы отличать его от другого режима округления до ближайшего значения)
• Округление к 0 – направленное округление к нулю
• Округление в сторону +∞ – направленное округление в сторону положительной бесконечности
• Округление в сторону −∞ – направленное округление в сторону отрицательной бесконечности.

Расширение реальных чисел

Стандарт IEEE использует (и расширяет) аффинно расширенную систему действительных чисел с отдельными положительными и отрицательными бесконечностями. Во время разработки было предложено включить в стандарт проективно расширенную систему действительных чисел с одной беззнаковой бесконечностью, предоставив программистам возможность выбора режима. Однако в интересах снижения сложности окончательного стандарта проективный режим был исключен. Сопроцессоры с плавающей точкой Intel 8087 и Intel 80287 поддерживают этот проективный режим. ^{[11] [12] [13]}

Функции и предикаты

Стандартные операции

Должны быть предусмотрены следующие функции:

• Сложение, вычитание, умножение, деление
• Квадратный корень
• Остаток с плавающей точкой. Это не похоже на обычную операцию по модулю , она может быть отрицательной для двух положительных чисел. Она возвращает точное значение x–(round(x/y)·y) .
• Округлить до ближайшего целого числа . Для ненаправленного округления, когда число находится посередине между двумя целыми числами, выбирается четное целое число.
• Операции сравнения. Помимо более очевидных результатов, IEEE 754 определяет, что −∞ = −∞, +∞ = +∞ и x  ≠  NaNдля любого x (включая NaN).

Рекомендуемые функции и предикаты

• copysign(x,y)возвращает x со знаком y, поэтому abs(x)равно copysign(x,1.0). Это одна из немногих операций, которая работает с NaN способом, напоминающим арифметику. Функция copysignявляется новой в стандарте C99.
• −x возвращает x с обратным знаком. Это отличается от 0−x в некоторых случаях, особенно когда x равен 0. Так что −(0) равно −0, но знак 0−0 зависит от режима округления.
• scalb(y, N)
• logb(x)
• finite(x)предикат для «x — конечное значение», эквивалентный −Inf < x < Inf
• isnan(x)предикат для «x is a NaN», эквивалентный «x ≠ x»
• x <> y( x .LG. yв Фортране ), который, как оказалось, ведет себя иначе, чем NOT(x = y)( x .NE. yв Фортране, x != yв Си ) ^[14] из-за NaN.
• unordered(x, y)истинно, когда «x не упорядочен с y», т.е. либо x, либо y является NaN.
• class(x)
• nextafter(x,y)возвращает следующее представимое значение из x в направлении к y

История

В 1976 году Intel начала разработку сопроцессора с плавающей точкой . ^{[15] [16]} Intel надеялась продать чип, содержащий хорошие реализации всех операций, имеющихся в самых разных библиотеках математического программного обеспечения. ^{[15] [17]}

Джон Палмер, который руководил проектом, считал, что усилия должны быть подкреплены стандартом, унифицирующим операции с плавающей точкой на разных процессорах. Он связался с Уильямом Каханом из Калифорнийского университета , который помог улучшить точность калькуляторов Hewlett-Packard . Кахан предложил Intel использовать плавающую точку VAX от Digital Equipment Corporation (DEC). Первый VAX, VAX-11/780, только что вышел в конце 1977 года, и его плавающая точка была высоко оценена. Однако, стремясь вывести свой чип на максимально широкий рынок, Intel хотела получить наилучшую возможную плавающую точку, и Кахан продолжил составлять спецификации. ^[15] Кахан изначально рекомендовал, чтобы основание с плавающей точкой было десятичным ^{[18] [ ненадежный источник? ],} но аппаратная конструкция сопроцессора была слишком продвинута, чтобы внести это изменение.

Работа в Intel беспокоила других поставщиков, которые организовали стандартизацию, чтобы обеспечить «равные условия». Кахан посетил второе заседание рабочей группы по стандартам IEEE 754, состоявшееся в ноябре 1977 года. Впоследствии он получил разрешение от Intel выдвинуть проект предложения, основанный на его работе для их сопроцессора; ему было разрешено объяснить детали формата и его обоснование, но не что-либо, связанное с архитектурой реализации Intel. Проект был написан совместно с Джеромом Куненом и Гарольдом Стоуном и изначально был известен как «предложение Кэхана-Кунена-Стоуна» или «формат KCS». ^{[15] [16] [17] [19]}

Поскольку 8-битная экспонента была недостаточно широкой для некоторых операций, требуемых для чисел двойной точности, например, для хранения произведения двух 32-битных чисел, ^[20] и предложение Кахана, и контрпредложение DEC использовали 11 бит, как проверенный временем 60-битный формат с плавающей точкой CDC 6600 1965 года. ^{[16] [19] [21]} Предложение Кахана также предусматривало бесконечности, которые полезны при работе с условиями деления на ноль; нечисловые значения, которые полезны при работе с недопустимыми операциями; ненормальные числа , которые помогают смягчить проблемы, вызванные потерей значимости; ^{[19] [22] [23]} и более сбалансированное смещение экспоненты , которое может помочь избежать переполнения и потери значимости при взятии обратной величины числа. ^{[24] [25]}

Еще до того, как проект стандарта был одобрен, его уже внедрили несколько производителей. ^{[26] [27]} Intel 8087, анонсированный в 1980 году, стал первым чипом, реализовавшим проект стандарта.

Сопроцессор с плавающей точкой Intel 8087

В 1980 году уже был выпущен чип Intel 8087 ^[28], но DEC по-прежнему выступала против ненормальных чисел, в частности из-за проблем с производительностью, а также потому, что это дало бы DEC конкурентное преимущество в виде стандартизации на основе формата DEC.

Споры по поводу постепенного подтока продолжались до 1981 года, когда эксперт, нанятый DEC для его оценки, выступил против несогласных. DEC провел исследование, чтобы продемонстрировать, что постепенное подтока было плохой идеей, но исследование пришло к противоположному выводу, и DEC сдалась. В 1985 году стандарт был ратифицирован, но годом ранее он уже стал фактическим стандартом, внедренным многими производителями. ^{[16] [19] [5]}

Смотрите также

• IEEE 754
• Minifloat для простых примеров свойств чисел с плавающей точкой IEEE 754
• Арифметика с фиксированной точкой

Примечания

1. Точность: Точность числа десятичных цифр вычисляется с помощью number_of_mantissa_bits * Log ₁₀ (2). Таким образом, ~7,2 и ~15,9 для одинарной и двойной точности соответственно.

Ссылки

1. Стандарт IEEE для двоичной арифметики с плавающей точкой . 1985. doi :10.1109/IEEESTD.1985.82928. ISBN 0-7381-1165-1.
2. "ANSI/IEEE Std 754-2019". 754r.ucbtest.org . Получено 2019-08-06 .
3. Хеннесси (2009). Организация и дизайн компьютеров . Морган Кауфманн. стр. 270. ISBN 9780123744937.
4. Хоссам А. Х. Фахми; Шломо Васер; Майкл Дж. Флинн, Компьютерная арифметика (PDF) , заархивировано из оригинала (PDF) 2010-10-08 , извлечено 2011-01-02
5. Уильям Кахан (1 октября 1997 г.). "Lecture Notes on the Status of IEEE 754" (PDF) . Калифорнийский университет в Беркли . Получено 12 апреля 2007 г.
6. "Godot math_funcs.h". GitHub.com . 30 июля 2022 г.
7. "Godot math_defs.h". GitHub.com . 30 июля 2022 г.
8. "Godot MathfEx.cs". GitHub.com .
9. "Сравнение чисел с плавающей точкой, издание 2012 г.". randomascii.wordpress.com . 26 февраля 2012 г.
10. "Спецификации языка Java и виртуальной машины". Документация Java .
11. Джон Р. Хаузер (март 1996 г.). «Обработка исключений с плавающей точкой в ​​числовых программах» (PDF) . Труды ACM по языкам и системам программирования . 18 (2): 139–174. doi : 10.1145/227699.227701 . S2CID  9820157.
12. Дэвид Стивенсон (март 1981 г.). «IEEE Task P754: Предлагаемый стандарт для двоичной арифметики с плавающей точкой». IEEE Computer . 14 (3): 51–62. doi :10.1109/CM.1981.220377. S2CID  15523399.
13. Уильям Кахан и Джон Палмер (1979). «О предложенном стандарте с плавающей точкой». Информационный бюллетень SIGNUM . 14 (Специальный): 13–21. doi :10.1145/1057520.1057522. S2CID  16981715.
14. ISO/IEC 9899:1999 - Языки программирования - C. Iso.org. §7.12.14.
15. "Intel и плавающая точка - обновление одного из самых успешных стандартов в отрасли - технологическое видение стандарта плавающей точки" (PDF) . Intel . 2016. Архивировано из оригинала (PDF) 2016-03-04 . Получено 2016-05-30 .(11 страниц)
16. "Интервью со старым человеком с плавающей точкой". cs.berkeley.edu. 1998-02-20 . Получено 2016-05-30 .
17. Woehr, Jack, ed. (11.11.1997). "Беседа с Уильямом Кэханом". Dr. Dobb's . drdobbs.com . Получено 30.05.2016 .
18. W. Kahan 2003, личное сообщение Майку Коулишоу и другим после встречи IEEE 754
19. "IEEE 754: Интервью с Уильямом Кэханом" (PDF) . dr-chuck.com . Получено 2016-06-02 .
20. "IEEE против Microsoft Binary Format; Rounding Issues (Complete)". Поддержка Microsoft . Microsoft . 2006-11-21. Идентификатор статьи KB35826, Q35826. Архивировано из оригинала 2020-08-28 . Получено 2010-02-24 .
21. Торнтон, Джеймс Э. (1970). Написано в Advanced Design Laboratory, Control Data Corporation. Проектирование компьютера: The Control Data 6600 (PDF) (1-е изд.). Гленвью, Иллинойс, США: Scott, Foresman and Company . LCCN  74-96462. Архивировано (PDF) из оригинала 28.08.2020 . Получено 02.06.2016 .(1+13+181+2+2 страницы)
22. Кахан, Уильям Мортон . "Зачем нам нужен стандарт арифметики с плавающей точкой?" (PDF) . cs.berkeley.edu . Получено 2016-06-02 .
23. Кахан, Уильям Мортон ; Дарси, Джозеф Д. «Как плавающая точка Java вредит всем и везде» (PDF) . cs.berkeley.edu . Получено 2016-06-02 .
24. Тернер, Питер Р. (2013-12-21). Численный анализ и параллельная обработка: Лекции, прочитанные в Ланкастере…. Springer. ISBN 978-3-66239812-8. Получено 2016-05-30 .
25. "Имена для стандартизированных форматов с плавающей точкой" (PDF) . cs.berkeley.edu . Получено 2016-06-02 .
26. Чарльз Северанс (20 февраля 1998 г.). «Интервью со стариком плавающей точки».
27. Чарльз Северанс . "История формата чисел с плавающей точкой IEEE". Connexions. Архивировано из оригинала 20.11.2009.
28. "Молекулярные выражения: наука, оптика и вы - Olympus MIC-D: Галерея интегральных схем - Математический сопроцессор Intel 8087". micro.magnet.fsu.edu . Получено 2016-05-30 .

Дальнейшее чтение

• Charles Severance (март 1998 г.). "IEEE 754: интервью с Уильямом Кэханом" (PDF) . IEEE Computer . 31 (3): 114–115. doi :10.1109/MC.1998.660194. S2CID  33291145. Архивировано из оригинала (PDF) 2009-08-23 . Получено 2008-04-28 .
• Дэвид Голдберг (март 1991 г.). «Что каждый специалист по информатике должен знать об арифметике с плавающей точкой» (PDF) . ACM Computing Surveys . 23 (1): 5–48. doi :10.1145/103162.103163. S2CID  222008826 . Получено 28.04.2008 .
• Крис Хеккер (февраль 1996 г.). «Let's Get To The (Floating) Point» (PDF) . Game Developer Magazine : 19–24. ISSN  1073-922X. Архивировано из оригинала (PDF) 2007-02-03.
• Дэвид Моннио (май 2008 г.). «Подводные камни проверки вычислений с плавающей точкой». Труды ACM по языкам и системам программирования . 30 (3): 1–41. arXiv : cs/0701192 . doi :10.1145/1353445.1353446. ISSN  0164-0925. S2CID  218578808.: Сборник неинтуитивных поведений вычислений с плавающей точкой на популярных архитектурах, имеющих значение для проверки и тестирования программ.

Внешние ссылки

• Сравнение поплавков
• Coprocessor.info: изображения x87 FPU, информация о разработке и производителе
• IEEE 854-1987 — История и протоколы
• Онлайн-конвертер IEEE754 (одинарная и двойная точность)