부동소수점

3. 원리

컴퓨터 프로그래밍이나 전자계산기 등에서 밑수가 10인 경우 로마자 E 또는 e를 사용하여 함수 형태로 표시하기도 하는데, -0.4는 -0.04E+1 또는 -0.04e+1이 되며, 정규화하면 -4E-1 또는 -4e-1로 쓴다.^[122] 만약 사용할 밑수를 미리 정해 놓는다면 가수와 지수만으로 실수를 표현할 수 있다. 예를 들어, 앞의 보기에서 밑수를 10으로 고정한다면 실수 -0.4는 가수 -4와 지수 -1의 조합으로 나타낼 수 있다. 보다 정형화된 형태로는 가수부와 지수부의 자릿수를 고정할 수 있는데, 만약 밑수는 10이고 부호는 따로 표시하며, 가수부 5자리, 지수부 3자리로 하는 형식이라면 앞의 값 -0.4는 '부호 -, 가수 40000, 지수 -005'로 나타낼 수 있다.

부동소수점 표현 방식은 수를 (가수)×(밑수)^(지수)와 같이 유효숫자를 사용한 곱셈 형태로 표현한다. 예를 들어, -0.4를 밑수가 10인 부동소수점으로 나타내면 -0.04×10¹이 되며, 밑수가 2이면 -0.8×2^-1가 된다. 이처럼 가수의 첫째 자리가 밑수보다 작은 한자리 자연수가 되도록 바꾸는 것을 정규화라고 한다. 예를 들어, -0.8×2^-1을 정규화하면 -1.6×2^-2이 된다.

이진법에서는 정규화 결과 가수의 첫째 자리가 항상 1이 되므로, 이 표시는 생략할 수 있다.^[122] 따라서 고정된 형식에서 가수부에 1자리를 더 표시할 수 있게 되므로, 처리할 수 있는 유효숫자가 1자리만큼 늘어난다. 앞의 예 1.6×2^-2를 이 방식으로 표현하면 '부호 +, 가수 60000, 지수 -002'가 된다.

지수부에는 따로 부호 비트가 없기 때문에 음수 지수를 처리하기 위해 보통 바이어스 표현법을 사용한다. 할당된 자릿수로 표현 가능한 전체 영역을 반으로 나누어, 작은 영역에는 음수값 및 0, 큰 영역에는 양수값이 차례대로 1:1 대응되도록 한다. 예를 들어, 지수부를 8비트로 표현한다면 모두 256가지 수를 나타낼 수 있는데, 이것을 반으로 나누어 음수 127개와 0, 양수 128개를 차례대로 대응시킨다. 따라서 비트열 00000000은 지수 -127을 나타내고, 01111111은 지수 0, 11111111은 지수 128을 나타낸다. 일반적으로 지수부가 n비트일 때 (2ⁿ / 2 - 1 = 2^n-1 - 1)을 지수 값에 더하며, 이것을 바이어스 상수라고 한다. (다만, 지수부의 모든 자리가 모두 0 또는 1인 경우는 각각 0 또는 무한대를 나타내는 등 종종 특수한 목적으로 예약되어 있다.) 가수부에서는 정규화 결과 유효숫자의 첫째 자리는 언제나 1이므로 표시하지 않고, 소수 부분만 표현한다.

4. 정확도 문제

부동 소수점으로 표현한 수는 실수를 정확하게 표현하지 못하고, 부동 소수점 연산 역시 실제 수학적 연산을 정확하게 표현하지 못한다.^[125]

예를 들어, 0.1과 0.01은 24비트 단정밀도 표현으로 정확하게 표현할 수 없다. 십진수 0.1은 이진수로 표현하면 다음과 같다.

:정확히 0.1000000014901161193847656256

이 수를 제곱하면 다음과 같다.

:정확히 0.010000000298023226097399174250313080847263336181640625

단정밀도 부동 소수점 (반올림 있음) 하드웨어에서 제곱하면 다음과 같다.

:정확히 0.010000000707805156707763671875

하지만 0.01과 가장 가까운 표현 가능한 실수는 다음과 같다.

:정확히 0.009999999776482582092285156250

또한, π (및 π/2)를 표현하지 못하므로 tan(π/2)가 무한대가 되지 않고 오버플로(overflow)도 생기지 않는다. 따라서 일반적인 부동소수점 하드웨어에서는 tan(π/2)를 계산하는 것이 불가능하다. C 언어에서 다음 계산 결과는 16331239353195370.0 이 된다.

```c

double pi = 3.1415926535897932384626433832795;

double z = tan(pi/2.0);

```

단정밀도에서는 (tanf 함수를 이용하여), −22877332.0 라는 결과를 얻는다.

같은 이유로 sin(π)는 0이 되지 않고 배정밀도에서 약 0.1225, 단정밀도에서 −0.8742가 된다.^[125]

부동소수점 덧셈과 곱셈은 교환법칙은 성립하지만, 결합법칙이 항상 성립하지 않는다. 즉, (''a'' + ''b'') + ''c'' 가 항상 ''a'' + (''b'' + ''c'') 와 같지 않다.

예를 들어 7자리 부동소수점(Float 7) 10진수 계산을 할 때:

• 1234.567 + 45.67846 = 1280.245
• 1280.245 + 0.0004 = 1280.245

• 45.67846 + 0.0004 = 45.67886
• 45.67886 + 1234.567 = 1280.246

• 1234.567 × 3.333333 = 4115.223
• 1.234567 × 3.333333 = 4.115223
• 4115.223 + 4.115223 = 4119.338

• 1234.567 + 1.234567 = 1235.802
• 1235.802 × 3.333333 = 4119.340

• 소거: 거의 같은 두 값을 빼면 정확성을 매우 많이 잃게 된다. 이 문제는 가장 일반적이고 심각한 정확도 문제이다.
• 정수로의 변환 문제: (63.0/9.0)을 정수로 변환하면 7이 되지만 (0.63/0.09)는 6이 된다. 이는 일반적으로 반올림 대신 버림을 하기 때문이다.
• 제한된 지수부: 결과값이 오버플로되어 무한대값이 되거나 언더플로되어 비정규 값 또는 0이 될 수 있다. 비정규 값이 되면 유효숫자를 완전히 잃어버린다.
• 나눗셈이 안전한지 검사하는데 문제가 생김: 제수(나눗수)가 0이 아님을 검사하는 것이 나눗셈이 오버플로되고 무한대값이 되지 않는 걸 보장하지 않는다.
• 같음을 검사하는데 문제가 생김: 수학적으로 같은 계산결과가 나오는 두 계산 순서가 다른 부동소수점 값을 만들어낼 수 있다. 프로그래머는 어느정도의 허용 오차를 가지고 비교를 수행하지만, 그렇다고 해서 문제가 완전히 없어지지 않는다.

5. 규격

IEEE 754는 전기전자공학자협회(IEEE)에서 개발한 컴퓨터에서 부동소수점을 표현하는 가장 널리 쓰이는 표준이다.^[123] 실제 사용되고 있는 부동 소수점 방식은 대부분 IEEE 754 표준을 따른다.^[126] 이 규격에서는 실수를 32비트로 처리하는 단정밀도(single precision)에서는 부호 1비트, 지수부 8비트, 가수부 23비트를 사용하며, 64비트로 처리하는 배정밀도(double precision)에서는 부호 1비트, 지수부 11비트, 가수부 52비트를 사용한다. 4배 정밀도(quadruple precision)에서는 128비트로 부호 1비트, 지수부 15비트, 가수부 112비트를 사용한다.^[126] 16비트로 처리하는 반정밀도(half precsion)에서는 부호 1비트, 지수부 5비트, 가수부 10비트를 사용한다.

과거의 마이크로소프트 제품은 자체 규격인 MBF(Microsoft Binary Format)를 사용했다. 이 형식에서는 배정밀도에서 부호 1비트, 지수 8비트, 가수 55비트를 사용하여 상대적으로 표현 범위가 좁은 대신에 유효숫자가 많으므로 보다 정밀한 값을 표현할 수 있다. 다만 실제 연산 과정에서는 IEEE 754 규격이 80비트 연산을 수행하므로, 연산 자체는 IEEE 754가 정밀하다.

IEEE 754 형식을 파생한 부동 소수점 형식으로, 엔비디아(Nvidia)는 GPU 제품 블랙웰(2024년 3월 발표)에서 AI용을 상정하여 E2M1 형식을 도입했다. E2M1은 부호 비트 1비트, 지수부 2비트, 가수부 1비트로 구성되며, 무한대와 NaN은 표현할 수 없다.^[100][101]

6. 부동소수점 연산

부동소수점 덧셈과 뺄셈은 지수를 맞춘 후 가수부를 더하거나 빼는 방식으로 수행된다. 곱셈은 가수를 곱하고 지수를 더하는 방식으로, 나눗셈은 가수를 나누고 지수를 빼는 방식으로 수행된다.^[34]

예를 들어, 123456.7 + 101.7654를 십진 부동소수점으로 계산하는 과정은 다음과 같다.

:123456.7 = 1.234567 × 10⁵

:101.7654 = 1.017654 × 10² = 0.001017654 × 10⁵

따라서,

:123456.7 + 101.7654 = (1.234567 + 0.001017654) × 10⁵ = 1.235584654 × 10⁵

이는 정확한 합(123558.4654)이며, 필요에 따라 7자리로 반올림하고 정규화하면 1.235585 × 10⁵ (123558.5)가 된다. 이 과정에서 두 번째 피연산자의 마지막 세 자리(654)가 손실되는 반올림 오차가 발생한다. 극단적인 경우, 두 수의 합이 둘 중 하나와 같아질 수도 있다.

바이너리 덧셈/뺄셈에서는 ''가드'' 비트, ''반올림'' 비트, ''스티키'' 비트를 활용하여 정확한 반올림을 보장할 수 있다.^[34][78]

파멸적 상쇄는 거의 같은 두 수의 근사값을 뺄 때 발생한다. 예를 들어 123457.1467과 123456.659의 근사값을 빼면 정확한 결과는 4.877000 × 10^-1이지만, 부동소수점 연산 결과는 4.000000 × 10^-1로 20% 이상 차이가 난다. 심한 경우 모든 유효 자릿수가 손실될 수 있다.^[34][62]

곱셈은 가수를 곱하고 지수를 더하며, 나눗셈은 피제수의 지수에서 제수의 지수를 빼고 피제수의 가수를 제수의 가수로 나눈다. 곱셈/나눗셈은 상쇄나 흡수 문제는 없지만, 연산이 반복되면 작은 오차가 누적될 수 있다.^[34] (부스 곱셈 알고리즘, 나눗셈 알고리즘 참조).^[6]

6. 1. 예외 처리

• 부정확: 반올림된 결과가 정확한 결과와 다를 때 설정된다.
• 언더플로: 반올림된 값이 매우 작고 부정확할 때 설정되며, 0을 포함한 비정규화 수 값을 반환한다.
• 오버플로: 반올림된 값의 절댓값이 너무 커서 표현할 수 없을 때 설정된다. 무한대 또는 최대 유한 값이 반환된다.
• 0으로 나누기: 유한 피연산자에 대해 결과가 무한대일 때 설정되며, +∞ 또는 −∞를 반환한다.
• 무효: 유한 또는 무한 결과를 반환할 수 없을 때(예: 0/0, sqrt(-1)) 설정되며, 조용한 NaN을 반환한다.

• 오버플로/언더플로: 연산 결과가 표현 가능한 범위를 벗어나는 경우이다. 오버플로는 최댓값을 초과하는 경우, 언더플로는 절댓값이 최솟값보다 작은 경우를 의미한다.
• 자릿수 감소: 절댓값이 비슷한 수끼리 더하거나 뺄 때, 유효 숫자가 줄어드는 현상이다. 자세한 내용은 자릿수 감소 문서를 참고
• 정보 손실: 매우 큰 수와 매우 작은 수를 더하거나 뺄 때, 작은 수의 정보가 손실되는 현상이다. 정보 손실문서 참고.
• 누적 손실: 정보 손실이 반복적으로 발생하는 경우이다.
• 반올림 오차: 유한한 자릿수로 인해 발생하는 오차이다.

7. 대안

임의 정밀도 연산과 기존의 지수부와 가수부를 모두 고정 길이로 하는 형식의 중간이라고 할 수 있는 방식이 몇 가지 제안되었다. 절대값이 1에 가까운 값에서는 지수부의 자릿수를 짧게 하고, 가수부의 자릿수를 많이 취하여 자주 사용되는 값을 정밀하게 표현한다. 절대값이 극단적으로 큰 값이나 작은 값에는 정밀도와 교환하여 지수부의 자릿수를 늘리는 것으로 대응한다. 이러한 방식을 제안한 문헌에서는 응용 프로그램으로, 통상적인 부동 소수점 계산에는 지수가 너무 커서 적합하지 않다고 여겨지는 :en:Graeffe's method를 잘 다룰 수 있었다는 예가 제시되었다.

8. 역사

• -는 1914년에 해석 기관을 기반으로 한 부동 소수점 분석을 발표했다.^[2] 그는 숫자가 ''n'' x 10^m과 같은 지수 형식으로 저장될 것이라고 설명했다.^[3]

IBM 7094는 단정밀도 및 배정밀도 표현을 지원했지만 UNIVAC의 표현과는 관련이 없었다. 1964년, IBM은 16진 부동 소수점 표현을 System/360 메인프레임에 도입했다.

초기에는 컴퓨터에서 부동 소수점 숫자에 대해 다양한 표현을 사용했다. 1980년대 초반, 32비트(또는 64비트) 워드가 보편화되면서 IEEE 754 표준이 만들어졌다.

1989년, 윌리엄 카한은 IEEE 754 표준 제안의 주요 설계자라는 공로로 튜링상을 수상했다.^[27]

9. 부동 소수점 형식

IEEE 754 표준 형식 외에도 특정 목적에 맞게 다양한 부동 소수점 형식이 사용되거나 사용되어 왔다.

• Bfloat16 형식은 IEEE 754 반정밀도 형식과 같은 16비트를 사용하지만, 지수부에 8비트를 할당하여 IEEE 754 단정밀도와 비슷한 범위를 가진다. 정밀도는 7비트로 줄어드는데, 이는 기계 학습 모델 훈련과 같이 정밀도보다 범위가 중요한 경우에 유용하다.
• TensorFloat-32^[61] 형식은 Bfloat16의 8비트 지수와 반정밀도 형식의 10비트 가수부를 결합하여 19비트 크기를 가진다. Nvidia에서 도입하였으며, Nvidia Ampere 아키텍처 기반 GPU의 Tensor Core에서 하드웨어 지원을 제공한다.
• 호퍼 아키텍처 GPU는 FP8 형식을 제공한다. 반정밀도와 동일한 범위를 갖는 E5M2 형식과, 정밀도는 높지만 범위가 좁은 E4M3 형식이 있다.^[68][69]

• IBM 방식은 System/360에서 도입된 이후 메인프레임에서 사용된 방식이다. 지수부가 2의 멱이 아닌 16의 멱을 나타내는 것이 특징이다.

9. 1. 지수부와 가수부를 가변으로 하는 방식

• 100 = −∞
• 101 = −2
• 110 = −1
• 111 = −0.5
• 000 = 0
• 001 = 0.5
• 010 = 1
• 011 = 2 ~ ∞

• 1000 = −∞
• 1001 = −4
• 1010 = −2
• 1011 = −1.5
• 1100 = −1
• 1101 = −0.75
• 1110 = −0.5
• 1111 = −0.25
• 0000 = 0
• 0001 = 0.25
• 0010 = 0.5
• 0011 = 0.75
• 0100 = 1
• 0101 = 1.5
• 0110 = 2
• 0111 = 4 ~ ∞

• 0 00000 = 0
• 0 00001 = 0.00390625 (1/256)
• 0 00010 = 0.0625 (1/16)
• 0 00100 = 0.25 (1/4)
• 0 01000 = 0.5 (1/2)
• 0 11000 = 2
• 0 11100 = 4
• 0 11110 = 16
• 0 11111 = 256 ~ ∞

• 0 000000 = 0
• 0 000001 = 0.0000152587890625 (1/65536)
• 0 000010 = 0.00390625 (1/256)
• 0 000011 = 0.015625 (1/64)
• 0 000100 = 0.0625 (1/16)
• 0 000110 = 0.125 (1/8)
• 0 001000 = 0.25 (1/4)
• 0 111000 = 4 (2²)
• 0 111010 = 8 (2³,3=(2+4)/2)
• 0 111100 = 16 (2⁴)
• 0 111101 = 64 (2⁶,6=(4+8)/2)
• 0 111110 = 256 (2⁸)
• 0 111111 = 65536 ~ ∞

• "0 10" = 0
• "0 11(1이 n개)0(n개의 비트열 Bn)" = 1Bn (감마 부호의 자릿수 출력, 이후 "1"을 비트 반전)

• "0 01" = "0 10"의 부호 비트 이외 비트 반전 = 2진수 "0" 비트 반전 = −1
• "0 00(0이 n개)1(n개의 비트열 Bn을 비트 반전)" = "0 11(1이 n개)0(n개의 비트열 Bn)"의 부호 비트 이외 비트 반전 = 2진수 "1Bn" 비트 반전 = −(1Bn)−1

• 비트 표현을 2의 보수로 해석해도 값·절대값의 대소 관계가 일치한다.
• 단정밀도, 배정밀도, 4배 정밀도 및 일부 비트를 데이터형 판별 등에 사용하는 7비트, 30비트 등 임의 비트 길이 표현과의 상호 변환·반올림 연산이 최하위 비트 추가/삭제만으로 가능하다.
• 대소 관계 비교 연산, 부호 반전에 필요한 회로 및 알고리즘이 정수와 동일하다.
• 1에 가까울수록 자릿수 대부분이 가수부가 되어 정밀도가 높다.

• 정밀도가 변하므로, 기존의 정밀도 고정을 전제로 한 방식에 수정이 필요할 수 있다.
• −∞를 제외한 모든 비트 표현에 부동소수점 수 의미가 부여되므로, 예외 값 표현 방법을 별도로 고려해야 한다.

• [http://www.johngustafson.net/pdfs/BeatingFloatingPoint.pdf John L. Gustafson and Isaac Yonemoto: "Beating Floating Point at its Own Game: Posit Arithmetic", DOI:10.14529/jsfi170206]
• [https://news.mynavi.jp/techplus/article/20190723-863757/ 「ISC 2019 - 디프 러닝에 최적의 수치 표현 Posit」(마이내비 뉴스 기사, 2019년 7월 23일)]

참조

_[1] 서적 Floating-Point Computation https://archive.org/[...] Prentice-Hall 1974
_[2] 간행물 Automática: Complemento de la Teoría de las Máquinas https://quickclick.e[...] 1914-11-19
_[3] 서적 Numbers and Computers https://books.google[...] Springer 2017
_[4] 간행물 Digital Computers, History of Origins https://dl.acm.org/d[...] 2003-01
_[5] 문서 Computer hardware does not necessarily compute the exact value; it simply has to produce the equivalent rounded result as though it had computed the infinitely precise result.
_[6] 문서 The enormous complexity of modern division algorithm once led to a famous error. An early version of the Intel Pentium chip was shipped with a division instruction that, on rare occasions, gave slightly incorrect results. Many computers had been shipped before the error was discovered. Until the defective computers were replaced, patched versions of compilers were developed that could avoid the failing cases. See Pentium FDIV bug.
_[7] 문서 But an attempted computation of cos(π) yields −1 exactly. Since the derivative is nearly zero near π, the effect of the inaccuracy in the argument is far smaller than the spacing of the floating-point numbers around −1, and the rounded result is exact.
_[8] 문서 William Kahan notes: "Except in extremely uncommon situations, extra-precise arithmetic generally attenuates risks due to roundoff at far less cost than the price of a competent error-analyst."
_[9] 문서 The Taylor expansion of this function demonstrates that it is well-conditioned near 1: A(x) = 1 − (x−1)/2 + (x−1)^2/12 − (x−1)^4/720 + (x−1)^6/30240 − (x−1)^8/1209600 + ... for |x−1| < π.
_[10] 문서 If long double is IEEE quad precision then full double precision is retained; if long double is IEEE double extended precision then additional, but not full precision is retained.
_[11] 문서 The equivalence of the two forms can be verified algebraically by noting that the denominator of the fraction in the second form is the conjugate of the numerator of the first. By multiplying the top and bottom of the first expression by this conjugate, one obtains the second expression.
_[12] 문서 Octal (base-8) floating-point arithmetic is used in the Ferranti Atlas (1962), Burroughs B5500 (1964), Burroughs B5700 (1971), Burroughs B6700 (1971) and Burroughs B7700 (1972) computers.
_[13] 문서 Hexadecimal (base-16) floating-point arithmetic is used in the IBM System 360 (1964) and 370 (1970) as well as various newer IBM machines, in the RCA Spectra 70 (1964), the Siemens 4004 (1965), 7.700 (1974), 7.800, 7.500 (1977) series mainframes and successors, the Unidata 7.000 series mainframes, the Manchester MU5 (1972), the Heterogeneous Element Processor (HEP) (1982) computers, and in 360/370-compatible mainframe families made by Fujitsu, Amdahl and Hitachi. It is also used in the Illinois ILLIAC III (1966), Data General Eclipse S/200 (ca. 1974), Gould Powernode 9080 (1980s), Interdata 8/32 (1970s), the SEL Systems 85 and 86 as well as the SDS Sigma 5 (1967), 7 (1966) and Xerox Sigma 9 (1970).
_[14] 문서 Base-65536 floating-point arithmetic is used in the MANIAC II (1956) computer.
_[15] 문서 Quaternary (base-4) floating-point arithmetic is used in the Illinois ILLIAC II (1962) computer. It is also used in the Digital Field System DFS IV and V high-resolution site survey systems.
_[16] 문서 Base-256 floating-point arithmetic is used in the Rice Institute R1 computer (since 1958).
_[17] 문서 The significand of a floating-point number is also called mantissa by some authors—not to be confused with the mantissa of a logarithm. Somewhat vague, terms such as coefficient or argument are also used by some. The usage of the term fraction by some authors is potentially misleading as well. The term characteristic (as used e.g. by CDC) is ambiguous, as it was historically also used to specify some form of exponent of floating-point numbers.
_[18] 문서 The exponent of a floating-point number is sometimes also referred to as scale. The term characteristic (for biased exponent, exponent bias, or excess n representation) is ambiguous, as it was historically also used to specify the significand of floating-point numbers.
_[19] 서적 The Scientist and Engineer's Guide to Digital Signal Processing California Technical Pub 2012-12-31
_[20] 학술지 Konrad Zuse's Legacy: The Architecture of the Z1 and Z3 http://ed-thelen.org[...] 2022-07-03
_[21] arXiv The Z1: Architecture and Algorithms of Konrad Zuse's First Computer 2014-06-07
_[22] 웹사이트 The Baleful Effect of Computer Languages and Benchmarks upon Applied Mathematics, Physics and Chemistry. John von Neumann Lecture https://people.eecs.[...] 1997-07-15
_[23] 서적 The Origins of Digital Computers: Selected Papers Springer-Verlag 1982
_[24] 웹사이트 How Java's floating-point hurts everyone everywhere https://people.eecs.[...] 2001
_[25] 웹사이트 On the Cost of Floating-Point Computation Without Extra-Precise Arithmetic https://people.eecs.[...] 2004-11-20
_[26] 웹사이트 How Futile are Mindless Assessments of Roundoff in Floating-Point Computation? https://people.eecs.[...] 2006-01-11
_[27] 웹사이트 An Interview with the Old Man of Floating-Point https://people.eecs.[...] 1998-02-20
_[28] 웹사이트 Lecture Notes on the Status of IEEE Standard 754 for Binary Floating-Point Arithmetic https://people.eecs.[...] 1997-10-01
_[29] 서적 Intel 64 and IA-32 Architectures Software Developers' Manuals
_[30] 서적 Accuracy and Stability of Numerical Algorithms https://books.google[...] Society for Industrial and Applied Mathematics (SIAM) 2002
_[31] 웹사이트 openEXR http://www.openexr.c[...] openEXR
_[32] 웹사이트 Technical Introduction to OpenEXR – The half Data Type https://openexr.com/[...] openEXR
_[33] 웹사이트 IEEE-754 Analysis https://christopherv[...]
_[34] 학술지 What Every Computer Scientist Should Know About Floating-Point Arithmetic 1991-03
_[35] 학술지 You're Going To Have To Think! http://accu.org/var/[...] 2010-10
_[36] 웹사이트 Patriot missile defense, Software problem led to system failure at Dharhan, Saudi Arabia http://www.gao.gov/p[...] US Government Accounting Office
_[37] 논문 Roundoff Error and the Patriot Missile https://www-users.cs[...] 1992-07-01
_[38] 서적 Encyclopedia of Computer Science https://books.google[...] Wiley 2003-09-08
_[39] 서적 Accuracy and reliability in scientific computing https://books.google[...] Society for Industrial and Applied Mathematics (SIAM) 2005-01-01
_[40] Keynote Address Floating-Point Arithmetic Besieged by "Business Decisions" https://people.eecs.[...] 2005-07-15
_[41] 서적 Writing Scientific Software: A Guide to Good Style https://books.google[...] Cambridge University Press 2006-09-07
_[42] 간행물 Desperately Needed Remedies for the Undebuggability of Large Floating-Point Computations in Science and Engineering https://people.eecs.[...] 2011-08-03
_[43] 웹사이트 Why do we need a floating-point arithmetic standard? https://people.eecs.[...] 1981-02-12
_[44] 웹사이트 Lecture notes of System Support for Scientific Computation http://www.cims.nyu.[...] 2001-06-04
_[45] 웹사이트 General Decimal Arithmetic https://speleotrove.[...] Speleotrove.com
_[46] 웹사이트 Marketing versus Mathematics https://people.eecs.[...] 2000-08-27
_[47] 논문 Adaptive Precision Floating-Point Arithmetic and Fast Robust Geometric Predicates 1997-01-01
_[48] 웹사이트 perlfaq4 / Why is int() broken? https://perldoc.perl[...] perldoc.perl.org 2006-01-01
_[49] 웹사이트 Roundoff Degrades an Idealized Cantilever https://people.eecs.[...] 1997-07-03
_[50] 서적 Handbook of Floating-Point Arithmetic https://books.google[...] Birkhäuser 2010-01-01
_[51] 웹사이트 The Decimal Floating-Point Standard http://www.quadibloc[...] 2018-01-01
_[52] 웹사이트 Rechnerarithmetik: Fest- und Gleitkommasysteme https://users.fmi.un[...] Friedrich-Schiller-Universität Jena 2008-01-01
_[53] 웹사이트 MANIAC II http://bitsavers.org[...] Los Alamos Scientific Laboratory of the University of California 1957-01-30
_[54] 서적 The Mathematical-Function Computation Handbook - Programming Using the MathCW Portable Software Library Springer International Publishing AG 2017-08-22
_[55] 서적 High Resolution Site Surveys CRC Press 2000-12-07
_[56] 웹사이트 IEEE Floating-Point Representation https://learn.micros[...] 2021-08-03
_[57] 웹사이트 Using the GNU Compiler Collection, i386 and x86-64 Options https://gcc.gnu.org/[...]
_[58] 웹사이트 long double (GCC specific) and __float128 https://stackoverflo[...]
_[59] 웹사이트 Procedure Call Standard for the ARM 64-bit Architecture (AArch64) http://infocenter.ar[...] 2013-05-22
_[60] 웹사이트 ARM Compiler toolchain Compiler Reference, Version 5.03 http://infocenter.ar[...] 2013-01-01
_[61] 웹사이트 TensorFloat-32 in the A100 GPU Accelerates AI Training, HPC up to 20x https://blogs.nvidia[...] 2020-05-14
_[62] 특허 Floating decimal point arithmetic control means for calculator
_[63] 웹사이트 PEP 485 -- A Function for testing approximate equality https://www.python.o[...]
_[64] 서적 ISO/IEC 9899:1999 - Programming languages - C Iso.org
_[65] 웹사이트 IEEE vs. Microsoft Binary Format; Rounding Issues (Complete) https://www.betaarch[...] Microsoft 2006-11-21
_[66] 웹사이트 Create your own Version of Microsoft BASIC for 6502 http://www.pagetable[...] pagetable.com 2008-10-20
_[67] TI1431C.txt Converting between Microsoft Binary and IEEE formats https://community.em[...] Embarcadero USA / Inprise (originally: Borland) 1998-07-02
_[68] 웹사이트 NVIDIA Hopper Architecture In-Depth https://developer.nv[...] 2022-03-22
_[69] 논문 FP8 Formats for Deep Learning 2022-09-12
_[70] 기술보고서 Correctly Rounded Binary-Decimal and Decimal-Binary Conversions 1990-01-01
_[71] conference Printing floating-point numbers quickly and accurately with integers https://www.cs.tufts[...] 2010
_[72] 웹사이트 Added Grisu3 algorithm support for double.ToString(). by mazong1123 · Pull Request #14646 · dotnet/coreclr https://github.com/d[...]
_[73] journal Ryū: fast float-to-string conversion 2018-12-02
_[74] 웹사이트 The Schubfach way to render doubles https://drive.google[...]
_[75] 웹사이트 abolz/Drachennest https://github.com/a[...] 2022-11-10
_[76] 웹사이트 google/double-conversion https://github.com/g[...] 2020-09-21
_[77] journal Number parsing at a gigabyte per second 2021-03-22
_[78] book Computer Organization and Design, The Hardware/Software Interface Elsevier 2014
_[79] 웹사이트 Auto-Vectorization in LLVM https://llvm.org/doc[...]
_[80] 웹사이트 FloatingPointMath https://gcc.gnu.org/[...]
_[81] 웹사이트 55522 – -funsafe-math-optimizations is unexpectedly harmful, especially w/ -shared https://gcc.gnu.org/[...]
_[82] 웹사이트 Code Gen Options (The GNU Fortran Compiler) https://gcc.gnu.org/[...]
_[83] 웹사이트 Bug in zheevd · Issue #43 · Reference-LAPACK/lapack https://github.com/R[...]
_[84] conference Icing: Supporting Fast-Math Style Optimizations in a Verified Compiler 2019
_[85] book コンピュータの構成と設計 第5版 上 日経BP
_[86] 웹사이트 bfloat16 の数値形式 https://cloud.google[...] null
_[87] 웹사이트 Arm A profile architecture update 2019 - Processors blog - Processors - Arm Community https://community.ar[...]
_[88] 웹사이트 FP8 Formats for Deep Learning https://arxiv.org/ab[...] null
_[89] 웹사이트 OCP 8-bit Floating Point Specification (OFP8) Revision 1.0 https://www.opencomp[...] null
_[90] 웹사이트 ArmがAI開発の促進に向け米国大手テック企業との戦略的パートナーシップを発表 https://monoist.itme[...] null
_[91] 웹사이트 P3109/Public: materials available to the public https://github.com/P[...] null
_[92] 웹사이트 Habana® Gaudi2® AI Processor for Deep Learning Gets Even Better https://www.intel.co[...] null
_[93] 웹사이트 NVIDIA Hopper Architecture In-Depth | NVIDIA Technical Blog https://developer.nv[...]
_[94] 웹사이트 AMD Instinct™ MI300 Series Accelerators https://www.amd.com/[...] null
_[95] 웹사이트 AMD Versal™ AI Edge Series Gen 2 https://www.amd.com/[...]
_[96] 웹사이트 Hybrid 8-bit Floating Point (HFP8) Training and Inference for Deep Neural Networks https://papers.neuri[...] null
_[97] 웹사이트 Enter Dojo: Tesla Reveals Design for Modular Supercomputer & D1 Chip https://www.hpcwire.[...] null
_[98] 웹사이트 8-bit Numerical Formats for Deep Neural Networks https://arxiv.org/ab[...] null
_[99] 웹사이트 Low Precision FP8 Floating-Point Formats for Machine Learning Marius Cornea, Intel Corp. December 2022 https://123646052721[...]
_[100] 웹사이트 OCP Microscaling Formats (MX) Specification Version 1.0 https://www.opencomp[...] null
_[101] 웹사이트 NVIDIA Tensor Cores: Versatility for HPC & AI https://www.nvidia.c[...] null
_[102] 서적 パターソン＆ヘネシー『コンピュータの構成と設計 第3版 別冊 歴史展望』第3章 pp. 53-55
_[103] 서적 『ハッカーのたのしみ』15章3節（pp. 283-285）
_[104] 논문 あふれのない浮動小数点表示方式 1980-07
_[105] 서적 共立『アルゴリズム辞典』p. 677
_[106] 논문 Data Length Independent Real Number Representation Based on Double Exponential Cut 1987-03-31
_[107] 웹사이트 (25-9) 新しい数値表現法URR http://www.ipsj.or.j[...] 1984-01
_[108] 문서 射影モード
_[109] 논문 二重指数分割に基づくデータ長独立実数値表現法 1981-11
_[110] 논문 二重指数分割に基づくデータ長独立実数値表現法 II 1983-03
_[111] 웹사이트 鎌田誠による解説 http://homepage2.nif[...]
_[112] 논문 各種浮動小数点表現法の評価方式の実現 https://cir.nii.ac.j[...] 1988-08-15
_[113] 논문 URR浮動小数点数のための高速演算装置の基本設計と実装 https://cir.nii.ac.j[...] 2008
_[114] 논문 Overflow/underflow-free floating-point number representations with self-delimiting variable-length exponent field
_[115] 논문 多重指数部を持つ実数表現方式の標準案 http://id.nii.ac.jp/[...] 1994-09-20
_[116] 논문 拡張した二重指数分割表現による数値表現法に関する研究 http://id.nii.ac.jp/[...] 1995-10-18
_[117] 논문 3重指数分割による数値表現方式について https://ci.nii.ac.jp[...] 1988
_[118] 논문 新しい可変長指数部浮動小数点数表現形式の提案 http://id.nii.ac.jp/[...] 1997-05-09
_[119] 논문 一般化した二重指数分割に基づく数値表現法 http://id.nii.ac.jp/[...] 1998-03-15
_[120] 문서 정보통신표준용어에 따른 표기. 순화용어는 "떠돌이 소수점"이다.
_[121] 문서 본래 이진법에서는 십진수 소수가 정확히 표현되지 않는다.
_[122] 서적
_[123] 서적
_[124] 서적
_[125] 문서 하지만 cos(π)는 정확히 −1이 된다. 도함수가 π 근처에서 0에 가까우므로, 인자의 부정확함이 −1 근처의 부동소수점 수들의 간격보다 훨씬 작아지고 따라서 반올림한 결과는 정확하게 나온다.
_[126] 문서 이 16바이트 규격은 IEEE 754 규격서에 직접 명시되어 있지는 않다.