고정소수점

3. 표현

고정 소수점 수는 정수에 스케일링 인자(Scaling factor)를 곱하여 표현한다. 예를 들어 1.23은 스케일링 인자 1/1000을 곱한 정수 1230으로, 1230000은 스케일링 인자 1000을 곱한 정수 1230으로 표현할 수 있다. 이를 통해 산술 논리 장치에서 유리수 계산을 할 수 있다.

음수는 주로 2의 보수 표현을 사용한다. 값의 부호는 항상 첫 번째 비트로 표시된다. 예를 들어 8비트 부호 있는 이진 정수 (11110101)₂ = −11은 -3개의 암묵적 소수 비트와 함께 -88, +5개의 암묵적 소수 비트와 함께 -0.34375, +12개의 암묵적 소수 비트와 함께 -0.002685546875의 값을 나타낼 수 있다.

프로그램은 일반적으로 모든 고정 소수점 값이 동일한 스케일링 인자를 갖는다고 가정한다. 이 스케일링 인자는 저장할 값의 정밀도 및 범위를 고려하여 프로그래머가 선택한다. 스케일링 인자는 프로그램에 명시적으로 나타나지 않을 수 있으므로, 소스 코드의 주석으로 문서화하는 것이 좋다.

고정 소수점 방식은 부동소수점 방식에 비해 표현 가능한 값의 범위는 좁지만, 고속 연산이 가능하다는 장점이 있다. 특히 컴퓨터 그래픽스에서 좌표나 화소 값 계산, 디지털 신호 프로세서에서 신호 처리 등에 사용된다. 또한, 10진법 소수를 2진법으로 변환할 때 발생하는 오차를 피하기 위해 10진법 고정 소수점 수를 사용하기도 한다.^[2]

고정 소수점 방식에서 유효 자릿수를 충분히 확보하려면, 부호 비트를 제외한 최상위 자릿수가 1인 범위를 유지해야 한다. 상대 오차는 자릿수가 n자리일 때 1/2ⁿ이며, 표현하려는 숫자가 0에 가까워지면 유효 자릿수가 감소하므로 주의해야 한다.

어떤 실수 x를 고정 소수점 수 n으로 나타낼 때, 최하위 비트를 L, 오프셋을 O라고 하면, 다음과 같이 표현할 수 있다.

:n = round( (x - O) / L )

고정 소수점 수 n에서 실수 x는 다음과 같이 구할 수 있다.

:x = Ln + O

3. 1. 스케일링 인자 선택

2^''n''-1 형태의 스케일링 팩터(1, 3, 7, 15, 31 등)를 갖는 고정 소수점 형식은 이미지 처리 및 기타 디지털 신호 처리 작업에 적합하다고 알려져 있다. 이는 일반적인 2^''n'' 스케일링보다 고정 소수점 값과 부동소수점 값 간의 변환이 더 일관되기 때문이다.

고정 소수점 방식에서 유효 자릿수를 충분히 확보하려면, 부호 비트를 제외한 최상위 자릿수가 1인 범위를 유지해야 한다. 이 때 상대 오차는 자릿수가 n자리일 때 1/2ⁿ이다. 만약 표현하려는 숫자가 0에 가까워져 상위 자릿수가 0으로 채워지거나, 2의 보수 표현의 음수라서 1로 채워진다면 유효 자릿수는 그만큼 감소한다. 따라서, 이 경우 필요한 정밀도를 만족하는지 주의해야 한다.

3. 2. 표현 가능한 값

4. 부동 소수점과의 비교

부동소수점 표현 방식은 밑수와 지수를 사용하여 숫자를 나타내는 반면, 고정 소수점 방식은 밑수와 지수 값을 미리 정해두고 사용한다. 고정 소수점은 정수형 자료형을 기반으로 소수점을 표현할 수 있으며, 부동소수점을 지원하지 않는 연산 장치에서 소수점을 표현하는 데 사용된다. 또한, 정수형 자료형 연산은 부동소수점 자료형 연산보다 빠르다는 장점이 있다.^[1]

고정 소수점 연산은 부동 소수점 연산보다 빠르거나 하드웨어를 덜 사용할 수 있다. 표현 가능한 값의 범위는 고정 소수점이 더 좁지만, 주어진 범위 내에서는 더 높은 정밀도를 가질 수 있다. 고정 소수점 연산은 부동 소수점 장치(FPU) 유무에 영향을 받지 않아 이식성이 좋다.^[1]

고정 소수점은 절대 해상도가 일정하고, 부동 소수점은 상대 해상도가 일정하다. 고정 소수점 연산의 오차는 분석하기 쉽지만, 오버플로를 피하기 위해 프로그래머의 주의가 필요하다.

고정 소수점 방식은 표현 가능한 값의 범위가 좁지만, 정보 손실 없이 고속 연산이 가능하다는 장점이 있다. 컴퓨터 그래픽스에서 좌표나 화소 값과 같이 값의 범위가 제한된 경우, 고정 소수점은 부동 소수점에 비해 빠른 계산을 제공한다. 디지털 신호 프로세서와 같이 신호 처리를 위한 장치에서도 고정 소수점이 주로 사용된다.^[1]

현대 컴퓨터에서는 CPU에 FPU가 부속되어 소수 계산에 부동 소수점을 사용하는 경우가 많지만, 대상 데이터의 특성이나 고속화가 필요한 코덱 등에서는 고정 소수점을 사용하기도 한다.

또한, 10진 소수는 2진 소수로 표현 시 유한 소수가 되지 않아 오차가 발생할 수 있다. 따라서 화폐 계산과 같이 2진법 변환을 피하고 소수점 이하 자릿수를 10진법으로 결정해야 하는 경우, 고정 소수점이 사용된다.^[2]

고정 소수점 방식에서 유효 자릿수를 충분히 확보하려면 최상위 자릿수가 1인 범위 내에 있어야 한다. 상대 오차는 자릿수가 n자리일 때 1/2ⁿ이다. 표현하려는 숫자가 0에 가까워져 상위 자릿수가 0으로 채워지면 유효 자릿수가 감소하므로, 필요한 정밀도를 만족하는지 주의해야 한다.

5. 연산

같은 스케일링 인자를 가진 두 고정소수점 값의 덧셈과 뺄셈은 정수 연산으로 수행할 수 있다. 예를 들어, 1/100 스케일링을 사용하는 경우, 0.5 + 0.99는 내부 표현 50 + 99 = 149로 계산되며, 이는 1.49를 의미한다.^[2]

두 고정소수점 값을 곱하려면 정수 곱셈을 한 후 스케일링 인자를 조정해야 한다. 예를 들어, 1/1000 스케일링의 0.123과 1/10 스케일링의 2.5를 곱하면, 123 × 25 = 3075에 (1/1000) × (1/10) = 1/10000 스케일링이 적용되어 0.3075가 된다.^[1]

나눗셈은 정수 나눗셈 후 스케일링 인자를 조정하며, 반올림이 필요할 수 있다. 예를 들어, 1/100 스케일링의 34.56을 1/1000 스케일링의 1.234로 나누면, 3456 ÷ 1234 ≈ 3에 (1/100) / (1/1000) = 10 스케일링이 적용되어 30이 된다.

스케일링 인자 변환은 값을 다른 스케일링 인자로 표현하기 위해 사용된다. 예를 들어, 1/100 스케일링의 1.23을 1/1000 스케일링으로 변환하려면, 123에 (1/100) / (1/1000) = 10을 곱하여 1230/1000으로 표현한다.

5. 1. 오버플로

6. Q 표기 (Q 포맷)

텍사스 인스트루먼트가 정의한 Q 표기법은 부호 있는 이진 고정 소수점 값과 ''f'' 소수 비트를 지정하기 위해 Q''f''를 사용한다. 예를 들어, Q15는 1/2¹⁵의 스케일링 인자를 갖는 2의 보수 표기법의 부호 있는 정수를 지정한다. Q''m''.''f'' 코드는 숫자가 부호 비트를 제외하고 값의 정수 부분에 ''m'' 비트를 갖는다는 것을 추가적으로 지정한다. 따라서 Q1.30은 1개의 정수 비트와 30개의 소수 비트를 갖는 이진 고정 소수점 형식을 설명하며, 이는 1/2³⁰의 스케일링 인자를 갖는 32비트 2의 보수 정수로 저장될 수 있다.

ARM 아키텍처에서도 유사한 표기법을 사용하지만, ''m'' 값에 부호 비트를 포함시킨다. 따라서 위와 동일한 형식은 Q2.30으로 지정된다.

고정 소수점은 소수 부분의 비트 수를 Q 표기(Q 포맷)로 나타낸다. 예를 들어, 소수 부분의 비트 수가 12비트인 경우, Q12 표기 또는 Q12 포맷이라고 한다.

예를 들어, 1.5를 Q1 표기로 표현하면 2진수 표기로 11이다. 이 표기에서는 비트 0과 비트 1 사이에 소수점이 있다.

참고: (1 * 2⁰) + (1 * 2^-1) = 1.5

7. 컴퓨터 언어 지원

PL/I, COBOL, Ada, JOVIAL, Coral 66 등 일부 프로그래밍 언어는 고정 소수점 자료형을 지원한다. 이들 언어는 이진 또는 십진 스케일링 팩터를 가진 고정 소수점 자료형을 제공하며, 컴파일러는 변수 연산, 읽기/쓰기, 자료형 변환 시 적절한 스케일링 변환 코드를 자동 생성한다.

관계형 데이터베이스와 SQL은 고정 소수점 십진 연산 및 숫자 저장을 지원한다. PostgreSQL은 최대 1000자리까지 정확하게 저장 가능한 numeric 형식을 제공한다.

2008년 국제 표준화 기구(ISO)는 임베디드 프로세서용 프로그램 개발을 위해 고정 소수점 자료형을 C 언어에 추가하는 확장 제안을 발표했다. GNU 컴파일러 모음(GCC)은 고정 소수점에 대한 백엔드 지원을 제공한다.

8. 하드웨어 지원

일부 DSP 아키텍처는 특정 고정 소수점 형식을 지원한다. 예를 들어, 부호 있는 ''n''비트 숫자(값의 범위는 -1에서 거의 +1까지)와 ''n''-1개의 소수 비트에 대한 기본 지원을 제공하며, 재정규화(곱의 스케일링 변환을 2^''n''-2에서 ''n''-1개의 소수 비트로 변경)를 포함하는 곱셈 명령어를 포함할 수 있다.^[1] CPU가 해당 기능을 제공하지 않는다면, 프로그래머는 곱셈의 결과를 충분히 큰 레지스터나 임시 변수에 저장하고 재정규화를 명시적으로 코딩해야 한다.

초기 컴퓨터는 2진화 10진법 (BCD) 표현을 사용했다. 즉, 각 10진수 자릿수가 4비트로 독립적으로 인코딩된 기수 10을 사용했다. 마이크로컨트롤러와 같은 일부 프로세서는 여전히 BCD 표현을 사용할 수 있다. 이러한 기계에서는 10진수 스케일링 팩터 변환이 비트 시프트 및/또는 메모리 주소 조작을 통해 수행될 수 있다.^[1]

9. 응용 분야

GnuCash와 같은 오픈 소스 자금 관리 애플리케이션은 통화 가치를 저장하는 데 10진 고정 소수점을 사용한다. 이는 부동 소수점 숫자의 복잡한 반올림 규칙이 불리하게 작용할 수 있기 때문이다.^[2]

2진 고정 소수점(2진 스케일링)은 1960년대 후반부터 1980년대까지 비행 시뮬레이션, 원자력 발전소 제어 알고리즘과 같은 실시간 컴퓨팅에 널리 사용되었다. 또한, 여전히 많은 DSP 응용 프로그램과 맞춤형 마이크로프로세서에서 사용되며, 각도 계산에는 2진 각도 측정이 사용된다. JPEG 이미지를 압축하는 데 사용되는 이산 코사인 변환 알고리즘에도 사용된다.

전기 계량기 및 디지털 시계와 같은 전자 계측기는 다항식을 사용하여 온도 또는 전원 공급 전압과 같은 오류를 보상한다. 2진 고정 소수점 다항식은 부동 소수점보다 더 많은 비트의 정밀도를 활용할 수 있으며, 호너의 방법을 사용하여 고정 소수점 다항식을 평가하면 빠른 코드에서 저렴한 CPU를 사용하여 처리할 수 있다.

닌텐도 64를 제외한 5세대 비디오 게임 콘솔의 모든 3D 게임은 하드웨어 부동 소수점 장치가 없기 때문에 고정 소수점 산술을 사용했다.

TeX 조판 소프트웨어는 모든 위치 계산에 소수점 16비트가 있는 32비트 부호 있는 바이너리 고정 소수점을 사용한다.

Ogg Vorbis 등의 오디오 형식을 디코딩하는 소프트웨어 라이브러리는 많은 오디오 디코딩 하드웨어 장치에 FPU가 없기 때문에 고정 소수점 산술을 사용한다. WavPack 무손실 오디오 압축기는 고정 소수점 산술을 사용하는데, 이는 서로 다른 하드웨어의 부동 소수점 반올림 규칙이 압축의 무손실 특성을 손상시킬 수 있다는 우려 때문이다.

OpenGL ES 1.x 사양에는 FPU가 항상 없는 임베디드 시스템을 위한 고정 소수점 프로필이 포함되어 있다. dc 및 bc 프로그램은 임의 정밀도 계산기이지만 사용자가 지정한 고정된 수의 소수 자릿수만 추적한다.

''둠''은 맵 시스템, 기하학, 렌더링 및 플레이어 움직임을 포함한 모든 비정수 계산에 16.16 고정 소수점 표현을 사용했다.

Q#은 큐비트의 양자 레지스터에서 고정 소수점 산술을 수행하기 위한 표준 숫자 라이브러리를 포함한다.

고정 소수점은 부동 소수점에 비해 표현 가능한 값의 범위는 좁지만, 정보 손실 없이 고속으로 연산할 수 있다는 장점이 있다. 컴파일러 등에서 변수를 상수로 나눗셈하는 경우, 제수의 역수를 고정 소수점 방식으로 표현한 것을 곱하여 최적화를 수행하는 경우가 있다.^[1]

참조

_[1] 서적 ハッカーのたのしみ―本物のプログラマはいかにして問題を解くか エスアイビー・アクセス
_[2] 간행물 通貨型 http://www.postgresq[...] PostgreSQL 2014-02-03