디더링

3. 디지털 신호 처리 및 파형 분석에서의 디더링

디더링은 디지털 신호 처리를 사용하는 다양한 분야에서 활용되는데, 디지털 오디오, 디지털 비디오, 디지털 사진, 지진학, 레이더, 일기 예보 시스템 등이 그 예시이다.^[8][9]

양자화 과정에서는 오류가 발생한다. 이 오류가 신호와 상관 관계를 가지면 순환적이거나 예측 가능한 결과가 나타날 수 있다. 특히 수신기가 이러한 인공물에 민감한 경우, 순환적 오류는 바람직하지 않은 결과를 초래한다. 디더링은 이러한 오류를 무작위 잡음으로 변환하여, 주기적인 오류로 인해 발생하는 인공물을 제거한다.

오디오 분야는 디더링의 주요 활용 예시 중 하나이다. 인간의 귀는 개별 주파수를 듣는 푸리에 변환과 유사하게 기능하며,^[10] 왜곡, 즉 추가적인 주파수 성분에 매우 민감하다. 하지만 디더링된 신호에 포함된 모든 주파수의 추가적인 무작위 잡음에는 덜 민감하다.

아날로그 시스템에서 신호는 연속적이지만, PCM 디지털 시스템에서는 신호의 진폭이 고정된 값으로 제한된다. 이 과정을 양자화라고 한다. 디더링을 사용하지 않고 양자화된 신호는 양자화 왜곡이 발생한다. 디더링은 이러한 왜곡을 제거하고, 대신 일정한 노이즈를 부여한다.^[11]

예를 들어, CD에 들어가는 오디오는 샘플당 16비트이지만, 제작 과정에서는 더 많은 비트를 사용하여 처리한 후 16비트로 줄인다. 이때 초과 비트를 단순히 버리는 절단(truncation)이나 반올림(rounding)을 사용하면 예측 가능한 오류가 발생한다. 디더링은 이러한 오류를 일정한 고정 노이즈 레벨로 대체한다.

파형의 값을 20% 감소시키는 예를 통해 디더링의 원리를 설명할 수 있다.

위 표에서 볼 수 있듯이 절단과 반올림 두 방법 모두 규칙적인 오류가 발생한다. 예를 들어, 절단된 결과에서 사인파 값이 3.2일 때 0.2만큼 벗어나는 오류가 주기적으로 발생한다.

디더링은 이러한 규칙적인 오류를 무작위 잡음으로 바꾼다. 0.0과 0.9 사이의 난수를 생성하여 원래 값에 더하는 방식으로, 각 값이 특정 값으로 절사 또는 반올림될 확률을 조절한다. 예를 들어, 4.8에 난수를 더하면 20% 확률로 4로 절단되고, 80% 확률로 5로 절단된다. 장기적으로 이러한 결과는 평균 4.8이 되고, 양자화 오류는 무작위 잡음이 된다.

디더링은 양자화 또는 재양자화 과정 전에 추가되어 입력 신호로부터 양자화 노이즈를 분리하고 비선형 동작(왜곡)을 방지한다. 비트 심도가 낮을수록 더 많은 양의 디더링이 필요하다.

AES 저널에 발표된 논문에서 립시츠(Lipshitz)와 반데르코이(Vanderkooy)는 서로 다른 확률 밀도 함수(PDF)를 가진 노이즈 유형에 따른 디더 신호의 동작 차이를 분석하고, 오디오에 대한 최적의 디더 신호 수준을 제안했다.^[35][36] 가우스 잡음은 균일 분포 또는 삼각 분포 노이즈보다 가청 왜곡을 완전히 제거하기 위해 더 높은 수준의 노이즈를 추가해야 한다. 삼각 분포 노이즈는 노이즈 변조를 최소화한다.

디더링은 디지털 필터에서 발생하는 주기적인 리미트 사이클을 깨는 데에도 유용하다. 무작위 노이즈는 리미트 사이클이 생성하는 고조파 톤보다 덜 불쾌하게 들린다.

4. 디지털 오디오

디더링은 디지털 오디오 처리에서 양자화 오류를 줄이고, 비선형 동작(왜곡)을 방지하기 위해 사용된다. 비트 심도가 낮을수록 더 많은 양의 디더링이 필요하며, 디더링을 통해 양자화 오류를 무작위 잡음으로 변환하여 청각적으로 더 자연스러운 소리를 얻을 수 있다.^[10]

AES 저널에 발표된 논문에서 립시츠와 반데르코이는 서로 다른 확률 밀도 함수(PDF)를 가진 노이즈 유형이 디더 신호로 사용될 때 다르게 동작하며, 오디오에 대한 최적의 디더 신호 수준을 제안했다. 가우시안 노이즈는 균일 분포 또는 삼각 분포를 가진 노이즈보다 가청 왜곡을 완전히 제거하기 위해 더 높은 수준의 노이즈를 추가해야 한다. 삼각 분포 노이즈는 ''노이즈 변조''(조용한 음악 뒤에 잔류 노이즈의 볼륨 레벨에서 가청 변화)를 최소화한다.

디더링은 디지털 필터에서 흔히 발생하는 문제인 주기적인 리미트 사이클을 깨는 데 유용하다. 무작위 노이즈는 일반적으로 리미트 사이클이 생성하는 고조파 톤보다 덜 불쾌하다.

노이즈 셰이핑은 양자화 오류의 스펙트럼 에너지를 형성하여 가청 노이즈 수준을 낮추는 기술로, 디더링과 함께 사용될 수 있다.

4. 1. 디더링 적용 사례

5. 디지털 사진 및 이미지 처리

디더링은 제한된 색상 팔레트를 가진 시스템에서 이미지의 색상 깊이에 대한 환상을 만들기 위해 컴퓨터 그래픽스에 사용되는 기법이다.^[12] 디더링된 이미지에서는 팔레트에 없는 색상을 표현하기 위해, 사용 가능한 색상을 가진 픽셀들을 확산시켜 배치한다. 사람의 눈은 이러한 픽셀의 확산을 색상의 혼합으로 인식한다. (색각 참조) 디더링된 이미지는, 특히 비교적 적은 수의 색상을 사용하는 경우, 특유의 입자감 또는 반점 모양으로 구별될 수 있다.

디더링은 이미지에 노이즈 또는 패턴을 도입하는데, 종종 그 패턴이 눈에 띄기도 한다. 이러한 상황에서 블루 노이즈를 이용한 디더링이 가장 보기 좋고 덜 산만하게 하는 것으로 알려져 있다.^[13] 초기에는 오류 확산 기술이 블루 노이즈 디더링 패턴을 생성하는 방법 중 하나였지만, 순차적 디더링과 같은 다른 기술들도 인위적인 느낌 없이 블루 노이즈 디더링을 생성할 수 있다.

이미지의 색상 깊이를 줄이면 시각적으로 상당한 부작용이 발생할 수 있다. 원본 이미지가 사진이라면 수천, 수백만 가지의 고유한 색상을 가질 수 있다. 사용 가능한 색상을 특정 색상 팔레트로 제한하는 것은 일정량의 색상 정보를 버리는 것이다.

색상 수가 줄어든 이미지의 품질에 영향을 미치는 요소에는 여러 가지가 있지만, 가장 중요한 것은 사용할 색상 팔레트이다. 예를 들어, 원본 이미지를 216색 웹 안전 색상 팔레트로 줄일 수 있다. 원본 픽셀 색상을 팔레트에서 가장 가까운 색상으로 단순히 변환하면 디더링이 발생하지 않지만, 평평한 영역(윤곽)과 세부 사항 손실이 발생하고, 원본과 상당히 다른 색상 배치가 나타날 수 있다. 음영 처리된 영역이나 그라데이션 영역에서는 색상 밴딩이 발생하여 부자연스러워 보일 수 있다. 디더링을 적용하면 이러한 시각적 문제를 최소화하고 원본을 더 잘 표현할 수 있다.

고정된 색상 팔레트를 사용할 때의 문제점 중 하나는 필요한 색상이 팔레트에 없을 수도 있고, 사용 가능한 많은 색상이 필요하지 않을 수도 있다는 것이다. 이럴 때는 최적화된 색상 팔레트를 사용하는 것이 유용하다. 최적화된 색상 팔레트는 원본 이미지에서 사용 빈도에 따라 색상을 선택한다.

팔레트에서 사용 가능한 색상 수 또한 중요한 요소이다. 예를 들어, 팔레트가 16가지 색상으로 제한되면 이미지의 세부 정보가 더 손실되어 평탄함과 색상 밴딩 문제가 심해질 수 있다. 디더링은 이러한 문제를 최소화하는 데 도움이 된다.

디더링은 디스플레이 하드웨어가 표현할 수 있는 색상 범위보다 더 많은 색상을 포함하는 그래픽을 보다 정확하게 표시하는 데 유용하다. 예를 들어, 수백만 가지 색상을 가진 사진 이미지를 한 번에 256가지 색상만 표시할 수 있는 비디오 하드웨어에 표시할 때 디더링을 사용할 수 있다.

일부 액정 디스플레이는 시간적 디더링을 사용하여 비슷한 효과를 낸다. 각 픽셀의 색상 값을 패널의 색상 공간에서 두 개의 근사한 색상 사이에서 빠르게 번갈아 가면서, 기본적으로 18비트 색상(채널당 6비트)만 지원하는 디스플레이 패널이 24비트 색상 이미지(채널당 8비트)를 표현할 수 있게 한다.^[17]

디더링은 인쇄에 사용되는 하프톤 기술과 유사하며, '디더링'이라는 용어는 '하프톤'과 같은 의미로 사용되기도 한다. 잉크젯 프린터가 독립된 점을 인쇄할 수 있게 되면서 인쇄 분야에서 디더링의 사용이 증가했다.

5. 1. 디더링 알고리즘

• 임계값 처리 (평균 디더링): 각 픽셀 값을 고정된 임계값과 비교하여 처리한다. 가장 단순한 디더링 알고리즘이지만 세부 정보와 윤곽 손실이 크다.^[18]
• 랜덤 디더링: 각 픽셀 값을 임의의 임계값과 비교하여 정적인 이미지를 생성한다. 패턴화된 인공물은 없지만 노이즈가 세부 정보를 압도한다. 메조틴트 기법과 유사하다.^[18]
• 패터닝: 고정된 패턴을 사용하여 디더링한다. 출력 이미지 크기가 입력 패턴보다 커진다.^[18]
• 정렬된 디더링: '디더 행렬'을 사용하여 디더링한다. 인접 픽셀이 서로 영향을 미치지 않아 애니메이션에 적합하다.
• 하프톤 디더링 행렬: 오프셋 인쇄와 레이저 프린터에 주로 사용되며, 망점과 유사한 모양을 생성한다.
• Bayer matrix^[18]: 독특한 격자무늬 패턴을 생성한다.
• 블루 노이즈에 맞게 조정된 행렬: 오차 확산 디더링 방법과 더 가까운 모양을 생성한다.^[21]

(원본)	임계값	랜덤
원본 이미지	임계값 처리	랜덤 디더링
하프톤	정렬됨 (Bayer)	정렬됨 (void-and-cluster)
하프톤 디더링	정렬된 디더링 (Bayer)

• 오차 확산 디더링: 양자화 오차를 인접 픽셀로 확산시키는 피드백 프로세스이다.
• 플로이드-스타인버그(FS) 디더링: 오차를 인접 픽셀로만 확산시켜 미세한 디더링을 생성한다.
• Jarvis, Judice 및 Ninke의 최소 평균 오차 디더링: 오차를 더 멀리 떨어진 픽셀까지 확산시켜 시각적 인공물을 줄인다. 플로이드-스타인버그 디더링보다 느리다.
• 스투키 디더링: 위를 기반으로 하지만 더 빠르고 깨끗하고 선명한 출력을 생성한다.
• 버크스 디더링: 스투키 디더링을 단순화하여 더 빠르지만 덜 깨끗하다.

• 오차 확산 디더링 (계속):
• 시에라 디더링: Jarvis 디더링을 기반으로 하지만 더 빠르다.
• Two-row Sierra: 시에라 디더링을 수정하여 속도를 개선했다.
• Filter Lite: 플로이드-스타인버그보다 간단하고 빠르면서 유사한 결과를 생성한다.
• 앳킨슨 디더링: 빌 앳킨슨(Bill Atkinson)이 개발했으며, 빠르지만 밝거나 어두운 영역에서 정보 손실이 발생할 수 있다.
• 경사 기반 오차 확산 디더링: 구조적 인공물을 제거하고 구조를 향상시킨다.^[22]

시에라	Two-row Sierra	시에라 Lite	앳킨슨	경사 기반
시에라 디더링	Two-row Sierra 디더링	시에라 Lite 디더링	앳킨슨 디더링

5. 2. 디더링 적용 사례

6. 기타 응용 분야

광섬유 시스템에서 자극 브릴루앙 산란(SBS)은 비선형 광학 효과로, 발사되는 광학적 전력을 제한한다. 이 전력 제한은 송신 광학 중심 주파수를 디더링하여 증가시킬 수 있는데, 이는 일반적으로 레이저의 바이어스 입력을 변조하여 구현된다.^[26] 편광 스크램블링도 참조할 수 있다.

위상 디더링은 직접 디지털 합성에서 출력의 품질을 향상시키는 데 사용될 수 있다.^[25] 또 다른 일반적인 응용 분야는 주파수의 스펙트럼 확산 클럭 디더링을 통해 단일 주파수 피크를 분산시켜 EMC 테스트를 통과하는 것이다.

최근에는 금융 시장에서 고빈도 거래 참여 인센티브를 줄이기 위해 또 다른 유형의 시간적 디더링이 도입되었다. 2013년에 거래를 시작한 런던의 외환 시장인 ParFX는 모든 수신 주문에 짧은 무작위 지연을 부과하며, 다른 통화 거래소에서도 이 기술을 실험하고 있는 것으로 알려졌다. 이러한 시간적 버퍼링 또는 디더링의 사용은 주식, 상품 및 파생 상품의 금융 거래에서 더 광범위하게 옹호되어 왔다.^[27]

참조

_[1] 서적 Ordnance Field Guide: Restricted https://books.google[...] Military service publishing company
_[2] 서적 Electronic Analog Computers: (d–c Analog Computers) https://books.google[...] McGraw-Hill
_[3] 서적 Data Compression: Techniques and Applications https://books.google[...] Lifetime Learning Publications
_[4] 학위논문 Picture Coding Using Pseudo-Random Noise http://www.packet.cc[...] MIT
_[5] 논문 Picture Coding Using Pseudo-Random Noise 1962-02
_[6] 논문 Dither Signals and Their Effect on Quantization Noise 1964-12
_[7] 논문 Experimental researches on skin effect in conductors https://zenodo.org/r[...] 1915
_[8] 서적 The psychology of music https://books.google[...] Gulf Professional Publishing
_[9] 서적 The evolution of communication https://books.google[...] MIT Press
_[10] 웹사이트 Digital Show and Tell https://wiki.xiph.or[...] Xiph.Org / Red Hat, Inc. 2013-02-27
_[11] 서적 Mastering Audio: The Art and the Science
_[12] 웹사이트 Dithering for Pixel Artists https://pixelparmesa[...] 2021-01-18
_[13] 웹사이트 Halftone Characterization in the Frequency Domain http://home.comcast.[...] 2013-08-12
_[14] 웹사이트 ibm pc - How do CGA emulators for Hercules graphics work? https://retrocomputi[...] 2021-02-07
_[15] 웹사이트 DOS Days - CGA Simulators for Hercules Cards https://www.dosdays.[...] 2022-12-03
_[16] 웹사이트 The Programmer's Corner » SIMCGA41.ZIP » Display Utilities https://www.pcorner.[...] 2022-12-03
_[17] 웹사이트 6-Bit vs. 8-Bit... PVA/MVA vs. TN+Film – Are Things Changing? http://www.tftcentra[...] 2008-02-06
_[18] 웹사이트 Digital Halftoning http://www.efg2.com/[...] 1991-06-20
_[19] 웹사이트 Average Dithering http://www.visgraf.i[...] Visgraf Lab 2000-12-13
_[20] 논문 Television by pulse code modulation 1951
_[21] 웹사이트 The void-and-cluster method for dither array generation http://cv.ulichney.c[...] 2014-02-11
_[22] 논문 Simple gradient-based error-diffusion method http://electronicima[...] 2016
_[23] 서적 Advances in Visual Computing https://www.mia.uni-[...] Springer Berlin Heidelberg 2009
_[24] 논문 Electrostatic Halftoning 2010-11-10
_[25] 간행물 A Technical Tutorial on Digital Signal Synthesis http://www.analog.co[...] Analog Devices 1999
_[26] 서적 Investigation into possible effects resulting from dithered clock oscillators on EMC measurements and interference to radio transmission systems http://www.ofcom.org[...] University of Hertfordshire 2013-05-25
_[27] 웹사이트 Races, Rushes, and Runs: Taming the Turbulence in Financial Trading https://regulatoryst[...] 2013-01
_[28] 서적 Principles of Digital Audio https://books.google[...] McGraw-Hill Professional
_[29] 서적 Ordnance Field Guide: Restricted https://books.google[...] Military service publishing company
_[30] 서적 Electronic Analog Computers: (d–c Analog Computers) https://books.google[...] McGraw-Hill
_[31] 서적 Data Compression: Techniques and Applications https://books.google[...] Lifetime Learning Publications
_[32] 학위논문 Picture Coding Using Pseudo-Random Noise http://www.packet.cc[...] MIT
_[33] 논문 Picture Coding Using Pseudo-Random Noise http://ieeexplore.ie[...]
_[34] 논문 Dither Signals and Their Effect on Quantization Noise http://ieeexplore.ie[...]
_[35] 논문 Minimally Audible Noise Shaping http://www.aes.org/e[...] 1991-11
_[36] 간행물 Dither in Digital Audio http://www.aes.org/e[...] 1987-12
_[37] 서적 Mastering Audio: The Art and the Science
_[38] 웹사이트 Halftone Characterization in the Frequency Domain http://www.hpl.hp.co[...] 1994
_[39] 웹사이트 Digital Halftoning http://www.efg2.com/[...] 1991-06-20
_[40] 웹사이트 Average Dithering http://www.visgraf.i[...] Visgraf Lab 2000-12-13
_[41] 웹사이트 The void-and-cluster method for dither array generation http://www.hpl.hp.co[...] 1993
_[42] 웹인용 디더링-팀즈 http://mail.terms.co[...] 2009-06-30