합성곱

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.

1. 개요

합성곱은 두 함수 f와 g를 반전, 전이, 곱한 후 적분하여 얻는 수학 연산으로, f * g로 표기한다. 이 연산은 교환, 결합, 분배 법칙을 만족하며, 신호 처리, 이미지 처리, 확률론 등 다양한 분야에 응용된다. 디지털 신호 처리에서는 필터링, 특징 추출에 활용되고, 이미지 처리에서는 에지 검출, 블러링, 샤프닝에 사용된다. 확률론에서는 두 확률 변수의 합의 확률 분포를 나타내는 데 활용되며, 합성곱 정리와 빠른 합성곱 알고리즘을 통해 효율적인 계산이 가능하다.

2. 정의

'''합성곱 연산의 개념''' 함수 g를 반전시키고 이동시킨 후, 함수 f와 곱하여 적분한다.

두 개의 함수

f

와

g

가 주어졌을 때, 두 함수의 '''합성곱'''(合成곱, convolution^영어)은

f * g

와 같이 별표 기호(*)를 사용하여 나타낸다.^[33] 합성곱 연산은 두 함수 중 하나의 함수를 반전(reverse)시키고 특정 값만큼 평행 이동(shift)시킨 다음, 다른 하나의 함수와 곱한 결과를 적분하는 것을 의미한다. 이는 수학, 신호 처리, 확률론 등 다양한 분야에서 사용되는 중요한 연산이다.

수학적으로 합성곱은 일반적으로 다음과 같이 적분으로 정의된다.

:

(f * g)(t) := \int_{-\infty}^\infty f(\tau) g(t - \tau)\, d\tau

이 정의는 함수

g

를 반전시키고

t

만큼 이동시킨

g(t-\tau)

를 가중치로 사용하여 함수

f(\tau)

를 적분하는 것을 의미한다. 합성곱은 교환 법칙이 성립하여, 함수

f

를 반전시키고 이동시켜도 동일한 결과를 얻는다.

:

(f * g)(t) = \int_{-\infty}^\infty f(t - \tau) g(\tau)\, d\tau

적분 구간이나 계산 방식은 다루는 함수의 종류(연속/이산)나 정의역에 따라 달라질 수 있으며, 자세한 내용은 하위 섹션(1차원 합성곱, 고차원 합성곱)에서 다룬다. 또한, 확률론에서는 독립적인 확률 변수들의 합의 확률 분포를 구하는 데 사용되기도 한다.

2. 1. 1차원 합성곱

1차원 합성곱은 하나의 독립 변수를 갖는 함수나 신호에 대한 합성곱 연산을 의미한다. 주로 시간에 따라 변화하는 신호나 1차원 공간상의 데이터를 다룰 때 사용된다.

1차원 합성곱은 다루는 대상이 연속적인지 이산적인지에 따라 크게 두 가지로 나눌 수 있다.

'''연속 합성곱''': 연속적인 함수나 신호를 다룰 때 사용되며, 적분을 통해 계산된다.
'''이산 합성곱''': 이산적인 함수나 수열(시퀀스)을 다룰 때 사용되며, 총합을 통해 계산된다.

각각의 구체적인 정의와 계산 방법, 응용 분야는 하위 섹션에서 더 자세히 다룬다.

2. 1. 1. 연속 합성곱

두 개의 연속 함수 ''f''와 ''g''가 주어졌을 때, 두 함수의 합성곱은 ''f'' ∗ ''g''와 같이 별표 기호(*)를 사용하여 나타낸다. 합성곱은 다음과 같이 적분으로 정의된다.

:

(f * g)(t) := \int_{-\infty}^\infty f(\tau) g(t - \tau)\, d\tau

이 정의는 함수 ''g''를

\tau=0

축에 대해 반전(

g(-\tau)

)시키고, 그 다음 ''t''만큼 시간 이동(

g(t-\tau)

)시킨 뒤, 원래 함수 ''f''(

\tau

)와 곱하여 모든

\tau

에 대해 적분하는 것을 의미한다. 즉, 각 시점 ''t''에서의 합성곱 값은, ''t''만큼 이동된 반전된 함수

g(t-\tau)

를 가중치로 사용하여 ''f''(

\tau

) 아래의 면적을 구하는 것과 같다. ''t'' 값이 변함에 따라, 가중 함수

g(t-\tau)

는 입력 함수 ''f''(

\tau

)의 다른 부분을 강조하게 된다.

합성곱 연산은 교환 법칙이 성립하므로, 함수 ''f''를 반전시키고 이동시켜 계산해도 동일한 결과를 얻는다.

:

(f * g)(t) = \int_{-\infty}^\infty f(t - \tau) g(\tau)\, d\tau

위의 적분에서 적분 구간(

-\infty

부터

\infty

까지)은 함수 ''f''와 ''g''가 정의된 정의역에 따라 달라진다. 예를 들어, 두 함수 ''f'', ''g''가 음수가 아닌 인수에 대해서만 0이 아닌 값을 가지는 경우(즉, ''t'' < 0일 때 ''f''(''t'') = ''g''(''t'') = 0인 경우), 적분 한계는 다음과 같이 조정될 수 있다.

:

(f * g)(t) = \int_{0}^{t} f(\tau) g(t - \tau)\, d\tau \quad (\text{단, } f, g : [0, \infty) \to \mathbb{R})

만약 함수 ''f'', ''g''가 유한한 구간에서만 정의된다면, 함수를 주기 함수로 간주하여 합성곱을 계산하기도 하는데, 이를 순환 합성곱(cyclic convolution)이라고 한다.

합성곱은 확률론에서도 중요한 개념이다. 두 독립적인 확률 변수 ''X''와 ''Y''의 확률 밀도 함수가 각각 ''f''와 ''g''라고 할 때, 두 확률 변수의 합 ''X'' + ''Y''의 확률 밀도 함수는 두 함수의 합성곱 ''f'' ∗ ''g''로 주어진다.

합성곱은 적분을 사용하여 두 함수를 결합하는 연산이므로 합성곱 적분 또는 중첩 적분이라고도 불린다. 이는 일종의 적분 변환으로 간주할 수 있다.

2. 1. 2. 이산 합성곱

이산 함수의 경우, 합성곱은 다음과 같이 정의된다.

:

(f * g)(m) = \sum_n {f(n) g(m - n)} \,

이산 신호 ''f'', ''g''의 합성곱 ''f'' ∗ ''g'' 역시 동일하게 정의된다.

:

(f * g)(m) = \sum_n {f(n) \, g(m - n)}

이는 연속 함수의 합성곱에서 적분 대신 총합을 사용하여 유사하게 정의된 것으로, '''합성곱 합''' 또는 '''중첩 합'''이라고도 불린다. 두 개의 다항식을 곱했을 때 결과식의 계수는 원래 다항식 계수들의 합성곱으로 나타낼 수 있다.

총합의 범위는 함수의 정의역에 따라 달라진다. 함수가 유한한 구간에서만 정의된 경우, 주기 함수로 간주하여 합성곱 연산을 수행하기도 한다. 또한, 함수의 정의역 밖의 값을 0으로 간주하고 합성곱을 계산하는 경우가 많은데, 이를 '''선형 합성곱'''(linear convolution^영어) 또는 '''직선 합성곱'''이라고 부른다.

2. 2. 고차원 합성곱

'''R'''^''d'' 상의 복소수 값 함수 ''f''와 ''g''의 합성곱은, 그 자체가 '''R'''^''d'' 상의 복소수 값 함수이며 다음과 같이 정의된다.

(f * g )(x) = \int_{\mathbf{R}^d} f(y)g(x-y)\,dy = \int_{\mathbf{R}^d} f(x-y)g(y)\,dy

하지만 이 식이 정의 가능하려면 우변의 적분이 존재해야 하며, 이를 위해서는 함수 ''f''와 ''g''가 무한대에서 충분히 급격히 감소해야 한다. 예를 들어, 함수 ''g''가 무한대에서 발산하더라도 함수 ''f''가 충분히 빠르게 감소하면 그 영향을 상쇄할 수 있으므로, 적분의 존재 조건은 단순하지 않다. 이 적분의 존재를 보장하기 위해 함수에 부여하는 조건들 중 자주 사용되는 몇 가지 경우가 있다.

3. 성질

합성곱 연산은 수학 및 공학 분야에서 유용하게 사용되는 여러 중요한 성질을 만족시킨다. 대표적으로 교환 법칙, 결합 법칙, 분배 법칙이 성립하며, 스칼라 곱셈과의 결합 법칙, 특정 조건 하에서의 미분 법칙 등도 만족한다. 이러한 기본적인 대수적 성질들은 각 하위 섹션에서 더 자세히 다룬다.

이 외에도 합성곱은 다음과 같은 중요한 성질들을 가진다.

'''이동 불변성'''

합성곱은 이동 연산(

\tau_x

)과 교환 가능하다. 즉, 두 함수를 합성곱한 결과에 이동 연산을 적용한 것은, 각 함수에 이동 연산을 먼저 적용한 후 합성곱한 결과와 같다. 수식으로는 다음과 같이 표현된다.

:

\tau_x (f * g) = (\tau_x f) * g = f * (\tau_x g)

여기서

(\tau_x f)(y) = f(y - x)

는 함수

f

를

x

만큼 이동시킨 것을 의미한다. 이 성질은 합성곱이 시불변 시스템, 특히 LTI 시스템 이론에서 중요한 역할을 하는 이유 중 하나이다. 어떤 의미에서는 이동 연산과 교환 가능한 선형 연산자는 특정 함수(또는 분포)와의 합성곱으로 표현될 수 있다.

'''적분 가능 함수 공간에서의 성질'''

함수

f

와

g

가 르베그 공간

L^1(\mathbf{R}^d)

에 속하는 르베그 적분 가능한 함수이면, 그 합성곱

f * g

역시

L^1(\mathbf{R}^d)

에 속하며 적분 가능하다.^[25] 이는 푸비니 정리의 결과이다.

또한, 만약

f \in L^1(\mathbf{R}^d)

이고

g \in L^p(\mathbf{R}^d)

(여기서

1 \le p \le \infty

)이면, 합성곱

f * g

는

L^p(\mathbf{R}^d)

에 속하며 다음 부등식이 성립한다.

:

\lVert f*g\rVert_p\le \lVert f\rVert_1\lVert g\rVert_p

특히

p=1

일 때, 이 성질은

L^1

공간이 합성곱을 곱셈 연산으로 가지는 바나흐 대수를 이룬다는 것을 보여준다.

더 일반적으로, 합성곱에 대한 영의 부등식은

1 \le p, q, r \le \infty

이고

\frac{1}{p}+\frac{1}{q}=\frac{1}{r}+1

관계를 만족할 때, 합성곱이

L^p \times L^q \to L^r

로 가는 연속적인 쌍선형 사상임을 보장한다. 즉, 다음 부등식이 성립한다.^[41]

:

\lVert f*g\rVert_{r} \le \lVert f \rVert_{p}\,\lVert g\rVert_{q}

3. 1. 교환 법칙

합성곱 연산은 교환 법칙(Commutative property)을 만족한다. 이는 두 함수

f

와

g

의 합성곱을 계산할 때, 연산의 순서를 바꾸어도 결과가 같다는 의미이다. 수식으로는 다음과 같이 표현할 수 있다.

:

f * g = g * f

예를 들어, 정수 집합

\Z

에서 정의된 복소수 값을 갖는 함수

f

와

g

의 이산 합성곱은 다음과 같이 정의된다.^[12]

:

(f * g)[n] = \sum_{m=-\infty}^\infty f[m] g[n - m]

교환 법칙이 성립하기 때문에, 이 정의는 다음과 같이 표현하는 것과 동일하다.

:

(f * g)[n] = \sum_{m=-\infty}^\infty f[n-m] g[m]

이처럼 합성곱 연산은 함수의 순서에 영향을 받지 않는 특징을 가진다.

3. 2. 결합 법칙

합성곱은 다음 결합 법칙을 만족한다.

f * (g * h) = (f * g) * h

분포와의 합성곱에서도 결합 법칙이 성립하도록 정의를 확장할 수 있다. 예를 들어,

f

가 분포이고

g

가 콤팩트 지지 분포일 때, 시험 함수

\varphi

에 대해 다음 결합 법칙이 성립하는 유일한 방법으로 합성곱을 정의한다.^[12]^[13]^[41]

f*(g*\varphi) = (f*g)*\varphi

3. 3. 분배 법칙

합성곱은 덧셈에 대해 다음과 같은 분배 법칙을 만족한다.

:

f * (g + h) = (f * g) + (f * h)

3. 4. 스칼라 곱의 결합 법칙

실수 혹은 복소수 값 ''a''에 대해 다음의 결합 법칙이 성립한다.

:

a (f * g) = (a f) * g = f * (a g)\,

3. 5. 미분 법칙

합성곱은 다음과 같은 미분 법칙을 만족한다.

\mathcal{D}(f * g) = \mathcal{D}f * g = f * \mathcal{D}g

여기서

\mathcal{D}f

는 함수 ''f''의 미분 값을 나타낸다. 만약 이산적인 경우를 다룬다면,

\mathcal{D}

는 차분 연산자(difference operator)가 되며, 다음과 같이 정의된다.

\mathcal{D}f(n) = f(n+1) - f(n)

3. 6. 합성곱 정리

합성곱 정리는 푸리에 변환과 관련하여 중요한 성질을 나타낸다. 이 정리에 따르면, 두 함수

f

와

g

의 합성곱의 푸리에 변환은 각 함수의 푸리에 변환의 점별 곱셈과 같다.^[26] 이를 수식으로 표현하면 다음과 같다.

:

\mathcal{F}\{f * g\} = \mathcal{F}\{f\}\cdot \mathcal{F}\{g\}

여기서

\mathcal{F}\{f\}

는 함수

f

의 푸리에 변환을 의미한다. 이 정리는 합성곱이라는 복잡한 적분 연산을 주파수 영역에서는 단순한 곱셈 연산으로 바꿔 생각할 수 있게 해준다.

이러한 관계는 푸리에 변환뿐만 아니라 라플라스 변환, 양측 라플라스 변환, Z 변환, 멜린 변환과 같은 다른 적분 변환에서도 유사하게 성립한다.

또한, 이산적인 경우에도 합성곱 정리가 적용된다. 만약

\mathcal W

가 이산 푸리에 변환 행렬이라면, 두 벡터

x

와

y

에 각각 순환 행렬

C^{(1)}

와

C^{(2)}

를 적용한 결과의 합성곱은 다음과 같이 표현될 수 있다.

:

\mathcal W\left(C^{(1)}x \ast C^{(2)}y\right) = \left(\mathcal W C^{(1)} \bull \mathcal W C^{(2)}\right)(x \otimes y) = \mathcal W C^{(1)}x \circ \mathcal W C^{(2)}y

여기서

\bull

는 얼굴 분할 곱,^[27]^[28]^[29]^[30]^[31]

\otimes

는 크로네커 곱,

\circ

는 아다마르 곱을 나타낸다. 이 결과는 카운트 스케치 속성에서 발전된 것이다.^[32]

더 일반적으로, 적절한 행렬

\mathbf{A},\mathbf{B}

에 대해 다음과 같이 일반화할 수 있다.

:

\mathcal W\left((\mathbf{A}x) \ast (\mathbf{B}y)\right) = \left((\mathcal W \mathbf{A}) \bull (\mathcal W \mathbf{B})\right)(x \otimes y) = (\mathcal W \mathbf{A}x) \circ (\mathcal W \mathbf{B}y)

이는 얼굴 분할 곱의 속성으로부터 유도된다.

4. 다양한 합성곱

합성곱은 다양한 수학적 대상에 대해 정의될 수 있다. 예를 들어, 위상군 G 위의 두 유한 보렐 측도 μ 와 ν 의 합성곱 $\mu * \nu$ 는 G의 가측 부분 집합 E에 대해 다음과 같이 정의되는 유한 측도이다.

$(\mu * \nu)(E) = \iint 1_E(xy) \,d\mu(x) \,d\nu(y)$

이 합성곱은 전변동에 대해 영의 부등식 $\lVert\mu * \nu\rVert \le \lVert\mu\rVert\,\lVert\nu\rVert$ 를 만족한다. 만약 G가 국소 콤팩트 군이고 좌 하르 측도 λ를 가지며, μ 와 ν 가 λ에 대해 절대 연속이고 각각 밀도 함수를 가진다면, 합성곱 $\mu * \nu$ 역시 절대 연속이며 그 밀도 함수는 각 측도 밀도 함수의 (일반 함수로서의) 합성곱과 같다.

특히, 실수의 덧셈군 $(\mathbb{R}, +)$ 위에서 두 확률 측도 μ 와 ν 를 생각하면, 측도의 합성곱 $\mu * \nu$ 는 각각 분포 μ 와 ν 를 따르는 독립 확률 변수 X 와 Y 의 합 $X + Y$ 의 확률 분포에 해당한다.

4. 1. 순환 합성곱 (Circular Convolution)

함수

g_T

가 주기가

T

인 주기 함수일 때,

f * g_T

가 존재하는 함수

f

에 대해 합성곱 역시 주기적이며 다음과 같이 정의된다.

:

(f * g_T)(t) \equiv \int_{t_0}^{t_0+T} \left[\sum_{k=-\infty}^\infty f(\tau + kT)\right] g_T(t - \tau)\, d\tau

여기서

t_0

는 임의로 선택된 값이다. 위 식의 합

\sum_{k=-\infty}^\infty f(\tau + kT)

는 함수

f

의 주기적 합이라고 불린다.

만약

g_T

가 다른 함수

g

의 주기적 합이라면, 즉

g_T(\tau) = \sum_{k=-\infty}^\infty g(\tau + kT)

라면,

f*g_T

는

f

와

g

의 '''원형 합성곱''' 또는 '''순환 합성곱''' (circular convolution)이라고 한다.

만약 위 식에서

f

의 주기적 합을

f_T

로 대체하면, 즉

(f_T * g_T)(t)

를 계산하면, 이 연산은

f_T

와

g_T

의 '''주기적 합성곱''' (periodic convolution)이라고 불린다.

4. 2. 이산 순환 합성곱

원주군 '''T'''에 르베그 측도를 적용하면 순환 합성곱의 잘 알려진 예를 얻을 수 있다. ''g'' ∈ ''L''¹('''T''')를 고정하고, 힐베르트 공간 ''L''²('''T''')에 작용하는 연산자 T를 다음과 같이 정의할 수 있다:

T {f}(x) =  \frac{1}{2 \pi} \int_{\mathbf{T}} {f}(y) g( x - y) \, dy

이 연산자 T는 콤팩트 연산자이다. 직접 계산을 통해 수반 연산자

T^*

는

\overline{g}(-y)

에 의한 합성곱임을 알 수 있다. 합성곱의 교환 법칙에 따라 T는 정규 연산자 (

T^*T = TT^*

)이다. 또한 T는 평행 이동 연산자와도 교환 가능하다. 이러한 합성곱 연산자와 평행 이동 연산자 전체로 이루어진 연산자족을 S라고 하면, S는 정규 연산자로 구성된 가환족이다. 스펙트럼 이론에 따르면, S를 동시에 대각화하는 정규 직교 기저

\{h_k\}

가 존재한다. 구체적으로

h_k (x) = e^{ikx} \quad (k \in \mathbb{Z})

는 '''T'''의 지표 전체 집합과 일치한다. 이 기저 위에서 각 합성곱 연산자는 콤팩트 곱셈 연산자가 되는데, 이는 순환 합성곱에 대한 합성곱 정리로 설명될 수 있다.

이산적인 경우의 예로는 위수 ''n''의 유한 순환군을 들 수 있다. 이 경우의 합성곱 연산자는 순환 행렬로 표현되며, 이산 푸리에 변환을 통해 대각화할 수 있다.

4. 3. 빠른 합성곱 알고리즘

합성곱 정리는 합성곱 연산을 효율적으로 계산하는 데 중요한 역할을 한다. 이 정리는 두 함수의 합성곱의 푸리에 변환이 각 함수의 푸리에 변환의 곱과 같다는 것을 보여준다.

\mathcal{F}(f * g) = \mathcal{F}(f) \cdot \mathcal{F}(g)

여기서

\mathcal{F}(f)

는 함수

f

의 푸리에 변환을 나타낸다. 이 성질 덕분에 시간 영역에서 계산하기 복잡한 합성곱 연산을 주파수 영역에서의 단순한 곱셈 연산으로 대체할 수 있다. 이 원리는 라플라스 변환, Z 변환, 멜린 변환 등 다른 종류의 변환에도 유사하게 적용될 수 있다.

특히 이산 신호의 합성곱을 계산할 때 이 원리가 유용하게 사용된다. 고속 푸리에 변환(FFT) 알고리즘을 이용하면 이산 신호의 푸리에 변환과 역 푸리에 변환을 매우 빠르게 계산할 수 있다. 따라서 두 이산 신호

f

와

g

의 합성곱은 다음과 같은 과정을 통해 효율적으로 구할 수 있다.

1. FFT를 이용하여 각 신호

f

와

g

의 푸리에 변환

\mathcal{F}(f)

와

\mathcal{F}(g)

를 계산한다.

2. 주파수 영역에서 두 변환 결과

\mathcal{F}(f)

와

\mathcal{F}(g)

를 곱한다.

3. 곱셈 결과에 역 고속 푸리에 변환(IFFT)을 적용하여 시간 영역에서의 합성곱 결과

f * g

를 얻는다.

이 방법은 정의에 따라 직접 합성곱을 계산하는 것보다 훨씬 적은 계산량을 요구하므로, 많은 응용 분야에서 표준적인 합성곱 계산 방식으로 사용된다.

유한한 길이를 가진 신호의 합성곱을 계산할 때는 신호의 경계 부분을 어떻게 처리할지에 따라 결과의 길이가 달라질 수 있다. 일반적으로 신호의 길이가 유한하더라도, 합성곱을 계산할 때는 신호 바깥 영역의 값이 0이라고 가정(제로 패딩)하여 계산한다. 하지만 실제 계산에서는 값이 0인 영역까지 포함하여 계산할 필요는 없으며, 유한한 구간 내에서만 계산이 수행된다. 이때 출력 결과의 길이를 결정하는 방식에는 여러 가지가 있으며, 주로 사용되는 방식은 다음과 같다.^[42]^[43]^[44]

valid: 두 신호가 완전히 겹치는 구간에 대해서만 합성곱 결과를 출력한다. 길이가 N인 신호와 길이가 M인 신호를 합성곱할 때, 출력 신호의 길이는 L = N - M + 1 (N ≥ M 가정)이 된다.
full: 두 신호 중 하나라도 0이 아닌 값을 가지는 모든 구간에 대해 합성곱 결과를 출력한다. 출력 신호의 길이는 L = N + M - 1이 된다. 이는 양쪽 신호에 M-1 길이만큼 0을 덧붙인 후(제로 패딩) 'valid' 방식으로 계산한 것과 동일하다.
same: 출력 신호의 길이를 입력 신호 중 기준이 되는 신호(주로 첫 번째 신호)의 길이 N과 동일하게 맞춘다. 일반적으로 출력 결과의 중앙 부분을 취하며, 이는 양쪽 신호에 (M-1)/2 길이만큼 0을 덧붙인 후 'valid' 방식으로 계산한 것과 유사하다.

5. 응용

합성곱 및 관련 연산은 신호 처리, 이미지 처리, 확률론을 비롯하여 과학, 공학, 수학의 다양한 응용 분야에서 폭넓게 활용된다.^[25] 주요 응용 분야는 다음과 같다.

인공지능 및 머신러닝: 합성곱 신경망(CNN)은 컴퓨터 비전 분야에서 핵심적인 역할을 수행한다.^[36]^[37] (다만 실제 구현 시 수학적 정의와 다른 상호상관 연산을 사용하는 경우도 있다.^[38])
이미지 처리: 디지털 이미지 처리에서 필터링(예: 에지 검출, 블러 효과)에 사용되며,^[36] 광학에서는 보케 현상을 설명하는 데 활용된다.
디지털 데이터 처리: 분석화학의 데이터 분석(Savitzky–Golay 필터)이나 통계학의 가중 이동평균 계산 등에 응용된다.
음향학: 잔향 효과 모델링, 특정 공간의 음향 특성 재현, 전자 음악의 음색 변조 등에 사용된다.^[39]
전기공학: 선형 시불변 시스템(LTI)의 출력을 계산하는 기본적인 도구로 사용된다.
물리학: 중첩 원리가 적용되는 선형 시스템 분석에 활용된다. 예시로 분광학의 선 모양 분석(보이그 함수), 시간 분해 형광 분광법, 전산유체역학(CFD)의 대와동 모사(LES) 등이 있다.
확률론: 독립적인 확률 변수들의 합의 분포를 구하거나, 커널 밀도 추정 등에 사용된다.
기타: 방사선 치료 계획 시스템, 구조적 신뢰성 분석, 입자법 기반 시뮬레이션^[40], 분수 미적분학 등 다양한 분야에서 응용된다.

5. 1. 신호 처리

합성곱은 디지털 신호 처리 분야에서 다양하게 활용된다. 예를 들어, 분석 화학에서 분광 데이터를 분석할 때 Savitzky–Golay 스무딩 필터를 사용하는데, 이는 스펙트럼 왜곡을 최소화하면서 신호 대 잡음비를 개선하는 합성곱 기반 필터링 기법이다.^[25] 또한, 디지털 이미지 처리에서는 에지 감지와 같은 작업에 합성곱 필터링이 중요한 역할을 한다 (커널 (이미지 처리) 참조).

가우시안 블러는 하프톤 인쇄물의 부드러운 흑백 디지털 이미지를 얻는 데 사용될 수 있다.

이미지를 부드럽게 만드는 가우시안 블러 역시 합성곱을 이용한 대표적인 예시이다.

음향 처리 분야에서도 합성곱이 사용된다. 공간의 잔향 효과는 원래의 소리와, 소리가 여러 물체에 부딪혀 돌아오는 에코(임펄스 응답)의 합성곱으로 모델링할 수 있다. 디지털 신호 처리 기술을 이용해 실제 공간의 임펄스 응답을 측정하고 이를 디지털 오디오 신호에 합성곱하여 특정 공간의 음향 특성을 재현할 수 있다. 노래방 기기나 신시사이저의 에코 기능은 이러한 원리를 전기 회로나 컴퓨터 시뮬레이션을 통해 구현한 것이다. 전자 음악에서는 한 소리의 스펙트럼이나 리듬 구조를 다른 소리에 적용하는 데 합성곱을 사용하기도 한다. 이는 하나의 신호를 다른 신호로 필터링하는 것과 유사한 효과를 낸다.^[39]

전기 공학에서는 선형 시불변 시스템 (LTI)의 출력을 계산하는 데 합성곱이 핵심적인 역할을 한다. LTI 시스템의 출력 신호

y(t)

는 입력 신호

x(t)

와 시스템의 임펄스 응답

h(t)

사이의 합성곱으로 표현된다.

:

y(t) = (h * x)(t) = \int_{-\infty}^\infty h(\tau) x(t - \tau)\, d\tau

여기서

*

는 합성곱 연산을 나타낸다. 특히 입력 신호

x(t)

가 델타 함수

\delta(t)

일 경우, 출력은 시스템의 임펄스 응답

h(t)

자체가 된다.

이 합성곱 관계식의 양변을 푸리에 변환, 라플라스 변환, 또는 이산 신호의 경우 Z 변환하면, 컨볼루션 정리에 의해 시간 영역에서의 합성곱은 주파수 영역(또는 복소 주파수 영역)에서는 곱셈 관계로 변환된다.

:

Y(s) = H(s) X(s)

여기서

X(s)

,

Y(s)

,

H(s)

는 각각 입력 신호, 출력 신호, 임펄스 응답의 변환 결과이다. 이 식으로부터 시스템의 전달 함수

H(s)

를 다음과 같이 정의할 수 있다.

:

H(s) = \frac{Y(s)}{X(s)}

전달 함수는 시스템의 주파수 응답 특성을 나타내며, 고전 제어 이론 등에서 시스템 분석 및 설계의 기초가 된다.

5. 2. 이미지 처리

합성곱은 이미지 처리 분야에서 필터링 등 다양한 목적으로 활용된다. 디지털 이미지 처리에서 합성곱 필터링은 에지 검출과 같은 중요한 알고리즘에 핵심적인 역할을 한다^[36](커널 (이미지 처리) 참조). 이미지를 부드럽게 만드는 블러링 효과에도 사용된다.

광학적으로 초점이 맞지 않아 흐릿해진 사진은 선명한 이미지와 렌즈(또는 조리개) 특성을 나타내는 함수와의 합성곱 결과로 볼 수 있으며, 이를 보케라고 한다^[36].

촬영 시 카메라나 피사체의 움직임으로 발생하는 모션 블러 역시 정지된 이미지와 움직임 특성과의 합성곱으로 설명할 수 있다^[36]. 그래픽 소프트웨어의 모션 블러 기능은 이러한 합성곱 연산을 시뮬레이션하여 구현된다. 가우시안 블러는 대표적인 블러링 기법 중 하나이다.

이미지 인식 분야에서는 다양한 크기(scale)의 객체를 인식하기 위해, 입력 이미지에 합성곱 연산을 적용하여 여러 스케일의 특징을 추출하기도 한다^[36]. 특히, 합성곱 신경망(Convolutional Neural Network, CNN)은 여러 개의 합성곱 계층(convolutional layer)을 쌓아 이미지의 특징을 효과적으로 학습하는 방식으로, 머신 비전과 인공 지능 분야에서 이미지 분류, 객체 검출 등 다양한 문제 해결에 핵심적인 기술로 사용된다^[36]^[37]. (단, 일부 구현에서는 수학적 정의상 합성곱이 아닌 상관관계(cross-correlation) 연산을 사용하기도 한다^[38]).

5. 3. 확률론

만약 μ와 ν가 위상군 ('''R''',+)에 대한 확률 측도인 경우, 합성곱 ''μ''∗''ν''는 각각 μ와 ν의 분포를 갖는 두 개의 독립적인 확률 변수 ''X''와 ''Y''의 합 ''X'' + ''Y''의 확률 분포이다.

집합 함수의 일종인 확률 측도의 합성곱은 다음과 같이 표현된다. 확률 측도 ''μ''₁, ''μ''₂에 대해 임의의 보렐 집합 ''B''에 대해,

:

(\mu_1 *\mu_2 )(B) = \int 1_B (x +y)\ \mu_1(dx)\mu_2(dy)

로 표현된다. 여기서 1_''B''는 ''B''의 지시 함수이다. 이는 ''μ''₁, ''μ''₂를 집합 함수로 간주하고, 변수 변환을 통해 얻을 수 있다. 이를 통해, ''μ''₁, ''μ''₂를 분포로 갖는 확률 변수 ''X'', ''Y''에서 그 합 ''X'' + ''Y''의 분포가 합성곱에 해당함을 알 수 있다.

''X'', ''Y''가 각각 독립적인 연속형 확률변수라고 하면, 합

S=X+Y

의 확률 밀도 함수는 합성곱으로 주어진다. ''X'', ''Y''의 확률밀도함수를 각각

f_X, f_Y

라고 표기하면, ''S''의 밀도함수는 다음 식으로 주어진다.

:

f_S (s) = \int^{\infty}_{-\infty} f_X(x) f_Y(s - x)\, dx

5. 4. 기타 응용

합성곱 및 관련 연산은 과학, 공학, 수학 등 다양한 분야에서 응용된다.

인공지능 및 머신러닝: 합성곱 신경망(CNN)은 컴퓨터 비전 및 인공지능 분야에서 여러 합성곱 커널을 연이어 적용하는 방식으로 활용된다.^[36]^[37] 다만, 많은 경우 실제로는 합성곱이 아닌 상호상관 연산을 사용하기도 한다.^[38]
이미지 처리:
디지털 이미지 처리에서 합성곱 필터링은 에지 검출과 같은 중요한 알고리즘의 핵심 요소이다(커널 (이미지 처리) 참조).
광학에서 초점이 맞지 않은 사진은 선명한 이미지와 렌즈 효과(렌즈 함수)의 합성곱으로 이해할 수 있다. 사진 분야에서는 이를 보케라고 부른다.
이미지에 블러 효과를 적용하는 등의 작업에도 사용된다.
디지털 데이터 처리:
분석화학 분야에서는 Savitzky–Golay 필터를 사용하여 분광 데이터를 분석한다. 이 필터는 스펙트럼 왜곡을 최소화하면서 신호 대 잡음비를 개선하는 데 도움을 준다.
통계학에서 가중 이동평균은 합성곱의 한 예이다.
음향학:
잔향은 원본 소리와 주변 환경에 의한 반사음들의 합성곱으로 설명할 수 있다.
디지털 신호 처리에서는 실제 공간의 임펄스 응답을 디지털 오디오 신호에 적용하여 특정 공간의 음향 특성을 모방하는 데 합성곱을 사용한다.
전자 음악에서는 한 소리의 스펙트럼이나 리듬 구조를 다른 소리에 적용하는 데 사용된다. 이는 한 신호를 다른 신호로 필터링하는 것과 유사하다.^[39]
전기공학: 선형 시불변 시스템(LTI)의 출력 신호는 입력 신호와 시스템의 임펄스 응답 사이의 합성곱으로 계산된다. 특정 시점의 출력은 과거 입력 값들이 누적된 결과이며, 최근의 입력일수록 더 큰 영향을 미치는 경우가 많다. 임펄스 응답 함수는 입력이 발생한 후 시간 경과에 따른 영향의 크기를 나타낸다.
물리학: 중첩 원리가 적용되는 선형 시스템에서 합성곱 연산이 나타난다.
분광학에서 도플러 효과에 의한 선폭(가우시안 형태)과 충돌 확장 효과(로렌츠 형태)가 함께 작용하면, 최종적인 선 모양은 두 효과의 합성곱인 보이그 함수 형태가 된다.
시간 분해 형광 분광법에서는 여기 신호를 짧은 펄스들의 연속으로 간주하고, 측정된 형광은 각 펄스에 대한 지수적 감쇠 응답들의 합, 즉 합성곱으로 모델링할 수 있다.
전산유체역학(CFD)의 대와동 모사(LES) 난류 모델에서는 계산에 필요한 공간 격자 크기를 줄여 계산 비용을 절감하기 위해 합성곱 연산을 사용한다.
확률론: 서로 독립인 두 확률 변수의 합의 확률 분포는 각 변수의 확률 분포를 합성곱한 것과 같다.
커널 밀도 추정에서는 샘플 데이터 지점들을 중심으로 커널 함수(예: 가우시안 함수)를 합성곱하여 전체 데이터의 분포를 추정한다.
방사선 치료 계획 시스템: 최신 계산 코드 중 다수는 합성곱-중첩 알고리즘을 사용하여 방사선량 분포를 계산한다.
구조적 신뢰성: 신뢰도 지수는 합성곱 정리를 기반으로 정의될 수 있다. 특히, 비정규 분포를 따르는 한계 상태 함수에 대한 신뢰도 지수는 합성곱 이론을 이용해 결합 분포 함수를 구하여 설정할 수 있다.
입자법: 유체 역학 시뮬레이션에서 각 입자의 물리량은 주변 입자들의 물리량과 가중 함수(커널)의 합성곱으로 계산된다. 이는 각 이웃 입자에 대한 합으로 근사된다.^[40]
분수 미적분학: 합성곱은 분수 적분 및 분수 미분의 다양한 정의에서 중요한 역할을 한다.

전기 회로와 같은 고전적인 선형 시불변 시스템에서 임의의 입력

x(t)

에 대한 출력

y(t)

는 입력

x(t)

와 시스템의 임펄스 응답

h(t)

의 합성곱으로 표현될 수 있다.

:

y(t) = (h * x)(t) = \int_{-\infty}^\infty h(\tau) x(t - \tau) \, d\tau

특히 입력

x(t)

가 디랙 델타 함수

\delta(t)

일 때, 출력

y(t)

는 임펄스 응답

h(t)

자체가 된다.

이 식의 양변을 푸리에 변환이나 라플라스 변환(이산 시스템의 경우 Z-변환)하면 합성곱 정리에 의해 다음과 같이 간단한 곱셈 형태로 변환된다.

:

Y(s) = H(s) X(s)

여기서

Y(s)

,

H(s)

,

X(s)

는 각각

y(t)

,

h(t)

,

x(t)

를 변환한 것이며,

:

H(s) = \frac{Y(s)}{X(s)}

를 시스템의 전달함수라고 한다. 이 관계식은 고전 제어 이론의 기초를 이룬다.

6. 역사

합성곱 적분을 처음 사용한 예는 1754년 달랑베르가 테일러 정리를 유도하는 과정에서 나타난다.^[6] 또한 라크루아는 1797년부터 1800년 사이에 출판된 그의 저서에서 다음과 같은 형태의 표현식을 사용했다.^[7]

: $\int f(u)\cdot g(x - u) \, du$

이후 라플라스, 푸리에, 푸아송 등의 연구에서도 합성곱 연산이 등장했다. '합성곱'이라는 용어 자체는 1950년대나 1960년대에 이르러서야 널리 사용되기 시작했다. 그 이전에는 Faltung|팔퉁^de(독일어로 '접기'를 의미), 합성 곱(composition product), 중첩 적분(superposition integral), 카슨의 적분(Carson's integral) 등 다양한 이름으로 불렸다.^[8]^[45] 이 용어는 1903년경에도 나타나지만, 이전 사용례에서는 정의가 다소 달랐다.^[9]^[10]^[46]^[47]

합성곱의 특별한 경우로 볼 수 있는 다음 연산은 1913년 이탈리아 수학자 볼테라가 연구했다.^[11]^[48]

: $\int_0^t \varphi(s)\psi(t - s) \, ds,\quad 0 \le t < \infty,$

참조

_[1] 논문 Convolution Theorems for Quaternion Fourier Transform: Properties and Applications https://core.ac.uk/d[...] 2013-01-01
_[2] 서적 The Scientist and Engineer's Guide to Digital Signal Processing California Technical Publishing 2016-04-22
_[3] 서적 The Industrial Electronics Handbook CRC Press 1997-01-01
_[4] 웹사이트 Lecture 21: Convolution Formula https://ocw.mit.edu/[...] MIT 2021-12-22
_[5] 웹사이트 18.03SC Differential Equations Fall 2011 https://ocw.mit.edu/[...]
_[6] 문서 Dominguez-Torres
_[7] 문서 Dominguez-Torres
_[8] 서적 The Early Years of Radio Astronomy: Reflections Fifty Years After Jansky's Discovery Cambridge University Press
_[9] 서적 The algebra of invariants https://books.google[...] Cambridge University Press
_[10] 서적 Algebraic invariants https://books.google[...] J. Wiley
_[11] 간행물 According to [Lothar von Wolfersdorf (2000), "Einige Klassen quadratischer Integralgleichungen", ''Sitzungsberichte der Sächsischen Akademie der Wissenschaften zu Leipzig'', ''Mathematisch-naturwissenschaftliche Klasse'', volume '''128''', number 2, 6–7], the source is Volterra, Vito (1913), "Leçons sur les fonctions de linges". Gauthier-Villars, Paris 1913.
_[12] 문서 Damelin Miller 2011-01-01
_[13] 서적 Numerical Recipes in Pascal https://archive.org/[...] Cambridge University Press
_[14] 논문 Discrete Convolutions via Mersenne Transforms 1972-12-01
_[15] 서적 Arithmetic Complexity of Computations https://epubs.siam.o[...] Society for Industrial and Applied Mathematics 1980-01-01
_[16] 논문 Reducing the Computational Complexity of Image Processing Using Wavelet Transform Based on the Winograd Method https://link.springe[...] 2023-06-01
_[17] 논문 SWM: A High-Performance Sparse-Winograd Matrix Multiplication CNN Accelerator https://ieeexplore.i[...] 2021-05-01
_[18] 논문 A survey of accelerator architectures for 3D convolution neural networks https://linkinghub.e[...] 2021-05-01
_[19] 서적 Digital Signal Processing Handbook CRC Press
_[20] 웹사이트 Lecture 21: Block Convolution https://users.ece.ga[...] EECS at the Georgia Institute of Technology 2013-05-17
_[21] 논문 Efficient Convolution without Input/Output Delay https://cs.ust.hk/mj[...] 2013-05-17
_[22] 논문 Inequalities in Fourier analysis
_[23] 논문 Best constants in Young's inequality, its converse, and its generalization to more than three functions
_[24] 문서 Reed Simon 1975-01-01
_[25] 웹사이트 Convolution https://mathworld.wo[...] 2021-09-22
_[26] 웹사이트 From MathWorld--A Wolfram Web Resource https://mathworld.wo[...]
_[27] 논문 End products in matrices in radar applications. https://slyusar.kiev[...] 1996-12-27
_[28] 논문 Analytical model of the digital antenna array on a basis of face-splitting matrix products. https://slyusar.kiev[...] 1997-05-20
_[29] 논문 New operations of matrices product for applications of radars https://slyusar.kiev[...] 1997-09-15
_[30] 논문 A Family of Face Products of Matrices and its Properties https://slyusar.kiev[...] 1998-03-13
_[31] 논문 Generalized face-products of matrices in models of digital antenna arrays with nonidentical channels https://slyusar.kiev[...] 2003-01-01
_[32] 간행물 Fast and scalable polynomial kernels via explicit feature maps Association for Computing Machinery 2013-01-01
_[33] 문서 Hewitt and Ross (1979) Abstract harmonic analysis, volume 1, second edition, Springer-Verlag, p 266.
_[34] 문서 Hewitt and Ross (1979), Theorem 19.18, p 272.
_[35] 서적 Convex analysis Princeton University Press
_[36] 논문 Powder-Bed Fusion Process Monitoring by Machine Vision With Hybrid Convolutional Neural Networks https://ieeexplore.i[...] 2020-09
_[37] 논문 Residue Number System-Based Solution for Reducing the Hardware Cost of a Convolutional Neural Network https://linkinghub.e[...] 2020-09
_[38] 논문 An Artificial Neural Network for Spatio-Temporal Bipolar Patterns: Application to Phoneme Classification https://papers.nips.[...]
_[39] 서적 DAFX:Digital Audio Effects 2002
_[40] 논문 Smoothed particle hydrodynamics https://ui.adsabs.ha[...] 2021-02-16
_[41] 문서 William Beckner (mathematician) (1975), "Inequalities in Fourier analysis", Ann. of Math. (2) '''102''': 159–182. Independently, Brascamp, Herm J. and Elliott H. Lieb (1976), "Best constants in Young's inequality, its converse, and its generalization to more than three functions", Advances in Math. '''20''': 151–173. See Brascamp–Lieb inequality
_[42] 웹사이트 "mode : {‘full’, ‘valid’, ‘same’}" NumPy https://numpy.org/do[...] 2023-03-23
_[43] 웹사이트 "mode : str {‘full’, ‘valid’, ‘same’}" SciPy https://docs.scipy.o[...] 2023-03-23
_[44] 웹사이트 "mode (str, optional) – Must be one of (“full”, “valid”, “same”)." TorchAudio https://pytorch.org/[...] 2023-03-23
_[45] 서적 The Early Years of Radio Astronomy: Reflections Fifty Years After Jansky's Discovery https://books.google[...] Cambridge University Press
_[46] 서적 The algebra of invariants https://books.google[...] Cambridge University Press
_[47] 서적 Algebraic invariants https://books.google[...] J. Wiley
_[48] 간행물 Einige Klassen quadratischer Integralgleichungen Mathematisch-naturwissenschaftliche Klasse 2000

본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.

문의하기 : help@durumis.com