작용소 노름

1. 개요

작용소 노름은 실수체 또는 복소수체 상의 노름 공간 사이의 선형 변환에 대해 정의되는 음이 아닌 확장된 실수이며, 선형 변환의 "크기"를 측정하는 데 사용된다. 작용소 노름은 유계 작용소에 대한 노름이며, 유계 작용소, 연속 함수, 균등 연속 함수, 립시츠 연속 함수 사이의 동치 관계를 제공한다. 작용소 노름은 작용소의 합성, 즉 곱셈과 호환되며, 작용소 열의 작용소 노름에서 수렴은 유계 집합에서의 균등 수렴을 의미한다. 행렬 노름과 무한 차원 공간의 작용소 노름을 예시로 들 수 있으며, 힐베르트 공간에서 작용소 노름은 수반 연산자와 스펙트럼 반경과 관련이 있다. 작용소 노름은 정의역과 공역의 노름 선택에 따라 다양한 값을 가지며, 계산 복잡성이 다르다.

2. 정의

$\backslash mathbb\{K\}$가 실수체($\backslash mathbb\{R\}$) 또는 복소수체($\backslash mathbb\{C\}$)이고, $V$와 $W$가 $\backslash mathbb\{K\}$-노름 공간이라고 하자. 이들 사이의 선형 변환 $T\backslash colon\; V\backslash to\; W$에 대하여, 다음과 같은 음이 아닌 확장된 실수를 정의할 수 있으며, 이를 $T$의 작용소 노름이라고 한다.
:$$
\begin{align}
\|T\|&=\sup_{v\in V\setminus\{0\}}\frac{\|Tv\|_W}{\|v\|_V}\\
&=\sup_{v\in V\setminus\{0\}}\|T(v/\|v\|_V)\|_W \\
&= \inf\left\{c\in[0,\infty)\colon \|Tv\|_W \le c\|v\|_V \forall v\in V\right\} \\
&= \inf\left\{c\in[0,\infty): \frac{\|Tv\|_W}{\|v\|_V} \le c \forall v\in V\setminus\{0\}\right\} \\
&= \sup_{v\in V,\;\|v\|_V = 1} \|Tv\|_W\\
&\in[0,\infty]
\end{align}

위 상계(또는 하계)는 일반적으로 포화되지 못할 수 있다.

두 노름 벡터 공간 $V$와 $W$ (같은 체 상, 실수 $\backslash R$ 또는 복소수 $\backslash Complex$)가 주어졌을 때, 선형 맵 $A\; :\; V\; \backslash to\; W$가 연속이기 위한 필요충분조건은 다음을 만족하는 실수 $c$가 존재하는 것이다.
:$$\backslash |Av\backslash |\; \backslash leq\; c\; \backslash |v\backslash |\; \backslash quad\; \backslash text\{\; 모든\; \}\; v\backslash in\; V에\; 대해.$$

왼쪽의 노름은 $W$에서의 노름이고 오른쪽의 노름은 $V$에서의 노름이다. 직관적으로, 연속 연산자 $A$는 어떤 벡터의 길이도 $c$의 배수 이상으로 증가시키지 않는다. 따라서 연속 연산자 하에서 유계 집합의 상은 또한 유계이다. 이러한 성질 때문에, 연속 선형 연산자는 유계 연산자라고도 한다.

$A$의 "크기"는 "가장 큰" 경우에 벡터를 얼마나 "늘리는지"로 측정된다. 따라서 $A$의 작용소 노름은 다음과 같이 정의한다.
:$$\backslash |A\backslash |\_\backslash text\{op\}\; =\; \backslash inf\backslash \{\; c\; \backslash geq\; 0\; :\; \backslash |Av\backslash |\; \backslash leq\; c\; \backslash |v\backslash |\; \backslash text\{\; 모든\; \}\; v\; \backslash in\; V\; \backslash text\{에\; 대해\}\; \backslash \}.$$

이러한 모든 $c$의 집합이 닫힌 집합, 공집합이 아니며, 아래로 유계 집합이므로 하한이 존재한다.

이 연산자 노름이 노름 벡터 공간 $V$와 $W$에 대한 노름의 선택에 의존한다는 점을 기억하는 것이 중요하다.

3. 성질

작용소 노름은 유계 작용소 위에서 노름의 성질을 만족시킨다. 즉, 다음이 성립한다.

* $\backslash |T\backslash |\; =\; 0\; \backslash iff\; T\; =\; 0\; \backslash qquad\backslash forall\; T\backslash in\backslash operatorname\; B(V,W)$
* $\backslash |aT\backslash |\; =\; |a|\; \backslash |T\backslash |\; \backslash qquad\backslash forall\; a\backslash in\backslash mathbb\; K,\backslash ;\; T\backslash in\backslash operatorname\; B(V,W)$
* (삼각 부등식) $\backslash |T\; +\; U\backslash |\; \backslash le\; \backslash |T\backslash |\; +\; \backslash |U\backslash |\; \backslash qquad\backslash forall\; T,U\backslash in\backslash operatorname\; B(V,W)$

여기서 $\backslash mathbb\; K$는 실수체 또는 복소수체를 의미한다.

두 $\backslash mathbb\; K$-노름 공간 $V$와 $W$ 사이의 선형 변환 $T\backslash in\backslash hom\_\{\backslash mathbb\; K\}(V,W)$에 대하여 다음은 서로 동치이다.

* $T$는 유계 작용소이다.
* $T$는 연속 함수이다.
* $T$는 균등 연속 함수이다.
* $T$는 립시츠 연속 함수이다.
* $T$의 작용소 노름이 유한하다. 즉, 이다.

이 가운데 ‘립시츠 연속 ⇒ 균등 연속 ⇒ 연속’은 자명하다.

유한 노름을 갖는 작용소 $T$에 대해, 임의의 $u,v\backslash in\; V$에 대하여,
:$d(Tu,Tv)=\backslash |Tu-Tv\backslash |=\backslash |T(u-v)\backslash |\backslash le\; \backslash |T\backslash |\; d(u,v)$
이므로, $T$는 립시츠 연속 함수이다.

연속 작용소 $T$에 대해서는, 연속성의 정의에 따라
:$T\backslash left(\backslash operatorname\{ball\}\_V(0,\backslash delta)\backslash right)\backslash subseteq\backslash operatorname\{ball\}\_W(0,1)$
인 양의 실수 $\backslash delta\backslash in\backslash mathbb\; R^+$가 존재한다. (여기서 $\backslash operatorname\{ball\}(x,r)$는 열린 공을 뜻한다.)

따라서 임의의 $v\backslash in\; V\backslash setminus\backslash \{0\backslash \}$에 대하여, $\backslash delta\; v/2\backslash |v\backslash |\backslash in\backslash operatorname\{ball\}\_V(0,\backslash delta)$이므로,
:$\backslash |Tv\backslash |=\backslash frac\{2\backslash |v\backslash |\}\backslash delta\backslash cdot\; \backslash |T(\backslash delta\; v/2\backslash |v\backslash |)\backslash |\; \backslash le\; \backslash frac\{2\backslash |v\backslash |\}\backslash delta$
이다. 즉,
:
이다.

작용소 노름은 $V$와 $W$ 사이의 모든 유계 작용소 공간에 정의되는 노름이며, 다음 부등식이 성립한다.

:$\backslash |Av\backslash |\; \backslash leq\; \backslash |A\backslash |\_\backslash text\{op\}\; \backslash |v\backslash |\; \backslash \; \backslash mbox\{\; 모든\; \}\backslash \; v\; \backslash in\; V\; \backslash mbox\{에\; 대해.\}$

작용소 노름은 작용소의 합성(곱셈)과 호환되는 곱셈 가능 노름이다. 즉, $V$, $W$, $X$가 같은 체를 기저로 하는 세 노름 공간이고, $A\; :\; V\; \backslash to\; W$와 $B\; :\; W\; \backslash to\; X$가 두 유계 작용소라면, 다음이 성립한다.

:$\backslash |BA\backslash |\_\backslash text\{op\}\; \backslash leq\; \backslash |B\backslash |\_\backslash text\{op\}\; \backslash |A\backslash |\_\backslash text\{op\}.$

이는 작용소 곱셈이 결합적으로 연속임을 의미한다.

작용소 열이 작용소 노름에서 수렴하면, 유계 집합에서 균등 수렴한다.

3.1. 동치인 정의들

$\backslash mathbb\; K$가 실수체 또는 복소수체 중 하나이고, $V$와 $W$가 $\backslash mathbb\; K$-노름 공간이라고 할 때, 이들 사이의 선형 변환 $T\backslash colon\; V\backslash to\; W$의 작용소 노름은 다음과 같이 정의되는 음이 아닌 확장된 실수이다.

:$$
\begin{align}
\|T\|&=\sup_{v\in V\setminus\{0\}}\frac{\|Tv\|_W}{\|v\|_V}\\
&=\sup_{v\in V\setminus\{0\}}\|T(v/\|v\|_V)\|_W \\
&= \inf\left\{c\in[0,\infty)\colon \|Tv\|_W \le c\|v\|_V \forall v\in V\right\} \\
&= \inf\left\{c\in[0,\infty): \frac{\|Tv\|_W}{\|v\|_V} \le c \forall v\in V\setminus\{0\}\right\} \\
&= \sup_{v\in V,\;\|v\|_V = 1} \|Tv\|_W\\
&\in[0,\infty]
\end{align}


위 상계(또는 하계)는 일반적으로 포화되지 못할 수 있다.

두 노름 벡터 공간 $V$와 $W$ (같은 체 상, 실수 $\backslash R$ 또는 복소수 $\backslash Complex$)가 주어졌을 때, 선형 맵 $A\; :\; V\; \backslash to\; W$가 연속이기 위한 필요충분조건은 다음을 만족하는 실수 $c$가 존재하는 것이다.

:$\backslash |Av\backslash |\; \backslash leq\; c\; \backslash |v\backslash |\; \backslash quad\; \backslash text\{\; 모든\; \}\; v\backslash in\; V에\; 대해.$

여기서 왼쪽의 노름은 $W$에서의 노름이고 오른쪽의 노름은 $V$에서의 노름이다.

연속 선형 연산자는 유계 연산자라고도 불리는데, 이는 연속 연산자 하에서 유계 집합의 상이 유계이기 때문이다.

$A$의 "크기"는 $A$가 벡터를 "늘리는" 최대 스칼라 인자로 측정되므로, $A$의 연산자 노름은 다음과 같이 정의된다.

:$\backslash |A\backslash |\_\backslash text\{op\}\; =\; \backslash inf\backslash \{\; c\; \backslash geq\; 0\; :\; \backslash |Av\backslash |\; \backslash leq\; c\; \backslash |v\backslash |\; \backslash text\{\; 모든\; \}\; v\; \backslash in\; V\; \backslash text\{에\; 대해\}\; \backslash \}.$

이러한 모든 $c$의 집합은 닫힌 집합, 공집합(이 아님), 그리고 아래로 유계 집합이므로 하한이 존재한다.

정규 노름 공간 사이의 선형 연산자 $A\; :\; V\; \backslash to\; W$가 주어졌을 때, 다음 정의들은 모두 동치이다. ($V\; \backslash neq\; \backslash \{0\backslash \}$인 경우)

:$$
\begin{alignat}{4}
\|A\|_\text{op} &= \inf &&\{ c \geq 0 ~&&:~ \| A v \| \leq c \| v \| ~&&~ \text{ 모든 } ~&&v \in V \} \\
&= \sup &&\{ \| Av \| ~&&:~ \| v \| \leq 1 ~&&~\mbox{ 그리고 } ~&&v \in V \} \\
&= \sup &&\{ \| Av \| ~&&:~ \| v \| < 1 ~&&~\mbox{ 그리고 } ~&&v \in V \} \\
&= \sup &&\{ \| Av \| ~&&:~ \| v \| \in \{0,1\} ~&&~\mbox{ 그리고 } ~&&v \in V \} \\
&= \sup &&\{ \| Av \| ~&&:~ \| v \| = 1 ~&&~\mbox{ 그리고 } ~&&v \in V \} \;\;\;\text{ 이 등식은 } V \neq \{ 0 \} \text{일 때에만 성립한다.} \\
&= \sup &&\bigg\{ \frac{\| Av \|}{\| v \|} ~&&:~ v \ne 0 ~&&~\mbox{ 그리고 } ~&&v \in V \bigg\} \;\;\;\text{ 이 등식은 } V \neq \{ 0 \} \text{일 때에만 성립한다.} \\
\end{alignat}


만약 $V\; =\; \backslash \{0\backslash \}$이면, 마지막 두 행의 집합은 비어있게 되며, 결과적으로 집합 $[-\backslash infty,\; \backslash infty]$에서의 상한은 올바른 값인 $0$ 대신 $-\backslash infty$가 된다. 만약 상한이 집합 $[0,\; \backslash infty]$에서 취해진다면, 공집합의 상한은 $0$이고, 어떤 $V$에 대해서도 공식이 성립한다.

제임스 정리(James's theorem)에 따르면, 바나흐 공간 $V$가 모든 유계 선형 범함수 $f\; \backslash in\; V^*$가 닫힌 단위 공에서 자신의 쌍대 노름을 달성할 경우에만 반사 공간(reflexive space)이다.

만약 $A\; :\; V\; \backslash to\; W$가 유계이면,

:$\backslash |A\backslash |\_\backslash text\{op\}\; =\; \backslash sup\; \backslash left\backslash \{\backslash left|w^*(A\; v)\backslash right|\; :\; \backslash |v\backslash |\; \backslash leq\; 1,\; \backslash left\backslash |w^*\backslash right\backslash |\; \backslash leq\; 1\; \backslash text\{\; where\; \}\; v\; \backslash in\; V,\; w^*\; \backslash in\; W^*\backslash right\backslash \}$

이고

:$\backslash |A\backslash |\_\backslash text\{op\}\; =\; \backslash left\backslash |\{\}^tA\backslash right\backslash |\_\backslash text\{op\}$

여기서 $\{\}^t\; A\; :\; W^*\; \backslash to\; V^*$는 $A\; :\; V\; \backslash to\; W$의 전치이며, 이는 $w^*\; \backslash ,\backslash mapsto\backslash ,\; w^*\; \backslash circ\; A$로 정의되는 선형 연산자이다.

4. 예시

모든 실수 \(m \times n\) 행렬은 \(\mathbb{R}^n\)에서 \(\mathbb{R}^m\)으로의 선형 사상에 해당하며, 노름이 주어진 실수 벡터 공간에서 정의될 수 있다. 특히 \(\mathbb{R}^n\)과 \(\mathbb{R}^m\) 모두에서 유클리드 노름을 선택하면, 행렬 \(A\)에 대한 작용소 노름은 행렬 \(A^{*} A\)의 가장 큰 고유값의 제곱근으로 주어진다(여기서 \(A^{*}\)는 \(A\)의 켤레 전치)이다. 이는 \(A\)의 가장 큰 특이값을 구하는 것과 같다.

L^p 공간의 일종인 수열 공간 \(\ell^2\)는 유클리드 공간 \(\Complex^n\)의 무한 차원 형태로 볼 수 있다. 유계 수열 \(s_{\bull} = \left(s_n\right)_{n=1}^\infty\)에 대해 점별 곱셈으로 정의된 연산자 \(T_s\)는 유계 작용소이며, 그 작용소 노름은 \(\left\|T_s\right\|_\text{op} = \left\|s_{\bull}\right\|_\infty\)로 주어진다. 이러한 논의는 \(\ell^2\)를 \(p > 1\)인 일반적인 \(L^p\) 공간으로, \(\ell^\infty\)를 \(L^\infty\) 공간으로 대체하여도 확장 가능하다.

4.1. 행렬 노름

모든 실수 $m\; \backslash times\; n$ 행렬은 $\backslash mathbb\{R\}^n$에서 $\backslash mathbb\{R\}^m$으로의 선형 사상에 해당하며, 실수 벡터 공간에 적용 가능한 다양한 노름의 각 쌍은 모든 $m\; \backslash times\; n$ 실수 행렬에 대한 작용소 노름을 유도하며, 이러한 유도된 노름은 행렬 노름의 부분 집합을 형성한다.

특히 $\backslash mathbb\{R\}^n$과 $\backslash mathbb\{R\}^m$ 모두에서 유클리드 노름을 선택하면, 행렬 $A$에 주어진 행렬 노름은 행렬 $A^\{*\}\; A$의 가장 큰 고유값의 제곱근이다 (여기서 $A^\{*\}$는 $A$의 켤레 전치를 나타낸다). 이는 $A$의 가장 큰 특이값을 할당하는 것과 동일하다.

4.2. 무한 차원 예시

L^p 공간의 일종인 수열 공간 $\backslash ell^2$는 다음과 같이 정의된다.

:

이는 유클리드 공간 $\backslash Complex^n$의 무한 차원 형태로 볼 수 있다. 유계 수열 $s\_\{\backslash bull\}\; =\; \backslash left(s\_n\backslash right)\_\{n=1\}^\backslash infty$는 $\backslash ell^\backslash infty$ 공간의 원소이며, 이 공간의 노름은 다음과 같다.

:$\backslash left\backslash |s\_\{\backslash bull\}\backslash right\backslash |\_\backslash infty\; =\; \backslash sup\; \_n\; \backslash left|s\_n\backslash right|.$

점별 곱셈으로 연산자 $T\_s$를 다음과 같이 정의한다.

:$\backslash left(a\_n\backslash right)\_\{n=1\}^\{\backslash infty\}\; \backslash ;\backslash stackrel\{T\_s\}\{\backslash mapsto\}\backslash ;\backslash \; \backslash left(s\_n\; \backslash cdot\; a\_n\backslash right)\_\{n=1\}^\{\backslash infty\}.$

이 연산자 $T\_s$는 유계 작용소이며, 연산자 노름은 다음과 같이 주어진다.

:$\backslash left\backslash |T\_s\backslash right\backslash |\_\backslash text\{op\}\; =\; \backslash left\backslash |s\_\{\backslash bull\}\backslash right\backslash |\_\backslash infty.$

$\backslash ell^2$ 공간을 $p\; >\; 1$인 일반적인 $L^p$ 공간으로, $\backslash ell^\backslash infty$ 공간을 $L^\backslash infty$ 공간으로 대체하여도 위와 같은 논의를 직접 확장할 수 있다.

5. 힐베르트 공간에서의 작용소

$H$가 힐베르트 공간이고 $A:\; H\; \backslash to\; H$가 유계 선형 연산자일 때, $A$의 스펙트럼 반경 $\backslash rho(A)$에 대해 $\backslash rho(A)\; \backslash leq\; \backslash |A\backslash |\_\backslash text\{op\}$가 성립한다.

$A$가 정규 행렬(또는 정규 작용소)이면, 스펙트럼 정리에 따라 $\backslash rho(A)\; =\; \backslash |A\backslash |\_\backslash text\{op\}$이다.

이 공식은 주어진 유계 연산자 $A$의 연산자 노름을 계산하는 데 사용될 수 있다. 즉, 에르미트 연산자 $B\; =\; A^\{*\}\; A$를 정의하고, 스펙트럼 반경을 결정한 다음, 행렬의 제곱근을 취하여 $A$의 연산자 노름을 구한다.

하지만 이 등식이 항상 성립하는 것은 아니다. 유한 차원에서의 행렬의 조르당 표준형을 고려해 보면, 대각선 위에 0이 아닌 원소가 있을 수 있기 때문에 등식이 성립하지 않을 수 있다. 준 멱영 연산자가 이러한 예시 중 하나이다. 영이 아닌 준 멱영 연산자 $A$는 스펙트럼 $\backslash \{0\backslash \}.$을 가지므로, $\backslash rho(A)\; =\; 0$이지만 $\backslash |A\backslash |\_\backslash text\{op\}\; >\; 0.$이다.

6. 일반적인 작용소 노름

정의역과 공역에 다른 노름을 선택함으로써 작용소 노름의 다른 값을 얻을 수 있다. 몇몇 일반적인 작용소 노름은 계산하기 쉽지만, 다른 노름은 NP-난해이다.

NP-난해 노름을 제외하고, 이 모든 노름은 $N^2$ 연산으로 계산할 수 있다( $N\; \backslash times\; N$ 행렬의 경우). 단, $\backslash ell\_2\; -\; \backslash ell\_2$ 노름은 정확한 답을 얻기 위해 $N^3$ 연산이 필요하며, 거듭제곱 방법 또는 란초스 반복법으로 근사하면 연산 횟수를 줄일 수 있다.