행렬 노름

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.

1. 개요

행렬 노름은 행렬의 크기를 측정하기 위한 노름으로, 실수 또는 복소수 체의 행렬 공간에 정의된다. 행렬 노름은 양수 값, 정의, 절대 균질성, 삼각 부등식을 만족해야 하며, 정사각 행렬의 경우 열등 승법성과 * -성을 추가로 고려할 수 있다. 유도 노름, 성분별 노름, 샤텐 노름, 프로베니우스 노름, 최대 노름, 컷 노름 등이 있으며, 행렬 노름은 모두 동치 관계에 있으며, 유한 차원 공간에서 동일한 위상을 유도한다.

더 읽어볼만한 페이지

노름 - 맨해튼 거리
맨해튼 거리는 좌표축에 평행하게 측정한 거리 차이의 절댓값 합으로, 택시 기하학이라고도 불리며, 체스 룩의 이동이나 격자 도시 이동 거리 측정에 활용된다.
노름 - 작용소 노름
작용소 노름은 노름 공간 사이의 선형 변환의 크기를 측정하는 값으로, 선형 변환이 벡터의 크기를 얼마나 늘릴 수 있는지 나타내며 유계 작용소를 정의하고 분석하는 데 사용된다.
선형대수학 - 벡터 공간
벡터 공간은 체 위의 가군으로 정의되는 대수적 구조로, 벡터 덧셈과 스칼라 곱셈 연산을 가지며 특정 공리들을 만족하고, 기저, 차원, 선형 사상 등의 개념을 통해 수학과 물리학 등 다양한 분야에서 활용된다.
선형대수학 - 선형 결합
선형 결합은 벡터 공간에서 벡터들의 스칼라 곱의 합으로 표현되는 식으로, 벡터 집합의 선형 독립성 판단 및 부분 공간 생성과 관련되며, 계수 제약을 통해 다양한 종류의 결합을 정의할 수 있고, 위상 벡터 공간이나 가군으로 일반화될 수 있다.

행렬 노름
정의
정의	행렬 노름은 행렬 공간 위의 노름이다.
유형
스펙트럴 노름	행렬의 최댓값인 특이값이다.
프로베니우스 노름	행렬의 각 성분의 제곱의 합의 제곱근이다.
핵 노름	행렬의 특이값의 합이다.
샤텐 노름	핵 노름, 프로베니우스 노름, 스펙트럴 노름을 일반화한 것이다.
유도 노름	주어진 벡터 노름에 의해 유도되는 행렬 노름이다.
성질
호환성	행렬 노름은 벡터 노름과 호환될 수 있다.
하위 곱셈성	행렬 노름은 하위 곱셈성을 만족한다.
예시
1-노름	열 절대값 합의 최댓값이다.
무한대-노름	행 절대값 합의 최댓값이다.

2. 정의

실수체 또는 복소수로 구성된 체 ''K''가 주어졌을 때, ''K''^{''m'' × ''n''}을 ''K'' 체의 원소를 갖는 ''m''개의 행과 ''n''개의 열로 이루어진 행렬의 ''K''-벡터 공간이라고 한다. 행렬 노름은 ''K''^{''m'' × ''n''}에 대한 노름이다.^[1]^[2]

행렬 노름은 다음과 같은 속성을 만족해야 하는 함수 $\|\cdot\| : K^{m \times n} \to \R$ 이다.

모든 스칼라 $\alpha \in K$ 와 행렬 $A, B \in K^{m \times n}$ 에 대해,

양수 값**:

\|A\|\ge 0

^[1]^[2]
정의**:

\|A\|= 0 \iff A=0_{m,n}

^[1]^[2]
절대 균질**:

\left\|\alpha A\right\|=\left|\alpha\right| \left\|A\right\|

^[1]^[2]
가산적'' 또는 ''삼각 부등식'' 만족**:

\|A+B\| \le \|A\|+\|B\|

^[1]^[2]

정사각 행렬의 경우, 행렬 노름은 다음의 속성들을 추가적으로 고려할 수 있다.

열등 승법성: $\left\|AB\right\| \le \left\|A\right\| \left\|B\right\|$ ^[1]^[2]^[3]^[4]
'''-성''': $\|A\| = \|A^{\lowast}\|$

여기서

A^{\lowast}

는 복소 행렬 ''A''의 수반을 나타낸다. ''A''가 실수인 경우, 그 수반은

A^{\lowast}

는 전치

A^{\top}

와 일치한다.

열등 승법성을 갖는 노름을 '''열등 승법적 노름'''이라고 부른다^[15] . 열등 승법적 노름을 갖춘 ''n''차 정사각 행렬 전체가 이루는 집합은 바나흐 대수의 한 예이다.

3. 유도 노름

$K^n$ 위의 벡터 노름 $\|\cdot\|_{\alpha}$ 와 $K^m$ 위의 벡터 노름 $\|\cdot\|_{\beta}$ 가 주어졌다고 가정하자. 임의의 $m \times n$ 행렬 는 표준 기저에 대해 $K^n$ 에서 $K^m$ 으로의 선형 연산자를 유도하며, 모든 $m \times n$ 행렬의 공간 $K^{m \times n}$ 에 대한 해당 "유도 노름" 또는 "작용소 노름" 또는 "종속 노름"을 다음과 같이 정의한다.

$\begin{align}\|A\|_{\alpha,\beta}&= \sup\{\|Ax\|_\beta : x\in K^n \text{ with }\|x\|_\alpha = 1\} \\&= \sup\left\{\frac{\|Ax\|_\beta}{\|x\|_\alpha} : x\in K^n \text{ with } x\ne 0\right\}.\end{align}$

여기서 $\sup$ 는 상한을 나타낸다. 이 노름은 $A$ 에 의해 유도된 매핑이 벡터를 얼마나 늘릴 수 있는지를 측정한다.

사용된 벡터 노름 $\|\cdot\|_{\alpha}$ , $\|\cdot\|_{\beta}$ 에 따라, 작용소 노름에 $\|\cdot\|_{\alpha,\beta}$ 이외의 표기법을 사용할 수 있다.

임의의 연산자 노름은 이를 유도하는 벡터 노름과 일관성을 가지며, 다음을 만족한다.

$\|Ax\|_\beta \leq \|A\|_{\alpha,\beta}\|x\|_\alpha.$

$\|\cdot\|_{\alpha,\beta}$ ; $\|\cdot\|_{\beta,\gamma}$ ; 그리고 $\|\cdot\|_{\alpha,\gamma}$ 가 각각 벡터 노름 쌍 $(\|\cdot\|_\alpha, \|\cdot\|_\beta)$ ; $(\|\cdot\|_\beta, \|\cdot\|_{\gamma})$ ; 그리고 $(\|\cdot\|_\alpha, \|\cdot\|_\gamma)$ 에 의해 유도된 연산자 노름이라고 가정하자. 그러면,

: $\|AB\|_{\alpha,\gamma} \leq \|A\|_{\beta, \gamma} \|B\|_{\alpha, \beta} ;$

이는 다음으로부터 유도된다.

$\|ABx\|_\gamma \leq \|A\|_{\beta, \gamma} \|Bx\|_\beta \leq \|A\|_{\beta, \gamma} \|B\|_{\alpha, \beta} \|x\|_\alpha$

그리고

$\sup_{\|x\|_\alpha = 1} \|ABx \|_\gamma = \|AB\|_{\alpha, \gamma} .$

정사각 행렬 $K^{n \times n}$ 공간에서 $\|\cdot\|_{\alpha, \alpha}$ 가 벡터 노름 $\|\cdot\|_{\alpha}$ 및 $\|\cdot\|_\alpha$ 에 의해 유도된 연산자 노름이라고 가정하자.

그렇다면 연산자 노름은 곱셈 하위 행렬 노름이다.

$\|AB\|_{\alpha, \alpha} \leq \|A\|_{\alpha, \alpha} \|B\|_{\alpha, \alpha}.$

또한 이러한 노름은 모든 경우에 부등식을 만족한다.

$(\|A^r\|_{\alpha, \alpha})^{1/r} \ge \rho(A)$

모든 양의 정수 ''r''에 대해, 여기서 는 의 스펙트럼 반경이다. 대칭 행렬 또는 에르미트 행렬 의 경우, 2-노름에 대해 의 스펙트럼 반경이기 때문이다. 임의의 행렬에 대해, 우리는 어떤 노름에 대해서도 등식을 가질 수 없을 것이다; 반례는

$A = \begin{bmatrix} 0 & 1 \\ 0 & 0 \end{bmatrix},$

인데, 이는 사라지는 스펙트럼 반경을 갖는다. 어쨌든, 모든 행렬 노름에 대해, 우리는 스펙트럼 반경 공식을 갖는다.

$\lim_{r\to\infty}\|A^r\|^{1/r}=\rho(A).$

두 벡터 공간 , '''K'''}}에서 벡터의 노름이 주어졌을 때, 이에 대응하여 행렬의 공간 }} 위에 행렬 노름을 줄 수 있다.

: $\begin{align}\|A\| &= \max_{x\in \mathbb{K}^n\atop \|x\|_{\mathbb{K}^n}\le 1} \|Ax\|_{\mathbb{K}^m} \\[8pt]&= \max_{x\in \mathbb{K}^n\atop \|x\|_{\mathbb{K}^n} = 1} \|Ax\|_{\mathbb{K}^m} \\&= \max_{\ x\in \mathbb{K}^n\atop x\ne 0} \frac{\|Ax\|_{\mathbb{K}^m}}{\|x\|_{\mathbb{K}^n}}\end{align}$

이 행렬 노름은 '''유도 노름''' 또는 '''작용소 노름''' 이라고 불린다. 으로 행렬이 정하는 선형 사상의 정의역과 치역에서 같은 노름을 사용하는 경우, 유도되는 작용소 노름은 준곱셈적이다.

3. 1. 벡터 p-노름으로부터 유도된 행렬 노름

벡터에 대한 ''p''-노름 (

1 \leq p \leq \infty

)이 두 공간

K^n

과

K^m

에 모두 사용되는 경우, 해당 연산자 노름은 다음과 같다:^[2]

:

\|A\|_p = \sup_{x \ne 0} \frac{\| A x\| _p}{\|x\|_p}.

이러한 유도된 노름은 행렬에 대한 "성분별" ''p''-노름 및 사텐 ''p''-노름과는 다르다.^[2] 기하학적으로,

K^n

에서 ''p''-노름 단위 구

V_{p, n} = \{x\in K^n : \|x\|_p \le 1 \}

를 선형 맵

A

를 통해 변환하면 왜곡된 볼록한 모양

AV_{p, n} \subset K^m

이 된다.

\|A\|_p

는 이 왜곡된 모양의 가장 긴 "반지름"을 측정한다. 즉,

K^m

에서 ''p''-노름 단위 구

V_{p, m}

을

AV_{p, n}

을 포함할 만큼 크게 만들려면 최소한

\|A\|_p

를 곱해야 한다.^[2]

두 벡터 공간 , '''K'''}}에서 벡터의 노름이 주어졌을 때, 행렬의 공간 }} 위에 행렬 노름을 정의할 수 있다.

:

\begin{align}\|A\| &= \max_{x\in \mathbb{K}^n\atop \|x\|_{\mathbb{K}^n}\le 1} \|Ax\|_{\mathbb{K}^m} \\[8pt]&= \max_{x\in \mathbb{K}^n\atop \|x\|_{\mathbb{K}^n} = 1} \|Ax\|_{\mathbb{K}^m} \\&= \max_{\ x\in \mathbb{K}^n\atop x\ne 0} \frac{\|Ax\|_{\mathbb{K}^m}}{\|x\|_{\mathbb{K}^n}}\end{align}

이 행렬 노름은 '''유도 노름''' 또는 '''작용소 노름''' 이라고 불린다.^[16] 으로 행렬이 정하는 선형 사상의 정의역과 치역에서 같은 노름을 사용하는 경우, 유도되는 작용소 노름은 준곱셈적이다. 벡터의 노름에 대응하여 작용소 노름

:

\| A\|_p = \max_{x \ne 0} \frac{ \| Ax\|_p}{\| x\|_p}

을 얻을 수 있다.^[16] 특히 과 에 대해서는

:

\begin{alignat}{2}&\| A\|_1      &= &\max_{1 \leq j \leq n} \sum_{i=1}^m |a_{ij}|, \\&\| A\|_\infty &= &\max_{1 \leq i \leq m} \sum_{j=1}^n |a_{ij}|\end{alignat}

로 계산할 수 있다. (전자는 각 열에 대한 "성분의 절댓값의 합"의 최댓값, 후자는 각 행에 대한 유사한 합의 최댓값이다).^[16]

특히 이고 , 즉 정사각 행렬에 대해 유클리드 노름을 고려한 경우에는, 유도된 행렬 노름은 '''스펙트럼 노름''' 이 된다. 행렬 의 스펙트럼 노름은 의 최대 특잇값, 다른 말로 하면 반정부호 행렬 ''A''}}의 최대 고유값의 제곱근

:

\| A\|_2 = \sqrt{\lambda_{\text{max}}(A^* A)} = \sigma_\text{max}(A)

으로 주어진다. 여기서 }}는 복소 행렬 의 수반 행렬을 나타낸다.^[16]

를 의 스펙트럼 반경이라고 하면, 유도 노름은 모두 부등식

:

\| A \| \ge \rho(A)

를 만족한다 (스펙트럼 반경은 하계를 제공한다). 즉 는 의 유도 노름 전체를 움직였을 때의 하한이다. 더 나아가,

:

\lim_{r\to\infty}\|A^r\|^{1/r}=\rho(A)

라는 스펙트럼 반경 공식도 얻을 수 있다.^[16]

3. 2. 스펙트럼 노름

유클리드 노름(벡터 2-노름)으로부터 유도되는 스펙트럼 노름은 행렬의 최대 특이값과 같다. 대칭 행렬 또는 에르미트 행렬의 경우, 2-노름에 대해 스펙트럼 노름은 스펙트럼 반경과 같아진다. 임의의 행렬에 대해서는 스펙트럼 반경과 노름이 항상 일치하지는 않지만, 스펙트럼 반경 공식에 따라 극한값은 스펙트럼 반경으로 수렴한다.

3. 3. 에너지 노름

벡터 노름

\|\cdot\|_{\alpha}

및

\|\cdot\|_{\beta}

가 각각 에너지 노름을 기준으로 하는 대칭 양의 정부호 행렬

P

와

Q

로 주어지면, 결과 연산자 노름은 다음과 같다.

\|A\|_{P, Q} = \sup_{x \ne 0} \frac{\| A x\|_{Q}}{\|x\|_{P}}.

P

와

Q

의 대칭 행렬 제곱근을 사용하여 연산자 노름을 수정된 행렬의 스펙트럼 노름으로 표현할 수 있다.

\|A\|_{P, Q} = \|Q^{1/2} A P^{-1/2}\|_{2}.

4. 성분별 행렬 노름

이러한 노름은 m × n 행렬을 크기 mn의 벡터로 취급하고 벡터의 노름을 사용한다.

예를 들어, 벡터에 대한 p-노름 (p ≥ 1)을 사용하면 다음과 같다.

: $\| A \|_{p,p} = \| \mathrm{vec}(A) \|_p = \left( \sum_{i=1}^m \sum_{j=1}^n |a_{ij}|^p \right)^{1/p}$

이는 유도된 p-노름 및 샤텐 p-노름과 다른 노름이지만, 표기법은 동일하다.

특별한 경우 p = 2는 프로베니우스 노름이고, p = ∞는 최대 노름을 생성한다.

행렬의 성분별 노름은 m행 n열 행렬을 mn개의 성분으로 이루어진 벡터로 간주하고, 벡터의 일반적인 노름을 고려한 것이다. 예를 들어 벡터의 p 노름을 이용하면

: $\| A\|_{p} = \left( \textstyle\sum\limits_{i=1}^m \sum\limits_{j=1}^n |a_{ij}|^p \right)^{\!\!1/p}$

라는 노름을 얻을 수 있다.^[16] 특별한 경우로, p = 2일 때는 프로베니우스 노름이, p = ∞일 때는 최대값 노름이 각각 얻어진다.

== L2,1 노름과 Lp,q 노름 ==

행렬 $A$의 열을 $(a_1, \ldots, a_n)$라고 할 때, $L_{2,1}$ 노름은 행렬 열의 유클리드 노름의 합이다.^[7]

:$\| A \|_{2,1} = \sum_{j=1}^n \| a_{j} \|_2 = \sum_{j=1}^n \left( \sum_{i=1}^m |a_{ij}|^2 \right)^{1/2}$

각 데이터 포인트(열)에 대한 오차가 제곱되지 않으므로 $L_{2,1}$ 노름은 오차 함수로서 더 강건하다. 이는 강건한 데이터 분석 및 희소 코딩에 사용된다.

$p$, $q$ ≥ 1에 대해 $L_{2,1}$ 노름은 다음과 같이 $L_{p,q}$ 노름으로 일반화할 수 있다.

:$\| A \|_{p,q} = \left(\sum_{j=1}^n \left( \sum_{i=1}^m |a_{ij}|^p \right)^{\frac{q}{p}}\right)^{\frac{1}{q}}.$

== 프로베니우스 노름 ==

$L_{p,q}$ 노름에 대해 p = q = 2일 때, 이를 '''프로베니우스 노름''' 또는 '''힐베르트-슈미트 노름'''이라고 부르지만, 후자의 용어는 힐베르트 공간의 연산자 맥락에서 더 자주 사용된다. 이 노름은 다음과 같이 다양하게 정의할 수 있다.

: $\|A\|_\text{F} = \sqrt{\sum_{i}^m\sum_{j}^n |a_{ij}|^2} = \sqrt{\operatorname{trace}\left(A^* A\right)} = \sqrt{\sum_{i=1}^{\min\{m, n\}} \sigma_i^2(A)},$

여기서 대각합은 대각 성분의 합이고, $\sigma_i(A)$ 는 $A$ 의 특잇값이다. 프로베니우스 노름은 유클리드 노름을 $K^{n \times n}$ 으로 확장한 것이며 모든 행렬의 공간에 대한 프로베니우스 내적에서 파생된다.

프로베니우스 노름은 곱셈 부호성을 가지며 수치 선형대수학에 매우 유용하다. 프로베니우스 노름은 유도 노름보다 계산하기가 더 쉬운 경우가 많으며, 회전 (일반적으로 유니타리 연산)에 불변하는 유용한 속성을 갖는다. 즉, 임의의 유니타리 행렬 $U$ 에 대해 $\|A\|_\text{F} = \|AU\|_\text{F} = \|UA\|_\text{F}$ 이다. 이 속성은 대각합의 순환적 성질( $\operatorname{trace}(XYZ) =\operatorname{trace}(YZX) = \operatorname{trace}(ZXY)$ )에서 파생된다.

: $\|AU\|_\text{F}^2 = \operatorname{trace}\left( (AU)^{*}A U \right)= \operatorname{trace}\left( U^{*} A^{*}A U \right)= \operatorname{trace}\left( UU^{*} A^{*}A \right)= \operatorname{trace}\left( A^{*} A \right)= \|A\|_\text{F}^2,$

그리고 유사하게:

: $\|UA\|_\text{F}^2 = \operatorname{trace}\left( (UA)^{*}UA \right)= \operatorname{trace}\left( A^{*} U^{*} UA \right)= \operatorname{trace}\left( A^{*}A \right)= \|A\|_\text{F}^2,$

여기서 $U$ 의 유니타리 성질(즉, $U^* U = U U^* = \mathbf{I}$ )을 사용했다.

또한 다음을 만족한다.

: $\|A^* A\|_\text{F} = \|AA^*\|_\text{F} \leq \|A\|_\text{F}^2$

그리고

: $\|A + B\|_\text{F}^2 = \|A\|_\text{F}^2 + \|B\|_\text{F}^2 + 2 \operatorname{Re} \left( \langle A, B \rangle_\text{F} \right),$

여기서 $\langle A, B \rangle_\text{F}$ 는 프로베니우스 내적이며, Re는 복소수의 실수부(실수 행렬의 경우 무관)이다.

== 최대 노름 ==

최대 노름은 행렬의 성분 중 절댓값이 가장 큰 값을 취하는 노름이다. p와 q가 무한대로 갈 때 극한에서의 원소별 노름이며, $\|A\|_{\max} = \max_{i, j} |a_{ij}|$ 로 정의된다. 이 노름은 곱셈적이지 않지만, 우변을 $\sqrt{m n} \max_{i, j} \vert a_{i j} \vert$ 로 수정하면 곱셈적이 된다. 일부 문헌(예: 통신 복잡성)에서는 최대 노름을 인수 분해 노름인 $\gamma_2$ -노름으로 정의하기도 한다.

4. 1. L2,1 노름과 Lp,q 노름

행렬 $A$의 열을 $(a_1, \ldots, a_n)$라고 할 때, $L_{2,1}$ 노름은 행렬 열의 유클리드 노름의 합이다.^[7]

:$\| A \|_{2,1} = \sum_{j=1}^n \| a_{j} \|_2 = \sum_{j=1}^n \left( \sum_{i=1}^m |a_{ij}|^2 \right)^{1/2}$

각 데이터 포인트(열)에 대한 오차가 제곱되지 않으므로 $L_{2,1}$ 노름은 오차 함수로서 더 강건하다. 이는 강건한 데이터 분석 및 희소 코딩에 사용된다.

$p$, $q$ ≥ 1에 대해 $L_{2,1}$ 노름은 다음과 같이 $L_{p,q}$ 노름으로 일반화할 수 있다.

:$\| A \|_{p,q} = \left(\sum_{j=1}^n \left( \sum_{i=1}^m |a_{ij}|^p \right)^{\frac{q}{p}}\right)^{\frac{1}{q}}.$

4. 2. 프로베니우스 노름

L_{p,q}

노름에 대해 일 때, 이를 '''프로베니우스 노름''' 또는 '''힐베르트-슈미트 노름'''이라고 부르지만, 후자의 용어는 힐베르트 공간의 연산자 맥락에서 더 자주 사용된다. 이 노름은 다음과 같이 다양하게 정의할 수 있다.

:

\|A\|_\text{F} = \sqrt{\sum_{i}^m\sum_{j}^n |a_{ij}|^2} = \sqrt{\operatorname{trace}\left(A^* A\right)} = \sqrt{\sum_{i=1}^{\min\{m, n\}} \sigma_i^2(A)},

여기서 대각합은 대각 성분의 합이고,

\sigma_i(A)

는

A

의 특잇값이다. 프로베니우스 노름은 유클리드 노름을

K^{n \times n}

으로 확장한 것이며 모든 행렬의 공간에 대한 프로베니우스 내적에서 파생된다.

프로베니우스 노름은 곱셈 부호성을 가지며 수치 선형대수학에 매우 유용하다. 프로베니우스 노름은 유도 노름보다 계산하기가 더 쉬운 경우가 많으며, 회전 (일반적으로 유니타리 연산)에 불변하는 유용한 속성을 갖는다. 즉, 임의의 유니타리 행렬

U

에 대해

\|A\|_\text{F} = \|AU\|_\text{F} = \|UA\|_\text{F}

이다. 이 속성은 대각합의 순환적 성질(

\operatorname{trace}(XYZ) =\operatorname{trace}(YZX) = \operatorname{trace}(ZXY)

)에서 파생된다.

:

\|AU\|_\text{F}^2 = \operatorname{trace}\left( (AU)^{*}A U \right)= \operatorname{trace}\left( U^{*} A^{*}A U \right)= \operatorname{trace}\left( UU^{*} A^{*}A \right)= \operatorname{trace}\left( A^{*} A \right)= \|A\|_\text{F}^2,

그리고 유사하게:

:

\|UA\|_\text{F}^2 = \operatorname{trace}\left( (UA)^{*}UA \right)= \operatorname{trace}\left( A^{*} U^{*} UA  \right)= \operatorname{trace}\left( A^{*}A \right)= \|A\|_\text{F}^2,

여기서

U

의 유니타리 성질(즉,

U^* U = U U^* = \mathbf{I}

)을 사용했다.

또한 다음을 만족한다.

:

\|A^* A\|_\text{F} = \|AA^*\|_\text{F} \leq \|A\|_\text{F}^2

그리고

:

\|A + B\|_\text{F}^2 = \|A\|_\text{F}^2 + \|B\|_\text{F}^2 + 2 \operatorname{Re} \left( \langle A, B \rangle_\text{F} \right),

여기서

\langle A, B \rangle_\text{F}

는 프로베니우스 내적이며, Re는 복소수의 실수부(실수 행렬의 경우 무관)이다.

4. 3. 최대 노름

최대 노름은 행렬의 성분 중 절댓값이 가장 큰 값을 취하는 노름이다. ''p''와 ''q''가 무한대로 갈 때 극한에서의 원소별 노름이며,

\|A\|_{\max} = \max_{i, j} |a_{ij}|

로 정의된다. 이 노름은 곱셈적이지 않지만, 우변을

\sqrt{m n} \max_{i, j} \vert a_{i j} \vert

로 수정하면 곱셈적이 된다. 일부 문헌(예: 통신 복잡성)에서는 최대 노름을 인수 분해 노름인

\gamma_2

-노름으로 정의하기도 한다.

5. 샤텐 노름

샤텐 노름은 행렬의 특이값 분해의 특이값 벡터에 ''p''-노름을 적용하여 정의된다.^[2] $m \times n$ 행렬 $A$ 의 특이값을 ''σ_i''로 표시하면, 샤텐 ''p''-노름은 다음과 같이 정의된다.

: $\|A\|_p = \left( \sum_{i=1}^{\min\{m,n\}} \sigma_i^p(A) \right)^{1/p}.$

이 노름들은 유도된 ''p''-노름 및 원소별 ''p''-노름과 표기법을 공유하지만, 서로 다르다.

모든 샤텐 노름은 곱셈에 대해 부분적이다. 또한 유니타리 행렬 $U$ 와 $V$ 에 대해 $\|A\| = \|UAV\|$ 가 성립하는 유니타리 불변성을 갖는다.

가장 친숙한 경우는 ''p'' = 1, 2, ∞이다. ''p'' = 2인 경우는 #프로베니우스 노름을 제공한다. ''p'' = ∞인 경우는 #스펙트럼 노름을 제공하며, 이는 벡터 2-노름에 의해 유도된 연산자 노름이다. ''p'' = 1인 경우는 '''핵 노름'''(''트레이스 노름'' 또는 Ky Fan 'n'-노름이라고도 함)^[8]을 제공한다.

핵 노름은 다음과 같이 정의된다.

: $\|A\|_{*} = \operatorname{trace} \left(\sqrt{A^*A}\right) = \sum_{i=1}^{\min\{m,n\}} \sigma_i(A),$

여기서 $\sqrt{A^*A}$ 는 $BB=A^*A$ 를 만족하는 양의 준확정 행렬 $B$ 를 나타낸다. 더 정확하게는, $A^*A$ 가 양의 준확정 행렬이므로, 그 행렬의 제곱근은 잘 정의된다. 핵 노름 $\|A\|_{*}$ 는 랭크 함수 $\text{rank}(A)$ 의 볼록 껍질이므로, 수학적 최적화에서 낮은 랭크 행렬을 검색하는 데 자주 사용된다.

폰 노이만 트레이스 부등식을 홀더 부등식과 유클리드 공간에 결합하면 $1/p + 1/q = 1$ 인 경우 샤텐 노름에 대한 홀더 부등식의 한 버전을 얻을 수 있다.

: $\left|\operatorname{trace}(A^*B)\right| \le \|A\|_p \|B\|_q,$

특히, 이는 다음 샤텐 노름 부등식을 의미한다.

: $\|A\|_F^2 \le \|A\|_p \|A\|_q.$

5. 1. 핵 노름

핵 노름은 샤텐 1-노름에 해당하며, 트레이스 노름 또는 Ky Fan n-노름이라고도 불린다. 이 노름은 다음과 같이 정의된다.

:

\|A\|_{\text{trace}} =\operatorname{tr}(\sqrt{A^*A})= \!\!\!\sum_{i=1}^{\min\{m,n\}} \!\!\!\!\sigma_i

여기서 행렬

A^*A

의 제곱근은

BB = A^*A

를 만족하는 행렬

B

를 의미한다.

핵 노름은 낮은 랭크 행렬을 찾는 최적화 문제에 응용된다.

6. 컷 노름

행렬을 가중, 방향 그래프의 인접 행렬로 간주하여 정의되는 컷 노름은 관련 그래프가 이분 그래프에 얼마나 가까운지를 측정한다.^[10] 컷 노름은 다음과 같이 정의된다.

: $\|A\|_{\Box}=\max_{S\subseteq[n], T\subseteq[m]}{\left|\sum_{s\in S,t\in T}{A_{t,s}}\right|}$

여기서 이다.^[10]^[11]^[12]

컷 노름은 유도 연산자 노름 과 동일하며, 이는 그로텐디크 노름과 관련이 있다.^[12]

7. 기타

임의의 연산자 노름은 이를 유도하는 벡터 노름과 일관성을 가지며, 다음을 만족한다.^[9]

: $\|Ax\|_\beta \leq \|A\|_{\alpha,\beta}\|x\|_\alpha.$

$\|\cdot\|_{\alpha,\beta}$ ; $\|\cdot\|_{\beta,\gamma}$ ; 그리고 $\|\cdot\|_{\alpha,\gamma}$ 가 각각 벡터 노름 쌍 $(\|\cdot\|_\alpha, \|\cdot\|_\beta)$ ; $(\|\cdot\|_\beta, \|\cdot\|_\gamma)$ ; 그리고 $(\|\cdot\|_\alpha, \|\cdot\|_\gamma)$ 에 의해 유도된 연산자 노름이라고 가정하자. 그러면,

: $\|AB\|_{\alpha,\gamma} \leq \|A\|_{\beta, \gamma} \|B\|_{\alpha, \beta} ;$

이는 다음으로부터 유도된다.

$\|ABx\|_\gamma \leq \|A\|_{\beta, \gamma} \|Bx\|_\beta \leq \|A\|_{\beta, \gamma} \|B\|_{\alpha, \beta} \|x\|_\alpha$

그리고

$\sup_{\|x\|_\alpha = 1} \|ABx \|_\gamma = \|AB\|_{\alpha, \gamma} .$

행렬 노름 $\| \cdot \|$ on $K^{m \times n}$ 는 벡터 노름 $\| \cdot \|_{\alpha}$ on $K^n$ 및 벡터 노름 $\| \cdot \|_{\beta}$ on $K^m$ 와 다음의 관계가 성립할 때 "일치한다"라고 한다.

$\left\|Ax\right\|_{\beta} \leq \left\|A\right\| \left\|x\right\|_{\alpha}$

모든 $A \in K^{m \times n}$ 과 모든 $x \in K^n$ 에 대해 성립한다. 특히 $m = n$ 이고 $\alpha = \beta$ 인 경우, $\| \cdot \|$ 는 $\|\cdot \|_{\alpha}$ 와 "호환된다"라고도 한다.

모든 유도 노름은 정의상 일치한다. 또한, $K^{n \times n}$ 에 대한 모든 곱셈 서브 행렬 노름은 $\left\| v \right\| := \left\| \left( v, v, \dots, v \right) \right\|$ 로 정의하여 $K^n$ 에 대한 호환되는 벡터 노름을 유도한다.

행렬 노름 $\|\cdot \|$ 은 뢰브너 순서에 대해 단조적이면 ''단조 노름''이라고 한다. 따라서 행렬 노름은 다음과 같은 경우 증가한다.

: $A \preccurlyeq B \Rightarrow \|A\| \leq \|B\|.$

프로베니우스 노름과 스펙트럼 노름은 단조 노름의 예시이다.^[9]

7. 1. 일관성 및 호환성

임의의 연산자 노름은 이를 유도하는 벡터 노름과 일관성을 가지며, 다음을 만족한다.

:

\|Ax\|_\beta \leq \|A\|_{\alpha,\beta}\|x\|_\alpha.

\|\cdot\|_{\alpha,\beta}

;

\|\cdot\|_{\beta,\gamma}

; 그리고

\|\cdot\|_{\alpha,\gamma}

가 각각 벡터 노름 쌍

(\|\cdot\|_\alpha, \|\cdot\|_\beta)

;

(\|\cdot\|_\beta, \|\cdot\|_\gamma)

; 그리고

(\|\cdot\|_\alpha, \|\cdot\|_\gamma)

에 의해 유도된 연산자 노름이라고 가정하면,

:

\|AB\|_{\alpha,\gamma} \leq \|A\|_{\beta, \gamma} \|B\|_{\alpha, \beta} ;

이는 다음으로부터 유도된다.

\|ABx\|_\gamma \leq \|A\|_{\beta, \gamma} \|Bx\|_\beta \leq \|A\|_{\beta, \gamma} \|B\|_{\alpha, \beta} \|x\|_\alpha

그리고

\sup_{\|x\|_\alpha = 1} \|ABx \|_\gamma = \|AB\|_{\alpha, \gamma} .

행렬 노름

\| \cdot \|

on

K^{m \times n}

는 벡터 노름

\| \cdot \|_{\alpha}

on

K^n

및 벡터 노름

\| \cdot \|_{\beta}

on

K^m

와 다음의 관계가 성립할 때 "일치한다"라고 한다.

\left\|Ax\right\|_{\beta} \leq \left\|A\right\| \left\|x\right\|_{\alpha}

모든

A \in K^{m \times n}

과 모든

x \in K^n

에 대해 성립한다. 특히 이고

\alpha = \beta

인 경우,

\| \cdot \|

는

\|\cdot \|_{\alpha}

와 "호환된다"라고도 한다.

모든 유도 노름은 정의상 일치한다. 또한,

K^{n \times n}

에 대한 모든 곱셈 서브 행렬 노름은

\left\| v \right\| := \left\| \left( v, v, \dots, v \right) \right\|

로 정의하여

K^n

에 대한 호환되는 벡터 노름을 유도한다.

공간 }} 위의 행렬 노름 }}는 }} 위의 노름 }}와 }} 위의 노름 }}에 대해

:

\|Ax\|_b \leq \|A\|_{ab} \|x\|_a

를 만족할 때, , }}와 '''양립한다'''(consistent)^영어고 한다. , }}으로부터 유도되는 연산자 노름은, 그 정의로부터 분명히 , }}와 양립한다. 유도 노름을 벡터의 노름과 양립하는 행렬 노름으로 확장해도 스펙트럼 반경이 하한을 제공한다는 명제는 여전히 유효하다.

7. 2. 곱셈 하위 노름

정사각 행렬

K^{n \times n}

공간에서

\|\cdot\|_{\alpha, \alpha}

가 벡터 노름

\|\cdot\|_{\alpha}

및

\|\cdot\|_\alpha

에 의해 유도된 연산자 노름이라고 가정하면, 연산자 노름은 곱셈 하위 행렬 노름이다.

\|AB\|_{\alpha, \alpha} \leq \|A\|_{\alpha, \alpha} \|B\|_{\alpha, \alpha}.

이러한 노름은 모든 양의 정수 ''r''에 대해 다음 부등식을 만족한다.

(\|A^r\|_{\alpha, \alpha})^{1/r} \ge \rho(A)

여기서 는 의 스펙트럼 반경이다. 대칭 행렬 또는 에르미트 행렬 의 경우, 2-노름에 대해 위 식에서 등식이 성립하는데, 이 경우 2-노름은 정확히 의 스펙트럼 반경이기 때문이다. 임의의 행렬에 대해, 우리는 어떤 노름에 대해서도 등식을 가질 수 없다.

A = \begin{bmatrix} 0 & 1 \\ 0 & 0 \end{bmatrix},

위 행렬은 사라지는 스펙트럼 반경을 갖는 반례이다. 모든 행렬 노름에 대해, 스펙트럼 반경 공식이 성립한다.

\lim_{r\to\infty}\|A^r\|^{1/r}=\rho(A).

8. 노름의 동치성

임의의 두 행렬 노름 $\|\cdot\|_{\alpha}$ 와 $\|\cdot\|_{\beta}$ 에 대해 다음이 성립한다.

: $r\|A\|_\alpha\leq\|A\|_\beta\leq s\|A\|_\alpha$

여기서 ''r''과 ''s''는 모든 행렬 $A\in K^{m \times n}$ 에 대해 성립하는 양수이다. 즉, $K^{m \times n}$ 상의 모든 노름은 ''동치''이며, 이는 $K^{m \times n}$ 상에 동일한 위상을 유도한다. 이는 벡터 공간 $K^{m \times n}$ 이 유한한 차원 $m \times n$ 을 갖기 때문이다.

equivalent^영어인 노름이며, 공간 }}에 같은 위상을 유도한다.

더욱이, $\R^{n\times n}$ 상의 모든 행렬 노름 $\|\cdot\|$ 에 대해, $\ell\|\cdot\|$ 가 모든 $\ell \ge k$ 에 대해 곱셈 하위 행렬 노름이 되도록 하는 고유한 양의 실수 $k$ 가 존재한다.

실수 행렬 }}의 경우, 임의의 노름 }}에 대해 유일한 양의 상수 가 존재하여, }}가 (준곱법적인) 행렬 노름이 된다.

행렬 노름 }}는 다른 어떤 행렬 노름 }}도 ≤ }}를 만족하지 않을 때, '''극소''' ()라고 불린다.

8. 1. 동치인 노름의 예시

벡터 ''p''-노름에 의해 유도된 노름은

\|A\|_p

로 나타낸다. 랭크가

r

인 행렬

A\in\R^{m\times n}

에 대해, 다음과 같은 부등식들이 성립한다:^[13]^[14]

$\|A\|_2\le\|A\|_F\le\sqrt{r}\|A\|_2$
$\|A\|_F \le \|A\|_{*} \le \sqrt{r} \|A\|_F$
$\|A\|_{\max} \le \|A\|_2 \le \sqrt{mn}\|A\|_{\max}$
$\frac{1}{\sqrt{n}}\|A\|_\infty\le\|A\|_2\le\sqrt{m}\|A\|_\infty$
$\frac{1}{\sqrt{m}}\|A\|_1\le\|A\|_2\le\sqrt{n}\|A\|_1.$

이 부등식들은 횔더 부등식의 특수한 경우를 포함한다.

$\|A\|_2\le\sqrt{\|A\|_1\|A\|_\infty}$

9. 한국의 관점

9. 1. 더불어민주당 관련 인물 및 사건

9. 2. 한국의 선형대수학 연구 및 응용

10. 참고 문헌

제임스 W. 데멜(James W. Demmel), 《응용 수치 선형대수학(Applied Numerical Linear Algebra)》, 1.7절, SIAM, 1997.
칼 D. 메이어(Carl D. Meyer), 《행렬 분석과 응용 선형대수학(Matrix Analysis and Applied Linear Algebra)》, SIAM, 2000. [http://www.matrixanalysis.com]
존 와트러스(John Watrous), 《양자 정보 이론(Theory of Quantum Information)》, [https://web.archive.org/web/20160304053759/https://cs.uwaterloo.ca/~watrous/CS766/LectureNotes/02.pdf 2.3 연산자의 노름], 강의 노트, 워털루 대학교, 2011.
켄달 앳킨슨(Kendall Atkinson), 《수치 해석 입문(An Introduction to Numerical Analysis)》, 존 와일리 & 선스, 1989.

11. 각주

참조

_[1] 웹사이트 Matrix Norm https://mathworld.wo[...] 2020-08-24
_[2] 웹사이트 Matrix norms http://fourier.eng.h[...] 2020-08-24
_[3] 논문 A characterization of certain classes of matrix norms 1983
_[4] 문서
_[5] 서적 Matrix analysis Cambridge University Press 2012
_[6] 문서
_[7] 간행물 R1-PCA: Rotational Invariant L1-norm Principal Component Analysis for Robust Subspace Factorization ACM 2006-06
_[8] 논문 Maximum properties and inequalities for the eigenvalues of completely continuous operators 1951
_[9] 서적 Introduction to numerical linear algebra and optimisation Cambridge University Press 1989
_[10] 논문 Quick Approximation to Matrices and Applications https://doi.org/10.1[...] 1999-02-01
_[11] 서적 Large Networks and Graph Limits American Mathematical Society
_[12] 서적 Proceedings of the thirty-sixth annual ACM symposium on Theory of computing Association for Computing Machinery 2004-06-13
_[13] 문서
_[14] 문서
_[15] 문서
_[16] 문서
_[17] 문서
_[18] 문서

본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.

문의하기 : help@durumis.com