맨위로가기

수치선형대수학

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.

1. 개요

수치선형대수학은 컴퓨터를 사용하여 선형대수학 문제를 해결하는 분야로, 폰 노이만, 튜링 등의 연구자들에 의해 개발되었다. 행렬 분해, 특히 LU 분해, QR 분해, 특이값 분해(SVD) 등을 통해 선형 시스템을 풀고, 최소 제곱 최적화 문제를 해결하는 데 활용된다. 가우스 소거법과 같은 알고리즘은 물론, 반복법, 크릴로프 부분 공간 방법 등이 사용되며, 계산 결과의 정확도를 보장하는 정도 보장 수치 계산 연구도 이루어진다. 가적분계와의 관계 연구도 진행 중이며, MATLAB, LAPACK, NumPy 등 다양한 소프트웨어 및 라이브러리가 활용된다.

더 읽어볼만한 페이지

  • 수치선형대수학 - 가우스 소거법
    가우스 소거법은 연립 일차 방정식의 해를 구하기 위해 행렬을 사다리꼴로 변환하는 알고리즘이며, 기본 행 연산을 통해 전진 소거와 후퇴 대입 단계를 거쳐 해를 계산하고, 행렬식 계산 등 다양한 분야에 응용된다.
  • 수치선형대수학 - LINPACK
    LINPACK은 부동소수점 연산 성능을 평가하는 벤치마크 프로그램이자 FORTRAN 라이브러리로, 슈퍼컴퓨터 성능 측정 기준으로 사용되는 HPLinpack 벤치마크의 기반이 되었으며, TOP500 목록에서 고성능 컴퓨터 순위를 결정하는 데 기여한다.
  • 선형대수학 - 벡터 공간
    벡터 공간은 체 위의 가군으로 정의되는 대수적 구조로, 벡터 덧셈과 스칼라 곱셈 연산을 가지며 특정 공리들을 만족하고, 기저, 차원, 선형 사상 등의 개념을 통해 수학과 물리학 등 다양한 분야에서 활용된다.
  • 선형대수학 - 선형 결합
    선형 결합은 벡터 공간에서 벡터들의 스칼라 곱의 합으로 표현되는 식으로, 벡터 집합의 선형 독립성 판단 및 부분 공간 생성과 관련되며, 계수 제약을 통해 다양한 종류의 결합을 정의할 수 있고, 위상 벡터 공간이나 가군으로 일반화될 수 있다.
수치선형대수학
개요
분야수학
관련 분야
관련 학문수치해석, 선형대수학

2. 역사

존 폰 노이만, 앨런 튜링, 제임스 윌킨슨과 같은 컴퓨터 개척자들에 의해 수치 선형대수학이 개발되었으며, 초기 컴퓨터를 탄도 문제 및 편미분 방정식 시스템의 해와 같은 연속 수학 문제에 적용하기 위해 개발되었다. 알고리즘을 실제 데이터에 적용할 때 컴퓨터 오류를 최소화하려는 최초의 시도는 1947년 존 폰 노이만과 허먼 골드스타인의 연구였다.[3] 이 분야는 기술이 발전함에 따라 연구자들이 매우 크고 고정밀 행렬에 대한 복잡한 문제를 해결할 수 있게 되면서 성장했으며, 병렬 컴퓨팅과 같은 기술이 과학 문제에 대한 실용적인 접근 방식을 제공함에 따라 일부 수치 알고리즘의 중요성이 커졌다.

3. 행렬 분해

행렬 분해는 행렬을 특정한 구조를 가진 여러 행렬의 곱으로 표현하는 방법이다. 이는 수치선형대수학에서 다양한 문제를 해결하는 데 활용된다. 예를 들어, 선형 시스템 x영어 = A-1b영어를 풀 때, ''x''를 ''A''-1과 ''b''의 곱으로 이해하는 대신, ''x''를 ''A''의 열들이 만드는 기저에서 ''b''의 선형 확장의 계수 벡터로 생각할 수 있다.

행렬 분해의 대표적인 예시로는 특잇값 분해, QR 분해, LU 분해, 고윳값 분해 등이 있다.

3. 1. 분할 행렬 (블록 행렬)

응용 선형대수학의 많은 문제에서 행렬을 열 벡터의 연결로 보는 것이 유용하다. 예를 들어, 선형 시스템 x영어 = A-1b영어를 풀 때, ''x''를 A-1과 ''b''의 곱으로 이해하기보다는, ''x''를 ''A''의 열이 형성하는 기저에서 ''b''의 선형 확장의 계수 벡터로 생각하는 것이 도움이 된다. 행렬을 열의 연결로 생각하는 것은 행렬 알고리즘의 목적에도 실용적인 접근 방식이다. 예를 들어, 행렬 Am × n과 벡터 x영어n × 1, y영어m × 1에 대해, 열 분할 관점을 사용하여 ''y'' := ''Ax'' + ''y''를 계산할 수 있다.

수치 선형대수학은 특징적으로 행렬을 열 벡터의 연결로 접근한다. 선형 시스템 x영어 = A-1b영어를 풀기 위해, ''x''를 ''A''의 열로 형성된 기저에서 ''b''의 선형 전개의 계수 벡터로 해석한다.

선형 문제를 해결하기 위해 다양한 분해를 사용할 수 있으며, 이는 행렬 ''A''와 벡터 ''x'' 및 ''b''의 특성에 따라 다르며, 이로 인해 한 인수분해가 다른 것보다 훨씬 쉽게 얻을 수 있다. 만약 ''A'' = ''QR''이 ''A''의 QR 분해라면, 이는 Rx = Q*b 와 동일하다. 이는 행렬 분해만큼 쉽게 계산할 수 있다. 만약 A = XΛX-1이 ''A''의 고유값 분해이고, b'영어 = X-1b영어 및 x'영어 = X-1x영어인 ''b'' = ''Ax''를 만족하는 ''b''를 찾으려고 한다면, b'영어 = Λx'영어을 얻게 된다. 이는 특이값 분해를 사용하여 선형 시스템을 푸는 것과 밀접한 관련이 있다. 그리고 만약 ''A'' = ''LU''가 ''A''의 ''LU'' 분해라면, ''Ax'' = ''b''는 삼각 행렬 ''Ly'' = ''b''와 ''Ux'' = ''y''를 사용하여 풀 수 있다.

3. 2. 특잇값 분해 (Singular Value Decomposition, SVD)

행렬 A^{m \times n}의 특잇값 분해는 A = U \Sigma V^\ast이며, 여기서 ''U''와 ''V''는 유니타리 행렬이고, \Sigma대각 행렬이다. \Sigma의 대각선 요소는 ''A''의 특잇값이라고 불린다. 특잇값은 AA^\ast의 고윳값의 제곱근이므로 특잇값 분해와 고윳값 분해 사이에는 밀접한 관계가 있다. 이것은 특잇값 분해를 계산하는 대부분의 방법이 고윳값 방법과 유사하다는 것을 의미한다. 아마도 가장 일반적인 방법은 하우스홀더 변환 절차를 포함한다.

3. 3. QR 분해 (QR Factorization)

행렬 A^{m \times n}의 QR 분해는 A = QR을 만족하는 행렬 Q^{m \times m}와 행렬 R^{m \times n}의 곱으로 나타낸다. 여기서 Q는 직교 행렬이고 R은 상삼각 행렬이다.[4] QR 분해를 계산하는 주요 알고리즘으로는 그람-슈미트 과정하우스홀더 변환이 있다. QR 분해는 선형 최소 제곱 문제와 고유값 문제(반복적인 QR 알고리즘을 통해)를 해결하는 데 자주 사용된다.

선형 문제에서 ''A'' = ''QR''이 ''A''의 QR 분해라면, Rx = Q^\ast b를 통해 쉽게 계산할 수 있다.

QR 알고리즘은 ''A''의 축소된 QR 분해를 계산하고 \widehat{R}x = \widehat{Q}^\ast b로 재정렬하여 회귀 문제와 같은 선형 시스템 문제를 해결한다. 이 상삼각 시스템은 ''x''에 대해 풀 수 있다. 최소 제곱 해는 QR 분해를 통해 생성될 수 있는데, 이는 그람-슈미트 알고리즘 및 하우스홀더 방법을 포함하는 방법으로 최소 제곱 문제를 해결할 수 있음을 의미한다.

가적분계・역학계와 수치 선형대수 사이의 관계가 주목받고 있다.[106][107][108][109] 특히 토다 격자(솔리톤 방정식 중 하나)와 QR 분해[106][107]의 관계가 밝혀졌다.

3. 4. LU 분해 (LU Factorization)

LU 분해는 주어진 행렬 ''A''를 하삼각 행렬 ''L''과 상삼각 행렬 ''U''의 곱으로 나타내는 방법으로, ''A = LU''를 만족한다. 행렬 ''U''는 가우스 소거법을 통해 구할 수 있는데, 이는 일련의 행렬 M_1,\ldots,M_{n-1}을 ''A''의 왼쪽에 곱하여 상삼각 행렬을 만드는 과정이다. 즉, M_{n-1} \cdots M_1 A = U 와 같이 표현할 수 있다. 이때, ''L''은 이 행렬들의 역행렬의 곱으로 계산할 수 있으며, L = M_1^{-1} \cdots M_{n-1}^{-1}과 같다.

가우스 소거법은 행렬 ''A''를 ''LU'' 분해하는 과정으로 볼 수 있다. 가우스 소거법은 행렬 L_{m-1} \cdots L_2 L_1 A = U의 연속적인 곱으로 ''A''의 왼쪽에 곱하여 수행한다. 여기서 ''U''는 상삼각 행렬이고, ''L''은 하삼각 행렬이며, L \equiv L_1^{-1}L_2^{-1} \cdots L_{m-1}^{-1}이다. 하지만 가우스 소거법은 큰 오차를 발생시킬 수 있다고 알려져 있다. 이를 해결하기 위해 피벗팅을 도입한 알고리즘을 사용할 수 있다.

크라머 공식으로 연립 방정식을 풀 수 있지만, 계산 시간이 매우 오래 걸린다.[6] 이러한 이유로 다양한 수치 선형대수학 알고리즘이 개발되었으며,[6][7][8] 그중 하나가 가우스 소거법이다.[6][7][8] 그러나 현대에는 가우스 소거법이 정밀도 문제로 인해 실제 사용에는 적합하지 않다고 여겨진다.[9]

3. 5. 고유값 분해 (Eigenvalue Decomposition)

행렬 A^{m \times m}의 고유값 분해는 A = X \Lambda X^{-1}이며, 여기서 ''X''의 열은 ''A''의 고유 벡터이고, \Lambda는 대각 성분이 ''A''의 해당 고윳값인 대각 행렬이다. 임의의 행렬의 고유값 분해를 찾는 직접적인 방법은 없다. 임의의 다항식의 정확한 근을 유한 시간 내에 찾는 프로그램을 작성하는 것이 불가능하기 때문에, 모든 일반적인 고유값 알고리즘은 반드시 반복적이어야 한다.

4. 알고리즘

수치선형대수학에서 알고리즘은 연립 일차 방정식의 해를 구하거나 행렬을 다루는 데 사용된다.

가우스 소거법은 행렬을 LU 분해하는 방법으로, 초기에는 불안정하여 큰 오차가 발생할 수 있었으나, 피벗팅을 통해 안정성을 개선했다. 크라머 공식은 이론적으로 모든 차원의 연립 방정식을 풀 수 있지만, 계산 시간이 매우 오래 걸려 다양한 수치 선형대수 알고리즘이 개발되었다. 가우스 소거법은 이러한 알고리즘 개발의 선구자 역할을 했지만, 현대에는 정밀도 문제로 인해 사용하지 않는 것이 좋다고 알려져 있다.[9]

선형 시스템 x = A^{-1}b를 풀 때, ''x''를 A^{-1}과 ''b''의 곱으로 이해하기보다는, ''x''를 ''A''의 열 벡터들이 형성하는 기저에서 ''b''의 선형 전개의 계수 벡터로 생각하는 것이 유용하다.

이러한 선형 문제를 해결하기 위해 다음과 같은 다양한 행렬 분해를 사용할 수 있다.


  • QR 분해: ''A'' = ''QR''이면, Rx = Q^\ast b와 같다. (직교 행렬 ''Q''와 상삼각 행렬 ''R''을 이용)
  • 고유값 분해: A = X \Lambda X^{-1}이고, b' = X^{-1}bx' = X^{-1}x인 ''b'' = ''Ax''를 만족하는 ''b''를 찾으려고 한다면, b' = \Lambda x'을 얻는다. (고유 벡터로 구성된 행렬 ''X''와 고윳값을 대각 성분으로 하는 대각 행렬 \Lambda를 이용)
  • LU 분해: ''A'' = ''LU''이면, ''Ax'' = ''b''는 삼각 행렬 ''Ly'' = ''b''와 ''Ux'' = ''y''를 사용하여 풀 수 있다.


이 외에도 반복법, 크릴로프 부분 공간, 하우스홀더 변환, 기븐스 회전, 멱승법, 역멱승법, 야코비법 (고유값 문제), 슈트라센 알고리즘, 전처리 행렬, 행렬 분해 등의 방법이 사용된다.

행렬 분해는 ''r''을 최소화하려는 선형 시스템 ''r'' = ''b'' − ''Ax'' (최소 제곱 최적화) 문제를 해결하는 데에도 사용된다. QR 알고리즘은 ''A''의 축소된 QR 분해를 계산하고 \widehat{R}x = \widehat{Q}^\ast b를 얻도록 재정렬하여 이 문제를 해결한다. 이 상삼각 시스템은 ''x''에 대해 풀 수 있다. 특잇값 분해(SVD)는 축소된 SVD 분해 A = \widehat{U}\widehat{\Sigma}V^\ast을 계산한 다음 벡터 \widehat{U}^\ast b를 계산하여 최소 제곱 문제를 간단한 대각 시스템으로 줄인다.

4. 1. 가우스 소거법 (Gaussian Elimination)

가우스 소거법은 행렬 ''A''를 LU 분해하는 절차이다. 이는 행렬 L_{m-1} \cdots L_2 L_1 A = U와 같이 ''A''의 왼쪽에 연속적인 행렬곱을 적용하여 수행된다. 여기서 ''U''는 상삼각행렬, ''L''은 하삼각행렬이며, L \equiv L_1^{-1}L_2^{-1} \cdots L_{m-1}^{-1}이다.

기본적인 가우스 소거법 프로그램은 매우 불안정하여, 유효 숫자가 많은 행렬에 적용하면 큰 오차가 발생할 수 있다. 이를 해결하기 위한 가장 간단한 방법은 피벗팅을 도입하는 것이다. 피벗팅을 통해 안정성을 개선한 수정된 가우스 소거법 알고리즘이 사용된다.

원리적으로는 크라머 공식을 사용하여 어떤 차원의 연립 방정식이라도 풀 수 있다. 그러나 크라머 공식은 계산에 매우 많은 시간이 소요된다.[6] 이러한 이유로 다양한 수치 선형대수 알고리즘이 개발되었으며,[6][7][8] 그 선구자 격이 가우스 소거법이다.[6][7][8] 하지만 현대에는 수치 실험을 통해 (정밀도 측면에서) 가우스 소거법을 사용하지 않는 것이 좋다고 알려져 있다.[9]

4. 2. 선형 시스템 해법 (Solutions of Linear Systems)

선형 시스템 x = A^{-1}b를 풀 때, ''x''를 A^{-1}과 ''b''의 곱으로 이해하기보다는, ''x''를 ''A''의 열 벡터들이 형성하는 기저에서 ''b''의 선형 전개의 계수 벡터로 생각하는 것이 도움이 된다.

이러한 선형 문제를 해결하기 위해 다양한 행렬 분해를 사용할 수 있다. 행렬 ''A''와 벡터 ''x'', ''b''의 특성에 따라 어떤 분해가 더 쉽게 얻어지는지가 달라진다.

  • QR 분해: ''A'' = ''QR''이면, Rx = Q^\ast b와 같다. (직교 행렬 ''Q''와 상삼각 행렬 ''R''을 이용)
  • 고유값 분해: A = X \Lambda X^{-1}이고, b' = X^{-1}bx' = X^{-1}x인 ''b'' = ''Ax''를 만족하는 ''b''를 찾으려고 한다면, b' = \Lambda x'을 얻는다. (고유 벡터로 구성된 행렬 ''X''와 고윳값을 대각 성분으로 하는 대각 행렬 \Lambda를 이용)
  • LU 분해: ''A'' = ''LU''이면, ''Ax'' = ''b''는 삼각 행렬 ''Ly'' = ''b''와 ''Ux'' = ''y''를 사용하여 풀 수 있다.


이 외에도 다음과 같은 방법들이 사용될 수 있다.

4. 3. 최소 제곱 최적화 (Least Squares Optimization)

행렬 분해는 ''r''을 최소화하려는 선형 시스템 ''r'' = ''b'' − ''Ax''을 해결하는 여러 가지 방법을 제시한다. QR 알고리즘은 ''A''의 축소된 QR 분해를 계산하고 \widehat{R}x = \widehat{Q}^\ast b를 얻도록 재정렬하여 이 문제를 해결한다. 이 상삼각 시스템은 ''x''에 대해 풀 수 있다. 특잇값 분해(SVD)는 또한 선형 최소 제곱을 얻기 위한 알고리즘을 제안한다. 축소된 SVD 분해 A = \widehat{U}\widehat{\Sigma}V^\ast을 계산한 다음 벡터 \widehat{U}^\ast b를 계산하여 최소 제곱 문제를 간단한 대각 시스템으로 줄인다. 최소 제곱 해는 QR 및 SVD 분해를 통해 생성될 수 있다는 사실은 최소 제곱 문제를 해결하기 위한 고전적인 정규 방정식 방법 외에도 그람-슈미트 알고리즘 및 하우스홀더 변환을 포함하는 방법으로 해결할 수 있음을 의미한다.

5. 조건과 안정성 (Conditioning and Stability)

문제는 데이터 공간 ''X''에서 해 공간 ''Y''로의 함수 f: X \to Y로 볼 수 있다. 어떤 데이터 값 ''x''에 대해 작은 변화가 결과값 ''f''(''x'')에 큰 변화를 일으키면 그 문제는 조건이 나쁘다고 한다. 문제의 조건이 얼마나 좋은지를 나타내는 조건수는 다음과 같이 정의된다.

:\widehat{\kappa} = \lim_{\delta \to 0} \sup_{\| \delta x \| \leq \delta} \frac{\| \delta f \|}{\| \delta x \|}.

부동 소수점 산술을 사용하는 컴퓨터 알고리즘에서 정확한 해와 크게 다른 결과를 생성하는 경향을 수치적 불안정성이라고 한다. 행렬이 많은 유효 숫자를 가진 실제 데이터를 포함하는 경우, 선형 방정식 시스템이나 최소 제곱 최적화와 같은 문제를 해결하기 위한 많은 알고리즘이 매우 부정확한 결과를 낼 수 있다. 조건이 나쁜 문제에 대한 안정적인 알고리즘을 만드는 것은 수치 선형 대수학의 핵심 과제이다. 예를 들어, 하우스홀더 삼각화는 안정적이기 때문에 선형 시스템을 푸는 데 강력한 방법이지만, 최소 제곱 문제를 해결하기 위한 정규 방정식 방법은 불안정하여 특이값 분해와 같은 행렬 분해 방법을 선호하게 된다.

일부 행렬 분해 방법은 불안정할 수 있지만, 안정적으로 만들 수 있는 간단한 수정 방법이 있다. 예를 들어, 불안정한 그람-슈미트 과정은 안정적인 수정된 그람-슈미트로 쉽게 변경할 수 있다. 또 다른 예로, 가우스 소거법은 불안정하지만 피벗팅을 도입하면 안정화된다.

수치 선형대수학에서는 정도 보장 수치 계산 연구도 활발하게 진행되고 있다.[9][59] 특히, 악조건 문제(ill-conditioned problems영어, 조건수가 큰 문제)에 대한 연구가 이루어지고 있다.[63][64][65][66]

6. 반복법 (Iterative Methods)

반복법은 직접적인 방법으로 해를 구하기 어려운 문제나 대규모 행렬 문제에 대해 반복적인 계산을 통해 근사해를 구하는 방법이다. 특히, 임의의 행렬에 대한 고유값 및 고유벡터를 구하는 문제는 유한 시간 내에 정확한 해를 찾는 것이 불가능하므로 반복적인 접근이 필수적이다.

반복법이 중요한 또 다른 이유는 계산 효율성이다. 크기가 m \times m인 행렬에 대해 비반복적인 알고리즘은 O(m^3)의 시간이 소요되는 반면, 반복적인 접근 방식은 행렬의 특징(예: 희소 행렬)을 활용하여 계산 시간을 단축할 수 있다.

많은 반복 방법은 행렬을 낮은 차원의 크릴로프 부분 공간으로 투영하는 방식을 사용한다. 이를 통해 고차원 행렬의 특징을 저차원 공간에서부터 순차적으로 계산하여 근사할 수 있다.

선형 문제 ''Ax'' = ''b''를 풀 때, ''A''가 대칭 행렬이면 공액 기울기법이 사용된다. ''A''가 대칭이 아닌 경우, 일반화 최소 잔차 방법(GMRES)이나 CGN과 같은 방법이 사용된다. 고유값 및 고유벡터 문제의 경우, ''A''가 대칭이면 란초스 알고리즘, 비대칭이면 아놀디 반복을 사용할 수 있다.

현대에는 다음과 같은 다양한 반복법들이 연구되고 있다:[7][32][33]

6. 1. 크릴로프 부분 공간 방법 (Krylov Subspace Methods)

반복법 중 크릴로프 부분 공간에 이론적 기반을 둔 방법들을 '''크릴로프 부분 공간법''' (Krylov subspace methods영어)이라고 통칭하며, 수치 선형대수에서 가장 성공적인 기법으로 여겨진다.[33]

주요 크릴로프 부분 공간법으로는 다음과 같은 것들이 알려져 있다 (공액 기울기법은 별도로 설명):

종류
아놀디 반복
란초스법
GMRES법
MINRES법[34] (minimal residual영어, method of minimum residual[6][35]과는 다름)
CR법[36] (conjugate residual method영어, 공액 잔차법)
QMR 계열
* QMR법[37][38] (quasi minimal residual영어, MATLAB에서 이용 가능)
* QMR-SYM법[39][40]
* TFQMR법[41] (transpose free quasi minimal residual영어, MATLAB에서 이용 가능)


6. 2. 공액 기울기법 (Conjugate Gradient Method, CG)

공액 기울기법(共役勾配法, conjugate gradient method영어)은 헤스텐스-스티펠이 개발한 연립 방정식의 수치 해법으로, 계수 행렬이 양의 정부호대칭 행렬일 때 적용할 수 있다.[42] 이 방법은 가우스-자이델 방법, 자코비 방법, SOR 방법보다 수렴 속도가 빠르다고 알려져 있다. 1980년대 이후 다양한 변종이 개발되거나 비대칭 행렬에 적용하기 위한 시도가 이루어졌지만, 전처리 행렬의 선택이 문제에 따라 다르기 때문에 결정적인 해법이라고 할 수 있는 방법은 아직 존재하지 않는다.[6][7][33]

다음은 대표적인 변종이다.

{| class="wikitable"

|-

! 변종

|-

| CGS (Conjugate Gradient Squared method)[43]

|-

| PCG (Preconditioned Conjugate Gradient method, MATLAB에서 이용 가능)

|-

| SCG (Scaled Conjugate Gradient)[44]

|-

| ICCG (Incomplete Cholesky Conjugate Gradient method, 불완전 촐레스키 분해 부착 공액 기울기법)[33]

|-

| COCG (Conjugate Orthogonal Conjugate Gradient method)[45]

|-

| GPBiCG[46][47]

|-

| GPBiCG(m, l)[48]

|-

! STAB 계열의 방법

|-

|

BiCGSTAB (Biconjugate Gradient Stabilized method, 쌍공액 기울기 안정화법, MATLAB에서 이용 가능)[49]
BiCGSTAB2[50]
QMRCGSTAB[51]
GBi-CGSTAB[52]



|-

! Block화된 방법

|-

|

Block CG[53][54]
Block BiCGSTAB[55]
Block BiCGGR[56]
Block BiCGGR2[57]
Block GWBiCGSTAB[58]



|}

7. 정도 보장 수치 계산 (Validated Numerics)

정도 보장 수치 계산(Validated Numerics)은 수치 계산 결과의 정확도를 보장하기 위한 연구 분야이다. 연립 방정식 해, 고윳값 문제 해, 특잇값 분해, 행렬식, 행렬 곱셈, 행렬 방정식 해, 행렬 값 함수 등에 대한 정도 보장 연구가 진행되고 있다.[1] [2] 주요 방법은 다음과 같다.


  • 게르슈고린 원(Gershgorin circle)을 사용하는 방법
  • Krawczyk법
  • H행렬을 사용하는 방법
  • 희소 행렬에 대한 정도 보장법 (촐레스키 분해 기반)

8. 가적분계와의 관계 (Relationship with Integrable Systems)

가적분계・역학계와 수치 선형대수 사이의 관계가 주목받고 있다.[106][107][108][109] 구체적으로는 솔리톤 방정식 중 하나인 토다 격자와 QR 분해[106][107]・qd법[110], 가적분계와 특이값 분해[106][107][111][112]와의 관계가 밝혀졌다. 이를 배경으로 이산 가적분계로부터 수치 선형대수에 유용한 반복법을 개발하려는 시도가 이루어지고 있다. 예를 들어 다음과 같은 알고리즘들이 연구되고 있다.[106][107]

9. 소프트웨어 및 라이브러리

수치 선형대수 최적화 기술을 사용하는 여러 프로그래밍 언어는 수치 선형대수 알고리즘을 구현하도록 설계되었다. 이러한 언어에는 MATLAB, Analytica, Maple, Mathematica가 있다. 수치 선형대수를 위해 명시적으로 설계되지 않은 다른 프로그래밍 언어에도 수치 선형대수 루틴 및 최적화를 제공하는 라이브러리가 있다. C포트란에는 BLAS 및 LAPACK과 같은 패키지가 있으며, 파이썬에는 NumPy 라이브러리가 있고 에는 펄 데이터 언어가 있다. R의 많은 수치 선형대수 명령은 LAPACK과 같은 이러한 더 기본적인 라이브러리에 의존한다.[5]

다음은 주요 소프트웨어 및 라이브러리 목록이다.

소프트웨어 및 라이브러리
MATLAB
Analytica
Maple
Mathematica
BLAS
OpenBLAS
LAPACK
NumPy
펄 데이터 언어
INTLAB
NAG 수치 계산 라이브러리


10. 관련 연구자 및 전문가

해당 섹션에서는 수치선형대수학 분야의 주요 연구자 및 전문가들의 저서를 소개한다. 이들의 연구는 수치선형대수학의 발전에 큰 영향을 미쳤다.

저자서명출판사출판년도
니키 히로시일본어, 코노 토시유키일본어즐거운 반복법교리츠 출판1998년
카와무라 테츠야일본어선형대수와 수치해석아사쿠라 서점2005년
스기하라 마사아키, 무로타 카즈오일본어선형 계산의 수리이와나미 서점2009년
야마모토 테츠로일본어행렬 해석의 기초–Advanced 선형대수사이언스사 (SGC 라이브러리 79)2010년
일반 사단법인 일본 계산 공학회, 후지노 세이지일본어, 아베 쿠니미일본어, 스기하라 마사아키선형 방정식의 반복 해법마루젠 출판2013년


10. 1. 한국


  • 스기하라 마사아키 (공액 기울기법 연구)[52]
  • 오이시 신이치 (수치 선형 대수의 정밀도 보장에 기여)[9][59]
  • 하야미 켄


'''저서'''

저자서명출판사출판년도
니키 히로시, 코노 토시유키즐거운 반복법교리츠 출판1998년
카와무라 테츠야선형대수와 수치해석아사쿠라 서점2005년
스기하라 마사아키, 무로타 카즈오선형 계산의 수리이와나미 서점2009년
야마모토 테츠로행렬 해석의 기초–Advanced 선형대수사이언스사 (SGC 라이브러리 79)2010년
일반 사단법인 일본 계산 공학회, 후지노 세이지, 아베 쿠니미, 스기하라 마사아키선형 방정식의 반복 해법마루젠 출판2013년


10. 2. 해외

11. 연구 그룹 및 학회


  • 영국 Numerical Linear Algebra Group
  • SIAM Activity Group on Linear Algebra
  • [https://gammanla.wordpress.com/ The GAMM Activity Group on Applied and Numerical Linear Algebra]
  • 나고야 대학 [http://na.nuap.nagoya-u.ac.jp/index.php/research/ 계산수리 그룹]
  • 일본응용수리 학회 [https://na.cs.tsukuba.ac.jp/mepa/ 일본응용수리 학회 「행렬·고유값 문제의 해법과 그 응용」연구 부회]

참조

[1] 서적 Numerical Linear Algebra SIAM
[2] 웹사이트 A History of Modern Numerical Linear Algebra https://www.stat.uch[...] 2019-02-17
[3] 논문 Numerical inverting of matrices of high order 1947
[4] 서적 Matrix Computations The Johns Hopkins University Press
[5] 웹사이트 R and Linear Algebra https://www.r-blogge[...] 2013-08-29
[6] 서적 数値解析入門 サイエンス社 2003-06
[7] 문서 森正武. 数値解析 第2版. 共立出版.
[8] 서적 数値線形代数の数理と高性能計算, 櫻井鉄也, 松尾宇泰, 片桐孝洋編(シリーズ応用数理 / 日本応用数理学会監修, 第6巻) 共立出版 2018-08
[9] 서적 『精度保証付き数値計算』大石進一 編著 コロナ社 2018
[10] 논문 An algorithm for generalized matrix eigenvalue problems 1973
[11] 논문 Accurate singular values and differential qd algorithms 1994
[12] 논문 特異値計算のためのdqds法とmdLVs法の収束性について(理論) https://doi.org/10.1[...] 日本応用数理学会 2007
[13] 논문 特異値計算アルゴリズムdqds法およびm2dLVs法のための新しいシフト戦略 http://id.nii.ac.jp/[...] 2013
[14] 논문 Ostrowski型下界とBrauer型下界をシフトとして用いたdqds法の収束性について https://hdl.handle.n[...] 日本応用数理学会 2008
[15] 논문 dqds法の一般化固有値問題への拡張について (次世代計算科学の基盤技術とその展開) https://hdl.handle.n[...] 京都大学数理解析研究所 2013
[16] 논문 固有値計算のためのdqds法のTotally NonnegativeなHessenberg行列への拡張について (科学技術計算アルゴリズムの数理的基盤と展開) https://hdl.handle.n[...] 京都大学数理解析研究所 2011
[17] 논문 The orthogonal QD algorithm
[18] 논문 Implementation details of an extended oqds algorithm for singular values https://doi.org/10.1[...] The Japan Society for Industrial and Applied Mathematics
[19] 논문 Fast computation method of column space by using the DQDS method and the OQDS method https://hdl.handle.n[...]
[20] 논문 実対称三重対角固有値問題の分割統治法の拡張(<特集>行列・固有値問題における線形計算アルゴリズムとその応用) https://sucra.repo.n[...] 日本応用数理学会 2005
[21] 논문 実対称三重対角固有値問題に対する多分割の分割統治法の改良(理論,行列・固有値問題の解法とその応用,<特集>平成18年研究部会連合発表会) https://sucra.repo.n[...] 日本応用数理学会 2006
[22] 논문 The design and implementation of the MRRR algorithm 2006
[23] 논문 MRTR method: An iterative method based on the three-term recurrence formula of CG-type for nonsymmetric matrix
[24] 논문 A projection method for generalized eigenvalue problems using numerical integration
[25] 논문 CIRR: a Rayleigh-Ritz type method with contour integral for generalized eigenvalue problems
[26] 논문 微分方程式に対する離散勾配法に基づく線形方程式の数値解法の生成 https://doi.org/10.1[...] 日本応用数理学会 2017
[27] 논문 On the equivalence between SOR-type methods for linear systems and the discrete gradient methods for gradient systems
[28] 논문 A Filter Diagonalization for Generalized Eigenvalue Problems Based on the Sakurai-Sugiura Projection Method
[29] 논문 Computing Eigenvalues of Real Symmetric Matrices with Rational Filters in Real Arithmetic
[30] 논문 Filter Diagonalization Method by Using a Polynomial of a Resolvent as the Filter for a Real Symmetric-Definite Generalized Eigenproblem
[31] 논문 Filters Consist of a Few Resolvents to Solve Real Symmetric-Definite Generalized Eigenproblems
[32] 서적 共役勾配法 1977
[33] 서적 反復法 朝倉書店 1996
[34] 논문 Solution of sparse indefinite systems of linear equations
[35] 논문 An iteration process with minimal residuals
[36] 논문 Commentarii Mathematici Helvetici 1952 1952
[37] 논문 QMR: A Quasi-Minimal Residual Method for Non-Hermitian Linear Systems 1991
[38] 논문 An Implementation of the QMR Method Based on Coupled Two-Term Recurrences 1994
[39] 논문 Conjugate Gradient-Type Methods for Linear Systems with Complex Symmetric Coefficient Matrices 1992
[40] 논문 Quasi-Minimal Residual Variants of the COCG and COCR Methods for Complex Symmetric Linear Systems in Electromagnetic Simulations 2014
[41] 논문 A transpose-free quasi-minimal residual algorithm for non-Hermitian linear systems 1993
[42] 서적 Methods of conjugate gradients for solving linear systems NBS 1952
[43] 웹사이트 Conjugate Gradient Squared Method http://mathworld.wol[...] Eric W. Weisstein
[44] 논문 A scaled conjugate gradient algorithm for fast supervised learning 1993
[45] 논문 A Petrov-Galerkin type method for solving Ax = b, where A is symmetric complex 1990
[46] 논문 GPBiCG: Generalized Product-type Methods Based on Bi-CG for Solving Nonsymmetric Linear Systems 1997-03
[47] 논문 ランチョス・プロセスに基づく積型反復解法 1995
[48] 간행물 反復解法GPBiCG(m,l)法の提案と性能評価 (偏微分方程式の数値解法とその周辺(2)) https://hdl.handle.n[...] 京都大学数理解析研究所 2001
[49] 논문 Bi-CGSTAB: A fast and smoothly converging variant of Bi-CG for the solution of nonsymmetric linear systems 1992
[50] 논문 Variants of BiCGSTAB for Matrices with Complex Spectrum 1993
[51] 논문 A quasi-minimal residual variant of the Bi-CGSTAB algorithm for nonsymmetric systems 1994
[52] 논문 GBi-CGSTAB (s, L): IDR (s) with higher-order stabilization polynomials 2010
[53] 논문 The block conjugate gradient algorithm and related methods 1980
[54] 논문 Variable block CG algorithms for solving large sparse symmetric positive definite linear systems on parallel computers, I: general iterative methods 1995
[55] 논문 A block version of BiCGSTAB for linear systems with multiple right-hand sides 2003
[56] 논문 Block BiCGGR: a new block Krylov subspace method for computing high accuracy solutions 2009
[57] 논문 Development of the Block BiCGGR2 method for linear systems with multiple right-hand sides 2019
[58] 논문 Accuracy improvement of the Block BiCGSTAB method for linear systems with multiple right-hand sides by group-wise updating technique 2019
[59] 서적 精度保証付き数値計算 コロナ社 1999
[60] 논문 Error bounds for approximate solutions of systems of equations 1984
[61] 논문 Fast verification of solutions of matrix equations 2002
[62] 논문 大規模並列計算機における連立一次方程式の精度保証付き数値計算に対する性能評価 2016
[63] 논문 Acceleration of a preconditioning method for ill-conditioned dense linear systems by use of a BLAS-based method 2017
[64] 논문 Accurate and efficient algorithm for solving ill-conditioned linear systems by preconditioning methods 2016
[65] 논문 A fast and efficient algorithm for solving ill-conditioned linear systems (JSIAM Letters Vol.7 (2015) pp.1-4)
[66] 논문 悪条件連立一次方程式の精度保証付き数値計算法 2005
[67] 논문 Convergence analysis of an algorithm for accurate inverse Cholesky factorization 2014
[68] 논문 A modified algorithm for accurate inverse Cholesky factorization 2014
[69] 논문 Convergence analysis of accurate inverse Cholesky factorization 2013
[70] 논문 Improved error bounds for linear systems with H-matrices 2015
[71] 논문 Super-fast validated solution of linear systems 2007
[72] 논문 Error bounds for computed eigenvalues and eigenvectors 1980
[73] 논문 Error bounds for computed eigenvalues and eigenvectors. II. 1982
[74] 서적 Result verification for eigenvectors and eigenvalues Elsevier, Amsterdam 1994
[75] 문서 Verification methods for dense and sparse systems of equations
[76] 논문 Computational error bounds for multiple or nearly multiple eigenvalues 2001
[77] 논문 On eigenvector bounds 2003
[78] 논문 A simple method for error bounds of eigenvalues of symmetric matrices 2001
[79] 논문 Singular values, doubly stochastic matrices, and applications 1995
[80] 논문 Relative perturbation results for matrix eigenvalues and singular values 1998
[81] 논문 Realistic apriori and a posteriori error bounds for computed eigenvalues 1990
[82] 논문 実対称定値一般化固有値問題のすべての固有値の精度保証付き数値計算法 2004
[83] 논문 Numerical validation for an inverse matrix eigenvalue problem 1994
[84] 논문 Verified Solutions of Inverse Symmetric Eigenvalue Problems 2017
[85] 논문 Accurate singular values of bidiagonal matrices 1990
[86] 논문 Fast enclosure of matrix eigenvalues and singular values via rounding mode controlled computation 2001
[87] 간행물 行列式の高速な精度保証付き数値計算法(数値シミュレーションを支える応用数理) https://hdl.handle.n[...] 京都大学数理解析研究所 2007
[88] 문서 Verified Numerical Computation of Matrix Determinant 2008
[89] 문서 有向丸めの変更を使用しないタイトな行列積の包含方法 2011
[90] 간행물 Strassen のアルゴリズムによる行列乗算の高速精度保証 (微分方程式の数値解法と線形計算) https://hdl.handle.n[...] 京都大学数理解析研究所 2003
[91] 논문 行列方程式の解に対する数値的検証法の進展 https://doi.org/10.1[...] 日本応用数理学会 2019
[92] 논문 Verified computation for the Hermitian positive definite solution of the conjugate discrete-time algebraic Riccati equation 2019-04
[93] 논문 Fast verified computation for the minimal nonnegative solution of the nonsymmetric algebraic Riccati equation 2018-09
[94] 논문 Fast verified computation for the solution of the T-congruence Sylvester equation 2018-07
[95] 논문 Fast verified computation for the solvent of the quadratic matrix equation 2018-03
[96] 논문 Fast verified computation for solutions of algebraic Riccati equations arising in transport theory 2017-10
[97] 논문 Fast verified computation for stabilizing solutions of discrete-time algebraic Riccati equations 2017-08
[98] 논문 Fast verified computation for solutions of continuous-time algebraic Riccati equations 2015-07
[99] 논문 Algorithms for the matrix pth root 2005
[100] 서적 Blocked Schur algorithms for computing the matrix square root Springer, Berlin, Heidelberg 2012-06
[101] 논문 Efficient algorithms for the matrix cosine and sine 2005
[102] 논문 A Schur-Parlett algorithm for computing matrix functions 2003
[103] 논문 Verified computation of the matrix exponential 2019
[104] 논문 Verified computation for the matrix principal logarithm 2019
[105] 논문 Fast verified computation for the matrix principal pth root 2018
[106] 서적 解析学百科II 可積分系の数理 朝倉書店 2018
[107] 서적 可積分系の機能数理 共立出版
[108] 논문 Algorithms associated with arithmetic, geometric and harmonic means and integrable systems 2001
[109] 논문 Linear algebra algorithms as dynamical systems 2008
[110] 논문 Toda molecule equation and quotient-difference method 1993
[111] 간행물 特異値分解法の可積分アルゴリズムINT-SVD (微分方程式の数値解法と線形計算) https://hdl.handle.n[...] 京都大学数理解析研究所 2003
[112] 논문 Accurate computation of singular values in terms of shifted integrable schemes 2006
[113] 간행물 特異値計算アルゴリズムdLVの基本性質について(応用可積分系,<特集>平成17年研究部会連合発表会) https://doi.org/10.1[...] 日本応用数理学会 2005
[114] 문서 "Verification of dLVv Transformation for Singular Vector Computation with High Accuracy」 『In Proceedings of International Conference on Parallel and Distributed Processing Techniques and Applications』 Vol.II, pp.881-887 (2006, 6) Masami Takata, Taro Konda, Kinji Kimura, Yoshimasa Nakamura."
[115] 문서 "An Evaluation of Singular Value Computation by the Discrete Lotka-Volterra System」 『In Proceedings of International Conference on Parallel and Distributed Processing Techniques and Applications』 Vol.II, pp.410-416 (2005, 6) Masami Takata, Iwasaki Masashi, Kinji Kimura, Yoshimasa Nakamura."
[116] 논문 Positivity of dLV and mdLVs algorithms for computing singular values 2011
[117] 논문 The discrete hungry Lotka–Volterra system and a new algorithm for computing matrix eigenvalues 2008
[118] 논문 Integrable discrete hungry systems and their related matrix eigenvalues 2013
[119] 논문 On the qd-type discrete hungry Lotka-Volterra system and its application to the matrix eigenvalue algorithm 2009
[120] 논문 Differential qd algorithm for totally nonnegative Hessenberg matrices: introduction of origin shifts and relationship with the discrete hungry Lotka-Volterra system 2010
[121] 간행물 行列の特異値計算のmdLVsアルゴリズムにおける最近の進展 (非線形波動現象の数理と応用) https://hdl.handle.n[...] 京都大学数理解析研究所 2008
[122] 문서 "An Improved Shift Strategy for the Modified Discrete Lotka-Volterra with Shift Algorithm」 『In Proceedings of 2011 International Conference on Parallel and Distributed Processing Techniques and Applications』 Vol.II, pp.720-726 (2011, 7) Masami Takata, Takumi Yamashita, Akira Ajisaka, Kinji Kimura, Yoshimasa Nakamura."
[123] 문서 "Speed-up in mdLVs by Limitation in Computational Number of Shift」 『In Proceedings of 2009 International Conference on Parallel and Distributed Processing Techniques and Applications』 Vol.II, pp.704-710 (2009, 7) Masami Takata, Kinji Kimura, Yoshimasa Nakamura."
[124] 논문 Periodic convergence in the discrete hungry Toda equation 2018
[125] 논문 On a shifted LR transformation derived from the discrete hungry Toda equation 2013
[126] 논문 Error analysis for matrix eigenvalue algorithm based on the discrete hungry Toda equation 2012
[127] 논문 On parallelism of the I-SVD algorithm with a multi-core processor 2009
[128] 간행물 密正方行列特異値分解における並列I-SVD法の特性を用いた後処理の高速化 http://id.nii.ac.jp/[...] 情報処理学会 2010
[129] 간행물 近接特異値を持つ行列に対応したI-SVD法の並列化とその評価 http://id.nii.ac.jp/[...] 情報処理学会 2009



본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.

문의하기 : help@durumis.com