역문제

3. 개념적 이해

뉴턴 이후 과학자들은 세상을 수학적 모델로 설명하려는 시도를 광범위하게 해왔다. 예를 들어 뉴턴의 중력 법칙이나 정전기에 대한 쿨롱의 방정식을 통해, 물리적 시스템을 설명하는 질량 분포나 전하 분포와 같은 모델 매개변수가 주어지면 시스템의 동작을 예측할 수 있다. 이를 수학적 모델링이라고 한다.

좀 더 정확하게는, 물리 시스템의 상태는 수학적 모델 방정식의 해를 의미하며, 최적 제어 이론에서는 상태 공간 표현으로 나타낸다. 그러나 실제로 우리는 물리적 상태 자체보다는 중력장이 특정 행성에 미치는 영향과 같이 특정 대상에 대한 영향에 관심이 있다. 따라서 물리 시스템의 상태(예측된 중력장)를 관측하려는 대상(행성의 움직임)으로 변환하는 관측 연산자를 도입한다.

정방향 문제는 다음과 같은 두 단계로 구성된다.

• 시스템을 설명하는 물리적 매개변수로부터 시스템의 상태를 결정한다.
• 추정된 시스템 상태에 관측 연산자를 적용하여 관측 대상의 동작을 예측한다.

역문제는, 대략적으로 결과를 보고 원인을 파악하려는 시도이다.

이러한 문제들은 잘 정립되어 있는지, 즉 최소 자승 문제가 데이터에 연속적으로 의존하는 고유한 해를 가지는지(안정성 문제)가 중요하다. 이는 $F$의 비선형성 때문에 어려운 문제이다.

Chavent^[45]는 어려움이 발생하는 지점을 파악하기 위해 데이터 불일치 함수의 최소화를 두 단계로 나누어 생각하는 것을 제안했다.

• 투영 단계: 주어진 $d\_\backslash text\{obs\}$에 대해 $F(P\_\backslash text\{adm\})$에 대한 투영(목적 함수 정의에 포함된 거리에 따라 $F(P\_\backslash text\{adm\})$에서 가장 가까운 점)을 찾는다.
• 역상 찾기: 이 투영이 주어지면, 연산자 $F$에 의한 이미지가 이 투영인 모델인 하나의 역상을 찾는다.

• 재료의 경계·영역 형상
• 재료를 지배하는 방정식
• 재료에 대한 경곗값 또는 초기값
• 재료의 물성값

3. 1. 지구 중력장의 예시

4. 일반적인 역문제의 정의

역문제는 관측된 결과(데이터)를 바탕으로 원인(모델 매개변수)을 추론하는 문제이다. 뉴턴 이후 과학자들은 세상을 모델링하기 위해 수학적 모델을 사용해 왔다. 예를 들어, 뉴턴의 중력 법칙이나 쿨롱의 방정식과 같이, 물리적 시스템을 설명하는 매개변수(예: 질량 분포, 전하 분포)가 주어지면 시스템의 동작을 예측할 수 있다. 이러한 접근 방식을 수학적 모델링이라고 하며, 물리적 매개변수를 모델 매개변수 또는 모델이라고 한다.

정방향 문제(순문제)는 모델 매개변수로부터 시스템의 상태를 결정하고, 관측 연산자를 적용하여 관측 대상의 동작을 예측하는 두 단계로 구성된다. 이를 통해 모델 매개변수 $p$를 모델이 예측하는 데이터 $F(p)$로 매핑하는 연산자 $F$ (정방향 연산자 또는 정방향 맵)를 정의할 수 있다.

반면, 역문제는 관측된 데이터 $d\_\backslash text\{obs\}$를 생성하는 모델 매개변수 $p$를 찾는 문제로, 다음 방정식을 만족하는 $p$를 찾는 것이다.

:$$d\_\backslash text\{obs\}\; =\; F(p)$$

여기서 $F$는 정방향 맵이다.

모델 매개변수의 수를 $M$, 기록된 데이터의 수를 $N$으로 나타낼 때, 다음과 같은 개념들을 정의할 수 있다.

• 모델 공간 ($P$): 모델 매개변수들에 의해 형성되는 벡터 공간으로, $M$차원이다.
• 데이터 공간 ($D$): 측정된 표본을 벡터로 구성하는 공간이다. 측정이 함수로 구성된 경우 무한 차원 벡터 공간이 될 수 있다.
• 모델 응답 ($F(p)$): 모델 $p$에 의해 예측된 데이터이다.
• $F(P)$: 정방향 맵에 의한 $P$의 이미지로, 모든 모델의 응답으로 구성된 $D$의 부분 집합이다. ($F$가 비선형이면 부분 공간이 아니다.)
• 데이터 불일치(잔차) ($d\_\backslash text\{obs\}\; -\; F(p)$): 모델 $p$와 관련된 데이터 불일치를 나타내는 벡터로, 모델이 현실적인지 판단하는 데 중요한 역할을 한다.

역문제는 순문제와 짝을 이루는 개념이지만, 어느 쪽이 순문제이고 역문제인지는 상대적이다. 일반적으로 오랫동안 연구되어 온 방향의 프로세스를 순문제로 하고, 그 역방향의 프로세스를 역문제라고 한다.^[59]

간단한 예로, ''f''(''x'') = ''x''² 라는 함수에서 ''f''(2) = 4''를 구하는 것은 순문제이다. 반면, ''f''(''x'') = 25''에서 ''x'' = 5''를 구하거나, ''f''(1) = 1, ''f''(2) = 4, ''f''(3) = 9''라는 정보로부터 ''f''(''x'')''를 추측하는 것은 역문제이다.

물리학·공학에서 재료에 관한 역문제는, 작용하는 외력뿐만 아니라 재료의 경계·영역 형상, 지배 방정식, 경곗값 또는 초기값, 물성값 등을 구하는 다양한 문제 설정을 포함한다.

모델과 출력이 알려져 있고 입력이 알려지지 않은 문제를 다룰 때, 선형 모델을 가정하면 관측값과 참값 사이의 관계는 다음과 같이 표현된다.

:$y\_i\; =\; \backslash sum\_\backslash mu\; K\_\{i\backslash mu\}\; x\_\backslash mu\; +\; n\_i$

여기서 ''K''_''iμ''는 알려진 값이고, 노이즈 ''n''_''i''는 평균이 0이고 공분산 ''S''_''ij'' = E(''n''_''i''''n''_''j'')''를 갖는다고 가정한다.

관측이 독립이고 그 수가 파라미터 수보다 많으면 최소 자승법으로 해를 구할 수 있지만, 그렇지 않으면 부정 결정 문제가 되어 정규화를 통해 해를 구해야 한다.^[59]

4. 1. 선형 역문제와 비선형 역문제

4. 2. 역문제의 어려움 극복

5. 수치적 해법

역문제는 일반적으로 최적화 문제로 공식화되며, 목적 함수를 최소화하는 모델 매개변수를 찾는다.

선형 역문제의 경우, 다음 정규 방정식을 풀어 해를 구할 수 있다.

$$F^\backslash mathrm\{T\}\; F\; p\_\backslash text\{opt\}\; =\; F^\backslash mathrm\{T\}\; d\_\backslash text\{obs\}$$

여기서 ''F''^T는 ''F''의 전치 행렬을 나타내며, 이 식은 [https://en.wikipedia.org/?title=Normal_equations&redirect=no 정규 방정식]으로 알려져 있다.^[12][13]

비선형 역문제의 경우, 경사 하강법, 켤레 기울기법 등 다양한 최적화 알고리즘이 사용된다. 목적 함수가 유클리드 노름이 아닌 다른 노름을 기반으로 하는 경우 (특히 $L^1$ 노름을 사용해 데이터 불일치를 정량화하는 경우), 목적 함수는 미분 불가능해지므로 기울기가 의미를 잃는다. 이 때는 비미분 가능 최적화 전용 방법을 사용해야 한다.^[15]

최적 모델 계산 후에는 모델의 신뢰도를 평가해야 한다. 2차 목적 함수의 경우, "거의 잘" 데이터와 일치하는 모델 집합의 크기는 노이즈 레벨, 목적 함수의 헤세 행렬 고유값, 또는 행렬 ''F''의 특이값에 의해 결정된다. 정규화를 사용하면 이러한 집합의 크기를 줄여 계산된 솔루션의 신뢰도를 높일 수 있다.^[46][47]

순방향 맵이 비선형이면 데이터 불일치 함수가 비볼록(non-convex)일 수 있어 국부 최소화 기법의 효율성이 떨어진다. 이를 극복하기 위해 다음과 같은 접근 방식이 연구되었다.

• 메트로폴리스 알고리즘 같은 전역 최적화 기법, 유전자 알고리즘, 신경망, 멀티 스케일 분석을 포함한 정규화 기법 등을 활용하여 역문제 확률적 프레임워크에서 사후 밀도 함수를 샘플링한다.
• 최소 자승 목적 함수를 더 부드럽게 재구성한다.^[43][44]

5. 1. 정규화

6. 응용 분야

역문제 이론은 여러 분야에서 널리 사용된다.

• 의료 영상: CT, MRI, 초음파 등 의료 영상 기술에서 역문제 해결은 질병을 일찍 발견하고 치료하는 데 중요한 역할을 한다.^[60][61][62]
• 비파괴 검사: 초음파나 X-선 등을 이용하여 재료나 구조물의 결함을 검사한다.^[53] 공학 구조물의 탄성파 반전이 그 예시이다.
• 기상 예측: 기상 관측 데이터를 이용하여 미래의 날씨를 예측하는 데 역문제 이론이 사용된다.^[50][51][52]
• 열 전달: 고체 내부에서 측정된 온도 데이터를 통해 표면 열 유속을 추정하는 데 역문제가 적용된다.^[54]
• 역 리소그래피: 반도체 소자 제조를 위한 포토마스크 설계에 사용된다.
• 기타:
• 스펙트럼 밀도 추정과 도래 방향 (DOA) 추정
• 식물 물질 부패 제어^[55]
• 지진학에서 진원단층 미끄럼 분포 이력 추정
• 혜성의 먼지 꼬리 관측 영상에서 먼지의 생성률, 크기 분포, 방출 속도 추정
• 검출기 파고 분포로부터 방사선 에너지 분포 추정 (언폴딩)
• 익형 설계^[63]

7. 한국의 주요 연구 분야

의료 영상 분야에서 한국은 세계적인 경쟁력을 가지고 있으며, 역문제 해결은 영상 품질 향상 및 새로운 영상 기법 개발에 핵심적인 역할을 한다. 지구물리탐사 분야에서는 한국이 지진 위험 지역에 위치하고 있어 지진 예측 및 대비 연구가 활발하게 진행되고 있으며, 역문제 해결은 지진 발생 메커니즘 규명 및 조기 경보 시스템 구축에 기여한다.

인공지능 분야에서 한국은 인공지능 기술 개발에 적극적으로 투자하고 있으며, 딥 러닝 기반의 역문제 해결 연구가 활발히 진행되고 있다. 이는 더불어민주당이 추진하는 디지털 뉴딜 정책과도 연관되어 있다.

참조

_[1] 서적 Inverse Problems in Vision and 3D Tomography https://books.google[...] John Wiley & Sons 2013-01-29
_[2] 논문 Perception viewed as an inverse problem. https://www.scienced[...] 2001
_[3] 논문 Learning from examples as an inverse problem. http://www.jmlr.org/[...] 2005
_[4] 간행물 On the use of Bayesian networks as a meta-modeling approach to analyse uncertainties in slope stability analysis 2019
_[5] 간행물 Über die asymptotische Verteilung der Eigenwerte http://gdz.sub.uni-g[...] 2018-05-14
_[6] 웹사이트 » Epilogue — Ambartsumian’ s paper Viktor Ambartsumian http://ambartsumian.[...]
_[7] 간행물 A life in astrophysics. Selected papers of Viktor A. Ambartsumian
_[8] 간행물 The Gelfand-Levitan, the Marchenko, and the Gopinath-Sondhi integral equations of inverse scattering theory, regarded in the context of inverse impulse-response problems 1980
_[9] 간행물 Traction force microscopy with optimized regularization and automated Bayesian parameter selection for comparing cells
_[10] 서적 Inverse problem theory https://archive.org/[...] Elsevier 1987
_[11] 서적 Inverse Problem Theory and Methods for Model Parameter Estimation SIAM
_[12] 서적 Introduction à l'analyse numérique matricielle et à l'optimisation Masson 1994
_[13] 서적 Numerical optimization Springer 2006
_[14] 간행물 Refinement and coarsening indicators for adaptive parametrization: application to the estimation of hydraulic transmissivities https://hal.inria.fr[...] 2002
_[15] 서적 Optimization, Handbooks in Operations Research and Management Science Elsevier 1989
_[16] 간행물 Ill-posed and well-posed formulations of the reflection travel time tomography problem 1993
_[17] 간행물 What information on the Earth model do reflection traveltimes provide 1992
_[18] 간행물 The Resolving Power of Gross Earth Data 1968
_[19] 간행물 Sur les sentinelles des systèmes distribués 1988
_[20] 간행물 The SOLA method for helioseismic inversion 1993
_[21] 서적 Least-Squares, Sentinels and Substractive Optimally Localized Average in Equations aux dérivées partielles et applications https://hal.inria.fr[...] Gauthier Villars 1998
_[22] 서적 Statistical and computational inverse problems. Springer
_[23] 간행물 Iterative Sparse Asymptotic Minimum Variance Based Approaches for Array Processing https://qilin-zhang.[...]
_[24] 간행물 Iterative asymptotic inversion in the acoustic approximation 1992
_[25] 간행물 The inversion problem and applications of The generalized Radon transform http://amath.colorad[...] 1984
_[26] 간행물 Imaging of discontinuities in the inverse scaterring problem by inversion of a causal generalized Radon transform 1985
_[27] 간행물 On the imaging of reflectors in the earth 1987
_[28] 간행물 Least-squares migration of incomplete reflection data https://csim.kaust.e[...] 1999
_[29] 서적 The seismic inverse problem as a sequence of before stack migrations SIAM 1983
_[30] 간행물 Inversion of seismic reflection data in the acoustic approximation
_[31] 간행물 Doppler tomography 2005
_[32] 간행물 A method for the experimental study of the process of heating a solid body
_[33] 간행물 Numerical solutions to an inverse problem of heat conduction for simple shapes
_[34] 서적 Inverse Heat Conduction. Ill-Posed Problems J. Wiley & Sons
_[35] 간행물 Comparison of some inverse heat conduction methods using experimental data
_[36] 서적 Inverse Heat Transfer, Fundamentals and Applications CRC Press
_[37] 서적 Inverse Engineering Handbook, edited by K. A. Woodbury CRC Press
_[38] 논문 History Matching by Use of Optimal Control Theory 1975
_[39] 논문 Determination of relative permeabilities and capillary pressures by an automatic adjustment method 1980
_[40] 논문 About the stability of the inverse problem in the 1D wave equation, application to the interpretation of the seismic profiles 1979
_[41] 논문 Solution of the VSP one dimensional inverse problem 1986
_[42] 논문 An overview of full-waveform inversion in exploration geophysics https://www.research[...] 2009
_[43] 논문 Migration-based traveltime waveform inversion of 2-D simple structures: A synthetic example 2001
_[44] 논문 Velocity inversion by Differential semblance optimization 1991
_[45] 서적 Nonlinear Least Squares for Inverse problems Springer 2010
_[46] 논문 Monte Carlo Estimation and Resolution Analysis of Seismic Background Velocities 1991
_[47] 논문 Stochastic shale permeability matching: Three-dimensional characterization and modeling https://www.research[...] 2016-08
_[48] 서적 Identification de coefficients répartis dans les équations aux dérivées partielles Thèse d'Etat 1971
_[49] 논문 A review of the adjoint-state method for computing the gradient of a functional with geophysical applications 2006
_[50] 서적 The Ocean Circulation Inverse Problem https://books.google[...] Cambridge University Press 1996-06-13
_[51] 논문 Stochastic shale permeability matching: Three-dimensional characterization and modeling 2016-08
_[52] 논문 Understanding Catchment-Scale Forest Root Water Uptake Strategies Across the Continental United States Through Inverse Ecohydrological Modeling 2020
_[53] 논문 Inversion of circumferential elastic waves for characterization of concrete pipes 2024
_[54] 서적 Development Of An Iterative Method For Solving Multidimensional Inverse Heat Conduction Problems https://www.academia[...] Lehrstuhl für Wärme- und Stoffübertragung RWTH Aachen 2014-12
_[55] 논문 Common structure in the heterogeneity of plant-matter decay 2012-09-07
_[56] 웹사이트 Journal of Inverse and Ill-posed Problems http://www.reference[...]
_[57] 웹사이트 Inverse Problems in Science and Engineering: Vol 25, No 4 http://www.tandf.co.[...]
_[58] 웹사이트 IPI http://aimsciences.o[...]
_[59] 문서 物理現象の因果関係と、工学的応用では順方向と逆方向が逆の場合もある。わかりやすい例としては、3Dコンピュータグラフィックスにおいては、いわゆる「[[レイトレーシング]]」においてカメラ側から追跡したほうが容易なため、光源側からの追跡を「逆」と表現することがあり、ややこしい場合がある。
_[60] 웹사이트 散乱逆問題の解析解発見とマイクロ波マンモグラフィの実現 https://www.med-devi[...] 神戸大学、(株)Integral Geometry Science 2021-03-21
_[61] 웹사이트 日本医療研究開発機構 医療分野研究成果展開事業（先端計測分析技術・機器開発プログラム）事後評価報告書 https://www.amed.go.[...] 国立研究開発法人日本医療研究開発機構 2021-03-21
_[62] 웹사이트 【対談】木村建次郎教授 × ニュースキャスター 膳場貴子さん https://www.kobe-u.a[...] 神戸大学 2021-03-21
_[63] 논문 "温故知新（先人の教え）～低速の翼に関する話題～ 第５回 補遺１：翼型理論と逆問題設計法の考察" https://www.nagare.o[...] 日本流体力学会 2023-08