오목함수

1. 개요

오목 함수는 실수값 함수 f가 구간 또는 볼록 집합에서 정의될 때 특정 부등식을 만족하는 함수를 의미한다. 함수 f의 상위 윤곽선 집합이 볼록 집합이면 준오목 함수이다. 오목 함수는 볼록 함수의 반대 개념으로, 두 오목 함수의 합이나 점별 최소값은 오목 함수가 된다. 오목 함수의 도함수는 단조 감소하며, 두 번 미분 가능한 오목 함수의 이계도함수는 비양수이다. 오목 함수의 예시로는 -x², 로그 함수 등이 있으며, 광선의 굴절 계산, 기대 효용 이론, 생산 함수, 엔트로피 계산 등 다양한 분야에 응용된다.

2. 정의

실수값 함수 $f$가 구간 (또는, 더 일반적으로는 벡터 공간의 볼록 집합)에서 정의되었을 때, 임의의 구간 내 $x$와 $y$에 대하여, 그리고 임의의 $\backslash alpha\; \backslash in\; [0,1]$에 대하여, 다음 부등식을 만족하면 이 함수는 오목 함수라고 한다.

:$f((1-\backslash alpha\; )x+\backslash alpha\; y)\backslash geq\; (1-\backslash alpha\; )\; f(x)+\backslash alpha\; f(y)$

또한, 임의의 $\backslash alpha\; \backslash in\; (0,1)$와 $x\; \backslash neq\; y$에 대해 다음의 강한 부등식이 성립하면 함수는 강오목 함수라고 한다.

:$f((1-\backslash alpha\; )x\; +\; \backslash alpha\; y)\; >\; (1-\backslash alpha)\; f(x)\; +\; \backslash alpha\; f(y)$

함수 $f:\; \backslash mathbb\{R\}\; \backslash to\; \backslash mathbb\{R\}$에 대해, 이 정의는 기하학적으로 $f$의 그래프에서 임의의 두 점 $(x,\; f(x))$와 $(y,\; f(y))$를 잇는 선분(할선)이 두 점 사이의 함수 그래프보다 항상 아래에 있거나 일치한다는 것을 의미한다. 강오목 함수의 경우, 선분은 양 끝점을 제외하고는 항상 함수 그래프보다 아래에 있다.

함수 $f$의 상위 윤곽선 집합 $S(a)=\backslash \{x:\; f(x)\backslash geq\; a\backslash \}$이 볼록 집합이면 $f$는 준오목 함수이다.

3. 성질

오목 함수는 다음과 같은 다양한 수학적 성질을 지닌다.

* 함수 f가 볼록 집합 위에서 오목 함수일 필요충분조건은 함수 −f가 같은 집합 위에서 볼록 함수인 것이다.
* 두 오목 함수의 합은 오목 함수이며, 두 오목 함수의 점별 최솟값을 취하여 얻은 함수 역시 오목 함수이다. 즉, 주어진 정의역 위에 정의된 오목 함수들의 집합은 반체를 이룬다.
* 미분 가능한 오목 함수 f는 그 그래프가 임의의 점에서 그은 접선보다 아래에 있거나 접선과 만나며, 이는 1차 테일러 근사로 다음과 같이 표현될 수 있다:
$f(y)\; \backslash leq\; f(x)\; +\; f\text{'}(x)(y-x)$
* 구간 C에 대한 르베그 가측 함수 f가 오목 함수이기 위한 필요충분조건 중 하나는 중점 오목성을 만족하는 것이다. 즉, C 안의 모든 x와 y에 대해 다음 부등식이 성립한다:
$f\backslash left(\; \backslash frac\{x+y\}2\; \backslash right)\; \backslash ge\; \backslash frac\{f(x)\; +\; f(y)\}2$
가우스 평면 C 위의 연속 함수가 오목이기 위한 필요충분조건도 위와 같다.
* 함수의 정의역 내부에 있는 국소 최댓값 근처에서 함수는 오목해야 한다. 반대로, 강하게 오목한 함수의 도함수가 어떤 점에서 0이 된다면, 그 점은 국소 최댓값이다. 오목 함수의 모든 국소 최댓값은 전역 최댓값이기도 하며, 강하게 오목 함수는 최대 하나의 전역 최댓값을 가진다.
* 만약 함수 f가 두 번 미분 가능하다면, f가 오목 함수일 필요충분조건은 이계도함수 f″가 0 이하(f″ ≤ 0)인 것이다. 만약 f″가 음수이면 f는 엄격하게 오목하지만, 그 역은 성립하지 않는다(예: $f(x)\; =\; -x^4$).
* 오목성이 볼록성으로 바뀌는 점을 변곡점이라고 한다.

3.1. 함수의 한 변수

미분가능 함수 f는 어떤 구간에서 도함수 f'가 단조 감소할 때, 즉 기울기가 증가하지 않을 때 그 구간에서 오목하다고 한다. 도함수 f'가 엄격하게 단조 감소하면 엄격하게 오목하다고 한다. 오목 함수는 그 기울기가 항상 감소한다.

만약 함수 f가 두 번 미분 가능하다면, 함수 f는 이차 도함수 f가 0 이하일 때 (즉, 가속도가 0 이하일 때) 오목하다. 만약 f가 음수이면 f는 엄격하게 오목하지만, 그 역은 성립하지 않는다. 예를 들어 $f(x)\; =\; -x^4$는 $x=0$에서 $f\text{'}\text{'}(0)=0$이지만 엄격하게 오목하다.

함수의 오목성이 바뀌는 점, 즉 오목한 구간과 볼록한 구간의 경계점을 변곡점이라고 한다.

오목 함수는 다음과 같은 성질을 가진다.

* 볼록 함수와의 관계: 주어진 함수 f가 볼록 집합 내에서 오목일 필요충분조건은 같은 집합 내에서 함수 -f가 볼록 함수가 되는 것이다.
* 테일러 근사: 만약 함수 f가 오목하고 미분가능하다면, 함수 그래프는 임의의 점에서 그은 접선보다 아래에 있거나 접선과 만난다. 즉, 1차 테일러 근사에 의해 위쪽으로 제한된다:
$$f(y)\; \backslash leq\; f(x)\; +\; f\text{'}(x)(y-x)$$
* 중점 오목: 구간 C에서 정의된 르베그 가측 함수 f가 오목할 필요충분조건 중 하나는 중점 오목성을 만족하는 것이다. 즉, C 안의 모든 x와 y에 대해 다음 부등식이 성립한다:
$$f\backslash left(\; \backslash frac\{x+y\}2\; \backslash right)\; \backslash ge\; \backslash frac\{f(x)\; +\; f(y)\}2$$
가우스 평면 C 위의 연속 함수가 오목이기 위한 필요충분조건도 위와 같다.
* 초가법성: 함수 f가 오목하고 $f(0)\; \backslash ge\; 0$이면, f는 구간 $[0,\backslash infty)$에서 초가법적이다. 즉, $a,b\backslash in[0,\backslash infty)$에 대해 다음이 성립한다:
$$f(a)\; +\; f(b)\; \backslash le\; f(a+b)$$
* 극대값: 임의의 함수는 그 정의역의 내부에 있는 극대값점 근처에서 오목해야 한다. 반대로, 강하게 오목한 함수의 도함수가 어떤 점에서 0이 된다면, 그 점은 극대값점이다. 오목 함수의 임의의 극대값은 최댓값이기도 하며, 강하게 오목 함수는 최대 하나의 최댓값을 가진다.
* 함수 간 연산: 두 오목 함수의 합은 오목 함수이다. 또한, 두 오목 함수의 점별 최솟값을 취하여 얻어지는 함수도 오목 함수이다. 즉, 주어진 정의역 상에 정의된 오목 함수들의 집합은 특정 대수 구조를 이룬다.

3.2. 함수의 ''n'' 변수

함수 f가 볼록 집합에서 오목 함수일 필요충분조건은 함수 −f가 해당 집합에서 볼록 함수인 것이다.

두 오목 함수의 합은 오목 함수이며, 두 오목 함수의 점별 최소값 역시 오목 함수이다. 따라서 주어진 정의역에서 정의된 오목 함수들의 집합은 반체(semifield)를 형성한다.

미분 가능한 함수 f가 주어진 구간에서 오목 함수가 되기 위한 필요충분조건은 그 도함수 f′가 그 구간에서 단조 감소하는 것이다. 즉, 오목 함수의 기울기는 항상 감소한다. 만약 함수 f가 두 번 미분 가능하다면, f가 오목 함수일 필요충분조건은 이계도함수 f″가 음수이거나 0인 것(f″ ≤ 0)이다. 만약 이계도함수가 항상 음수(f″ < 0)이면 함수는 강하게 오목(strictly concave)하지만, 그 역은 성립하지 않는다(예를 들어 f(x) = −x⁴는 x=0에서 f″(0) = 0이지만 강하게 오목하다). 볼록성이 변하는 점은 변곡점이라고 부른다.

함수의 정의역 내부에 있는 국소 최댓값 근처에서 함수는 오목해야 한다. 반대로, 강하게 오목한 함수의 도함수가 어떤 점에서 0이 되면, 그 점은 국소 최댓값이다. 오목 함수의 모든 국소 최댓값은 전역 최댓값이기도 하다. 강하게 오목한 함수는 최대 하나의 전역 최댓값을 갖는다.

만약 f가 오목 함수이고 미분 가능하다면, 함수값은 항상 접선 또는 그 아래에 위치하며, 이는 1차 테일러 근사로 표현될 수 있다:
$f(y)\; \backslash leq\; f(x)\; +\; f\text{'}(x)(y-x)$

가우스 평면 C 위의 연속 함수 f가 오목 함수이기 위한 필요충분조건은 C의 임의의 두 원소 x, y에 대해 다음 부등식이 성립하는 것이다:
$f\backslash left(\; \backslash frac\{x+y\}2\; \backslash right)\; \backslash ge\; \backslash frac\{f(x)\; +\; f(y)\}2$

함수 f가 오목 함수이고 f(0) ≥ 0일 때, f는 열가법성(subadditivity)을 만족한다. 즉, 다음 부등식이 성립한다:
$f(a)\; +\; f(b)\; \backslash ge\; f(a+b)$

4. 예시

* 함수 $f(x)=-x^2$과 $g(x)=\backslash sqrt\{x\}$는 정의된 영역에서 모두 오목하며, 그 이계도함수 $f$(x) = -2와 $g$(x) = -\frac{1}{4 x^{3/2}}는 항상 음수이다.
* 로그 함수 $f(x)\; =\; \backslash log\{x\}$는 정의된 영역 $(0,\backslash infty)$에서 오목하며, 그 도함수 $\backslash frac\{1\}\{x\}$는 엄격히 감소하는 함수이다.
* 모든 아핀 함수 $f(x)=ax+b$는 오목 함수이면서 볼록 함수이지만, 엄격히 오목하거나 엄격히 볼록하지는 않다.
* 사인 함수는 구간 $[0,\; \backslash pi]$에서 오목하다.
* 함수 $f(B)\; =\; \backslash log\; |B|$는, $|B|$가 비음정부호 행렬 B의 행렬식일 때, 오목하다.

5. 응용

* 대기 중의 전파 감쇠 계산에서 광선의 굴절은 오목 함수를 포함한다.
* 불확실성 하의 선택에 대한 기대 효용 이론에서, 위험 회피적인 의사 결정자의 기수 효용 함수는 오목하다.
* 미시 경제학에서, 생산 함수는 일반적으로 그 영역의 일부 또는 전체에 걸쳐 오목하다고 가정하며, 이는 투입 요소에 대한 수확 체감의 법칙을 초래한다.
* 열역학과 정보 이론에서, 엔트로피는 오목 함수이다. 열역학적 엔트로피의 경우, 상전이가 없으면, 엔트로피는 종량 변수의 함수로서 엄격하게 오목하다. 만약 시스템이 상전이를 겪을 수 있고, 다른 상의 두 하위 시스템으로 분할될 수 있다면(상 분리, 예를 들어 끓는점), 하위 시스템의 엔트로피 최대 매개변수는 두 상 사이의 직선 위에 정확히 결합된 엔트로피를 초래할 것이다. 이는 상전이를 포함하는 시스템의 "유효 엔트로피"가 상 분리 없는 엔트로피의 볼록 포락선임을 의미한다. 따라서 상 분리를 포함하는 시스템의 엔트로피는 엄격하게 오목하지 않을 것이다.