사고범위 문제

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.

1. 개요
2. 프레임 문제의 정의 및 발생 원인
3. 철학적 논의와 예시
- 3.1. 다니엘 데닛의 예시
- 3.2. 예일 총격 문제
4. 프레임 문제 해결을 위한 접근 방식
5. 한국의 프레임 문제 연구 동향
6. 일반화 프레임 문제
- 6.1. 인간 인지와의 관련성
참조

1. 개요

사고범위 문제(Frame problem)는 인공지능(AI)이 현실 세계의 문제를 해결할 때, 관련 정보만을 추출하고 불필요한 정보를 걸러내는 과정에서 발생하는 문제다. 이는 AI가 모든 가능한 상황을 고려해야 하는 경우, 무한한 시간이 소요되어 문제를 해결할 수 없기 때문에, 적절한 '프레임'을 설정하여 사고 범위를 제한해야 하는 필요성에서 비롯된다. 이 문제는 단순한 상황에서도 발생하며, 여러 철학적 논의와 예시를 통해 그 어려움이 드러난다. 프레임 문제를 해결하기 위해 논리 기반, 제한적 해결책, 행동 묘사 언어 등 다양한 접근 방식이 제시되었으며, 인간의 인지 과정과의 관련성에 대한 연구도 진행되고 있다.

더 읽어볼만한 페이지

철학 문제 - 마음
마음은 의식, 사고, 지각, 감정, 동기, 행동, 기억, 학습 등을 포괄하는 심리적 현상과 능력의 총체이며, 다양한 분야에서 연구되고 인간 삶의 중추적인 역할을 한다.
철학 문제 - 심신 문제
심신 문제는 마음과 몸, 정신과 물질의 관계를 다루는 철학 및 과학 분야의 핵심 질문으로, 마음과 몸이 서로 다른 실체라는 이원론과 하나의 실체라는 일원론으로 나뉘며, 현대 신경과학과 인지과학은 뇌 활동과 의식 간의 관계를 밝히는 데 주력하고 있다.
지식 표현 - 시소러스
시소러스는 특정 단어나 개념의 유의어, 상위어, 하위어를 모아놓은 사전으로, 어휘의 의미 관계를 보여주며 글쓰기, 번역 등 다양한 분야에 활용된다.
지식 표현 - 시맨틱 네트워크
시맨틱 네트워크는 개념 간의 관계를 표현하는 지식 표현 방법으로, 노드와 링크를 사용하여 지식을 구조화하며 인공지능, 언어학 등 다양한 분야에서 활용된다.
인공지능 - 구글
구글은 래리 페이지와 세르게이 브린이 개발한 웹 검색 엔진에서 출발하여 검색 기술 혁신을 통해 유튜브, 안드로이드 등 다양한 서비스를 제공하는 세계적인 기술 기업으로 성장했지만, 개인정보보호 및 독점 논란에도 직면하고 있다.
인공지능 - 친절한 인공지능
친절한 인공지능은 사용자에게 친절하고 공감적인 방식으로 상호 작용하며 긍정적이고 효과적인 사용자 경험을 제공하는 것을 목표로 하는 인공지능 기술의 한 분야이다.

사고범위 문제
문제 개요
유형	인공지능, 범주론
설명	인공지능 시스템이 행동의 결과와 관련 없는 사실들을 무시하는 데 어려움을 겪는 문제
역사
최초 언급	존 매카시와 패트릭 헤이스 (1969년)
주요 논문	패트릭 헤이스 (1973년) 존 매카시, 패트릭 헤이스 (1969년)
관련 문제
관련 문제	인과 관계 추론 상황 미적분 액션의 계산

2. 프레임 문제의 정의 및 발생 원인

현실 세계에서 인공지능에게 '패스트푸드점에서 햄버거를 사오시오.'와 같은 문제를 해결하라고 요구했을 때, 인공지능은 문제와 관련된 사건만을 추출하고 나머지는 염두에 두지 않아야 한다. 모든 사건을 고려하면 무한한 시간이 걸리기 때문이다. 즉, 어떤 테두리를 만들고, 그 테두리 안에서만 사고할 필요가 있는데, 이것이 프레임 문제이다.

미리 프레임을 여러 개 정해 두어 상황에 따라 적절한 프레임을 선택해 사용하면 해결할 수 있는 것으로 생각되기도 하지만, 어느 프레임을 현재 상황에 적용해야 할 것인가 판단하는 시점에서도 같은 문제가 발생한다.

프레임 문제는 매우 단순한 영역에서도 발생한다. 열리거나 닫힐 수 있는 문과 켜지거나 꺼질 수 있는 전등의 시나리오는 두 개의 명제로 표현될수 있다. 이러한 조건이 변경될 수 있다면, 시간에 따라 달라지는 두 개의 술어로 표현하는 것이 더 낫다. 이러한 술어를 플루언트라고 한다.

프레임 문제는 동작에 의해 변경되는 조건만 지정하는 것으로는 다른 모든 조건이 변경되지 않음을 의미하지 않는다는 것이다. 이 문제는 소위 "프레임 공리"를 추가하여 해결할 수 있는데, 이는 동작의 영향을 받지 않는 모든 조건이 해당 동작을 실행하는 동안 변경되지 않음을 명시적으로 지정한다. 예를 들어, 시간 0에 실행되는 동작이 문을 여는 것이므로 프레임 공리는 전등의 상태가 시간 0에서 1로 변경되지 않는다고 명시한다.

: $\mathrm{on}(0) \iff \mathrm{on}(1)$

프레임 문제는 동작이 조건에 영향을 미치지 않는 모든 동작과 조건 쌍에 대해 하나의 프레임 공리가 필요하다는 것이다.

2. 1. 논리적 추론의 한계

2. 2. 무한한 가능성

2. 3. 상황 판단의 어려움

3. 철학적 논의와 예시

철학자 다니엘 데넷은 ''Cognitive Wheels : The Frame Problem of AI''^[16]에서 다음과 같은 예시를 제시했다.^[11]

동굴 안에 로봇을 움직이는 배터리가 있고, 그 위에 시한폭탄이 설치되어 있다. 로봇은 '동굴에서 배터리를 꺼내올 것'을 지시받았다.

인공지능 로봇 1호기 R1은 배터리를 꺼내는 데 성공했지만, 배터리를 옮기면 폭탄도 함께 옮겨진다는 것을 인식하지 못해 폭발로 파괴되었다.^[12] 이는 목적 달성에는 성공했지만, 부차적인 결과(폭탄 이동)를 고려하지 못했기 때문이다.

인공지능 로봇 2호기 R1-D1은 부차적인 사항을 고려하도록 설계되었지만,^[17] 배터리 앞에서 무한히 많은 가능성을 고려하다가^[13] 결국 폭발로 파괴되었다. "벽의 색깔 변화"와 같이 고려할 필요가 없는 사항까지 고려 대상에 포함되었기 때문이다.

인공지능 로봇 3호기 R2-D1은 목적과 관계없는 사항을 고려하지 않도록 개선되었지만,^[14] 동굴에 들어가기 전에 무관한 사항을 모두 찾아내려는 무한한 검토 과정에 빠져 작동을 멈추었다.

3. 1. 다니엘 데닛의 예시

철학자 다니엘 데넷은 ''Cognitive Wheels : The Frame Problem of AI''^[16]에서 다음과 같은 예시를 제시했다.^[11]

동굴 안에 로봇을 움직이는 배터리가 있고, 그 위에 시한폭탄이 설치되어 있다. 로봇은 '동굴에서 배터리를 꺼내올 것'을 지시받았다.

인공지능 로봇 1호기 R1은 배터리를 꺼내는 데 성공했지만, 배터리를 옮기면 폭탄도 함께 옮겨진다는 것을 인식하지 못해 폭발로 파괴되었다.^[12] 이는 목적 달성에는 성공했지만, 부차적인 결과(폭탄 이동)를 고려하지 못했기 때문이다.

인공지능 로봇 2호기 R1-D1은 부차적인 사항을 고려하도록 설계되었지만,^[17] 배터리 앞에서 무한히 많은 가능성을 고려하다가^[13] 결국 폭발로 파괴되었다. "벽의 색깔 변화"와 같이 고려할 필요가 없는 사항까지 고려 대상에 포함되었기 때문이다.

인공지능 로봇 3호기 R2-D1은 목적과 관계없는 사항을 고려하지 않도록 개선되었지만,^[14] 동굴에 들어가기 전에 무관한 사항을 모두 찾아내려는 무한한 검토 과정에 빠져 작동을 멈추었다.

3. 2. 예일 총격 문제

4. 프레임 문제 해결을 위한 접근 방식

프레임 문제 해결을 위한 다양한 접근 방식들이 제시되었으며, 여기서는 각 접근 방식의 핵심 아이디어를 간략하게 소개한다.

프레임 문제가 어려운 이유는 고려해야 할 공간이 무한하지 않는 한, 무한한 가능성을 고려해야 한다는 점이다(공간이 유한하더라도 조합의 폭발적 증가로 인해 어려움).

자연계의 지성(인간 등)이 이 문제를 어떻게 해결하는지는 아직 밝혀지지 않았다. 일부 연구자들은 인간이 실제로는 프레임 문제를 해결하지 못하고, 단지 잘 대처하는 것처럼 보일 뿐이라고 주장한다.

이러한 경우, 인공지능뿐만 아니라 인간의 지능에서도 어떻게 행동해야 프레임 문제에 잘 대처하는 것처럼 보일 수 있는지가 연구 주제가 된다. 이러한 유형의 프레임 문제는 존 매카시 등이 제안한 원래의 프레임 문제와 구별하여 일반화 프레임 문제라고 불린다.

일부 연구자들은 프레임 문제가 지능을 기호 조작 규칙으로 환원하여 하향식으로 정의함으로써 발생한다고 주장한다. 이들은 신경계를 모방한 신경망과 같은 비기호적 지능이 프레임 문제를 해결할 수 있다고 믿는다.

인공지능 분야에서는 프레임 문제를 피하기 위해 인공지능이 다루는 상황을 미리 제한하여 유한한 공간 내에서 추론하는 연구가 많이 진행된다. 예를 들어, 컴퓨터 장기 프로그램은 장기 대국 외의 지식은 다루지 않는다. 또한, 프롤로그와 같은 논리 프로그래밍 언어에서 부정(not)은 "아는 것만이 세상의 전부"라고 가정하는 폐쇄 세계 가설에 따라 작동하는 것이 일반적이다.

프로그램 세계에서는 무한 루프와 유사한 현상이 있으며, 이는 타임아웃을 통해 어느 정도 해결을 시도하고 있다.

4. 1. 논리 기반 해결책

에릭 샌드월이 제안한 해결책은 동적 도메인의 사양을 위한 형식 언어를 정의하는 것이다. 이러한 도메인은 먼저 이 언어로 표현된 다음 자동으로 논리로 변환될 수 있다. 이 해결책의 근거는 시간 경과에 따른 조건의 값뿐만 아니라 마지막으로 실행된 동작에 의해 영향을 받을 수 있는지 여부도 나타내는 것이다.

조건은 효과로서 조건이 참 또는 거짓이 되도록 하는 동작이 방금 실행된 경우 주어진 시점에서 ''폐색''되었다고 한다. 폐색은 "변경 허가"로 볼 수 있다. 조건이 폐색되면 관성의 제약에서 벗어난다.

문과 조명의 단순화된 예에서 폐색은 두 개의 술어

\mathrm{occludeopen}(t)

와

\mathrm{occludeon}(t)

로 공식화될 수 있다. 그 이유는 조건이 해당 폐색 술어가 다음 시점에 참일 경우에만 값을 변경할 수 있기 때문이다. 차례로, 폐색 술어는 조건에 영향을 미치는 동작이 실행될 때만 참이다.

일반적으로 조건을 참 또는 거짓으로 만드는 모든 동작은 해당 폐색 술어도 참으로 만든다. 이 조건이 작동하려면 폐색 술어는 동작의 효과로 참이 될 때만 참이어야 한다. 이는 제한 또는 술어 완성을 통해 달성할 수 있다.

폐색이 반드시 변경을 의미하는 것은 아니다. 예를 들어, 문이 이미 열려 있을 때 문을 여는 동작을 실행하면 술어

\mathrm{occludeopen}

이 참이 되고

\mathrm{open}

이 참이 된다. 그러나

\mathrm{open}

은 이미 참이었으므로 값을 변경하지 않았다.

어떤 행동 실행 후 조건의 값은 다음과 같은 경우에만 참이 됨으로써 결정될 수 있다.

# 행동이 조건을 참으로 만든다.

# 조건이 이전에 참이었고 행동이 조건을 거짓으로 만들지 않는다.

후계 상태 공리는 이 두 가지 사실을 논리적으로 공식화한 것이다. 후계 상태 공리는 레이 레이터가 제안한 상황 미적분의 변형에 사용된다.

플루언트 미적분은 상황 미적분의 변형이다. 이는 상태를 표현하기 위해 용어를 사용하여 프레임 문제를 해결하며, 술어를 사용하지 않는다. 1차 논리에서 술어를 용어로 변환하는 것을 재현이라고 하며, 플루언트 미적분은 상태 조건을 나타내는 술어를 재현하는 논리로 볼 수 있다.

플루언트 미적분에서 각 가능한 상태는 다른 용어의 조합으로 얻은 용어로 표현되며, 각 용어는 해당 상태에서 참인 조건을 나타낸다. 예를 들어, 문이 열려 있고 불이 켜져 있는 상태는

\mathrm{open} \circ \mathrm{on}

용어로 표현된다. 용어는 객체이지 조건이 아니므로 자체적으로 참 또는 거짓이 아니라는 점에 유의해야 한다.

플루언트 미적분에서 주어진 프레임 문제의 해결책은, 작업이 실행될 때 상태를 나타내는 용어가 어떻게 변경되는지를 진술함으로써 작업의 효과를 지정하는 것이다.

사건 계산법은 유창성을 표현하기 위해 유창성 계산법과 유사한 용어를 사용하지만, 후계자 상태 공리와 같이 유창성의 값을 제한하는 하나 이상의 공리도 가지고 있다. 사건 계산법에는 많은 변형이 있지만, 가장 단순하고 유용한 것 중 하나는 관성 법칙을 나타내기 위해 단일 공리를 사용한다.

사건 계산법을 특정 문제 영역에 적용하려면 해당 영역에 대한

initiates

및

terminates

술어를 정의해야 한다. 사건 계산법을 해당 영역의 특정 문제에 적용하려면 문제의 맥락에서 발생하는 사건을 지정해야 한다.

사건 계산법은 단조 논리를 사용하여 원치 않는 해를 제거함으로써, 프레임 문제를 해결한다.

프레임 문제는 기본적으로 "모든 것은 원래 상태로 유지된다"는 원칙을 형식화하는 문제로 생각할 수 있다. 이 기본 원칙은 때때로 '관성(慣性)의 상식적 법칙'이라고도 불린다.

답변 집합 프로그래밍 언어에서 기본 논리 해법에 대응하는 것은 강한 부정을 가진 규칙이다.

프레임 문제가 문제 삼는 것은 고려해야 할 공간이 유한하지 않는 한, 무한한 가능성에 대해 생각하지 않을 수 없다는 점이다.

자연계에 발생한 지성(인간의 지성 등)이 어떻게 이 프레임 문제를 해결하고 있는지는 아직 해명되지 않았다. 인간은 실제로는 프레임 문제를 해결하지 못하고, 프레임 문제에 잘 대처하고 있는 것처럼 보일 뿐이라고 주장하는 연구자도 있다.

인공 지능의 세계에서는 프레임 문제를 회피하기 위해 미리 인공 지능이 다루는 상황을 한정하여 유한한 공간 안에서 추론하는 연구가 많이 이루어진다.

4. 2. 제한적 해결책

프레임 문제가 문제 삼는 것은 고려해야 할 공간이 유한하지 않는 한, 무한한 가능성에 대해 생각하지 않을 수 없다는 점이다. 단, 공간이 유한해도 고려해야 할 요소의 조합이 폭발적으로 증가하기 때문에 마찬가지이다.

자연계에 발생한 지성(인간의 지성 등)이 어떻게 이 프레임 문제를 해결하고 있는지는 아직 해명되지 않았다. 인간은 실제로는 프레임 문제를 해결하지 못하고, 프레임 문제에 잘 대처하고 있는 것처럼 보일 뿐이라고 주장하는 연구자도 있다.

이 경우, 어떻게 행동하게 하면 그렇게 보이게 할 수 있는지가 연구의 주제가 된다. 이와 같은, 인공 지능뿐만 아니라 인간의 지능에도 일어날 수 있는 프레임 문제는 존 매카시 등이 제안한 프레임 문제와 구별하여 일반화 프레임 문제라고 불린다.

프레임 문제는 지능을 기호 조작의 규칙으로 환원하여 톱 다운 방식으로 정의함으로써 생긴다고 주장하는 연구자도 있다. 그러한 연구자는 신경계를 모방한 신경망과 같은 기호 조작적이지 않은 지능으로 프레임 문제를 해결할 수 있다고 생각하고 있다.

인공 지능의 세계에서는 프레임 문제를 회피하기 위해 미리 인공 지능이 다루는 상황을 한정하여 유한한 공간 안에서 추론하는 연구가 많이 이루어진다. 일례로 장기나 체스 대전용 프로그램은 (컴퓨터 장기 등의 기사를 참조) 장기를 두는 것 이외의 지식 등은 다루지 않는다. 또 예를 들어 프롤로그 등의 논리형 프로그램에서 부정을 의미하는 'not'은 "아는 것만이 세상의 전부이다"라고 간주하는 폐쇄 세계 가설에 따른 동작을 하는 것이 보통이다.

프로그램의 세계에서 유사한 현상으로 무한 루프가 있으며, 이는 타임아웃으로 어느 정도 해결을 꾀하고 있다.

4. 3. 기타 해결책

분리 논리는 컴퓨터 메모리 및 기타 동적 리소스의 변경 가능한 데이터 구조에 대한 추론을 목표로 하는 호어 논리의 확장으로, "그리고 분리적으로" 발음되는 특수 연결자 *를 통해 서로소 메모리 영역에 대한 독립적인 추론을 지원한다.^[5]^[6] 분리 논리는 사전/사후 명세에 대한 ''엄격한'' 해석을 사용하여 코드가 전제 조건에 의해 존재가 보장되는 메모리 위치에 ''만'' 접근할 수 있다고 명시한다.^[7] 이는 논리의 가장 중요한 추론 규칙인 ''프레임 규칙''의 건전성을 이끌어낸다. 프레임 규칙은 코드의 풋프린트(접근된 메모리) 외부의 임의의 메모리에 대한 설명을 명세에 추가할 수 있게 하여, 초기 명세가 풋프린트에만 집중할 수 있도록 한다. 프레임 규칙의 자동화는 코드에 대한 자동 추론 기술의 확장성을 크게 증가시켰으며,^[8] 수천만 줄의 코드베이스에 산업적으로 배포되었다.^[9]

행동 묘사 언어는 프레임 문제를 해결하기보다는 회피하며, 상황과 행동을 묘사하기 위한 특정 구문을 가진 형식 언어이다. 행동 묘사 언어의 의미는 언어가 표현할 수 있는 것(동시 작업, 지연된 효과 등)에 따라 다르며 일반적으로 전이 시스템을 기반으로 한다. 도메인이 직접 논리가 아닌 이러한 언어로 표현되기 때문에 프레임 문제는 행동 묘사 논리로 제공된 사양이 논리로 변환될 때만 발생한다.

프레임 문제는 고려해야 할 공간이 유한하지 않는 한, 무한한 가능성에 대해 생각하지 않을 수 없다는 점을 문제 삼는다. 자연계에 발생한 지성(인간의 지성 등)이 어떻게 이 프레임 문제를 해결하고 있는지는 아직 해명되지 않았다.

프레임 문제는 지능을 기호 조작의 규칙으로 환원하여 톱 다운 방식으로 정의함으로써 생긴다고 주장하는 연구자도 있다. 그러한 연구자는 신경계를 모방한 신경망과 같은 기호 조작적이지 않은 지능으로 프레임 문제를 해결할 수 있다고 생각하고 있다.

인공 지능의 세계에서는 프레임 문제를 회피하기 위해 미리 인공 지능이 다루는 상황을 한정하여 유한한 공간 안에서 추론하는 연구가 많이 이루어진다. 컴퓨터 장기 프로그램은 장기를 두는 것 이외의 지식 등은 다루지 않는다. 프롤로그 등의 논리형 프로그램에서 부정을 의미하는 'not'은 폐쇄 세계 가설에 따른 동작을 하는 것이 보통이다. 프로그램의 세계에서 유사한 현상으로 무한 루프가 있으며, 이는 타임아웃으로 어느 정도 해결을 꾀하고 있다.

5. 한국의 프레임 문제 연구 동향

5. 1. 정부 및 연구 기관

5. 2. 산업계

5. 3. 정치권의 관심

6. 일반화 프레임 문제

6. 1. 인간 인지와의 관련성

참조

_[1] 학술지 The Frame Problem and Related Problems in Artificial Intelligence https://aitopics.org[...]
_[2] 학술지 Some philosophical problems from the standpoint of artificial intelligence
_[3] 서적 Solving the frame problem: A mathematical investigation of the common sense law of inertia https://books.google[...] MIT Press
_[4] 문서
_[5] 서적 Separation logic: A logic for shared mutable data structures IEEE Comput. Soc 2002
_[6] 학술지 Separation logic 2019-01-28
_[7] 서적 Computer Science Logic Springer 2001
_[8] 학술지 Compositional Shape Analysis by Means of Bi-Abduction https://ora.ox.ac.uk[...] 2011-12-01
_[9] 학술지 Scaling static analyses at Facebook 2019-07-24
_[10] 학술지 Some philosophical problems from the standpoint of artificial intelligence http://www-formal.st[...]
_[11] 기타 Cognitive Wheels : The Frame Problem of AI Oxford University Press
_[12] 문서
_[13] 문서
_[14] 문서 Robot-Relevant-Deducer
_[15] 학술지 Some philosophical problems from the standpoint of artificial intelligence http://www-formal.st[...]
_[16] 기타 Cognitive Wheels : The Frame Problem of AI Oxford University Press
_[17] 문서

본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.

문의하기 : help@durumis.com