맨위로가기

인공지능 규제법

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.
목차

1. 개요

인공지능 규제법은 2015년 유럽 디지털 단일 시장 전략의 일환으로 시작되어, 2024년 6월 13일 유럽 의회 의장 및 유럽 연합 이사회 의장의 서명으로 성립된 법안이다. 이 법은 AI 시스템을 위험 수준에 따라 분류하고, 허용할 수 없는 위험, 고위험, 제한적 위험, 최소 위험으로 구분하여 각 위험 수준에 맞는 규제를 적용한다. 주요 내용으로는 인간 행동 조작, 공공 장소에서의 실시간 생체 인식, 소셜 점수 시스템 등은 특정 예외를 제외하고 금지되며, 고위험 AI 시스템은 품질, 투명성, 인간 감독 및 안전 의무가 적용된다. 범용 AI 모델에 대한 규정도 포함하며, 위반 시에는 최대 3,500만 유로 또는 연간 세계 매출액의 7% 중 더 높은 금액이 과징금으로 부과된다. 한국의 AI 정책 및 법제도에 시사점을 주며, 과도한 규제와 실효성 문제, 딥페이크 및 허위 정보 문제 등 비판과 논쟁이 존재한다.

더 읽어볼만한 페이지

  • 2021년 법 - 신대서양 헌장
    신대서양 헌장은 미국과 영국이 자유 민주주의, 인권, 법치주의 가치를 재확인하고 코로나19, 기후 변화, 사이버 안보, 경제적 불평등 문제에 공동 대응하며 국제 협력 강화, 국제 기구 역할 지지, 동맹의 중요성 강조, 러시아와 중국의 위협에 공동 대처할 것을 약속하는 협약이다.
  • 2024년 법 - 국가안보수호조례
    국가안보수호조례는 홍콩 기본법 제23조에 따라 제정된 국가 안보 관련 법률로, 반역, 선동 등을 금지하고 외부 세력 간섭을 방지하며, 홍콩 정부와 중국 정부는 이 법안을 옹호하고 서방은 자율성 훼손을 우려한다.
  • 2024년 법 - 파벨 두로프 체포 사건
    파벨 두로프 체포 사건은 텔레그램 설립자인 파벨 두로프가 텔레그램 관리 부실로 인한 범죄 공모 혐의로 프랑스에서 체포된 사건으로, 텔레그램 보안 정책과 프랑스 정부의 사이버 수사 공조 간 갈등이 원인으로 작용하여 러시아 정부와 유명 인사들의 비판을 야기했다.
  • 유럽 연합의 정책 - 디지털 시장법
  • 유럽 연합의 정책 - 공동 농업 정책
    공동 농업 정책은 유럽 경제 공동체의 식량 위기 극복을 위해 마련되어 농산물 단일 시장 형성, 생산성 향상, 식량 안정 공급에 기여했으나, 과잉 생산, 수출 보조금, 농업 보조금의 불공정성 등의 문제로 개혁을 거쳐 환경 보호, 기후 변화 대응, 농촌 지역 균형 발전을 위한 과제를 안고 있다.
인공지능 규제법
개요
명칭인공지능법
법률 종류유럽연합 규칙
적용 범위유럽 경제 지역(EEA)
원문 명칭Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act)
약칭AI 액트
AIA
AI 규제법
유럽 인공지능법
EU 인공지능법
제정 기관유럽 의회 및 유럽 연합 이사회
법안 번호(EU) 2024/1689
법안 종류규칙
적용 대상모든 EU 회원국 및 EEA
법적 근거유럽 연합 기능 조약
법률 근거 URL규칙 (EU) 2024/1689
EU 법률 공보L, 2024/1689
유럽 의회 투표 결과찬성 523표
유럽 연합 이사회 투표 결과찬성 27표
채택일2024년 6월 13일
발효일2024년 8월 1일
적용 시점2025년 2월 2일부터 조항별 단계적 적용
유럽 위원회 제안COM/2021/206 (Document 52021PC0206, 2021년 4월 21일 제안)
유럽 경제 사회 위원회 의견EESC 2021/02482 (2021년 9월 22일 제출)
유럽 지역 위원회 의견COR 2021/02682 (2021년 12월 2일 제출)
보고서유럽 중앙 은행 의견서: CON/2021/40 (2021년 12월 29일 제출)
수정 법률공항 및 항공기 경비 관련 규칙 (EC) No 300/2008
농업 및 임업 차량 관련 규칙 (EU) No 167/2013
이륜차, 삼륜차, 사륜차 관련 규칙 (EU) No 168/2013
선박 장비 지침 2014/90/EU
철도 시스템의 EU 내 호환성 관련 지침 (EU) 2016/797
자동차 형식 승인 관련 규칙 (EU) 2018/858
유럽 항공 안전 기관 설립 규칙 (EU) 2018/1139
자동차 형식 승인 관련 부분 개정 규칙 (EU) 2019/2144
소비자 단체 소송 지침 (EU) 2020/1828
주요 내용
목적인공지능에 대한 조화된 규칙을 수립하고 특정 EU 법률을 수정함.
규제 대상허용 불가능한 위험의 AI 시스템 금지
고위험 AI 시스템에 대한 엄격한 의무 부과
특정 투명성 의무 부과
일반 목적 AI 모델에 대한 규칙 설정
규제 범위EU 내에서 사용되거나 EU 시장에 출시되는 AI 시스템, EU 내에서 AI 시스템을 사용하는 제공자, EU에 위치한 제공자의 제품에 AI 시스템을 수출하거나 EU 법에 따라 서비스를 제공하는 제공자.
상세 내용
위험 수준별 규제최소 위험: 투명성 의무만 적용 (예: 챗봇)
고위험: 특정 요건 준수 필요 (예: 의료, 금융, 교육, 법 집행 분야)
용납할 수 없는 위험: 금지 (예: 사회적 점수 평가, 생체 인식 감시)
일반 목적 AI 모델 (GPAI)투명성 의무 준수
기술 문서 제공
EU 저작권법 준수
위험 평가 및 완화
사이버 보안 조치
규정 위반 시 제재최대 글로벌 연간 매출의 6% 또는 3천만 유로 (더 높은 금액 기준)
중소기업 및 스타트업은 비례적으로 낮은 벌금 적용
참고
세계 최초의 포괄적인 AI 규제AI 개발 및 사용에 대한 국제 표준 설정 목표

2. 역사적 배경

장클로드 융커 유럽 위원회 위원장의 주도로 2015년에 제창된 디지털 단일 시장 전략 (DSM 전략)의 일환으로 AI법의 입법이 시작되었다. DSM 전략은 디지털 플랫폼 전반에 소비자나 사업자가 안전하고, 공정하며, 효율적으로 접근할 수 있도록, EU 각국의 법 제도 및 기술 규격이 통일된 디지털 경제권을 가리키는 디지털 정책이다.

EU에서의 입법 프로세스의 3자 구조


AI법의 심의 과정은, 유럽 연합의 일반 입법 절차를 따른다. 즉, 행정 기관인 유럽 위원회(Commission)가 법안을 제출하고, 입법 기관인 유럽 의회(Parliament)와 유럽 연합 이사회(Council)가 각각 공동 채택되어 처음으로 성립된다. 심의 중에 여러 차례 원안에 대한 수정 의견이 제출되었다.

  • 2021년 4월 22일 - EU의 행정 기관인 유럽 위원회가 법안을 제출
  • 2021년 11월 29일 - 소셜 스코어링, 생체 인증, 및 고위험 AI 전반에 관한 대폭 수정안을 유럽 연합 이사회가 제출
  • 2022년 2월 3일 - 고위험 AI 시스템에 대한 의무, 및 투명성의 의무에 관한 수정
  • 2022년 3월 2일 - 유럽 의회의 법무 위원회 (JURI)에 의한 149페이지에 달하는 수정 의견서 제출
  • 2022년 3월 3일 - 유럽 의회의 산업·연구·에너지 위원회 (ITRE)에 의한 67페이지에 달하는 수정 의견서 제출
  • 2022년 4월 20일 - 유럽 의회의 역내 시장·소비자 보호 위원회 (IMCO)와 시민의 자유·사법·내무 위원회 (LIBE)에 의한 161페이지에 달하는 공동 수정 의견서 제출
  • 2022년 5월 13일 - 범용 AI 모델 (GPAI)에 관한 추가 규정안을 유럽 연합 이사회가 제출
  • 2022년 6월 1일 - 유럽 의회의 각 위원회 등이 수천 곳에 달하는 수정안을 제출
  • 2022년 6월 15일 - 유럽 연합 이사회가 136페이지에 달하는 최종 수정안을 제출
  • 2022년 12월 6일 - 유럽 연합 이사회가 수정안을 채택하고, 유럽 의회와의 협상 합의 결의를 가결
  • 2023년 6월 14일 - 유럽 의회가 찬성 499표, 반대 28표, 기권 93표로 수정안을 채택하고, 유럽 연합 이사회와의 협상 합의 결의를 가결
  • 2023년 12월 9일 - 3자 대화의 장이 마련되어, 유럽 위원회, 유럽 의회, 유럽 연합 이사회의 각각으로 이루어진 대표자에 의해 협상이 진행되었으며, 수정안이 합의되었다.
  • 2024년 3월 13일 - 유럽 의회에서 3자 대화의 수정안이 심의되어, 찬성 523표, 반대 46표, 기권 49표로 가결
  • 2024년 5월 21일 - 유럽 연합 이사회에서 3자 대화의 수정안이 심의되어, 찬성 27표 만장 일치로 가결
  • 2024년 6월 13일 - 유럽 의회 의장 및 유럽 연합 이사회 의장이 서명하여, AI법이 성립 .
  • 2024년 7월 12일 - EU 관보상에서 공포 (EU 관보 번호: L, 2024/1689) .

2. 1. EU AI 규제법 제정 과정

2015년, 장클로드 융커 유럽 위원회 위원장의 주도로 '디지털 단일 시장 전략'의 일환으로 AI 규제 논의가 시작되었다. 2020년 2월, 유럽 위원회는 "인공 지능에 대한 백서 - 우수성과 신뢰를 위한 유럽식 접근 방식"을 발표했다.[32] 2021년 4월 21일, AI 법안은 위원회에 의해 공식적으로 제안되었다.[11]

유럽 연합의 일반 입법 절차에 따라, 행정 기관인 유럽 위원회가 법안을 제출하고 입법 기관인 유럽 의회와 유럽 연합 이사회가 공동 채택하여 법률이 성립된다. 2022년 12월 6일, 유럽 연합 이사회는 수정안을 채택하고, 유럽 의회와의 협상을 위한 합의 결의를 가결했다. 2023년 6월 14일, 유럽 의회는 찬성 499표, 반대 28표, 기권 93표로 수정안을 채택하고, 유럽 연합 이사회와의 협상 합의 결의를 가결했다. 2023년 12월 9일, 유럽 위원회, 유럽 의회, 유럽 연합 이사회의 대표자들은 3자 대화를 통해 수정안에 합의했다.

2024년 3월 13일, 유럽 의회는 3자 대화의 수정안을 찬성 523표, 반대 46표, 기권 49표로 가결했다.[35] 2024년 5월 21일, 유럽 연합 이사회는 3자 대화의 수정안을 만장일치로 가결했다.[13] 2024년 6월 13일, 유럽 의회 의장 및 유럽 연합 이사회 의장의 서명으로 AI법이 성립되었다. 2024년 7월 12일, 유럽 연합 관보에 게재되었으며,[12][36] 2024년 8월 1일에 발효되었다.[3] AI법은 단계적으로 적용되며, 발효 2년 후인 2026년 8월 2일에 본격적으로 적용될 예정이다.

2. 2. 한국의 AI 정책 및 규제 동향

3. 주요 내용 및 조항

AI 시스템은 위험 수준에 따라 허용할 수 없는 위험, 고위험, 제한적 위험, 최소 위험의 4단계로 분류된다.[18][9][15][6][16][17][26]


  • '''허용할 수 없는 위험:''' 인간 행동을 조작하거나, 공공 장소에서 실시간 원격 생체 인식(예: 안면 인식)을 사용하거나, 소셜 점수에 사용되는 AI 시스템은 특정 예외를 제외하고 금지된다.[18][9]
  • '''고위험:''' 건강, 안전 또는 개인의 기본권에 상당한 위협을 가할 것으로 예상되는 AI 시스템으로, 특히 건강, 교육, 채용, 핵심 인프라 관리, 법 집행 또는 사법에 사용되는 AI 시스템이 해당된다.[15] 이러한 시스템은 품질, 투명성, 인간 감독 및 안전 의무가 적용되며, 시장 출시 전과 수명 주기 동안 평가를 받아야 한다.[15][6]
  • '''제한적 위험:''' 사용자가 AI 시스템과 상호 작용하고 있음을 알리고 정보에 입각한 선택을 할 수 있도록 하는 투명성 의무가 부과된다.[9] 예를 들어 이미지, 사운드 또는 비디오(예: 딥페이크)를 생성하거나 조작할 수 있게 해주는 AI 애플리케이션이 이 범주에 포함된다.[9]
  • '''최소 위험:''' 비디오 게임 또는 스팸 필터에 사용되는 AI 시스템 등이 포함되며, 대부분의 AI 애플리케이션이 이 범주에 속할 것으로 예상된다.[17] 이러한 시스템은 규제되지 않지만, 자발적인 행동 강령 준수가 권고된다.[26]


군사 또는 국가 안보 목적, 순수 과학 연구 개발에 사용되는 AI 시스템은 AI법에서 면제된다.[18]

실시간으로 수행되는 경우에만 알고리즘 비디오 감시를 금지한다. 실시간 알고리즘 비디오 감시를 허용하는 예외에는 "테러 공격의 실제적이고 현재적이거나 실제적이고 예측 가능한 위협"을 포함한 경찰 활동 목적이 포함된다.[18]

AI법의 서문 31항은 "공공 또는 민간 행위자가 자연인을 대상으로 사회 점수를 매기는 AI 시스템"을 금지하지만, "EU 및 국가 법률에 따라 특정 목적으로 수행되는 자연인에 대한 적법한 평가 관행"은 허용한다.[1] 라 콰드라튀르 뒤 넷(La Quadrature du Net)은 이러한 예외가 가족 수당 관리청(Caisse d'allocations familiales)에서 사용하는 의심 점수와 같은 부문별 사회 점수 시스템을 허용하는 것으로 해석한다.[18][19]

2023년에 추가된 일반 목적 AI 범주에는 ChatGPT와 같은 파운데이션 모델이 포함된다.[16] 가중치와 모델 아키텍처가 자유 및 오픈 소스 라이선스 하에 공개되지 않는 한, 투명성 요구 사항이 적용되며, 훈련 데이터 요약 및 저작권 준수 정책만 필요하다. 1025 FLOPS를 초과하는 계산 능력을 사용하여 훈련된 시스템을 포함하여, 시스템적 위험을 초래할 수 있는 고영향 일반 목적 AI 시스템은 철저한 평가 과정을 거쳐야 한다.[16][9]

3. 1. 위험 기반 접근 방식

AI 시스템은 위험 수준에 따라 허용할 수 없는 위험, 고위험, 제한적 위험, 최소 위험의 4단계로 분류된다.[18][9][15][6][16][17][26]

  • '''허용할 수 없는 위험:''' 인간 행동을 조작하거나, 공공 장소에서 실시간 원격 생체 인식(예: 안면 인식)을 사용하거나, 소셜 점수에 사용되는 AI 시스템은 특정 예외를 제외하고 금지된다.[18][9]
  • '''고위험:''' 건강, 안전 또는 개인의 기본권에 상당한 위협을 가할 것으로 예상되는 AI 시스템으로, 특히 건강, 교육, 채용, 핵심 인프라 관리, 법 집행 또는 사법에 사용되는 AI 시스템이 해당된다.[15] 이러한 시스템은 품질, 투명성, 인간 감독 및 안전 의무가 적용되며, 시장 출시 전과 수명 주기 동안 평가를 받아야 한다.[15][6]
  • '''제한적 위험:''' 사용자가 AI 시스템과 상호 작용하고 있음을 알리고 정보에 입각한 선택을 할 수 있도록 하는 투명성 의무가 부과된다.[9] 예를 들어 이미지, 사운드 또는 비디오(예: 딥페이크)를 생성하거나 조작할 수 있게 해주는 AI 애플리케이션이 이 범주에 포함된다.[9]
  • '''최소 위험:''' 비디오 게임 또는 스팸 필터에 사용되는 AI 시스템 등이 포함되며, 대부분의 AI 애플리케이션이 이 범주에 속할 것으로 예상된다.[17] 이러한 시스템은 규제되지 않지만, 자발적인 행동 강령 준수가 권고된다.[26]


2.3조 및 2.6조는 군사 또는 국가 안보 목적, 순수 과학 연구 개발에 사용되는 AI 시스템을 AI법에서 면제한다.[18]

5.2조는 실시간으로 수행되는 경우에만 알고리즘 비디오 감시를 금지한다. 실시간 알고리즘 비디오 감시를 허용하는 예외에는 "테러 공격의 실제적이고 현재적이거나 실제적이고 예측 가능한 위협"을 포함한 경찰 활동 목적이 포함된다.[18]

AI법의 서문 31항은 "공공 또는 민간 행위자가 자연인을 대상으로 사회 점수를 매기는 AI 시스템"을 금지하지만, "EU 및 국가 법률에 따라 특정 목적으로 수행되는 자연인에 대한 적법한 평가 관행"은 허용한다.[1] 라 콰드라튀르 뒤 넷(La Quadrature du Net)은 이러한 예외가 가족 수당 관리청(Caisse d'allocations familiales)에서 사용하는 의심 점수와 같은 부문별 사회 점수 시스템을 허용하는 것으로 해석한다.[18][19]

2023년에 추가된 일반 목적 AI 범주에는 ChatGPT와 같은 파운데이션 모델이 포함된다.[16] 가중치와 모델 아키텍처가 자유 및 오픈 소스 라이선스 하에 공개되지 않는 한, 투명성 요구 사항이 적용되며, 훈련 데이터 요약 및 저작권 준수 정책만 필요하다. 1025 FLOPS를 초과하는 계산 능력을 사용하여 훈련된 시스템을 포함하여, 시스템적 위험을 초래할 수 있는 고영향 일반 목적 AI 시스템은 철저한 평가 과정을 거쳐야 한다.[16][9]

3. 2. 범용 AI 모델 (GPAI) 규제

인공지능 규제법 초안 작성 당시에는 "범용 AI 모델"(general-purpose AI models, 약칭: GPAI)에 대한 특별 규정이 없었으나, 이후 유럽 연합 이사회의 수정안 제출과 추가 수정을 거쳐 특별 규정이 마련되었다. 범용 AI 모델은 AI "시스템"과는 다르게 4가지 위험 수준으로 분류되지 않지만, 다른 AI "시스템"에 포함되어 고위험으로 판정될 경우, 위험 수준별 의무를 함께 지게 된다.

범용 AI 모델 전반에 부과되는 의무는 다음과 같다.

  • 기술 문서 작성 및 최신 상태 유지
  • 범용 AI 모델을 포함하는 AI 시스템 제공자에게 해당 모델의 능력과 한계를 알리는 문서 제공
  • EU 저작권법 및 DSM 저작권 지침에서 규정된 텍스트 및 데이터 마이닝(TDM) 적법 요건 준수
  • 학습 데이터에 대한 포괄적인 개요 문서화 및 공개
  • EU 역외에서 범용 AI 모델을 제공하는 경우, 역내 대리인 지정


시스템 리스크를 가진 범용 AI 모델은 공중 보건, 안전, 치안, 기본적 인권 등 EU 광역에 영향을 미칠 수 있는() 모델을 의미한다. 이러한 모델은 추가적으로 다음 조치를 취해야 한다.

  • 모델 평가 실시
  • 리스크 평가 및 완화 대책
  • 중대 인시던트 발생 시 당국 보고 및 시정 대응
  • 사이버 보안 대책


시스템 리스크를 가진 범용 AI 모델 지정 기준은 다음과 같다.

  • 지표나 벤치마크와 같은 적절한 기술 도구·방법론으로 평가
  • 학습에 사용된 누적 계산량이 FLOPS로 측정하여 1025을 초과하는 경우


유럽 위원회는 유식자 등의 조언을 받아, AI법 부칙 13에 규정된 기준에 따라 대상 모델을 지정할 수 있다. 부칙 13에는 기술적인 정량 지표 외에 등록 사용자 수와 같은 사회적 영향도 측정 지표 등이 언급되어 있다. AI 제공자는 기준에 해당한다고 판단될 경우, 2주 이내에 유럽 위원회에 통지해야 한다.

3. 3. 거버넌스 및 집행

인공지능 규제법은 EU 차원의 조정과 국가적 이행을 결합하여, 공공 기관과 민간 부문의 참여를 통해 법을 시행하고 집행한다.[22]

  • 인공지능 사무소: 유럽 집행위원회 소속으로, 모든 회원국에서 인공지능 규제법의 시행을 조정하고 범용 인공지능 제공업체의 규정 준수를 감독한다.
  • 유럽 인공지능 위원회: 각 회원국 대표로 구성되며, 인공지능 규제법의 일관되고 효과적인 적용을 위해 위원회와 회원국에 자문 및 지원을 제공한다. 기술 및 규제 전문 지식 수집 및 공유, 권고, 서면 의견 및 기타 자문 제공 등의 임무를 수행한다.
  • 자문 포럼: 산업계, 스타트업, 중소기업, 시민 사회 및 학계를 포함한 균형 잡힌 이해 관계자 그룹을 대표하여 위원회와 집행위원회에 자문 및 기술적 전문 지식을 제공한다. 이를 통해 시행 및 적용 과정에서 광범위한 의견이 반영되도록 보장한다.
  • 독립 전문가 과학 패널: 인공지능 사무소와 국가 당국에 기술 자문 및 의견을 제공하고, 범용 인공지능 모델에 대한 규칙 시행을 지원한다. 특히 인공지능 사무소에 가능한 위험에 대한 적격 경고를 시작하여, 인공지능 규제법의 규칙과 시행이 최신 과학적 발견에 부합하도록 보장한다.


회원국은 "국가 관할 당국"을 지정해야 하며,[11] 이 당국은 인공지능 규제법의 적용 및 시행을 보장하고 "시장 감시"를 수행할 책임이 있다.[22] 이들은 적합성 평가의 적절한 수행을 확인하고 외부 적합성 평가를 수행할 제3자를 지정하여 인공지능 시스템이 규정을 준수하는지 확인한다.

이 법은 새로운 입법 프레임워크를 사용하여 유럽 연합 내부 시장 진입을 규제하며, 모든 AI 시스템이 EU 시장에 접근하기 위해 충족해야 하는 필수 요건을 담고 있다. 이러한 필수 요건은 유럽 표준화 기구의 기술 표준 개발로 이어진다.[23] 이 표준은 CEN/CENELEC JTC 21에 의해 개발된다.[24]

AI 시스템이 AI 법에 명시된 표준을 준수하는지 확인하기 위해 적합성 평가가 수행되며,[25] 자체 평가 또는 통지 기관에 의한 제3자 적합성 평가를 통해 이루어진다.[26] 통지 기관은 감사를 수행할 권한을 가진다.[27]

일부 고위험 AI 시스템이 제3자 적합성 평가를 요구하지 않는다는 비판이 제기되었으며,[28][29][30] 딥페이크 생성 등 정치적 허위 정보나 비동의적 사생활 침해 이미지를 생성할 수 있는 AI 시스템은 고위험으로 분류하고 더 엄격한 규제를 받아야 한다는 제안이 있었다.[31]

3. 4. 위반 시 제재

이 법은 위반 시 제재를 규정하고 있다. 위반 레벨에 따라 다른 벌칙이 부과되며, 최대 3,500만 유로 또는 연간 세계 매출액의 7% 중 더 높은 금액이 과징금으로 부과된다.[31] 단, AI법이 규정하는 것은 제재금의 상한이며, 실제 금액은 EU 회원국이 결정한다.[31] 범용 AI 모델에 관해서는 의무 적용이 시작되더라도 당분간은 벌칙 규정이 적용되지 않는다.

4. 한국 사회에 대한 시사점

한국은 AI 기술 강국을 목표로 하고 있지만, 동시에 AI 윤리 문제에 대한 사회적 우려도 존재한다. 인공지능 규제법은 한국의 AI 정책 및 법제도 정비에 중요한 참고자료가 될 수 있다.

AI법 발효 이전에도 이미 개인 데이터 보호를 규정하는 EU 일반 데이터 보호 규칙(GDPR) 등의 규제 준수가 어려워, 일부 AI 기업들이 EU 시장에 대한 서비스 제공을 단념하거나 기능을 제한하는 사례가 있었다. 예를 들어, 미국 Meta(구 Facebook)는 개발 중인 멀티모달 AI를 EU 시장에 제공하지 않겠다고 밝혔으며, Apple 역시 프라이버시 보호 및 데이터 보안상의 우려로 동사 AI의 일부 기능을 EU 시장에 제공하지 않겠다고 발표했다.

AI법은 GDPR 등의 기존 법 준수도 동시에 요구하고 있어, EU 역외 사업자에게는 EU 진출의 장벽이 될 수 있다는 지적이 있다.

4. 1. AI 윤리 및 안전성 확보

4. 2. 투명성 및 설명 책임 강화

4. 3. 혁신과 규제의 균형

4. 4. 국제 협력 강화

5. 비판 및 논쟁점

전문가들은 이 법의 관할 구역이 유럽에 국한되지만 유럽으로 진출하려는 국제 기업들에게 광범위한 영향을 미칠 수 있다고 주장했다.[37] 컬럼비아 대학교의 아누 브래드포드는 이 법이 AI 기술을 규제하려는 전 세계적인 움직임에 상당한 추진력을 제공한다고 주장했다.[37]

국제앰네스티는 AI 법이 실시간 얼굴 인식 시스템을 완전히 금지하지 않은 점을 비판했는데, 이는 유럽 연합에서 "인권, 시민 공간, 법치주의"를 훼손할 수 있다고 지적했다. 또한 인권을 침해할 수 있는 AI 기술의 ''수출''을 금지하지 않은 점도 비판했다.[37]

일부 기술 감시 단체들은 이 법에 대형 기술 독점 기업들이 AI 분야에서 자신들의 우위를 굳히거나 규제를 약화시키도록 로비할 수 있는 주요 허점이 있다고 주장했다.[38][39] 일부 스타트업들은 이 법이 제공하는 명확성을 환영했지만, 다른 스타트업들은 추가 규제로 인해 유럽 스타트업들이 미국 및 중국 스타트업에 비해 경쟁력을 잃게 될 것이라고 주장했다.[39] 라 쿼드라튀르 뒤 네트(LQDN)는 AI 법을 "기술 산업, 유럽 경찰, 사회 통제를 자동화하려는 기타 대규모 관료 조직에 맞춤 제작된 것"이라고 묘사했다. LQDN은 자율 규제와 면제의 역할이 AI 확산과 관련된 사회적, 정치적, 환경적 피해를 막는 데 "거의 무능력하게" 만든다고 설명했다.[18]

5. 1. 과도한 규제 우려

일부 기업들은 인공지능 규제법이 과도한 규제를 부과하여 AI 기술 혁신을 저해할 수 있다고 우려하며, 특히 스타트업 및 중소기업에게는 규제 준수 부담이 클 수 있다고 주장한다.[39] 전문가들은 이 법의 관할 구역이 유럽에 국한되지만 유럽으로 진출하려는 국제 기업들에게 광범위한 영향을 미칠 수 있다고 주장했다.[37] 컬럼비아 대학교의 아누 브래드포드는 이 법이 AI 기술을 규제하려는 전 세계적인 움직임에 상당한 추진력을 제공한다고 주장했다.[37]

일부 기술 감시 단체들은 이 법에 대형 기술 독점 기업들이 AI 분야에서 자신들의 우위를 굳히거나 규제를 약화시키도록 로비할 수 있는 주요 허점이 있다고 주장했다.[38][39]

5. 2. 실효성 문제

인공지능 규제법은 유럽 연합 내에서만 적용되지만, 유럽 시장에 진출하려는 국제 기업들에게도 큰 영향을 줄 수 있다.[37] 컬럼비아 대학교의 아누 브래드포드는 이 법이 전 세계적인 AI 기술 규제 움직임에 상당한 동력을 제공한다고 평가했다.[37]

하지만, 국제앰네스티는 AI 법이 실시간 얼굴 인식 시스템을 완전히 금지하지 않아 유럽 연합 내에서 "인권, 시민 공간, 법치주의"를 훼손할 수 있다고 비판했다.[37] 또한, 인권 침해 가능성이 있는 AI 기술의 ''수출''을 금지하지 않은 점도 문제점으로 지적했다.[37]

일부 기술 감시 단체들은 대형 기술 기업들이 AI 분야에서 우위를 굳히거나 규제를 약화시키기 위해 로비할 수 있는 허점이 있다고 주장했다.[38][39] 일부 스타트업들은 규제 명확성을 환영했지만, 다른 스타트업들은 추가 규제로 인해 유럽 스타트업들이 미국 및 중국 스타트업에 비해 경쟁력을 잃을 수 있다고 우려했다.[39] 라 쿼드라튀르 뒤 네트(LQDN)는 AI 법이 "기술 산업, 유럽 경찰, 사회 통제를 자동화하려는 기타 대규모 관료 조직에 맞춤 제작된 것"이라고 비판하며, 자율 규제와 면제의 역할이 AI 확산과 관련된 사회적, 정치적, 환경적 피해를 막는 데 "거의 무능력하게" 만든다고 지적했다.[18]

AI 기술의 빠른 발전 속도를 규제가 따라가지 못할 수 있다는 우려와 함께, 규제 회피 및 우회 시도에 대한 실효적인 대응 방안 마련이 필요하다는 지적이 제기되고 있다.

5. 3. 딥페이크 및 허위 정보 문제

국제앰네스티는 인공지능 규제법이 실시간 얼굴 인식 시스템을 완전히 금지하지 않아 유럽 연합에서 "인권, 시민 공간, 법치주의"를 훼손할 수 있다고 비판했다.[37] 또한 인권을 침해할 수 있는 AI 기술의 ''수출''을 금지하지 않은 점도 비판했다.[37] 딥페이크 등 AI 생성 콘텐츠에 대한 규제가 충분하지 않다는 비판과 함께, 허위 정보 확산 방지를 위한 추가적인 조치가 필요하다는 지적이 제기되고 있다.

6. 결론 및 향후 전망

참조

[1] 간행물
[2] 웹사이트 Proposal for a Regulation laying down harmonised rules on artificial intelligence: Shaping Europe's digital future https://digital-stra[...] 2021-04-21
[3] 뉴스 AI Act enters into force https://commission.e[...] European Commission 2024-08-05
[4] 웹사이트 Timeline of Developments https://artificialin[...] Future of Life Institute 2024-07-13
[5] 뉴스 Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world https://www.consiliu[...] 2024-01-06
[6] 웹사이트 The Artificial Intelligence Act: A Quick Explainer https://datainnovati[...] 2024-01-06
[7] 논문 Regulating artificial intelligence in the EU: A risky game 2021
[8] 웹사이트 EU agrees landmark rules on artificial intelligence https://www.ft.com/c[...] 2024-01-06
[9] 뉴스 EU AI Act: first regulation on artificial intelligence https://www.europarl[...] 2024-01-06
[10] 웹사이트 Machines learn that Brussels writes the rules: The EU's new AI regulation https://www.brooking[...] 2021-09-07
[11] 간행물
[12] 웹사이트 World's first major act to regulate AI passed by European lawmakers https://www.cnbc.com[...] 2024-03-13
[13] 웹사이트 World's first major law for artificial intelligence gets final EU green light https://www.cnbc.com[...] 2024-05-22
[14] 뉴스 What is the EU AI Act and when will regulation come into effect? https://www.reuters.[...] 2024-01-11
[15] 서적 Beyond Data. Human Rights, Ethical and Social Impact Assessment in AI Springer-T.M.C. Asser Press
[16] 웹사이트 AI Act: EU policymakers nail down rules on AI models, butt heads on law enforcement https://www.euractiv[...] 2024-01-06
[17] 웹사이트 'Higher risk, stricter rules': EU's new artificial intelligence rules https://www.euronews[...] 2024-01-06
[18] Q인용
[19] Q인용
[20] 뉴스 EU lawmakers to discuss AI rulebook's revised governance structure https://www.euractiv[...] 2024-04-18
[21] 논문 Examining the EU's Artificial Intelligence Act https://verfassungsb[...] 2024-04-16
[22] 웹사이트 Artificial Intelligence – Questions and Answers https://ec.europa.eu[...] 2024-04-17
[23] 논문 Regulating by standards: current progress and main challenges in the standardisation of Artificial Intelligence in support of the AI Act https://universitypr[...] 2023-12-10
[24] 웹사이트 With the AI Act, we need to mind the standards gap https://www.ceps.eu/[...] 2024-09-15
[25] 간행물
[26] 논문 Demystifying the Draft EU Artificial Intelligence Act — Analysing the good, the bad, and the unclear elements of the proposed approach 2021-08-01
[27] 논문 Cybersecurity certification of Artificial Intelligence: a missed opportunity to coordinate between the Artificial Intelligence Act and the Cybersecurity Act 2022-06-01
[28] SSRN How the EU Can Achieve Legally Trustworthy AI: A Response to the European Commission's Proposal for an Artificial Intelligence Act 2021-08-05
[29] 논문 The European Commission's Proposal for an Artificial Intelligence Act—A Critical Assessment by Members of the Robotics and AI Law Society (RAILS) 2021-12
[30] SSRN The EU AI Act: Between Product Safety and Fundamental Rights 2023-10-27
[31] 논문 Generative AI and deepfakes: a human rights approach to tackling harmful content 2024-03-29
[32] 웹사이트 White Paper on Artificial Intelligence – a European approach to excellence and trust https://digital-stra[...] European Commission 2024-01-06
[33] 간행물
[34] 웹사이트 Timeline – Artificial intelligence https://www.consiliu[...] European Council 2024-01-06
[35] 웹사이트 Artificial Intelligence Act: MEPs adopt landmark law https://www.europarl[...] 2024-03-14
[36] 웹사이트 The EU AI Act passed — now comes the waiting https://www.theverge[...] 2023-12-14
[37] 웹사이트 Europe agreed on world-leading AI rules. How do they work and will they affect people everywhere? https://apnews.com/a[...] 2024-05-31
[38] 웹사이트 EU parliament greenlights landmark artificial intelligence regulations https://www.aljazeer[...] 2024-05-31
[39] 웹사이트 The EU passed the first AI law. Tech experts say it's 'bittersweet' https://www.euronews[...] 2024-05-31
[40] 웹인용 EUR-Lex - 52021PC0206 - EN - EUR-Lex https://eur-lex.euro[...] 2021-09-07
[41] 웹인용 World’s first major act to regulate AI passed by European lawmakers https://www.cnbc.com[...] 2024-03-14
[42] 웹인용 Proposal for a Regulation laying down harmonised rules on artificial intelligence {{!}} Shaping Europe's digital future https://digital-stra[...] 2021-04-21
[43] 뉴스 Artificial intelligence act: Council and Parliament strike a deal on the first rules for AI in the world https://www.consiliu[...] Council of the EU 2024-01-06
[44] 웹인용 The Artificial Intelligence Act: A Quick Explainer https://datainnovati[...] 2024-01-06
[45] 뉴스 What is the EU AI Act and when will regulation come into effect? https://www.reuters.[...] Reuters 2024-01-11
[46] 웹인용 EU agrees landmark rules on artificial intelligence https://www.ft.com/c[...] 2024-01-06
[47] 뉴스 EU AI Act: first regulation on artificial intelligence https://www.europarl[...] European Parliament News 2024-01-06
[48] 웹인용 Machines learn that Brussels writes the rules: The EU's new AI regulation https://www.brooking[...] 2021-09-07


본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.

문의하기 : help@durumis.com