맨위로가기

층 (기계 학습)

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.

1. 개요

층 (기계 학습)은 기계 학습 분야에서 사용되는 신경망의 구성 요소이다. 층은 입력 데이터를 처리하고 변환하여 다음 층으로 전달하는 역할을 수행하며, 완전 연결 층, 합성곱 층, 풀링 층, 순환 층, 정규화 층, 은닉층 등 다양한 유형이 존재한다. 각 층은 고유한 기능을 수행하며, 신경망의 구조와 성능에 중요한 영향을 미친다. 딥 러닝의 층은 네트워크 토폴로지에 따라 기능이 결정되지만, 뇌의 신피질 계층은 층 내부의 동질성에 따라 기능이 달라진다는 차이점이 있다.

광고

더 읽어볼만한 페이지

  • 인공신경망 - 인공 뉴런
    인공 뉴런은 인공신경망의 기본 요소로서, 입력 신호에 가중치를 곱하고 합산하여 활성화 함수를 거쳐 출력을 생성하며, 생물학적 뉴런을 모방하여 설계되었다.
  • 인공신경망 - 퍼셉트론
    퍼셉트론은 프랭크 로젠블랫이 고안한 인공신경망 모델로, 입력 벡터에 가중치를 곱하고 편향을 더한 값을 활성화 함수에 통과시켜 이진 분류를 수행하는 선형 분류기 학습 알고리즘이며, 초기 신경망 연구의 중요한 모델로서 역사적 의미를 가진다.

2. 계층 유형

'''밀집층'''이라고도 불리는 '''완전 연결 층'''은[1][2][3] 입력 데이터의 추상적인 표현에 사용된다. 이 층에서 뉴런은 이전 층의 모든 뉴런에 연결된다. 다층 퍼셉트론 네트워크에서 이러한 층은 함께 쌓인다.

'''합성곱 층'''[4]은 일반적으로 이미지 분석 작업에 사용된다. 이 층에서 네트워크는 가장자리, 질감 및 패턴을 감지한다. 이 층의 출력은 추가 처리를 위해 완전 연결 층에 공급된다. 참고: CNN 모델.

'''풀링 층'''[5]은 데이터 입력의 크기를 줄이는 데 사용된다.

'''순환 층'''은 메모리 기능을 사용하여 텍스트 처리에 사용됩니다. 합성곱 층과 유사하게 순환 층의 출력은 일반적으로 추가 처리를 위해 완전 연결 층에 공급됩니다. 참고: RNN 모델.[6][7][8]

'''정규화 층'''은 이전 층의 출력 데이터를 조정하여 정규 분포를 얻습니다. 이는 향상된 확장성 및 모델 훈련을 가져옵니다.

'''은닉층'''은 신경망에서 입력 또는 출력 층이 아닌 층입니다.

2. 1. 완전 연결 계층 (Dense Layer)

'''밀집층'''이라고도 불리는 '''완전 연결 층'''은[1][2][3] 입력 데이터의 추상적인 표현에 사용된다. 이 층에서 뉴런은 이전 층의 모든 뉴런에 연결된다. 다층 퍼셉트론 네트워크에서 이러한 층은 서로 쌓인다.

2. 2. 합성곱 계층 (Convolutional Layer)

합성곱 계층[4]은 주로 이미지 분석 작업에 사용된다. 이 계층에서 네트워크는 가장자리, 질감 및 패턴을 감지한다. 추출된 특징은 추가 처리를 위해 완전 연결 계층으로 전달된다. CNN 모델에서 핵심적인 역할을 수행한다.

2. 3. 풀링 계층 (Pooling Layer)

풀링 계층은 데이터 입력의 크기를 줄이는 데 사용된다.[5] 풀링 계층은 입력 데이터의 크기를 축소하여 연산량을 줄이고, 과적합을 방지한다. 주로 합성곱 계층 다음에 위치하여 특징 맵의 크기를 줄인다.

2. 4. 순환 계층 (Recurrent Layer)

순환 계층은 메모리 기능을 이용한 텍스트 처리에 사용된다.[6][7][8] 순차적인 데이터(텍스트, 시계열 데이터 등)를 처리하는 데 사용되며, 이전 시점의 정보를 기억하여 현재 시점의 처리 결과에 반영한다. 합성곱 계층과 유사하게 순환 계층의 출력은 일반적으로 추가 처리를 위해 완전 연결 계층에 공급된다. 순환 신경망(RNN) 모델에서 주로 사용되며, 자연어 처리 분야에서 중요한 역할을 한다.

2. 5. 정규화 계층 (Normalization Layer)

정규화 계층은 이전 계층의 출력 데이터를 조정하여 정규 분포를 얻는다. 이는 향상된 확장성 및 모델 훈련을 가져온다.

2. 6. 은닉층 (Hidden Layer)

은닉층은 신경망에서 입력층 또는 출력층이 아닌 층을 의미한다. 딥 러닝 모델은 여러 개의 은닉층을 가질 수 있으며, 은닉층의 수와 구성은 모델의 성능에 큰 영향을 미친다.

3. 신피질 계층과의 차이점

딥 러닝의 계층은 네트워크 토폴로지에 따라 기능이 결정되는 반면, 뇌의 신피질 계층은 층 내부의 동질성에 따라 기능이 달라진다는 근본적인 차이점이 있다.

참조

[1] 웹사이트 CS231n Convolutional Neural Networks for Visual Recognition https://cs231n.githu[...] 2016-05-10
[2] 웹사이트 Fully connected layer https://www.mathwork[...] 2021-03-01
[3] 서적 Hands-on machine learning with Scikit-Learn, Keras, and TensorFlow : concepts, tools, and techniques to build intelligent systems O'Reilly Media, Inc
[4] 서적 Guide to convolutional neural networks : a practical application to traffic-sign detection and classification 2017-05-30
[5] 서적 Dive into deep learning Cambridge University Press 2024
[6] 간행물 A thorough review on the current advance of neural network structures. https://www.scienced[...] 2019
[7] 간행물 State-of-the-art in artificial neural network applications: A survey 2018-11-01
[8] 간행물 Time series forecasting using artificial neural networks methodologies: A systematic review 2018-12-01



본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.

문의하기 : help@durumis.com