맨위로가기

YaCy

"오늘의AI위키"는 AI 기술로 일관성 있고 체계적인 최신 지식을 제공하는 혁신 플랫폼입니다.
"오늘의AI위키"의 AI를 통해 더욱 풍부하고 폭넓은 지식 경험을 누리세요.
목차

1. 개요

YaCy는 분산형 검색 엔진으로, 웹 페이지를 크롤링하고 색인하여 검색 결과를 제공한다. 크롤러, 인덱서, 검색 및 관리 인터페이스, 데이터 저장소의 4가지 요소로 구성되며, 자체 크롤러를 통해 웹 페이지를 수집하고 분석하여 인덱스를 생성한다. YaCy 네트워크에 참여하면 로컬 인덱스와 글로벌 인덱스를 활용하여 검색하며, Apache Solr를 내부 검색 엔진으로 사용한다. 개인 정보 보호, 검열 회피, 인트라넷 검색, 다양한 파일 형식 검색 등의 장점을 가지며, P2P 네트워크 특성상 NAT 통과 문제, 악의적인 검색 결과 삽입 가능성, 검색 속도 저하 등의 문제점도 존재한다.

더 읽어볼만한 페이지

  • 자유 검색 엔진 소프트웨어 - 아파치 루씬
    아파치 루씬은 더그 커팅이 개발한 오픈 소스 전문 검색 라이브러리이며, 텍스트 색인 및 검색 기능을 제공하여 웹 검색 엔진, 퍼지 검색, 추천 시스템 구현 등에 사용된다.
  • 자유 검색 엔진 소프트웨어 - 아파치 너치
    아파치 너치는 자바 기반의 오픈 소스 웹 크롤러 및 검색 엔진 프레임워크이며, 모듈식 아키텍처를 통해 플러그인 개발을 지원하고, 2010년부터 아파치 소프트웨어 재단의 독립적인 최상위 프로젝트로 운영된다.
  • 자바 소프트웨어 - RealVNC
    RealVNC는 2002년 앤디 하터와 AT&T VNC 팀이 설립한 회사로, VNC 기술 개발 및 상용화에 주력하며 다양한 운영 체제를 지원하는 원격 제어 소프트웨어를 제공하고 2018년에는 자동차 부문을 별도 법인으로 분사했다.
  • 자바 소프트웨어 - Deeplearning4j
    Deeplearning4j는 자바 기반의 딥러닝 라이브러리이며, 분산 컴퓨팅, 다차원 배열 연산, 자연어 처리 기능을 지원하고, 다양한 분야에 활용되며 딥러닝 모델 배포를 위한 모델 서버를 제공한다.
  • 익명 네트워크 - I2P
    I2P는 2003년 Freenet에서 분기된 익명 P2P 분산 통신 계층으로, IP 주소 노출을 방지하며 다양한 소프트웨어와 익명성 응용 프로그램을 지원하고, 기부금으로 운영되며 6~8주마다 릴리스를 진행한다.
  • 익명 네트워크 - 토르 (네트워크)
    토르(Tor)는 사용자의 익명성을 보장하고 온라인 활동을 보호하기 위해 개발된 네트워크로, 암호화된 통신을 여러 노드를 거쳐 전송하며 검열 우회, 언론의 자유를 위한 도구로 활용되지만 범죄에도 악용될 수 있다.
YaCy - [IT 관련 정보]에 관한 문서
일반 정보
유형피어 투 피어 검색 엔진
개발자YaCy 커뮤니티
최초 릴리스2003년 12월 15일
최신 버전1.940_202412022212
최신 릴리스 날짜2024년 12월 02일
저장소YaCy GitHub 저장소
프로그래밍 언어자바
운영 체제크로스 플랫폼
크기104-113 MB
장르오버레이 네트워크
검색 엔진
라이선스GPL-2.0-or-later
웹사이트YaCy 공식 웹사이트
주요 특징
특징분산 검색 엔진 구축
중앙 집중식 서버 의존성 제거
사용자가 직접 검색 결과 제어
검열 저항
참고 사항
목표자유로운 인터넷 검색 환경 제공

2. 시스템 구성 요소

YaCy 검색 엔진은 크게 크롤러, 인덱서, 검색 및 관리 인터페이스, 데이터 저장소의 네 가지 주요 구성 요소로 이루어져 있다.[8]

YaCy 홈페이지


다른 분산형 검색 엔진과 마찬가지로, 인덱스(색인 정보)는 P2P 네트워크 상의 여러 컴퓨터에 분산된다. 각 YaCy 피어는 독립적으로 크롤링을 수행하며, 발견된 웹 페이지는 분석, 색인화(인덱싱)되어 분산 해시 테이블(DHT)을 통해 다른 YaCy 피어와 공유된다. YaCy 네트워크에는 중앙 서버가 존재하지 않고 모든 피어가 동등하게 취급되는 퓨어 P2P 방식으로 구성되어 있다.

YaCy는 자체 검색 페이지를 제공하며, 다른 일반적인 검색 엔진과 유사한 형식으로 검색할 수 있다.

전체 텍스트 검색 엔진으로는 Apache Solr를 채택하고 있다.

2. 1. 크롤러

크롤러는 웹 페이지 간을 이동하며 내용을 분석하는 검색 로봇이다.[9][10] 크롤러는 인터넷에서 웹 페이지를 가져오는 역할을 한다. YaCy 네트워크의 각 피어는 웹사이트를 크롤링하고 색인할 수 있다. 크롤링 과정은 다음과 같다.

  • '''발견''': 링크를 따라가면서 색인할 새로운 웹 페이지를 찾는다.
  • '''가져오기''': 웹 페이지의 콘텐츠를 다운로드한다.
  • '''파싱''': 다운로드된 페이지에서 텍스트, 메타데이터, 링크와 같은 관련 정보를 추출한다.

2. 2. 인덱서

각 단어를 단어 해시 형태로 역 단어 색인(Reverse Word Index, RWI)에 저장한다. 또한 각 단어는 관련 URL 및 랭킹 정보 목록을 갖는다.[11]

2. 3. 검색 및 관리 인터페이스

사용자 인터페이스는 로컬 환경에서 제공되는 웹 인터페이스로 제작되었다.[12]

2. 4. 데이터 저장소

YaCy의 데이터 저장소는 분산 해시 테이블을 사용하여 역 워드 인덱스(RWI) 데이터베이스를 저장한다.[8]

3. 검색 기술

YaCy는 자체 크롤러를 통해 웹 페이지를 수집, 분석, 색인화하여 로컬에 저장한다. YaCy 네트워크에 참여하는 경우, 로컬 인덱스는 네트워크의 공유 인덱스에 병합되며, 검색 시 로컬 및 글로벌 인덱스를 모두 활용한다. 전체 텍스트 검색 엔진으로는 Apache Solr를 채용하여 Solr 쿼리 형식을 지원한다.[18]

YaCy 네트워크


다른 분산형 검색 엔진과 마찬가지로 인덱스(색인 정보)는 P2P 네트워크 상의 여러 컴퓨터에 분산된다. 각 YaCy 피어는 독립적으로 크롤링을 수행하며, 발견된 웹 페이지는 분석, 색인화되어 분산 해시 테이블(DHT)을 통해 다른 YaCy 피어와 공유된다. YaCy 네트워크에는 중앙 서버가 없고 모든 피어가 동등하게 취급되는 퓨어 P2P 방식을 사용한다.

3. 1. 다른 서비스와의 연동

YaCy는 외부 서비스와 연동하기 위한 기능이 갖춰져 있으며, KnowledgeLoader 내의 GeoName을 이용한 오픈스트리트맵과의 연동도 가능하다.[18] 그 외에도 다른 서비스의 OpenSearch 형식 데이터를 읽어 검색 결과에 반영할 수도 있다.

4. YaCy 네트워크

YaCy는 다른 분산형 검색 엔진과 마찬가지로 인덱스(색인 정보)가 P2P 네트워크 상의 여러 컴퓨터에 분산되어 있다. 각 YaCy 피어는 독립적으로 크롤링을 수행하고, 발견된 웹 페이지는 분석 및 색인화(인덱싱)되어 분산 해시 테이블(DHT)을 통해 다른 YaCy 피어와 공유된다. YaCy 네트워크에는 중앙 서버가 없으며 모든 피어는 동등하게 취급되는 퓨어 P2P 방식으로 구성된다.[19]

기본 공개 YaCy 네트워크는 "freeworld"이지만,[19] 자체 YaCy 네트워크를 설정하여 자체 검색 사이트를 구축할 수도 있다. YaCy 네트워크에 참여하지 않고 로컬 네트워크(파일 시스템 또는 인트라넷 등)의 인덱싱을 수행하거나, 다른 피어와 독립적으로 작동하는 것도 가능하다.[20]

YaCy 네트워크에서 각 피어는 다음과 같이 분류된다.[21]


  • Senior 피어: 서로 직접 접근할 수 있는 피어.
  • Junior 피어: 직접 접근할 수 없는 피어.
  • Principal 피어: 접근 가능하며 시드 목록이라고 불리는 피어 목록을 공개하는 피어.


일반적으로 데이터베이스 내의 문서 양을 늘리려면 크롤링을 수행해야 한다. Senior/Principal 피어의 경우에만 자동으로 DHT를 송수신하여 자신의 문서 양을 늘릴 수 있다. Junior 피어에서도 RWI나 문서를 다른 피어(Senior/Principal 피어)에게 전송하여 문서 양을 늘릴 수 있다.

5. 사용자 인터페이스

YaCy는 기본적으로 부트스트랩 기반의 사용자 인터페이스를 제공하며, 사용자 정의가 가능하다.[1] 검색 결과는 OpenSearch 형식이나 JSON 형식 등으로 이용할 수 있다.[1]

6. YaCy의 장점

YaCy의 가장 큰 장점은 투명성이다. 기업의 주요 검색 엔진은 폐쇄형 시스템이어서 검색 기술을 사용자가 알 수 없는 경우가 많지만, YaCy는 오픈 소스이므로, 각 사용자가 자신의 평가 기준으로 검색 결과를 평가할 수 있어 누구나 투명한 검색을 할 수 있다.[13]

6. 1. 개인정보 보호

YaCy에서 검색은 자기 피어 내에서만 처리하는 경우(프라이버시 모드/스텔스 모드) 검색 쿼리 감시는 거의 불가능하다.[13] 하지만 YaCy 네트워크를 이용하여 검색하는 경우, 해시 형식으로 검색어가 네트워크상에 흐르므로, 검색어를 전혀 알리고 싶지 않을 때는 프라이버시 모드(스텔스 모드)로 검색해야 한다. 프라이버시 모드(스텔스 모드)를 이용할 때는 기본 사용자 인터페이스의 초기 화면이나 검색 결과에서 변경할 수 있다.

6. 2. 검열 회피

구글이나 빙(Microsoft Bing)과 같은 상업 검색 엔진은 검색 결과 평가에 기업의 의도가 적지 않게 반영되지만, YaCy는 이용자가 최종 평가를 하므로, 의도적인 페이지 순위 조작이나 검열을 피할 수 있다. 이는 필터 버블 현상 완화에도 기여한다.[13]

6. 3. 인트라넷 검색 엔진

YaCy는 인트라넷용 검색 엔진으로 사용할 수 있도록 설계되었다. 또한, 토르, 프리넷, I2P와 같은 딥 웹의 인덱스에도 사용할 수 있다.[13]

6. 4. 다양한 파일 형식 검색

YaCy는 마이크로소프트 오피스의 워드, 엑셀, 파워포인트 등의 형식 파일이나 MP3 등의 음악 파일, torrent, gzip, apk(Android Application), pdf 등, 다양한 종류의 파일을 검색할 수 있다.

7. 문제점

YaCy는 P2P 네트워크 특성상 NAT 통과 문제 등 다양한 과제를 안고 있다.[1] 중앙 서버가 없고 누구에게나 공개되어 있으며 모든 피어를 동등하게 취급하기 때문에, 악의적인 피어가 부정확하거나 상업적, 사상적으로 편향된 검색 결과를 삽입할 수 있다는 이론적인 문제점이 있다.[1] 다만, 이는 블랙리스트 등의 기능을 통해 어느 정도 방지할 수 있다.[1]

사이트 랭킹은 YaCy 클라이언트 측에서 이루어지므로 주요 검색 엔진보다 동작이 느릴 수 있다.[1] 랭킹 알고리즘 또한 주요 검색 엔진보다 열등할 수 있지만, OpenSearch를 지원하는 다른 시스템에서 검색 결과를 불러와 개선할 수 있다.[1]

참조

[1] 웹사이트 Ich entwickle eine P2P-basierende Suchmaschine. Wer macht mit? http://www.heise.de/[...] 2003-12-15
[2] 웹사이트 Apache Server at download.yacy.net Port 443 https://download.yac[...] 2024-06-01
[3] 웹사이트 Apache Server at release.yacy.net Port 443 https://release.yacy[...] 2024-10-07
[4] 웹사이트 YaCy takes on Google with open source search engine https://www.theregis[...] 2011-11-29
[5] 웹사이트 YaCy: It's About Freedom, Not Beating Google https://www.pcworld.[...] 2011-12-03
[6] 웹사이트 Home - YaCy https://yacy.net/ 2024-07-01
[7] 웹사이트 FAQ - YaCy https://yacy.net/faq[...] 2024-07-04
[8] 웹사이트 YaCy Technology Architecture http://yacy.net/Tech[...] YaCy.net 2012-02-14
[9] 웹사이트 Demo - YaCy https://yacy.net/dem[...] 2024-08-12
[10] 간행물 GitHub: YaCy Grid Crawler https://github.com/y[...] YaCy Search Engine 2021-02-28
[11] 간행물 GitHub: YaCy Grid Parser https://github.com/y[...] YaCy Search Engine 2021-02-28
[12] 간행물 GitHub: YaCY Search https://github.com/y[...] YaCy Search Engine 2021-02-28
[13] 웹사이트 forum.yacy.de http://forum.yacy-we[...]
[14] 웹사이트 Download - YaCy https://yacy.net/dow[...] 2021-07-27
[15] 웹사이트 En:DebianInstall https://wiki.yacy.ne[...]
[16] 웹사이트 Dev:TaskSharing https://wiki.yacy.ne[...]
[17] 웹사이트 "#452422 - RFP: yacy -- distributed web crawler and search engine" https://bugs.debian.[...]
[18] Youtube YaCy - The Peer to Peer Search Engine: Tutorial Movies http://www.yacy.net/[...]
[19] 문서 En:Use cases - YaCyWiki http://www.yacy-webs[...]
[20] 문서 En:Use cases - YaCyWiki http://www.yacy-webs[...]
[21] 문서 En:FAQ - YaCyWiki http://www.yacy-webs[...]
[22] 웹인용 Ich entwickle eine P2P-basierende Suchmaschine. Wer macht mit? http://www.heise.de/[...] 2003-12-15


본 사이트는 AI가 위키백과와 뉴스 기사,정부 간행물,학술 논문등을 바탕으로 정보를 가공하여 제공하는 백과사전형 서비스입니다.
모든 문서는 AI에 의해 자동 생성되며, CC BY-SA 4.0 라이선스에 따라 이용할 수 있습니다.
하지만, 위키백과나 뉴스 기사 자체에 오류, 부정확한 정보, 또는 가짜 뉴스가 포함될 수 있으며, AI는 이러한 내용을 완벽하게 걸러내지 못할 수 있습니다.
따라서 제공되는 정보에 일부 오류나 편향이 있을 수 있으므로, 중요한 정보는 반드시 다른 출처를 통해 교차 검증하시기 바랍니다.

문의하기 : help@durumis.com