LlamaIndex

 

LlamaIndex - LlamaIndex

LlamaIndex는 컨텍스트 증강 LLM 애플리케이션을 빌드하기 위한 프레임워크입니다. 컨텍스트 증강은 프라이빗 또는 도메인별 데이터 위에 LLM을 적용하는 모든 사용 사례를 의미합니다. 몇 가지 인기 있는 사용 사례는 다음과 같습니다.

• 질의응답 챗봇(일반적으로 RAG 시스템이라고 하며 "Retrieval-Augmented Generation"의 약자)
• 문서 이해 및 추출
• 연구를 수행하고 조치를 취할 수 있는 자율 에이전트

LlamaIndex는 프로토타입에서 프로덕션에 이르기까지 위의 사용 사례를 빌드할 수 있는 도구를 제공합니다. 이 툴을 사용하면 이 데이터를 수집/처리하고 데이터 액세스와 LLM 프롬프트를 결합하는 복잡한 쿼리 워크플로를 구현할 수 있습니다.

LlamaIndex는 Python(이 문서) 및 Typescript에서 사용할 수 있습니다.

🚀 왜 컨텍스트 증강인가?#

LLM은 인간과 데이터 간의 자연어 인터페이스를 제공합니다. 널리 사용 가능한 모델은 공개적으로 사용 가능한 방대한 양의 데이터에 대해 사전 학습된 상태로 제공됩니다. 그러나 데이터에 대해 학습되지 않았으며, 이는 비공개이거나 해결하려는 문제와 관련이 있을 수 있습니다. API 뒤에 있거나, SQL 데이터베이스에 있거나, PDF 및 슬라이드 데크에 갇혀 있습니다.

LlamaIndex는 컨텍스트 증강을 가능하게 하는 도구를 제공합니다. 대표적인 예가 추론 시 컨텍스트와 LLM을 결합하는 RAG(Retrieval-Augmented Generation)입니다. 다른 하나는 미세 조정입니다.

 

🦙 LlamaIndex는 컨텍스트 증강 LLM 앱을 위한 데이터 프레임워크입니다.#

LlamaIndex는 LLM 사용 방법에 제한을 두지 않습니다. LLM을 자동 완성, 챗봇, 반자율 에이전트 등으로 계속 사용할 수 있습니다. LLM을 더 관련성 있게 만들 뿐입니다.

LlamaIndex는 프로덕션용 LLM 애플리케이션을 빠르게 구축할 수 있도록 다음과 같은 툴을 제공합니다.

• 데이터 커넥터는 네이티브 원본 및 형식에서 기존 데이터를 수집합니다. 이는 API, PDF, SQL 등이 될 수 있습니다.
• 데이터 인덱스는 LLM이 사용하기 쉽고 성능이 뛰어난 중간 표현으로 데이터를 구조화합니다.
• 엔진은 데이터에 대한 자연어 액세스를 제공합니다. 예를 들어:
  • 쿼리 엔진은 질문 답변을 위한 강력한 인터페이스(예: RAG 파이프라인)입니다.
  • 채팅 엔진은 다중 메시지, 데이터와의 "앞뒤" 상호 작용을 위한 대화형 인터페이스입니다.
• 에이전트는 간단한 도우미 기능에서 API 통합 등에 이르기까지 다양한 도구로 보강된 LLM 기반 지식 근로자입니다.
• Observability/Evaluation 통합을 통해 선순환 속에서 앱을 엄격하게 실험, 평가 및 모니터링할 수 있습니다.
•  

👨 👦 👧 👩 LlamaIndex는 누구를 위한 것입니까?#

LlamaIndex는 초보자, 고급 사용자 및 그 사이의 모든 사람을 위한 도구를 제공합니다.

고급 API를 사용하면 초보자가 LlamaIndex를 사용하여 5줄의 코드로 데이터를 수집하고 쿼리할 수 있습니다.

더 복잡한 애플리케이션의 경우 하위 수준 API를 통해 고급 사용자가 데이터 커넥터, 인덱스, 검색기, 쿼리 엔진, 모듈 순위 재지정 등 모든 모듈을 필요에 맞게 사용자 지정하고 확장할 수 있습니다.

 

시작#

라이브러리를 설치하려면:

pip install llama-index

경험 수준에 따라 올바른 위치를 안내하는 이 문서를 읽는 방법부터 시작하는 것이 좋습니다.

🗺️ 생태계#

다운로드하거나 기여하려면 다음에서 LlamaIndex를 찾으십시오.

• 깃허브(Github)
• 파이파이
• LlamaIndex.TS (Typescript / Javascript 패키지) :
  • LlamaIndex.TS Github
  • TypeScript 문서
  • LlamaIndex.TS npm

 

라마클라우드#

엔터프라이즈 개발자라면 LlamaCloud를 확인해 보세요. 데이터 구문 분석 및 수집을 위한 관리형 플랫폼으로, 프로덕션 LLM 어플리케이션을 위한 프로덕션 퀄리티 데이터를 얻을 수 있습니다.

다음 리소스를 확인하세요.

• LlamaParse: 최첨단 문서 구문 분석 솔루션. LlamaCloud의 일부이며 셀프 서비스 API로도 사용할 수 있습니다. API 액세스를 위해 여기에서 등록하세요.
• LlamaCloud: e2e 데이터 플랫폼. 시작 및 엔터프라이즈 계획이 포함된 비공개 미리 보기입니다. 관심이 있으시면 저희에게 말씀해 주십시오.

 

Discover LlamaIndex: Joint Text to SQL and Semantic Search (youtube.com)