Langfuse의 가장 기본적인 기능은 복잡한 LLM 애플리케이션의 실행 흐름을 추적하고 시각화하는 것입니다. 이는 API 호출, 컨텍스트, 프롬프트, 병렬 처리 등을 포함한 완전한 실행 흐름을 캡처합니다. 다중 턴 대화에서는 상호 작용을 세션으로 그룹화하고, 특정 사용자의 트레이스를 검사하기 위한 사용자 추적 기능을 제공합니다.
Langfuse
Traces, evals, prompt management and metrics to debug and improve your LLM application. Integrates with Langchain, OpenAI, LlamaIndex, LiteLLM, and more.
langfuse.com
데모만 보더라도 완성도가 매우 높아 보입니다.
https://youtu.be/2E8iTvGo9Hs?si=pfiDUkJ_sMv4ycUO
직접 설치할 경우 오픈 소스로 사용 가능하고,
매우 활발하게 활동 중인 프로젝트입니다.
더 확실한 건 직접 사용해 보기. 차주 설치 예정 ...
'AI' 카테고리의 다른 글
Cursor(VS Code)에서 ChatGPT와 협업하기 (0) | 2025.03.10 |
---|---|
Text to SQL - vanna.ai (작성 중) (0) | 2025.03.07 |
AI로 작성한 글을 재학습하지 않게 막는 방법 (0) | 2025.02.28 |
Pydantic - 데이터 검증에서 구조화된 출력까지 (1) | 2025.02.14 |
오픈AI, O3 모델 공개 (0) | 2024.12.21 |
댓글