오픈소스 툴 PyPI 패키지
litellm
원문 소개(영어) 보기
Library to easily interface with LLM API providers
한눈에 보기
기능여러 LLM 제공자의 API를 OpenAI 형식 하나로 호출하게 해주는 오픈소스 AI 게이트웨이 겸 파이썬 라이브러리다.
- 특장점
- 개 이상 LLM을 단일 인터페이스로 호출
- OpenAI 형식 호환으로 코드 수정 없이 제공자 교체
- 가상 키·지출 추적·가드레일·로드밸런싱 기본 제공
- 활용방안
- 여러 LLM을 비교·교체하며 쓸 때 코드를 한 형식으로 유지하는 데 쓴다
- 팀 단위로 LLM 호출을 한 서버에 모아 키와 지출을 관리할 때 쓴다
- MCP 서버나 A2A 에이전트를 LLM에 연결할 때 게이트웨이로 쓴다
- 활용처
- 백엔드 개발팀
- AI 플랫폼팀
- 데이터 분석
- IT 운영
- 유무료
- 확인 필요 오픈소스라고만 표기되고 라이선스는 자료에 확인되지 않음
알아 둘 점: 각 LLM 제공자의 API 키가 필요하고, 일부 기능은 별도 패키지 설치가 필요하다.
AI 요약 · 2026-11-20 04:09 · README·소개 문장 기준이므로 쓰기 전에 원문을 확인하세요.
회원 리뷰 0개
로그인하면 리뷰를 쓰고 필수템으로 추천할 수 있습니다.
첫 리뷰를 남겨 주세요. 실제로 써 본 경험이 다른 회원에게 가장 큰 도움이 됩니다.
커뮤니티 이야기
아직 이 도구를 다룬 글이 없습니다.