공식 문서BlueFish에서 직접 테스트하지 않음
vLLM
OpenAI 호환 HTTP 서버를 제공하는 모델 서빙 추론 엔진입니다.
핵심 용어 안내
모델은 생성과 추론을 담당합니다. 에이전트는 도구를 사용해 작업을 수행합니다. Harness는 에이전트의 실행 환경을 관리합니다. MCP는 도구와 데이터를 연결하는 프로토콜입니다. Skill은 재사용 가능한 작업 지침입니다.
연구 메모
OpenAI 호환 HTTP 서버를 제공하는 모델 서빙 추론 엔진입니다.
검증 방법
- OpenAI 호환 HTTP 서버를 제공하는 모델 서빙 추론 엔진입니다.
비용
무료 소프트웨어입니다. 라이선스와 컴퓨팅 비용은 별도로 확인하세요
소스 코드가 공개되어 있습니다. 모델 라이선스, 하드웨어, 전기 및 호스팅 비용은 별도이며 총비용은 확인되지 않았습니다.
제한과 적용 범위
- --api-key에만 의존하지 마세요. 보호되는 경로 접두사 밖의 일부 경로는 이 옵션으로 인증되지 않습니다.
- 공식 문서를 확인했으며, 이 사이트에서는 해당 조합이나 기기의 동작을 시험하지 않았습니다.
원본 출처
- vLLM 공식 문서 ↗
docs.vllm.ai · 2026-10-15 · 공식 문서