LLMWard 런타임 아키텍처

LLMWard 런타임 아키텍처 An architecture diagram generated by Archify. LLM 클라이언트 · OpenWebUI · 사내 앱 · Architecture component LLM 클라이언트 OpenWebUI · 사내 앱 Express API · OpenAI 호환 API · LLMWard 단일 프로세스 · 단일 서버 Express API OpenAI 호환 API 정책 집행 · 인증 · 권한 · 쿼터 · 필터 · LLMWard 단일 프로세스 · 단일 서버 · Fail closed 정책 집행 인증 · 권한 · 쿼터 · 필터 Fail closed 공급자 라우터 · URL 검증 · 인증 · SSE · LLMWard 단일 프로세스 · 단일 서버 공급자 라우터 URL 검증 · 인증 · SSE LLM 공급자 · Ollama · vLLM · LocalAI 등 · Architecture component LLM 공급자 Ollama · vLLM · LocalAI 등 Signal Grid · 관리자 콘솔 /admin/ · LLMWard 단일 프로세스 · 단일 서버 Signal Grid 관리자 콘솔 /admin/ 관리 API · 사용자 · 모델 · 공급자 · 필터 · LLMWard 단일 프로세스 · 단일 서버 관리 API 사용자 · 모델 · 공급자 · 필터 SQLite · WAL · 단일 영속 파일 · LLMWard 단일 프로세스 · 단일 서버 · 프롬프트 본문 미저장 SQLite WAL · 단일 영속 파일 프롬프트 본문 미저장 운영 서비스 · 백업 · 보존 · 감사 · 통계 · LLMWard 단일 프로세스 · 단일 서버 운영 서비스 백업 · 보존 · 감사 · 통계 HTTP / SSE 인증·정책 필터링 요청 공급자 호출 x-admin-key 설정 CRUD 백업·통계 정책·쿼터 R/W LLMWard 단일 프로세스 · 단일 서버 Legend Frontend Backend Database Security External

핵심 경계

  • • 100명 이하 온프레미스 조직을 위한 단일 프로세스·단일 SQLite 구조
  • • GET /v1/models와 POST /v1/chat/completions, SSE streaming만 지원

개인정보와 보안

  • • 프롬프트·메시지·응답 본문·공급자 오류 본문을 저장하거나 기록하지 않음
  • • 클라이언트 Authorization 헤더를 공급자에 전달하지 않고 redirect를 거부

운영 데이터

  • • 토큰 수·상태·오류 분류·응답 시간·예상 비용만 집계
  • • 분산 rate limit, Redis, 외부 DB, fallback/load balancing은 의도적으로 제외