AI Gateway는 여러 애플리케이션과 LLM 제공자 사이에서 인증, 라우팅, 비용 제한, 로깅, 보안 정책을 적용하는 중간 계층이다.
AI Gateway 개념 정리: Cloudflare AI Gateway와 LiteLLM은 무엇이 다를까
AI Gateway는 LLM API 호출을 중앙에서 통제하는 중간 계층이다. Cloudflare AI Gateway, LiteLLM, Portkey, OpenRouter의 차이와 도입 체크리스트를 정리한다.