Skip to content

9. Visão de Implantação

Esta seção descreve como cada componente da solução CRP.AI é implantado nos ambientes de teste e produção, os pré-requisitos de infraestrutura e o fluxo de configuração inicial.

9.1 AI Gateway — LiteLLM Proxy

O AI Gateway é implantado em servidor Linux dedicado com acesso restrito à rede interna corporativa. Na implantação atual, o stack inclui LiteLLM Proxy, PostgreSQL e Prometheus, orquestrados via Docker Compose. Seus recursos nativos atendem à operação técnica do gateway, como configuração de provedores, credenciais, modelos registrados, roteamento, recuperação e diagnóstico.

Embora implantado como stack própria, o LiteLLM Proxy compõe a solução CRP.AI como implementação do papel de AI Gateway.

Ambientes:

  • Teste: servidor dedicado com acesso restrito à rede de desenvolvimento
  • Produção: servidor dedicado com backups periódicos do banco. A estratégia de alta disponibilidade e recuperação deve ser definida e validada.

Configuração inicial:

  1. Provisionar servidor Linux com Docker Engine
  2. Configurar credenciais dos provedores de IA no cofre de segredos
  3. Implantar o stack Docker Compose com banco de dados e proxy
  4. Configurar a credencial de serviço do Olimpo para a API administrativa do AI Gateway
  5. Verificar conectividade de rede entre o cluster OpenShift e o servidor do gateway

9.2 Olimpo (Módulo CRP.AI)

O Olimpo é uma plataforma independente com ciclo de deploy próprio no OpenShift, gerenciado pela infraestrutura da CRP Tecnologia. O módulo CRP.AI reside dentro do Olimpo e herda seu ciclo de deploy e infraestrutura.

Ambientes:

  • Teste: namespace crp-olimpo-tst no cluster OpenShift de desenvolvimento
  • Produção: namespace dedicado com réplicas configuradas para alta disponibilidade

O módulo CRP.AI é ativado por configuração — não requer deploy separado. Uma vez que o Olimpo esteja em execução, o módulo é habilitado e configurado para comunicação com o AI Gateway.

O módulo aplica a governança corporativa de acesso, times, modelos permitidos, budgets e ciclo de vida de chaves de usuários. Ele não substitui a operação técnica do LiteLLM Proxy nem o fluxo direto de inferência entre ferramentas e AI Gateway.

Para detalhes de deploy da plataforma Olimpo, consulte o repositório CRP.Olimpo.Infra.

9.3 CRP.AI Installer

Ferramenta CLI distribuída via npm (@crp/crp-ai) para execução local no ambiente de cada colaborador. Não requer servidor, deploy ou infraestrutura dedicada.

Uso:

bash
npx @crp/crp-ai

O Installer autentica o colaborador via Keycloak, obtém as credenciais do Olimpo e configura o ambiente local automaticamente.

9.4 Keycloak

O Keycloak é o SSO corporativo já estabelecido na CRP Tecnologia, anterior ao CRP.AI. Nenhuma implantação é necessária — apenas a configuração do client OAuth2 para o Olimpo e os papéis de acesso no realm CRPTecnologia.

9.5 Pré-Requisitos de Infraestrutura

Pré-requisitoComponente dependente
PostgreSQLAI Gateway (banco operacional), Olimpo API (banco de aplicação)
Keycloak — realm CRPTecnologia configuradoOlimpo API (autenticação), Installer
OpenShift / KubernetesOlimpo API e Frontend
Servidor Linux com DockerAI Gateway
Credenciais dos provedores de IAAI Gateway (roteamento de chamadas)
Rede interna entre OpenShift e servidor do AI GatewayComunicação Olimpo ↔ AI Gateway, colaboradores ↔ AI Gateway

9.6 Diagrama de Implantação