IA on-premise

IA local, sob o seu controle.

Três arquiteturas para executar modelos de IA dentro da sua infraestrutura. Nenhum dado, prompt ou resposta sai da sua rede: as três opções dão a mesma garantia de privacidade e mudam em escala, disponibilidade e governança.

Agende uma sessão de descoberta →Compare as três opções
Modelos de pesos abertosInferência no seu data centerRegistro de cada interação

Por que on-premise

Quando o dado é sensível, o modelo vai até o dado

E não o contrário. Quatro motivos pelos quais as empresas levam a IA para a própria infraestrutura.

Privacidade e soberania

Prompts, documentos e respostas são processados nos seus servidores, sem terceiros e sem que seus dados treinem modelos alheios.

Regulação

As leis de proteção de dados (a LGPD no Brasil, a LFPDPPP de 2025 no México) e os reguladores do seu setor exigem saber onde o dado está e quem o acessou.

Custo previsível

Você investe em capacidade própria em vez de pagar por token, com um custo que pode ser orçado.

Controle e continuidade

Você decide qual versão do modelo usar e quando atualizá-la. A plataforma funciona mesmo sem conexão com a internet.

Três opções

Três arquiteturas, um mesmo princípio

A mesma garantia de privacidade, com diferentes níveis de escala, disponibilidade e governança.

Três arquiteturas, um mesmo princípio
CritérioOpção 1 · Nó LocalOpção 2 · Plataforma PrivadaOpção 3 · IA Soberana Governada
Para quemEmpresa de médio porte com um primeiro caso de usoMédia-grande ou enterprise com várias equipesEnterprise regulada: bancos, seguros, saúde, governo
Base tecnológicaCódigo aberto: vLLM ou Ollama sobre Docker Compose, LangGraph, pgvector, LibreChat, LangfuseRed Hat OpenShift AI 3: llm-d + vLLM, Models-as-a-Service, EvalHub, NeMo Guardrails, GitOpsIBM watsonx (watsonx.ai, watsonx.data, watsonx.governance) sobre Red Hat OpenShift AI
DisponibilidadeUm servidor com backup a frioCluster em alta disponibilidadeDois sites com recuperação de desastres, ambiente desconectado (air-gapped)
Governança de IATraces e evalsSomam-se consumo medido por equipe, avaliação e guardrails de plataformaSomam-se inventário de modelos, risco e evidência regulatória
Implantação4 a 6 semanas8 a 12 semanas12 a 20 semanas

Prazos e capacidades são faixas de referência: são confirmados no discovery com os seus casos de uso, usuários e volumes reais.

Opção 1

Nó Local: IA privada em um único servidor

O caminho mais curto até a produção para uma empresa de médio porte com um primeiro caso de uso: um servidor com GPU dentro da sua rede, com componentes de código aberto implantados com Docker Compose.

Implantação: 4 a 6 semanasDisponibilidade: backup a frioGovernança: traces e evals
Diagrama da Opção 1, Nó Local: Sua rede corporativa · sem saída para a internet
UsuáriosNavegador na rede interna
Sistemas internosERP · CRM · help desk
DiretórioAD / LDAP · SSO
Fontes de dadosDocumentos · bancos de dados · file server
Servidor com GPU · Docker Compose
InterfaceLibreChat · API REST
AgentesLangGraph · ferramentas · memória
InferênciavLLM ou Ollama · LLM e embeddings
Conhecimentopgvector · busca em documentos (RAG)
ObservabilidadeLangfuse · traces e evals

Limite: sem alta disponibilidade. O servidor é um ponto único de falha e é protegido com backup a frio.

Componentes da Opção 1 e suas licenças

ComponenteFunçãoLicença
vLLMInferênciaApache 2.0
OllamaInferênciaMIT
LangGraphAgentesMIT
pgvectorBase vetorialPostgreSQL License
LibreChatInterface de chatMIT
LangfuseTraces e evalsMIT (núcleo); recursos enterprise com licença comercial
Docker ComposeImplantaçãoApache 2.0

Licenças verificadas em novembro de 2026; são confirmadas no início de cada projeto. Cada modelo de pesos abertos tem a sua própria licença, que revisamos para o seu uso.

Opção 2

Plataforma Privada: IA como serviço interno

Para empresas médias-grandes ou enterprise com várias equipes: um cluster que serve vários modelos para toda a organização, com alta disponibilidade, consumo medido por equipe e operação declarativa com GitOps.

Implantação: 8 a 12 semanasDisponibilidade: cluster em HAGovernança: + consumo medido, avaliação e guardrails
Diagrama da Opção 2, Plataforma Privada: Seu data center · rede segmentada
UsuáriosChat e copilotos
SistemasERP · CRM · sistemas core
DiretórioSSO (OIDC)
Cluster Red Hat OpenShift AI 3
AcessoGateway API · SSO com o seu diretório
Apps e agentesLangGraph · copilotos · APIs
Models-as-a-ServiceAssinaturas · cotas · consumo por equipe
Inferênciallm-d + vLLM · autoescalonamento
ModelosCatálogo validado · vários ao mesmo tempo
Dadospgvector ou Milvus · S3 · PostgreSQL
Qualidade e controleEvalHub · NeMo Guardrails · GitOps
Nós de controleWorkers CPUWorkers GPUArmazenamento

Requer uma equipe de plataforma, própria ou gerenciada pela SISCON.

O que fazemos com a Red Hat →

Opção 3

IA Soberana Governada: evidência para o regulador

Para enterprise regulada —bancos, seguros, saúde, governo—: governança de modelos de ponta a ponta (inventário, risco, linhagem e auditoria) em dois sites com recuperação de desastres e operação desconectada.

Implantação: 12 a 20 semanasDisponibilidade: dois sites com DRGovernança: + inventário, risco e evidência
Diagrama da Opção 3, IA Soberana Governada: Ambiente desconectado (air-gapped) · dois sites
Site primário
watsonx.governanceInventário · risco · drift · auditoria
watsonx.aiModelos Granite e abertos · ajuste
watsonx.dataLakehouse · vetores · linhagem
OpenShift AIllm-d · vLLM · pipelines de MLOps
SegurançaAdvanced Cluster Security · KMS/HSM · registro espelho · SIEM
InfraestruturaGPU em alta disponibilidade · armazenamento replicado
Site de recuperação (DR)
Em esperaCluster pronto para failover
RéplicaDados e modelos
FailoverAdvanced Cluster Management
ContinuidadeRPO e RTO definidos

Maior investimento e gestão da mudança; justifica-se por regulação ou criticidade. A operação desconectada é confirmada por produto e versão durante o desenho.

O que fazemos com a IBM →

Segurança

Controles comuns às três opções

Presentes nas três; a profundidade e a evidência crescem da Opção 1 para a 3.

Rede sem saída para a internet

Modelos e atualizações entram por um registro interno controlado, depois de verificada a sua integridade.

SSO com o seu diretório

O acesso passa sempre pelo seu diretório corporativo, com permissões por perfil.

Permissões herdadas do usuário

O agente só vê o que o usuário pode ver; a busca em documentos é filtrada pelas permissões dele.

Registro de cada interação

Cada prompt, resposta e ação do agente fica registrada e disponível para auditoria.

Guardrails

Filtros de dados pessoais e de tentativas de injeção, políticas de uso e escalonamento para uma pessoa em casos-limite.

Criptografia

Em trânsito e em repouso, com as chaves sob o seu controle.

Marcos de referência com os quais desenhamos os controles: ISO/IEC 42001 · NIST AI RMF · OWASP Top 10 para aplicações LLM · OWASP Top 10 para aplicações agênticas. A plataforma fornece controles e evidência para o seu programa de conformidade; não substitui a avaliação das suas áreas de conformidade nem dos seus auditores.

Decisão

Como escolher e como crescer

Comece de onde você está hoje; a arquitetura cresce quando o negócio pede.

1

Comece com o Nó Local se…

você tem um caso de uso claro e delimitado e quer resultados em semanas com um investimento contido.

2

Escale para a Plataforma Privada se…

várias equipes pedem IA, você precisa de alta disponibilidade e quer oferecer modelos como um serviço interno com consumo medido.

3

Vá para a IA Soberana Governada se…

um regulador ou uma auditoria exige evidência: inventário de modelos, linhagem, controle de risco e continuidade em dois sites.

Rota de evolução: nada do que foi construído se perde

Agentes, busca em documentos (RAG) e evals migram de uma opção para a seguinte, porque tudo roda em contêineres e usa APIs compatíveis com a OpenAI. Você pode começar com um servidor e crescer sem refazer.

  1. 1 · Nó Local
  2. 2 · Plataforma Privada
  3. 3 · IA Soberana Governada

Metodologia

Seis fases, do discovery à operação

O mesmo caminho para as três opções: medir antes de comprar hardware e validar com um caso real.

  1. F1

    Descubra

    Casos de uso, dados sensíveis, marco regulatório e infraestrutura. Sai o escopo e a opção recomendada.

  2. F2

    Desenhe

    Avaliamos modelos abertos com os seus dados, dimensionamos GPU, armazenamento e rede, e a arquitetura e seus controles são aprovados.

  3. F3

    Desenvolva

    Instalamos a plataforma, integramos com o seu diretório e construímos o primeiro caso de uso.

  4. F4

    Valide

    Testes de qualidade contra um conjunto de referência, de segurança, de carga e de que a rede não tem saída para a internet.

  5. F5

    Implante

    Produção por etapas, capacitação e entrega do runbook e da evidência dos controles.

  6. F6

    Otimize

    Operação medida com indicadores, evals contínuos e novos casos de uso.

Os evals são o critério de saída: nada vai para produção se degradar a qualidade medida.

IA Factory dentro da sua rede. A linha de produção de software da IA Factory pode rodar sobre qualquer uma das três opções, com os modelos e o registro dentro da sua infraestrutura.
Serviços relacionados: Fine-tuning e Modelos Próprios para adaptar um modelo aberto ao seu domínio, Avaliação e Auditoria de IA para escolher o modelo com evidência, e nossas parcerias com IBM e Red Hat. Leia também: como escolher entre as três arquiteturas.

FAQ

Perguntas frequentes

Os modelos abertos são suficientes para o meu caso?

Depende do caso, e por isso medimos antes de comprometer o escopo: na fase Desenhe comparamos modelos abertos com os seus próprios dados, não com benchmarks públicos.

Preciso comprar GPU antes de começar?

Não. Primeiro os modelos são avaliados e o hardware é dimensionado com os seus usuários e a sua concorrência reais; a compra vem depois do desenho.

Uma plataforma on-premise me deixa em conformidade com a LGPD ou com o meu regulador?

Não sozinha. Ela fornece controles —dados dentro da sua rede, permissões, registro e criptografia— e evidência para o seu programa de conformidade. A conformidade é determinada pela sua organização e pelos seus auditores.

Posso começar com um servidor e crescer depois?

Sim. Agentes, RAG e evals são construídos em contêineres com APIs compatíveis, então migram para a Plataforma Privada ou para a IA Soberana Governada sem serem refeitos.

A Opção 1 não paga licenças?

Seus componentes são de código aberto e cada um tem a sua própria licença (Apache 2.0, MIT, PostgreSQL License); os modelos de pesos abertos também têm a sua, que revisamos para o seu uso. As opções 2 e 3 incluem assinaturas da Red Hat e da IBM.

A IA Factory pode rodar dentro da minha rede?

Sim, sobre qualquer uma das três opções. Com modelos locais, o escopo é comprometido depois de medir a qualidade deles com evals sobre o seu próprio código.

Próximo passo

Escolha a opção com os seus números

Uma sessão de descoberta gratuita de 60 minutos para revisar seus casos de uso, seus dados sensíveis e sua infraestrutura, e recomendar por onde começar.