IA on-premise

IA local, bajo tu control.

Tres arquitecturas para correr modelos de IA dentro de tu infraestructura. Ningún dato, prompt ni respuesta sale de tu red: las tres opciones dan la misma garantía de privacidad y cambian en escala, disponibilidad y gobierno.

Agenda una sesión de descubrimiento →Compara las tres opciones
Modelos de pesos abiertosInferencia en tu centro de datosBitácora de cada interacción

Por qué on-premise

Cuando el dato es sensible, el modelo va al dato

No al revés. Cuatro razones por las que las empresas llevan la IA a su propia infraestructura.

Privacidad y soberanía

Prompts, documentos y respuestas se procesan en tus servidores, sin terceros y sin que tus datos entrenen modelos ajenos.

Regulación

La LFPDPPP de 2025 y la regulación de tu sector piden saber dónde vive el dato y quién lo tocó.

Costo predecible

Inviertes en capacidad propia en lugar de pagar por token, con un costo que puedes presupuestar.

Control y continuidad

Tú decides qué versión del modelo usar y cuándo actualizarla. La plataforma opera aunque no haya conexión a internet.

Tres opciones

Tres arquitecturas, un mismo principio

La misma garantía de privacidad, con distinto nivel de escala, disponibilidad y gobierno.

Tres arquitecturas, un mismo principio
CriterioOpción 1 · Nodo LocalOpción 2 · Plataforma PrivadaOpción 3 · IA Soberana Gobernada
Para quiénEmpresa mediana con un primer caso de usoMediana-grande o enterprise con varios equiposEnterprise regulado: banca, seguros, salud, gobierno
Base tecnológicaCódigo abierto: vLLM u Ollama sobre Docker Compose, LangGraph, pgvector, LibreChat, LangfuseRed Hat OpenShift AI 3: llm-d + vLLM, Models-as-a-Service, EvalHub, NeMo Guardrails, GitOpsIBM watsonx (watsonx.ai, watsonx.data, watsonx.governance) sobre Red Hat OpenShift AI
DisponibilidadUn servidor con respaldo en fríoClúster en alta disponibilidadDos sitios con recuperación ante desastres, entorno desconectado (air-gapped)
Gobierno de IATrazas y evalsSe agregan consumo medido por equipo, evaluación y guardrails de plataformaSe agregan inventario de modelos, riesgo y evidencia regulatoria
Puesta en marcha4 a 6 semanas8 a 12 semanas12 a 20 semanas

Plazos y capacidades son rangos de referencia: se confirman en el discovery con tus casos de uso, tus usuarios y tus volúmenes reales.

Opción 1

Nodo Local: IA privada en un solo servidor

El camino más corto a producción para una empresa mediana con un primer caso de uso: un servidor con GPU dentro de tu red, con componentes de código abierto desplegados con Docker Compose.

Puesta en marcha: 4 a 6 semanasDisponibilidad: respaldo en fríoGobierno: trazas y evals
Diagrama de la Opción 1, Nodo Local: Tu red corporativa · sin salida a internet
UsuariosNavegador en la red interna
Sistemas internosERP · CRM · mesa de ayuda
DirectorioAD / LDAP · SSO
Fuentes de datosDocumentos · bases de datos · file server
Servidor con GPU · Docker Compose
InterfazLibreChat · API REST
AgentesLangGraph · herramientas · memoria
InferenciavLLM u Ollama · LLM y embeddings
Conocimientopgvector · búsqueda en documentos (RAG)
ObservabilidadLangfuse · trazas y evals

Límite: sin alta disponibilidad. El servidor es un único punto de falla y se protege con respaldo en frío.

Componentes de la Opción 1 y sus licencias

ComponenteFunciónLicencia
vLLMInferenciaApache 2.0
OllamaInferenciaMIT
LangGraphAgentesMIT
pgvectorBase vectorialPostgreSQL License
LibreChatInterfaz de chatMIT
LangfuseTrazas y evalsMIT (núcleo); funciones enterprise con licencia comercial
Docker ComposeDespliegueApache 2.0

Licencias verificadas en noviembre de 2026; se confirman al iniciar cada proyecto. Los modelos de pesos abiertos tienen cada uno su propia licencia, que revisamos para tu uso.

Opción 2

Plataforma Privada: IA como servicio interno

Para una empresa mediana-grande o enterprise con varios equipos: un clúster que sirve varios modelos a toda la organización, con alta disponibilidad, consumo medido por equipo y operación declarativa con GitOps.

Puesta en marcha: 8 a 12 semanasDisponibilidad: clúster en HAGobierno: + consumo medido, evaluación y guardrails
Diagrama de la Opción 2, Plataforma Privada: Tu centro de datos · red segmentada
UsuariosChat y copilotos
SistemasERP · CRM · sistemas core
DirectorioSSO (OIDC)
Clúster Red Hat OpenShift AI 3
AccesoGateway API · SSO con tu directorio
Apps y agentesLangGraph · copilotos · APIs
Models-as-a-ServiceSuscripciones · cuotas · consumo por equipo
Inferenciallm-d + vLLM · autoescalado
ModelosCatálogo validado · varios a la vez
Datospgvector o Milvus · S3 · PostgreSQL
Calidad y controlEvalHub · NeMo Guardrails · GitOps
Nodos de controlWorkers CPUWorkers GPUAlmacenamiento

Requiere un equipo de plataforma, propio o gestionado por SISCON.

Lo que hacemos con Red Hat →

Opción 3

IA Soberana Gobernada: evidencia para el regulador

Para enterprise regulado —banca, seguros, salud, gobierno—: gobierno de modelos de punta a punta (inventario, riesgo, linaje y auditoría) sobre dos sitios con recuperación ante desastres y operación desconectada.

Puesta en marcha: 12 a 20 semanasDisponibilidad: dos sitios con DRGobierno: + inventario, riesgo y evidencia
Diagrama de la Opción 3, IA Soberana Gobernada: Entorno desconectado (air-gapped) · dos sitios
Sitio primario
watsonx.governanceInventario · riesgo · drift · auditoría
watsonx.aiModelos Granite y abiertos · ajuste
watsonx.dataLakehouse · vectores · linaje
OpenShift AIllm-d · vLLM · pipelines de MLOps
SeguridadAdvanced Cluster Security · KMS/HSM · registro espejo · SIEM
InfraestructuraGPU en alta disponibilidad · almacenamiento replicado
Sitio de recuperación (DR)
En esperaClúster listo para conmutar
RéplicaDatos y modelos
ConmutaciónAdvanced Cluster Management
ContinuidadRPO y RTO definidos

Mayor inversión y gestión del cambio; se justifica por regulación o criticidad. La operación desconectada se confirma por producto y versión durante el diseño.

Lo que hacemos con IBM →

Seguridad

Controles comunes a las tres opciones

Presentes en las tres; la profundidad y la evidencia crecen de la Opción 1 a la 3.

Red sin salida a internet

Modelos y actualizaciones entran por un registro interno controlado, después de verificar su integridad.

SSO con tu directorio

El acceso pasa siempre por tu directorio corporativo, con permisos por rol.

Permisos heredados del usuario

El agente solo ve lo que el usuario puede ver; la búsqueda en documentos se filtra con sus permisos.

Bitácora de cada interacción

Cada prompt, respuesta y acción del agente queda registrada y disponible para auditoría.

Guardrails

Filtros de datos personales y de intentos de inyección, políticas de uso y escalamiento a una persona en casos límite.

Cifrado

En tránsito y en reposo, con las llaves bajo tu control.

Marcos de referencia con los que diseñamos los controles: ISO/IEC 42001 · NIST AI RMF · OWASP Top 10 para aplicaciones LLM · OWASP Top 10 para aplicaciones agénticas. La plataforma aporta controles y evidencia para tu programa de cumplimiento; no sustituye la evaluación de tus áreas de cumplimiento ni de tus auditores.

Decisión

Cómo elegir y cómo crecer

Empieza donde estás hoy; la arquitectura crece cuando el negocio lo pide.

1

Empieza con Nodo Local si…

tienes un caso de uso claro y acotado y quieres resultados en semanas con una inversión contenida.

2

Escala a Plataforma Privada si…

varios equipos piden IA, necesitas alta disponibilidad y quieres ofrecer modelos como un servicio interno con consumo medido.

3

Ve a IA Soberana Gobernada si…

un regulador o una auditoría exige evidencia: inventario de modelos, linaje, control de riesgo y continuidad en dos sitios.

Ruta de evolución: lo construido no se tira

Agentes, búsqueda en documentos (RAG) y evals migran de una opción a la siguiente, porque todo corre en contenedores y usa APIs compatibles con OpenAI. Puedes empezar con un servidor y crecer sin rehacer.

  1. 1 · Nodo Local
  2. 2 · Plataforma Privada
  3. 3 · IA Soberana Gobernada

Metodología

Seis fases, del discovery a la operación

El mismo camino para las tres opciones: medir antes de comprar hardware y validar con un caso real.

  1. F1

    Descubre

    Casos de uso, datos sensibles, marco regulatorio e infraestructura. Sale el alcance y la opción recomendada.

  2. F2

    Diseña

    Evaluamos modelos abiertos con tus datos, dimensionamos GPU, almacenamiento y red, y se aprueban la arquitectura y sus controles.

  3. F3

    Desarrolla

    Instalamos la plataforma, la integramos con tu directorio y construimos el primer caso de uso.

  4. F4

    Valida

    Pruebas de calidad contra un conjunto de referencia, de seguridad, de carga y de que la red no tenga salida a internet.

  5. F5

    Despliega

    Producción por etapas, capacitación y entrega del runbook y de la evidencia de controles.

  6. F6

    Optimiza

    Operación medida con indicadores, evals continuos y nuevos casos de uso.

Los evals son el criterio de salida: nada pasa a producción si degrada la calidad medida.

IA Factory dentro de tu red. La línea de producción de software de IA Factory puede correr sobre cualquiera de las tres opciones, con los modelos y la bitácora dentro de tu infraestructura.
Servicios relacionados: Fine-tuning y Modelos Propios para adaptar un modelo abierto a tu dominio, Evaluación y Auditoría de IA para elegir el modelo con evidencia, y nuestros partners IBM y Red Hat. Lee también: cómo elegir entre las tres arquitecturas.

FAQ

Preguntas frecuentes

¿Los modelos abiertos son suficientes para mi caso?

Depende del caso, y por eso se mide antes de comprometer alcance: en la fase Diseña comparamos modelos abiertos con tus propios datos, no con benchmarks públicos.

¿Tengo que comprar GPU antes de empezar?

No. Primero se evalúan los modelos y se dimensiona el hardware con tus usuarios y tu concurrencia reales; la compra viene después del diseño.

¿Una plataforma on-premise me hace cumplir con la LFPDPPP o con mi regulador?

No por sí sola. Aporta controles —datos dentro de tu red, permisos, bitácora y cifrado— y evidencia para tu programa de cumplimiento. El cumplimiento lo determinan tu organización y sus auditores.

¿Puedo empezar con un servidor y crecer después?

Sí. Agentes, RAG y evals se construyen en contenedores con APIs compatibles, así que migran a la Plataforma Privada o a la IA Soberana Gobernada sin rehacerse.

¿La Opción 1 no paga licencias?

Sus componentes son de código abierto y cada uno tiene su propia licencia (Apache 2.0, MIT, PostgreSQL License); los modelos de pesos abiertos también tienen la suya, que revisamos para tu uso. Las opciones 2 y 3 incluyen suscripciones de Red Hat e IBM.

¿IA Factory puede correr dentro de mi red?

Sí, sobre cualquiera de las tres opciones. Con modelos locales, el alcance se compromete después de medir su calidad con evals sobre tu propio código.

Siguiente paso

Elige la opción con tus números

Una sesión de descubrimiento gratuita de 60 minutos para revisar tus casos de uso, tus datos sensibles y tu infraestructura, y recomendarte por dónde empezar.