IA on-premise
IA local, bajo tu control.
Tres arquitecturas para correr modelos de IA dentro de tu infraestructura. Ningún dato, prompt ni respuesta sale de tu red: las tres opciones dan la misma garantía de privacidad y cambian en escala, disponibilidad y gobierno.
Por qué on-premise
Cuando el dato es sensible, el modelo va al dato
No al revés. Cuatro razones por las que las empresas llevan la IA a su propia infraestructura.
Privacidad y soberanía
Prompts, documentos y respuestas se procesan en tus servidores, sin terceros y sin que tus datos entrenen modelos ajenos.
Regulación
La LFPDPPP de 2025 y la regulación de tu sector piden saber dónde vive el dato y quién lo tocó.
Costo predecible
Inviertes en capacidad propia en lugar de pagar por token, con un costo que puedes presupuestar.
Control y continuidad
Tú decides qué versión del modelo usar y cuándo actualizarla. La plataforma opera aunque no haya conexión a internet.
Tres opciones
Tres arquitecturas, un mismo principio
La misma garantía de privacidad, con distinto nivel de escala, disponibilidad y gobierno.
| Criterio | Opción 1 · Nodo Local | Opción 2 · Plataforma Privada | Opción 3 · IA Soberana Gobernada |
|---|---|---|---|
| Para quién | Empresa mediana con un primer caso de uso | Mediana-grande o enterprise con varios equipos | Enterprise regulado: banca, seguros, salud, gobierno |
| Base tecnológica | Código abierto: vLLM u Ollama sobre Docker Compose, LangGraph, pgvector, LibreChat, Langfuse | Red Hat OpenShift AI 3: llm-d + vLLM, Models-as-a-Service, EvalHub, NeMo Guardrails, GitOps | IBM watsonx (watsonx.ai, watsonx.data, watsonx.governance) sobre Red Hat OpenShift AI |
| Disponibilidad | Un servidor con respaldo en frío | Clúster en alta disponibilidad | Dos sitios con recuperación ante desastres, entorno desconectado (air-gapped) |
| Gobierno de IA | Trazas y evals | Se agregan consumo medido por equipo, evaluación y guardrails de plataforma | Se agregan inventario de modelos, riesgo y evidencia regulatoria |
| Puesta en marcha | 4 a 6 semanas | 8 a 12 semanas | 12 a 20 semanas |
Plazos y capacidades son rangos de referencia: se confirman en el discovery con tus casos de uso, tus usuarios y tus volúmenes reales.
Opción 1
Nodo Local: IA privada en un solo servidor
El camino más corto a producción para una empresa mediana con un primer caso de uso: un servidor con GPU dentro de tu red, con componentes de código abierto desplegados con Docker Compose.
Límite: sin alta disponibilidad. El servidor es un único punto de falla y se protege con respaldo en frío.
Componentes de la Opción 1 y sus licencias
| Componente | Función | Licencia |
|---|---|---|
| vLLM | Inferencia | Apache 2.0 |
| Ollama | Inferencia | MIT |
| LangGraph | Agentes | MIT |
| pgvector | Base vectorial | PostgreSQL License |
| LibreChat | Interfaz de chat | MIT |
| Langfuse | Trazas y evals | MIT (núcleo); funciones enterprise con licencia comercial |
| Docker Compose | Despliegue | Apache 2.0 |
Licencias verificadas en noviembre de 2026; se confirman al iniciar cada proyecto. Los modelos de pesos abiertos tienen cada uno su propia licencia, que revisamos para tu uso.
Opción 2
Plataforma Privada: IA como servicio interno
Para una empresa mediana-grande o enterprise con varios equipos: un clúster que sirve varios modelos a toda la organización, con alta disponibilidad, consumo medido por equipo y operación declarativa con GitOps.
Requiere un equipo de plataforma, propio o gestionado por SISCON.
Opción 3
IA Soberana Gobernada: evidencia para el regulador
Para enterprise regulado —banca, seguros, salud, gobierno—: gobierno de modelos de punta a punta (inventario, riesgo, linaje y auditoría) sobre dos sitios con recuperación ante desastres y operación desconectada.
Mayor inversión y gestión del cambio; se justifica por regulación o criticidad. La operación desconectada se confirma por producto y versión durante el diseño.
Seguridad
Controles comunes a las tres opciones
Presentes en las tres; la profundidad y la evidencia crecen de la Opción 1 a la 3.
Red sin salida a internet
Modelos y actualizaciones entran por un registro interno controlado, después de verificar su integridad.
SSO con tu directorio
El acceso pasa siempre por tu directorio corporativo, con permisos por rol.
Permisos heredados del usuario
El agente solo ve lo que el usuario puede ver; la búsqueda en documentos se filtra con sus permisos.
Bitácora de cada interacción
Cada prompt, respuesta y acción del agente queda registrada y disponible para auditoría.
Guardrails
Filtros de datos personales y de intentos de inyección, políticas de uso y escalamiento a una persona en casos límite.
Cifrado
En tránsito y en reposo, con las llaves bajo tu control.
Decisión
Cómo elegir y cómo crecer
Empieza donde estás hoy; la arquitectura crece cuando el negocio lo pide.
Empieza con Nodo Local si…
tienes un caso de uso claro y acotado y quieres resultados en semanas con una inversión contenida.
Escala a Plataforma Privada si…
varios equipos piden IA, necesitas alta disponibilidad y quieres ofrecer modelos como un servicio interno con consumo medido.
Ve a IA Soberana Gobernada si…
un regulador o una auditoría exige evidencia: inventario de modelos, linaje, control de riesgo y continuidad en dos sitios.
Ruta de evolución: lo construido no se tira
Agentes, búsqueda en documentos (RAG) y evals migran de una opción a la siguiente, porque todo corre en contenedores y usa APIs compatibles con OpenAI. Puedes empezar con un servidor y crecer sin rehacer.
- 1 · Nodo Local
- 2 · Plataforma Privada
- 3 · IA Soberana Gobernada
Metodología
Seis fases, del discovery a la operación
El mismo camino para las tres opciones: medir antes de comprar hardware y validar con un caso real.
- F1
Descubre
Casos de uso, datos sensibles, marco regulatorio e infraestructura. Sale el alcance y la opción recomendada.
- F2
Diseña
Evaluamos modelos abiertos con tus datos, dimensionamos GPU, almacenamiento y red, y se aprueban la arquitectura y sus controles.
- F3
Desarrolla
Instalamos la plataforma, la integramos con tu directorio y construimos el primer caso de uso.
- F4
Valida
Pruebas de calidad contra un conjunto de referencia, de seguridad, de carga y de que la red no tenga salida a internet.
- F5
Despliega
Producción por etapas, capacitación y entrega del runbook y de la evidencia de controles.
- F6
Optimiza
Operación medida con indicadores, evals continuos y nuevos casos de uso.
Los evals son el criterio de salida: nada pasa a producción si degrada la calidad medida.
FAQ
Preguntas frecuentes
¿Los modelos abiertos son suficientes para mi caso?
Depende del caso, y por eso se mide antes de comprometer alcance: en la fase Diseña comparamos modelos abiertos con tus propios datos, no con benchmarks públicos.
¿Tengo que comprar GPU antes de empezar?
No. Primero se evalúan los modelos y se dimensiona el hardware con tus usuarios y tu concurrencia reales; la compra viene después del diseño.
¿Una plataforma on-premise me hace cumplir con la LFPDPPP o con mi regulador?
No por sí sola. Aporta controles —datos dentro de tu red, permisos, bitácora y cifrado— y evidencia para tu programa de cumplimiento. El cumplimiento lo determinan tu organización y sus auditores.
¿Puedo empezar con un servidor y crecer después?
Sí. Agentes, RAG y evals se construyen en contenedores con APIs compatibles, así que migran a la Plataforma Privada o a la IA Soberana Gobernada sin rehacerse.
¿La Opción 1 no paga licencias?
Sus componentes son de código abierto y cada uno tiene su propia licencia (Apache 2.0, MIT, PostgreSQL License); los modelos de pesos abiertos también tienen la suya, que revisamos para tu uso. Las opciones 2 y 3 incluyen suscripciones de Red Hat e IBM.
¿IA Factory puede correr dentro de mi red?
Sí, sobre cualquiera de las tres opciones. Con modelos locales, el alcance se compromete después de medir su calidad con evals sobre tu propio código.
Siguiente paso
Elige la opción con tus números
Una sesión de descubrimiento gratuita de 60 minutos para revisar tus casos de uso, tus datos sensibles y tu infraestructura, y recomendarte por dónde empezar.