La IA local empresarial consiste en ejecutar todo o parte de un sistema de inteligencia artificial en sus propios servidores, puestos o entornos privados, en lugar de enviarlo todo a la nube. La elección adecuada depende sobre todo de cuatro criterios: sensibilidad de los datos, latencia esperada, presupuesto de explotación y capacidad interna para mantener la infraestructura. Para una pyme, la arquitectura híbrida suele ser la opción más razonable. Y desde mediados de septiembre de 2026, el tema ya no es teóorrico: NVIDIA, Palantir y Booz Allen Hamilton han restringido el uso de los modelos de OpenAI y Anthropic para proteger sus datos.
IA local en la empresa: lo que realmente cambia
Una IA local procesa los datos cerca de ti: en tus instalaciones, en un proveedor de alojamiento privado, en un servidor dedicado de OVHcloud, en una nube privada o, en ocasiones, directamente en un dispositivo. Una IA en la nube utiliza recursos remotos, por ejemplo, a través de Microsoft Azure, Google Cloud, AWS o API de modelos como las que ofrecen OpenAI, Anthropic o Mistral AI.
La diferencia no es filosófica. Afecta al riesgo, al plazo y al coste. En el entorno local, se mantiene un mayor control sobre la ubicación de los datos y los accesos, pero también hay que hacerse cargo de la gestión técnica: máquinas, actualizaciones, supervisión, copias de seguridad, seguridad y renovación del hardware. En la nube, se gana en rapidez de puesta en marcha y en elasticidad, pero se depende más directamente de las tarifas por uso, de las condiciones del proveedor y de los flujos de datos correspondientes.
Para un directivo, la verdadera cuestión es sencilla: ¿qué parte de la IA merece mantenerse cerca de la empresa y qué parte puede externalizarse sin aumentar innecesariamente los riesgos? Gartner define la infraestructura híbrida de IA para 2025 como la capacidad de ejecutar cargas de trabajo de IA y aprendizaje automático tanto en las instalaciones como en la nube y en el borde de la red, es decir, cerca de los usuarios o de las máquinas.
Por qué NVIDIA y Palantir limitan los modelos externos
El 14 de septiembre de 2026, The Information, recogido por Reuters, reveló que Palantir, NVIDIA y Booz Allen Hamilton restringen o amenazan con abandonar los modelos avanzados de Anthropic y de OpenAI mientras estos editores no garanticen una protección estricta de su propiedad intelectual. Palantir exige un compromiso irrevocable de conservación cero de los datos antes de exponer estos modelos en su plataforrma AIP. NVIDIA limita los modelos de Anthropic a tareas poco sensibles y se apoya en sus propios modelos Nemotron para el trabajo interno. Booz Allen prohíbe a sus equipos utilizar el modelo comercial de Anthropic en proyectos de ciberseguridad que afecten a datos propietarios.
El desencadenante es preciso: una política de conservación de los registros de uso durante 30 días, introducida en junio por Anthropic con su modelo Fable y justificada por la detección de ataques complejos. Los dos editores afirman no entrenar sus modelos con los datos de los clientes por defecto, pero la sola posibilidad de que un proveedor conserve solicitudes, fragmentos de código o metadatos basta para inquietar a las orrganizaciones que manejan secretos industriales, datos de defensa o inforrmación de clientes. Anthropic reaccionó anunciando Enterprise Frontier Safeguards, un dispositivo que permite a los clientes empresariales almacenar sus datos de actividad en su propia nube, bajo sus propias claves de cifrado, con un despliegue progresivo previsto para este otoño. Microsoft, por su parte, aprovecha estas inquietudes para vender sus entornos de nube aislados.
Dos lecciones para una pyme. En primer lugar, la localización del modelo no lo resuelve todo: lo que importa es el contrato sobre los registros de uso, los metadatos y la duración de la retención. Después, las grandes cuentas que ya disponen de GPU están pasando a modelos abiertos ejecutados en sus propias instalaciones. NVIDIA y Palantir, además, presentaron juntos una arquitectura de referencia de IA soberana, que combina la plataforrma AIP y los modelos Nemotron, para ejecutar la IA sobre los datos de la orrganización sin exponerlos a un proveedor de modelos externo. Una pyme no dispone de esos medios, pero puede aplicar la misma lógica: clasificar sus datos por sensibilidad y, después, elegir el nivel de arquitectura adecuado para cada uso.
Del SaaS de gran consumo al modelo local: los cuatro niveles de arquitectura
Más que una elección binaria entre nube y local, es más acertado razonar por niveles. Cada nivel aumenta el control sobre los datos, pero también el coste y la responsabilidad de explotación.
Nivel 1: el SaaS de gran consumo
ChatGPT, Claude, Gemini, Perplexity o Le Chat de Mistral en su versión web estándar. No requiere implementación, ofrece acceso a los mejores modelos, pero las condiciones de uso son las del gran público: los datos introducidos pueden conservarse y, según la configuración, servir para mejorrar el servicio. Este nivel es adecuado para vigilancia, borradores, ayuda a la redacción sobre contenido no confidencial. Debe evitarse para contratos, archivos de RR. HH. o código propietario, salvo que se contrate una oferta Team o Enterprise con compromisos por escrito.
Nivel 2: la API empresarial
El mismo tipo de modelo, consumido a través de una API o una plataforrma de nube gestionada: Azure OpenAI, Amazon Bedrock, Google Vertex AI, o las API directas de OpenAI, Anthropic y Mistral AI. El marco es contractual: no se entrena con sus datos, acuorrdo de tratamiento confoorrme al RGPD, elección de la región de alojamiento y, a veces, retención cero bajo solicitud. Es el nivel de la mayoría de los chatbots internos y de las herramientas de resumen documental. El caso NVIDIA/Palantir recuerda que el punto sensible es la retención de los registros de uso: lea esta cláusula antes de firmar y negocíela si sus datos lo justifican.
Nivel 3: la nube privada
El modelo se despliega en un entorno dedicado: red privada virtual, nube soberana (OVHcloud, Scaleway, Outscale, S3NS), Azure Local, Google Distributed Cloud o proveedor de alojamiento privado. El proveedor del modelo no ve sus solicitudes, usted conserva la flexibilidad de la nube y garantiza la residencia de los datos en Francia o en Europa. El coste es más elevado y la explotación compartida, pero es el nivel preferido de los sectores regulados: sanidad, finanzas, defensa, administraciones locales.
Nivel 4: el modelo local
Un modelo abierto (Llama, Mistral, Qwen, Nemotron, Gemma) ejecutado en sus servidores GPU o directamente en los puestos. Control total, coste marginal nulo por solicitud, pero capacidad limitada por el hardware y explotación completamente a su cargo.
Perplexity Portable Computer muestra en qué punto se encuentra este nivel para un puesto de trabajo. Desde el 14 de septiembre de 2026, este agente local se instala en Windows a través de Microsoft Store, ejecuta un modelo Qwen 3.8 27B en la máquina y realiza tareas en varias etapas sobre los archivos, la mensajería y las aplicaciones del puesto, sin enviar nada a la nube salvo autorrización explícita del usuario. El coste de entrada es elevado: una tarjeta NVIDIA GeForrce RTX o RTX PRO con al menos 24 Go de memoria de vídeo, es decir, una RTX 3090, 4090 o 5090, o una estación DGX Spark de varios miles de euros, además de una suscripción Pro o Max. Equipar a diez colaborradores equivale a comprar diez GPU de gama alta, asumir el consumo eléctrico y prescindir de un soporrte empresarial todavía encorre incipiente. El agente local es prometedor, pero exige una infraestructura GPU seria y una orrganización capaz de mantenerla.
En la nube, local, híbrido: una comparativa útil antes de elaborar el presupuesto
La tabla siguiente muestra los valores observados en el mercado francés para proyectos de pymes. Varían considerablemente en función del volumen de datos, el modelo utilizado, los requisitos de seguridad y el nivel de integración con el sistema informático existente. Sinceramente, si se dispone de un presupuesto reducido, a menudo es mejor probar en la nube antes de comprar hardware.
| Arquitectura | Caso de uso adecuado | Presupuesto inicial habitual en Francia | Plazo realista para un primer lote | Puntos a tener en cuenta |
|---|---|---|---|---|
| IA en la nube mediante API | Chatbot interno, resumen de documentos, ayuda a la redacción, búsqueda semántica | Entre 5 000 y 25 000 € (hors, gastos de uso incluidos) | De 3 a 8 semanas | Coste variable por solicitud y por datos enviados al proveedor |
| IA local en un servidor dedicado o en una GPU | Datos sensibles, gestión interna de documentos, búsqueda avanzada confidencial | Entre 25 000 y 80 000 €, dependiendo del material y la integración | 8 a 16 semanas | Mantenimiento, seguridad y rendimiento del modelo |
| Arquitectura híbrida | Orquestación en la nube, inferencia local, requisitos de confidencialidad o baja latencia | Entre 30 000 y 120 000 €, dependiendo del ámbito de aplicación | 10 à 20 semanas | Complejidad de la gobernanza y sincronización de los datos |
| IA integrada en una aplicación o un dispositivo | Modo hors en línea, móvil sobre el terreno, filtrado local, privacidad del usuario | Entre 15 000 y 60 000 €, además del proyecto de aplicación | De 6 a 14 semanas | Potencia limitada y actualizaciones distribuidas |
Estas cifras no siempre incluyen el alojamiento mensual, las licencias, la auditoría de seguridad ni la limpieza de datos. A menudo es ahí donde se desborda el presupuesto. Un prototipo de 10 000 € puede funcionar a modo de demostración, pero puede volverse inestable en cuanto hay que gestionar los derechos de los usuarios, los registros de auditoría, el RGPD y las copias de seguridad.
En los proyectos que llevamos a cabo, a menudo observamos una diferencia entre el coste del modelo y el coste del sistema que lo rodea. La interfaz, los conectores de negocio, la base documental, las pruebas, la supervisión y la seguridad a veces son más importantes que la elección entre dos grandes modelos de lenguaje.
Cuándo la IA local es la opción adecuada
La IA local empresarial se justifica abord cuando los datos no deben sortir de un perímetro controlado. Este es el caso de los historiales médicos, los datos industriales, los contratos confidenciales, los archivos de recursos humanos, los planos técnicos o la información sujeta a compromisos con los clientes. El RGPD ya impone un enfoque de minimización y control del tratamiento de datos; la Ley europea de IA añade progresivamente obligaciones de transparencia, algunas de las cuales serán aplicables a partir del 2 de agosto de 2026 para los sistemas de IA afectados.
La latencia también puede inclinar la balanza. Si un sistema debe responder en unas pocas decenas de milisegundos en una línea de producción, en un vehículo, en una aplicación sobre el terreno o en una instalación con mala conexión, enviar cada solicitud a una nube pública se convierte en algo arriesgado. Los temas deIA integrada en las aplicaciones móviles ilustran bien este equilibrio entre autonomía, privacidad y potencia de cálculo.
Otro caso frecuente: los costes de uso impredecibles. Los grandes modelos que se facturan por volumen de tokens —es decir, por mor de texto procesado— pueden resultar económicos al principio, pero acabar siendo costosos cuando su uso se generaliza. Gartner señaló en 2026 que los centros de datos locales modernizados podrían hacer frente a los riesgos relacionados con los costes de los tokens y la concentración de datos en el caso de los usos de IA agentiva, es decir, esos asistentes capaces de encadenar varias acciones.
Hay ofertas que confirman esta tendencia. Microsoft señala que Azure Local puede procesar determinadas cargas de trabajo de IA de forma local, con Foundry Local para la inferencia local y flujos de trabajo de investigación dentro de los límites de la red. Se presenta Google Distributed Cloud air-gapped como una solución capaz de funcionar sin conexión a Google Cloud ni a Internet pública. Zoom también ha anunciado para 2026 una oferta de IA On-Prem para procesar transcripciones y subtítulos en la infraestructura de clientes sujetos a normativa.
Cuando la nube sigue siendo la opción más sensata
La nube suele ser el mejor punto de partida para validar un caso de uso. Permite acceder rápidamente a potentes modelos, a GPU cuya adquisición resulta costosa, a servicios gestionados y a una escalabilidad progresiva. Si tu prioridad es poner a prueba una idea de negocio en un mes, la IA local puede ralentizar el proyecto sin aportar ningún beneficio inmediato.
La nube resulta ideal para datos poco sensibles, picos puntuales, prototipos y usos que exigen los mejores modelos disponibles. Además, evita tener que comprar hardware que quizá resulte insuficiente seis meses después. Por parte de la agencia, lo habitual es separar la prueba de valor de la elección definitiva de la infraestructura: demostrar primero que la IA realmente contribuye al negocio y, a continuación, consolidar la arquitectura.
Una trampa clásica consiste en elegir el entorno local para «no enviar nada», pero conectar posteriormente la herramienta a servicios SaaS, sistemas de mensajería, CRM o aplicaciones que no están bajo control. La seguridad no se limita al lugar de ejecución del modelo. También depende de los derechos de acceso, los registros, el cifrado, las copias de seguridad y el plan de recuperación ante incidentes. En este sentido, los principios de Copia de seguridad 3-2-1 contra el ransomware siguen siendo muy concretos para una pyme.
La arquitectura híbrida, a menudo la mejor opción para las pymes
El modelo híbrido consiste en combinar la nube y el entorno local. Por ejemplo: preparación o entrenamiento en la nube, inferencia en el entorno local. La inferencia se refiere al momento en el que el modelo genera una respuesta a partir de una pregunta o un documento. Este modelo de implementación suele ser el recomendado por los principales proveedores para satisfacer necesidades de residencia de datos, baja latencia o funcionamiento en línea.
Un caso típico: una pyme quiere consultar sus contratos, presupuestos, procedimientos y fichas de productos. Los documentos permanecen en un almacenamiento controlado, posiblemente con MongoDB Search o Vector Search, disponibles en entornos locales y privados desde 2026, según MongoDB. La nube puede servir para externalizar ciertos procesos no sensibles, mientras que la búsqueda aumentada, también conocida como RAG (retrieval augmented generation), permanece cerca de los datos.
Este enfoque limita la exposición y, al mismo tiempo, evita tener que reconstruir toda una nube privada. Sin embargo, requiere una arquitectura propia: identidad única, gestión de roles, cifrado, registro de eventos, supervisión y política de conservación. Si tu proyecto también afecta a un sitio web o una aplicación de cliente, la elección de la arquitectura debe planificarse teniendo en cuenta la base digital existente, tal y como se haría para un página web corporativa con arquitectura «headless» o una aplicación específica.
La trampa menos evidente: la «gravedad de los datos». Cuanto más voluminosos, depurados y enriquecidos estén tus datos en un entorno, más costoso resultará trasladarlos. Empezar rápidamente en la nube es práctico, pero si todo tu historial documental, tus vectores y tus reglas de negocio quedan encerrados allí, dar marcha atrás puede llevar meses.
Los criterios de decisión que hay que plasmar por escrito
Antes de solicitar un presupuesto, evalúa las opciones. Una buena decisión no se basa en una preferencia técnica, sino en un nivel de riesgo aceptable. Una IA local empresarial mal gestionada puede ser menos segura que una IA en la nube bien gestionada.
- Sensibilidad de los datos: datos personales, secretos industriales, datos sanitarios, información contractual o financiera.
- Requisitos normativos: RGPD, Ley de IA, NIS2 (si su actividad entra dentro de su ámbito de aplicación), cláusulas con los clientes, ubicación de los tratamientos.
- Latencia y disponibilidad: Necesidad de una respuesta inmediata, uso de la línea Hors, dependencia aceptable de Internet.
- Coste total: equipamiento, licencias, alojamiento, tokens, almacenamiento, copias de seguridad, supervisión y mano de obra.
- Competencias internas: capacidad para gestionar Linux, Kubernetes, bases de datos, GPU, actualizaciones de modelos y seguridad.
- Reversibilidad: posibilidad de cambiar de proveedor, exportar los datos y sustituir un modelo.
- Retención en el proveedor: duración de conservación de los registros de uso, metadatos recopilados, posibilidad de retención cero contractual.
La conformidad merece un tratamiento específico. Desde 2026, son de aplicación determinadas obligaciones de transparencia de la Ley de IA, en particular en lo que se refiere a la información a los usuarios y al etiquetado o la detección en determinados sistemas. Por lo tanto, la arquitectura debe prever registros, rastros de decisiones, documentación del proveedor y mecanismos de información. No se trata de una carga administrativa adicional, sino de una parte del sistema.
Para las empresas afectadas por los requisitos de ciberseguridad, este tema también está relacionado con la gestión de los riesgos digitales. El seguimiento de la Directiva NIS2 y su transposición en Francia ayuda a comprender por qué las cuestiones relacionadas con el alojamiento, la continuidad y el control de los proveedores cobran una importancia fundamental.
Un método sencillo para elegir sin equivocarse
Empieza por una fase de definición de entre dos y tres semanas. Identifica los datos, los usuarios, las decisiones en las que influirá la IA, los sistemas que hay que conectar y el nivel de confidencialidad. En esta fase, el resultado útil no es un prototipo espectacular, sino una matriz de riesgos y costes.
A continuación, realiza una prueba piloto limitada. Una buena prueba piloto se basa en un conjunto de datos real, con usuarios del ámbito profesional, indicadores de calidad y una estimación de la carga de trabajo. Si el tema es de carácter documental, mide la tasa de respuestas correctas, las «alucinaciones», las fuentes citadas y el tiempo ahorrado. Si el tema se refiere a una aplicación, compara también la opción móvil, web o PWA; la elección del canal es tan importante como el modelo, al igual que a la hora de decidir entre aplicación móvil y página web.
Por último, llega el momento de tomar la decisión sobre la industrialización. Solo en ese momento debes elegir entre la nube, la infraestructura local o un modelo híbrido. A menos que existan restricciones fortes desde el principio, adquirir una infraestructura de GPU antes de haber validado el uso empresarial rara vez es una buena idea. Por el contrario, ignorar la soberanía de los datos para ganar tres semanas puede salir caro si un cliente o un auditor bloquea la implementación.
Definir bien este tipo de proyecto desde el principio evita la mayoría de las sorpresas desagradables: un presupuesto de uso subestimado, datos demasiado dispersos, responsabilidades de los proveedores poco claras o medidas de seguridad incorporadas demasiado tarde. Una perspectiva externa ayuda, sobre todo, a tomar las decisiones adecuadas antes de que la arquitectura resulte difícil de modificar.
Preguntas frecuentes sobre la IA local y la nube en la empresa
¿Cuánto cuesta una IA local para empresas?
Para una pyme francesa, un primer proyecto de envergadura suele tener un coste inicial de entre 25 000 y 80 000 €, dependiendo del equipo, los datos y las integraciones. A esto hay que añadir los gastos de funcionamiento: alojamiento, mantenimiento, copias de seguridad, seguridad y actualizaciones.
¿Es una IA local forcément más segura que la nube?
No. Ofrece un mayor control sobre la ubicación de los datos, pero requiere una gestión sólida. Una nube bien configurada puede ser más segura que un servidor local mal supervisado.
¿Hay que imitar a NVIDIA y Palantir y prohibir los modelos externos?
Para la mayoría de las pymes, no. Estos grupos protegen secretos industriales y datos de defensa con GPU ya instaladas. La buena estrategia consiste en clasificar los datos según su nivel de sensibilidad, utilizar una API empresarial con garantías de retención para los usos habituales y reservar la nube privada o el modelo local para los datos realmente críticos.
¿Se puede empezar en la nube y luego pasar a un sistema local?
Sí, siempre y cuando se prevea la reversibilidad desde el principio: formats exportables, una base documental bien controlada, la abstracción de los modelos y unos contratos claros. Sin ello, la migración puede resultar larga y costosa.
¿Qué arquitectura elegir para un chatbot interno que maneje documentos confidenciales?
A menudo resulta adecuado un enfoque híbrido: interfaz y orquestación or controladas, documentos almacenados en un entorno privado e inferencia local o en la nube soberana, en función del nivel de confidencialidad.
¿Obliga la Ley de IA a utilizar una IA local?
No. La Ley de IA no impone, por principio, una arquitectura local, pero establece requisitos de transparencia, documentación y gobernanza para determinados sistemas. Estas obligaciones deben tenerse en cuenta a la hora de tomar decisiones técnicas.