Durante los primeros años del boom de la IA generativa, la única forma realista de usar un modelo potente era a través de servicios en la nube como ChatGPT, Gemini o Claude. Hoy, gracias a modelos más chicos y eficientes, correr una IA directo en una computadora personal —sin depender de internet ni de un servidor externo— dejó de ser cosa de especialistas.

El problema: la privacidad ya es la principal preocupación del sector

Cuando usás un modelo en la nube, cada consulta viaja a los servidores de la empresa que lo opera. Durante mucho tiempo esto se trató como un detalle menor, pero los propios datos de la industria muestran que dejó de serlo. Según el AI Index Report de Stanford HAI, la privacidad y la seguridad de los datos ya es la principal preocupación relacionada con IA para el 73% de las organizaciones, por encima del cumplimiento legal y regulatorio (50%) y de la gobernanza y supervisión (46%). Un 31% de las empresas directamente ubica la seguridad y el cumplimiento de privacidad como el factor más importante a la hora de elegir qué proveedor de IA usar. Para la mayoría de los usos cotidianos, mandar consultas a un servidor externo no representa un problema real. Pero hay escenarios donde sí importa, y mucho: información confidencial de una empresa, datos de clientes, documentos legales o médicos, código propietario. Con un modelo local, los datos nunca salen del dispositivo. No hay ningún servidor externo procesando la consulta, así que la preocupación por qué hace la empresa con esos datos queda eliminada de raíz.

Qué es, exactamente, "IA local"

Es un modelo de lenguaje que se descarga y corre en el propio hardware, en lugar de mandar cada consulta a un servidor remoto. Herramientas como Ollama o LM Studio simplificaron bastante el proceso, hasta el punto de que hoy se puede tener un modelo funcionando localmente con pocos clics, siempre que la computadora tenga memoria suficiente y, de preferencia, una placa de video decente.

La solución no siempre es "todo local"

Los modelos más grandes y capaces del mercado —los que impulsan las versiones completas de ChatGPT, Gemini o Claude— necesitan una infraestructura que ningún dispositivo personal puede igualar, así que un modelo local suele quedarse corto en tareas complejas. Correr algo grande con buen rendimiento en casa también exige hardware específico, sobre todo placas de video con mucha memoria, una inversión que no todos pueden o quieren hacer. A eso se suma que los modelos en la nube se actualizan solos, del lado del proveedor, mientras que uno local se queda como está hasta que alguien decide bajar una versión nueva. Y funciones como la búsqueda web en tiempo real, la generación de imágenes o el análisis de archivos grandes dependen, en general, de infraestructura que solo tiene sentido en la nube. La nube gana en casi todos los usos cotidianos: redactar textos, resolver dudas, programar, analizar documentos que no sean confidenciales. Es más simple, más potente y no requiere instalar nada. Lo local, en cambio, tiene sentido cuando la prioridad es la privacidad de datos sensibles —el mismo motivo que hoy encabeza la lista de preocupaciones empresariales, según Stanford—, cuando hace falta trabajar sin conexión, o cuando se quiere evitar el costo recurrente de una suscripción para un uso puntual y bien acotado. Muchos usuarios avanzados ya combinan las dos cosas: un modelo local para lo cotidiano y sensible, y uno en la nube para lo que exige más capacidad o funciones que solo existen ahí. No hace falta elegir una sola.

En resumen

El hardware para correr modelos locales potentes se abarata cada año, y los modelos chicos siguen mejorando su relación entre tamaño y capacidad. Con la privacidad ya instalada como la preocupación número uno del ecosistema empresarial de IA, es razonable esperar que la demanda de opciones locales siga creciendo, aunque la nube probablemente siga siendo el estándar para el usuario promedio por un buen rato todavía.

Compartir en: