6. Modelos Cloud, locales y remotos: cómo elegir el más adecuado

Objetivo del tema

Comprender las tres modalidades de ejecución disponibles en Bionic y seleccionar un modelo según las capacidades de la tarea, la sensibilidad de los datos, el hardware, el coste, la velocidad y la disponibilidad de red.

6.1 Tres modalidades, una misma sesión de Bionic

El selector de modelos de una sesión puede mostrar modelos que se ejecutan en tres lugares diferentes:

La interfaz de Bionic y el proyecto pueden permanecer en el equipo de trabajo aunque cambie el lugar donde se ejecuta el modelo. Cada sesión tiene un modelo principal y puede modificarse desde su model picker.

6.2 Modelos locales

Un modelo local se descarga y se ejecuta en el mismo dispositivo que utiliza Bionic. No consume créditos de inferencia cloud y puede mantener el procesamiento del modelo en el equipo.

Ventajas:

• Control directo sobre el modelo y su ejecución.
• Sin coste por token de Bionic Secure Cloud.
• Posibilidad de trabajar sin enviar la inferencia a un proveedor remoto.
• Disponibilidad aunque un servicio cloud tenga problemas, siempre que la tarea no necesite Internet.

Limitaciones:

• El modelo debe caber en la RAM y VRAM disponibles.
• La velocidad depende de CPU, GPU, memoria, formato y tamaño del contexto.
• Un modelo pequeño puede fallar en tareas largas o en el uso correcto de herramientas.
• La descarga ocupa almacenamiento y los modelos grandes pueden tardar en cargarse.

Bionic permite explorar modelos, filtrar formatos y revisar la información de ajuste al dispositivo antes de descargarlos. El procedimiento completo se desarrollará en el tema 7.

6.3 Modelos remotos mediante LM Link

Un modelo remoto es un modelo local que se ejecuta en otro dispositivo enlazado. Por ejemplo, se puede trabajar desde una notebook y utilizar la GPU de una computadora de escritorio.

LM Link crea una red privada entre dispositivos propios mediante conexiones cifradas de extremo a extremo, basada en tecnología de Tailscale. El procesamiento pesado ocurre en el equipo remoto, mientras la conversación permanece en el dispositivo desde el que se utiliza Bionic.

Ventajas:

• Aprovechar un equipo más potente sin trasladar el flujo de trabajo.
• Compartir capacidad de cómputo entre dispositivos propios.
• No consumir créditos de inferencia de Bionic Secure Cloud.
• Usar un modelo remoto desde Bionic como si fuera una opción local disponible.

Limitaciones:

• El dispositivo remoto debe estar encendido, conectado y compartiendo el modelo.
• La velocidad depende tanto del hardware remoto como de la conexión.
• El modelo desaparece del selector cuando el dispositivo deja de estar disponible.
• LM Link necesita conectividad para establecer y mantener el enlace.

6.4 Modelos cloud

Los modelos cloud se ejecutan en LM Studio Secure Cloud. Son apropiados cuando la tarea necesita un modelo de frontera, un contexto amplio o capacidades que el equipo local no puede ejecutar con suficiente calidad o velocidad.

Requisitos:

• Conexión a Internet.
• Cuenta de LM Studio con facturación configurada.
• Créditos personales o de organización disponibles.

La cantidad consumida depende del modelo y de los tokens procesados. Bionic muestra el consumo total de los últimos 30 días en Settings → Billing and Usage; no ofrece un coste fijo por tarea.

Las solicitudes cloud se procesan bajo Zero Data Retention: se utilizan transitoriamente para responder y no se retienen al finalizar. Esto reduce la exposición, pero no convierte la inferencia cloud en ejecución local.

6.5 Comparación completa

Modelos locales, remotos y cloud

Criterio	Local	Remoto con LM Link	Cloud
Lugar de inferencia	Equipo donde se usa Bionic.	Otro dispositivo enlazado.	LM Studio Secure Cloud.
Hardware necesario	En el equipo de trabajo.	En el equipo remoto.	No se requiere hardware local para la inferencia principal.
Internet	No para la inferencia; sí para descargas o herramientas web.	Sí, para enlazar los dispositivos.	Sí.
Créditos Bionic	No consume.	No consume.	Sí, según modelo y tokens.
Datos de inferencia	Se procesan en el dispositivo.	Viajan cifrados entre dispositivos propios y se procesan en el remoto.	Se procesan transitoriamente bajo ZDR.
Disponibilidad	Depende del equipo y del modelo descargado.	Depende del equipo remoto y del enlace.	Depende de Internet, cuenta, saldo y servicio.
Caso ideal	Privacidad local, tareas frecuentes y modelos que caben en el equipo.	Equipo de trabajo ligero y otra máquina con mejor GPU.	Tareas exigentes que requieren modelos de mayor capacidad.

6.6 Privacidad: evaluar el flujo completo

El lugar donde se ejecuta el modelo es sólo una parte del flujo. Una sesión con modelo local puede utilizar búsqueda web, abrir una URL o conectarse a una herramienta externa. Esas operaciones tienen su propio recorrido de datos.

Antes de trabajar con información sensible, pregunta:

1. ¿Dónde se ejecutará la inferencia?
2. ¿Qué archivos se enviarán como contexto?
3. ¿Qué herramientas de red están habilitadas?
4. ¿La política de la organización permite ese recorrido?
5. ¿Puede reducirse o anonimizarse la información?

6.7 Capacidad agéntica y compatibilidad

No todos los modelos abiertos se comportan igual dentro de un agente. Antes de elegir, comprueba:

• Uso de herramientas: necesario para buscar, editar archivos, ejecutar acciones y completar flujos de varios pasos.
• Entrada de imágenes: necesaria cuando el modelo debe interpretar capturas, diagramas o fotografías. Bionic también puede recurrir a subagentes visuales en configuraciones compatibles.
• Ventana de contexto: determina cuánta conversación, código y contenido puede considerar a la vez.
• Seguimiento de instrucciones: importante para respetar formatos, restricciones y criterios de salida.
• Razonamiento configurable: algunos modelos permiten seleccionar un nivel de esfuerzo para equilibrar calidad, tiempo y consumo.

Un modelo que redacta bien en un chat puede no ser fiable al encadenar herramientas. La evaluación debe reproducir el tipo de trabajo real que se le asignará.

6.8 Tamaño, cuantización y contexto

En modelos locales, el tamaño y el formato afectan la memoria, la velocidad y la calidad. Una cuantización más compacta facilita ejecutar modelos en hardware limitado, pero puede reducir fidelidad. Una ventana de contexto mayor también consume más memoria durante la tarea.

No existe una regla que convierta automáticamente «más parámetros» en «mejor resultado». Importan la familia del modelo, su entrenamiento para herramientas, la cuantización, el contexto y el tipo de tarea.

Bionic ofrece filtros de formato e información de ajuste al dispositivo. En el siguiente tema veremos cómo interpretar estas opciones al descargar.

6.9 Velocidad y latencia

Factores que afectan el tiempo de respuesta

Modalidad	Factores principales
Local	GPU, CPU, memoria, formato, tamaño del modelo, contexto y carga simultánea del equipo.
LM Link	Los factores del equipo remoto más la calidad y latencia de la conexión.
Cloud	Conexión a Internet, carga del servicio, tamaño del contexto, nivel de razonamiento y generación.

Para tareas breves, la carga inicial de un modelo local puede representar gran parte de la espera. Para tareas largas, la capacidad de razonar y utilizar herramientas correctamente suele importar más que obtener los primeros tokens rápidamente.

6.10 Coste real

Los modelos locales y LM Link no consumen créditos cloud, pero no son gratuitos en sentido absoluto: utilizan almacenamiento, electricidad, hardware y tiempo de mantenimiento. Los modelos cloud trasladan esa infraestructura al servicio y cobran según uso.

Componentes del coste

Modalidad	Coste visible	Coste indirecto
Local	Sin créditos por token.	Equipo, almacenamiento, energía y tiempo de ejecución.
LM Link	Sin créditos Bionic por token.	Equipo remoto, energía, red y disponibilidad.
Cloud	Créditos según modelo y tokens.	Tiempo de supervisión y posibles repeticiones de tareas.

6.11 Árbol de decisión rápida

Si ninguna opción cumple los requisitos, cambia el alcance: divide la tarea, reduce el contexto, anonimiza datos, utiliza un modelo menor o solicita infraestructura adecuada.

6.12 Matriz de selección por tarea

Recomendaciones orientativas

Tarea	Primera opción	Motivo
Resumir notas personales confidenciales.	Local.	Reduce el recorrido de datos si se desactivan herramientas de red.
Refactor grande que supera el hardware de la notebook.	LM Link o cloud.	Traslada la inferencia a recursos con mayor capacidad.
Investigación extensa con documentos e imágenes.	Cloud o un remoto potente.	Puede requerir contexto amplio, visión y razonamiento sostenido.
Clasificación repetitiva de archivos pequeños.	Local.	Evita coste por uso cuando un modelo compacto cumple bien.
Trabajo desde un equipo ligero con una GPU propia disponible.	LM Link.	Aprovecha el dispositivo remoto sin consumir créditos cloud.

Estas recomendaciones no sustituyen una prueba. La sensibilidad de los datos, la calidad del modelo y la política de la organización pueden cambiar la decisión.

6.13 Root model y modelo de la sesión

En Settings → General se puede elegir el Root model, que funciona como predeterminado para sesiones nuevas. Dentro de una sesión, el model picker permite cambiarlo.

Antes de cambiar de modelo en una conversación larga, considera:

• Si el nuevo modelo admite las herramientas y entradas ya utilizadas.
• Si puede procesar el contexto acumulado.
• Si el cambio modifica el recorrido de datos o el coste.
• Si es preferible abrir una sesión nueva y proporcionar un resumen limpio.

6.14 Práctica: comparar dos modelos con la misma tarea

Utiliza dos modalidades disponibles, por ejemplo un modelo local y uno cloud. Si sólo tienes una, compara dos modelos de esa misma modalidad.

1. Crea un proyecto sin coding llamado Evaluación de modelos.
2. Abre una sesión llamada Prueba modelo A y selecciona el primer modelo.
3. Envía el siguiente prompt:

4. Anota tiempo aproximado, cumplimiento de instrucciones, calidad de la tabla y cualquier dato inventado.
5. Abre otra sesión llamada Prueba modelo B, selecciona el segundo modelo y repite el prompt cambiando el nombre a evaluacion-b.md.
6. Compara ambos archivos sin pedir a los modelos que se califiquen a sí mismos.

Ficha para registrar la comparación

Criterio	Modelo A	Modelo B
Modalidad y nombre
Tiempo aproximado
Respeta los cuatro pasos
Tabla correcta
Evita inventar cifras
Archivo creado correctamente

6.15 Resumen

• Un modelo local se ejecuta en el equipo y no consume créditos cloud.
• LM Link utiliza otro dispositivo propio mediante una conexión cifrada y tampoco consume esos créditos.
• Un modelo cloud usa Secure Cloud, requiere cuenta, saldo e Internet y funciona bajo Zero Data Retention.
• La elección debe considerar herramientas, visión, contexto, privacidad, hardware, velocidad y coste.
• La privacidad depende del flujo completo, no sólo del lugar donde corre el modelo.
• El Root model es un valor predeterminado; cada sesión puede elegir otro modelo.

En el próximo tema aprenderemos a buscar, descargar y administrar modelos locales en Bionic.

Fuentes oficiales consultadas: modelos cloud, locales y remotos, descarga de modelos locales, créditos y consumo, documentación de LM Link y configuración del enlace.