Ejecutar un modelo de IA en tu ordenador te permite controlar parte del entorno, pero no significa que cualquier modelo funcione bien ni que toda aplicación sea automáticamente privada. Antes de descargar varios gigabytes, define una tarea y revisa cómo la vas a probar.
Empieza por una tarea pequeña y repetible
Prepara tres ejemplos sin datos sensibles: resumir una página, clasificar unas notas y reescribir un párrafo con un formato concreto. Escribe qué resultado considerarías correcto. Así podrás comparar modelos sin dejarte llevar solo por una respuesta llamativa.
La memoria disponible importa más que una etiqueta
Revisa RAM, memoria gráfica y compatibilidad del motor con tu equipo. El archivo del modelo no representa necesariamente toda la memoria que utilizará al ejecutarse. El contexto y la concurrencia también influyen. No existe un mínimo universal que garantice buen funcionamiento para todos los modelos.
Consulta la ficha del modelo exacto, su formato y la documentación del programa que lo cargará. Empieza por una variante manejable para tu equipo. Un modelo mayor que apenas cabe puede resultar menos práctico que otro que resuelve tu tarea con fluidez.
Qué revisar sobre privacidad y licencia
- Si la inferencia se ejecuta en el equipo o utiliza un servicio remoto.
- Si hay herramientas conectadas, búsqueda web o registros que envíen información.
- Qué licencia tiene el modelo y qué uso permite.
- Qué permisos solicita la aplicación y de dónde se descarga.
La palabra «local» no describe por sí sola todos los componentes. Una interfaz puede combinar modelos locales con funciones en la nube. Comprueba cada función antes de introducir documentos personales o de trabajo.
Registra la prueba antes de pensar en una ampliación
Anota modelo, versión, cuantización, contexto y tiempo aproximado de respuesta. Guarda también errores de contenido, omisiones y casos que no resolvió. No conviertas una única ejecución en una afirmación general sobre rendimiento.
Si el resultado no cumple tu objetivo, cambia una variable cada vez. Comprar una GPU antes de saber qué modelo y qué tarea necesitas resolver convierte una prueba de software en una apuesta de hardware.