MiniAI - Cliente para correr una AI en una computadora vieja
El otro día reviví mi vieja Asus EEE PC 701 como hago una vez al año, esta vez le saqué Haiku y quise instalarle un Linux que pudiera conectarse al mundo actual, luego de varios intentos con Void y AntiX decidí por un clásico Debian que hasta la versión 12 soportaba procesadores viejos de 32 bits.
Si, así de vieja es, y así de limitada, con un Celeron a 600Mhz, 1GB de RAM y 4GB de "disco" en una NAND lentísima ¿Cómo cuernos la iba a usar para algo moderno? Pues bien, me puse manos a la obra y le creé un cliente para poder preguntarle cosas a un LLM desde esta mismísima máquina
Dirán que es al pedo, pues por supuesto que lo es, pero ¿Cómo no iba a darle algo de modernidad? Pobrecita, así que primero me fijé si existía algo "oficial", pero todo requiere mucho más hardware y, en particular, procesadores de 64 bits.
Así que busqué hacer algo super liviano en Python y armé un pequeño script: MiniAI, nombre tonto, claro.
Funciona con Python 3.9 o superior (Debian 12 trae 3.11), sólo requiere una conexión a la red y una clave de API de alguno de los proveedores mayores, OpenAI (ChatGPT), Anthropic (Claude) o Google (Gemini).
Usa poquísimos recursos, entre 15 y 25Mb de RAM y no pesa más de 40Kb, no hay que instalar nada porque Debian ya trae Python y sólo descargando el archivo .py es suficiente.
Se lo puede convertir en ejecutable:
chmod +x miniai.pyY si se lo quiere ejecutar desde cualquier lado llamando a miniai
mkdir -p ~/.local/bin cp miniai.py ~/.local/bin/miniaiY listo.
¿Funciona? Pues sí, muy útil para preguntarle cosas de esa misma computadora, especialmente cuando hay que arreglarle algo 😅
Tiene comandos para elegir el proveedor, el modelo y setear la apikey entre otras cosas, nada que no ofrezcan con sus propios clientes, pero mucho, mucho más liviano.
Desde ya que todo lo otro es casi imposible de usar en hardware tan modesto, he visto clientes como este funcionando hasta en una Commodore 64 así que no vi por qué no crear uno para viejas PCs.
Ah, detalle, le puse un comando /update para que chequee si hay una nueva versión y la instale directamente, porque uno de los problemas de las máquinas viejas es abrir un browser, de paso, la url para descargar el script directamente es:
https://raw.githubusercontent.com/fabiomb/miniai/main/miniai.py
Que con un wget se puede conseguir fácil