Grandes modelos de inteligencia artificial en ordenadores personales
FlashML-org/FreeToken es una biblioteca que permite ejecutar grandes modelos de inteligencia artificial a escala de centro de datos de forma rápida y eficiente en ordenadores personales. Permite a los usuarios utilizar modelos de mezcla de expertos (Mixture of Experts, MoE) de más de 290 mil millones de parámetros a velocidades interactivas en hardware estándar.
Actualizaciones
- 6 de noviembre de 2026: Estrellas 15,664 → 16,721, última versión v0.2.1 (26 de octubre de 2026).
- 2 de noviembre de 2026: Estrellas 15,543 → 15,664, última versión v0.2.1 (26 de octubre de 2026).
Qué aporta
- Combina los recursos de hardware utilizados como una única infraestructura de inteligencia artificial.
- Ofrece gestión dinámica de recursos entre la memoria de la tarjeta gráfica VRAM y la memoria principal.
- Ejecuta grandes modelos con arquitectura de mezcla de expertos MoE en dispositivos locales a velocidades interactivas.
Instalación
uv pip install "freetoken[accel]"git clone https://github.com/FlashML-org/FreeToken.git && cd FreeToken
uv venv && source .venv/bin/activate
uv pip install -e ".[accel]"Si no programa
Debe instalar la biblioteca FreeToken, que permite ejecutar grandes modelos de inteligencia artificial en una computadora local. Para realizar la instalación con el administrador de paquetes rápido uv, puede utilizar el comando uv pip install "freetoken[accel]". Si prefiere compilar directamente desde el código fuente, puede ejecutar la secuencia de comandos git clone https://github.com/FlashML-org/FreeToken.git && cd FreeToken uv venv && source .venv/bin/activate uv pip install -e ".[accel]"
Repositorio: https://github.com/FlashML-org/FreeToken. Sigue las instrucciones oficiales del archivo README de este repositorio para la instalación y ejecución.
Antes de empezar, comprueba en qué sistema operativo estamos y si las herramientas necesarias (ej. Python, Node.js, Git, Docker) están instaladas. Instala las que falten paso a paso según este sistema.
Crea una carpeta nueva y vacía para trabajar. No toques ningún archivo fuera de esta carpeta y no borres nada. Antes de ejecutar cada comando, dime qué vas a hacer en una frase.
Dime qué debería ver en la pantalla al final de cada paso. Si ocurre un error, te pegaré el mensaje de error tal cual y lo solucionaremos juntos.
Términos relacionados del glosario
Enlaces
TreScout no desarrolló esta herramienta · la encontramos en las tendencias de GitHub y la presentamos. Esta página describe el repositorio tal como estaba el 2026-11-02: El número de estrellas y nuestro texto son de ese día, el repositorio puede haber cambiado desde entonces. Consulte el enlace del repositorio para ver el estado actual. El texto de presentación se preparó con IA a partir de la propia documentación del repositorio y esta página se tradujo automáticamente del original en turco · prevalece la versión turca.