Unsloth - treinamento local de modelos de IA

#local-llm · #llm · #open-source · #python

Unsloth: ferramenta open-source para treinar modelos localmente

Projeto open-source com 68.076 estrelas no GitHub em pouco mais de dois anos. Criado por dois irmãos australianos com objetivo de descentralizar o acesso ao treinamento e execução de modelos de IA, como DeepSeek e Gemma, sem necessidade de supercomputadores na nuvem ou infraestruturas milionárias.

Os criadores reescreveram kernels de computação em Python para otimizar hardware comum de forma extrema, resultando em ganhos cirúrgicos: redução de tempo de treinamento (de dias para horas) e consumo de memória em 20% do padrão anterior.

Unsloth Studio roda direto no Windows, Mac ou Linux com apenas um comando no terminal, operando 100% offline.

Acesse Unsloth.ai

GitHub - unslothai/unsloth

Unsloth Studio: interface web local sem código

Lançado em março de 2026, Unsloth Studio é uma interface web de código aberto para treinar e executar modelos localmente em uma única plataforma. Suporta treinamento e execução de mais de 500 modelos (texto, áudio, embeddings, visão).

Características principais:

  • Execução 100% offline em Mac, Windows e Linux
  • Treinamento 2x mais rápido com kernels Triton customizados
  • Consumo de memória 70% menor que métodos padrão
  • Interface sem código para geração de datasets e fine-tuning
  • Suporte a modelos GGUF e Safetensors
  • Comparação lado a lado de modelos
  • Export em múltiplos formatos

Instalação simples:

  • macOS, Linux, WSL: curl -fsSL https://unsloth.ai/install.sh | sh
  • Windows: irm https://unsloth.ai/install.ps1 | iex
  • Comando: unsloth studio -H 0.0.0.0 -p 8888

Documentação oficial - Unsloth Studio

Guia de instalação

Fine-tuning eficiente com custom kernels

Unsloth reimplementou kernels de computação em Triton para otimizar RoPE (Rotary Position Embeddings) e MLP (Multi-Layer Perceptron) layers. Resulta em treinamento até 5x mais rápido, tipicamente 3x, com redução de VRAM entre 30% a 90% sem perda de acurácia.

Suporta treinamento em 4-bit, 8-bit e 16-bit com LoRA e outras técnicas de fine-tuning eficientes.

Guia de fine-tuning com Unsloth

Blog - Training 3x mais rápido com Unsloth

Geração de datasets e treinamento no-code

Unsloth Studio permite upload de documentos (PDF, CSV, JSON, DOCX, Parquet) e auto-geração de datasets estruturados. Ferramenta integrada de síntese de dados para criar exemplos de treinamento automaticamente.

Interface visual para seleção de modelos base, configuração de hiperparâmetros e monitoramento em tempo real do progresso de treinamento.

Tutorial - Gerar dados e fine-tunar localmente

Modelos suportados

Suporta Llama 1, 2, 3, Mistral, Gemma, Qwen, DeepSeek, OpenAI gpt-oss, e 500+ modelos de comunidades como Hugging Face.

Modelos podem ser executados localmente (GGUF e Safetensors) com API compatível com OpenAI para integração com ferramentas existentes.

Licenças open-source

  • Core Unsloth: Apache 2.0 (uso livre, comercial, modificações sem restrições)
  • Studio UI: AGPL-3.0 (se construir produto com ela, deve open-sourcear modificações)

Totalmente gratuito para instalação e execução localmente. Custos apenas se escolher hosting em serviços de GPU em nuvem (RunPod, AWS).

PyPI - Unsloth package

Documentação e tutoriais

Mais de 100 notebooks de tutorial em Google Colab, Kaggle e plataformas similares, cobrindo desde conceitos básicos até técnicas avançadas de RL (Reinforcement Learning).

Documentação completa

Hugging Face Transformers Integration