arquivo filtrado
Notas: local-llm
7 notas marcadas com esse assunto.
Laya — alternativa local ao Jev para decisões classificadas
O pacote @receptron/laya executa o modelo Laya (Convai Innovations) via ONNX Runtime diretamente no Node.js, sem Python ou PyTorch no runtime. É uma alternativa ao Jev que roda localmente e já é usado no Linboto para classificar posts do LinkedIn.
speech.md: transcrição de voz 100% on-device no macOS
Ditados, reuniões e arquivos de áudio transcritos no próprio Mac com SpeechAnalyzer, ScreenCaptureKit e Foundation Models.
Sete ferramentas open source que substituem serviços de IA pagos
Alternativas gratuitas e locais a HeyGen, Gamma, Otter.ai, Cursor, Manus, Perplexity e Grammarly.
Unsloth - treinamento local de modelos de IA
Como usar Unsloth para treinar e executar modelos de IA localmente com menos memória.
llmfit - Otimize modelos de IA para seu hardware
Ferramenta que identifica quais modelos locais melhor combinam com o hardware disponível.
Kimi K3 local com Unsloth Dynamic
Requisitos e quantizações dinâmicas para executar o Kimi K3 localmente com Unsloth.
Colibri - Motor Local de IA
Como o Colibri usa streaming seletivo para executar modelos MoE grandes em hardware comum.