LLMFarm is an application available for iOS and MacOS designed for managing large language models (LLM). It provides the functionality to load various LLMs customizable with specific parameters.
Features:
- Multiple inference capabilities
- Diverse sampling methods
- Metal integration
- Model configuration templates
- Support for LoRA adapters and LoRA FineTune and Export features
Inferences:
- LLaMA
- GPTNeoX
- Replit
- GPT2 + Cerebras
- Starcoder (Santacoder)
- RWKV (20B tokenizer)
- Falcon
- MPT
- Bloom
- StableLM-3b-4e1t
- Qwen
Multimodal:
- LLaVA 1.5 models
- Obsidian
- MobileVLM 1.7B/3B models
Note: For detailed model settings for Falcon, Alpaca, GPT4All, Chinese LLaMA/Alpaca, Chinese LLaMA-2/Alpaca-2, Vigogne (French), Vicuna, Koala, OpenBuddy (Multilingual), Pygmalion/Metharme, WizardLM, Baichuan 1 & 2 + derivatives, Aquila 1 & 2, Mistral AI v0.1, Refact, Persimmon 8B, MPT, Bloom, please select the llama inference in the model settings.
Sampling methods:
- Temperature variations (temp, tok-k, top-p)
- Tail Free Sampling (TFS)
- Locally Typical Sampling
- Mirostat
- Greedy sampling
- Grammar-based sampling (does not work with GGJTv3)
Visão geral
LLM Farm é um software Freeware a categoria (2) desenvolvido pela Artem Savkin.
É a versão mais recente de LLM Farm 1.0.1, lançado em 14/06/2024. Inicialmente foi adicionado ao nosso banco de dados em 14/06/2024.
LLM Farm é executado nos seguintes sistemas operacionais: iOS.
Usuários de LLM Farm deram-lhe uma classificação de 4 de 5 estrelas.
11/11/2024 | Glary Utilities 6.18.0.22 |
11/11/2024 | WD Drive Utilities 2.1.2.167 |
11/11/2024 | Ferdium 7.0.0 |
11/11/2024 | XMedia Recode 3.6.0.4 |
11/11/2024 | Microsoft Edge WebView2 Runtime 130.0.2849.80 |
com o UpdateStar gratuito.
Últimas revisões
Epson Data Collection Agent
Recolha de dados eficiente com o Epson Data Collection Agent |
|
Care Center Service
Simplifique e melhore o atendimento ao cliente com o Care Center Service da Acer Incorporated |
|
MEM48U
Aumente sua memória com MEM48U |
|
Nero Info
Mantenha-se informado com o Nero Info! |
|
RAV Endpoint Protection
Solução poderosa de proteção de endpoint para empresas |
|
Samsung Magician
Otimize seu SSD Samsung com facilidade usando o Samsung Magician |