LLMFarm is an application available for iOS and MacOS designed for managing large language models (LLM). It provides the functionality to load various LLMs customizable with specific parameters.
Features:
- Multiple inference capabilities
- Diverse sampling methods
- Metal integration
- Model configuration templates
- Support for LoRA adapters and LoRA FineTune and Export features
Inferences:
- LLaMA
- GPTNeoX
- Replit
- GPT2 + Cerebras
- Starcoder (Santacoder)
- RWKV (20B tokenizer)
- Falcon
- MPT
- Bloom
- StableLM-3b-4e1t
- Qwen
Multimodal:
- LLaVA 1.5 models
- Obsidian
- MobileVLM 1.7B/3B models
Note: For detailed model settings for Falcon, Alpaca, GPT4All, Chinese LLaMA/Alpaca, Chinese LLaMA-2/Alpaca-2, Vigogne (French), Vicuna, Koala, OpenBuddy (Multilingual), Pygmalion/Metharme, WizardLM, Baichuan 1 & 2 + derivatives, Aquila 1 & 2, Mistral AI v0.1, Refact, Persimmon 8B, MPT, Bloom, please select the llama inference in the model settings.
Sampling methods:
- Temperature variations (temp, tok-k, top-p)
- Tail Free Sampling (TFS)
- Locally Typical Sampling
- Mirostat
- Greedy sampling
- Grammar-based sampling (does not work with GGJTv3)
Tổng quan
LLM Farm là một Freeware phần mềm trong danh mục Khai triển được phát triển bởi Artem Savkin.
Phiên bản mới nhất của LLM Farm là 1.0.1, phát hành vào ngày 14/06/2024. Vào lúc đầu, nó đã được thêm vào cơ sở dữ liệu của chúng tôi trên 14/06/2024.
LLM Farm đã chạy trên hệ điều hành sau: iOS.
Người sử dụng của LLM Farm đánh giá xếp hạng 4 trong số 5 sao.
Sản phẩm liên quan
22/09/2024 | 觉晓法考HD-司法考试优质题库 4.30.0 |
22/09/2024 | Campus Outreach Birmingham 6.10.3 |
22/09/2024 | Migraine diary+ 1.67 |
22/09/2024 | Binary Brigade 2.0 |
22/09/2024 | Reflection Church 6.10.20 |
với phần mềm UpdateStar miễn phí.