面向本地部署大模型的AI工具,在端侧与本地推理部署与科研与教学的模型实验里,模型分享、竞技场与能力评测是关键一环,用AI做模型微调、LoRA训练与推理部署同样重要;AI应用开发者用得最勤,算力调度、大模型评测也都属于这一类需求。
开源的 AI 聊天客户端,把 GPT、Claude、Gemini 等几十家模型接到同一个界面,支持本地部署与智能体编排。