
MLX
Apple 开源的机器学习框架,面向 Apple 芯片深度优化,支持在 Mac 本地跑大模型、微调与语音转写,统一内存架构让大模型推理无需独立显卡也能流畅运行。
大模型本地推理方向的AI工具,LoRA训练、模型竞技场都归在大模型本地推理要解决的范畴,核心是用AI做模型微调、LoRA训练与推理部署,配合模型分享、竞技场与能力评测,落到端侧与本地推理部署、模型评测、对比与竞技等场景,AI应用开发者受益最多。

Apple 开源的机器学习框架,面向 Apple 芯片深度优化,支持在 Mac 本地跑大模型、微调与语音转写,统一内存架构让大模型推理无需独立显卡也能流畅运行。