llmfit | 数百种模型与提供商,一条命令即可找出你的硬件能运行哪些模型。
一款终端工具,根据你系统的 RAM、CPU 和 GPU 为 LLM 模型匹配合适的规格。自动检测硬件,从质量、速度、适配度和上下文四个维度为每个模型打分,告诉你哪些模型能在你的机器上流畅运行。
项目地址
#电脑软件 #部署本地模型
一款终端工具,根据你系统的 RAM、CPU 和 GPU 为 LLM 模型匹配合适的规格。自动检测硬件,从质量、速度、适配度和上下文四个维度为每个模型打分,告诉你哪些模型能在你的机器上流畅运行。
项目地址
#电脑软件 #部署本地模型
❤️ 2 👍 1