cyankiwi is the LLM inference agent for open models. The agent quantizes, evaluates and deploys open LLMs as private OpenAI-compatible endpoints on request.
GLM 官方未发布的大小：以它命名的蒸馏、合并等社区模型。
MiniCPM 官方未发布的大小：以它命名的蒸馏、合并等社区模型。
