Tether展示QVAC，本地运行LLM推理与微调引擎，以加速模型推理和微调过程。消息，Tether 近日展示了其新推出的 QVAC 系统，成功在移动设备上以 llama.cpp 运行 LLAMA 3.2（10 亿参数）模型，实现本地高效推理。QVAC 是一个通用推理与微调运行时，旨在适配包括智能手机、笔记本电脑和服务器在内的多类终端设备，当前已支持多个模型，未来将扩展更多模型支持。[吴说]
