跳到主要内容

2 篇博文 含有标签「模型路由」

查看所有标签

OpenHuman 本地模型怎么选:Ollama、LM Studio 与云端模型的分工

· 阅读需 6 分钟
OpenHuman 中文社区
OpenHuman 中文社区编辑组

OpenHuman 的“本地优先”很容易让人以为所有任务都应该交给本地模型。实际使用时,更稳的策略不是追求“全本地”,而是把本地模型、云端强模型和模型路由分工清楚:哪些任务适合留在设备上,哪些任务值得交给更强模型,哪些数据无论如何都应该先缩小范围再处理。

OpenHuman TokenJuice 是什么:为什么个人 AI 需要上下文压缩层

· 阅读需 6 分钟
OpenHuman 中文社区
OpenHuman 中文社区编辑组

OpenHuman 想处理的不只是几轮聊天,而是邮件、日历、网页、代码仓库、会议记录、Slack/Notion/GitHub 等长期工作流数据。问题在于,这些数据如果原样进入模型上下文,会迅速变得又贵又慢,还会让真正重要的信息被日志、HTML、重复字段和无关片段淹没。