站内搜索 · 导航
出海搜索导航
聚合海外服务器、出海资源、实用工具与教程文档，输入关键词即可快速查找全站内容。
搜索：端侧推理
共找到 5 条结果
小模型自己造 成本十六美元小模型自己造 成本十六美元 上周我想找一个轻量版的提示词改写模型，就是 Qwen-Image 2.1 里自带那个功能。官方版本是 9B 参数，跑起来要 20GB 内存，写一段话之前还要先想几千个 token，普通设备根本扛不住。我在模型社区…https://talk.lekuidc.com/1471.html
macOS 17端侧模型包逼近30GB，256GB版Mac用户先扛不住了macOS 17测试版固件显示，Apple Intelligence本地模型在16GB内存Mac上占用约30GB存储，256GB机型近八分之一空间被吃掉。苹果按内存与芯片算力分级下发高精度或精简模型，低配设备压力稍小。换机该选多大硬盘、要不…https://news.xiumiyun.com/4149.html- 端侧跑智能体，LiquidAI 这次押对了端侧跑智能体，LiquidAI 这次押对了 最近看到 LiquidAI 发了一篇技术博客，讲他们怎么在设备本地跑一个会推理的智能体。核心思路不是把云端大模型硬塞进手机，而是重新设计了一套小到能在端侧常驻的推理架构，让模型自己决定什么时候思考…https://talk.lekuidc.com/1470.html
- 英伟达微软联手押注AI代理PC英伟达微软联手押注AI代理PC 英伟达和微软在旧金山办了一场活动，黄仁勋和纳德拉同台聊了聊AI代理在Windows PC上的未来。两人把这次合作定位成软硬件联合工程，目标很明确：让AI代理真正跑在个人电脑上，而不是只活在云端。 黄仁勋在现场…https://talk.lekuidc.com/1162.html
- 边缘端决策模型开源了边缘端决策模型开源了 今天刷到 LiquidAI 开源了两个决策模型，d1-3B 和 d1-omni-600M，都是冲着边缘设备去的。最让我意外的是 d1-3B 在 Decision Index 0.2.1 上拿了 48.57 分，把一堆 …https://talk.lekuidc.com/1150.html