搜索
大模型硬件成本 - 乐酷网站内搜索
搜索：大模型硬件成本
共找到
1
条结果
企业需部署 DeepSeek、千问模型，怎样选择硬件？成本预算大概多少？
想把 DeepSeek 或千问部署进自己内网，先别急着买卡：7B 模型 FP16 约占 16GB 显存，单张 RTX 4090 24GB 就能跑；32B 量化后约 20-24GB，单卡 48GB 或双卡更稳。到底该选多大模型、要不要量化、自…
https://news.xiumiyun.com/3967.html
