设为首页收藏本站

切换到窄版

动力资源»首页 › 资源下载 › 新手提问 › 本地大模型推荐

返回列表发新帖

查看: 449|回复: 1

本地大模型推荐

1 主题	0 回帖	1 积分

积分: 1

发消息

发表于 2024-10-18 09:20:22 | 显示全部楼层 |阅读模式

i914700k 4090 128G运行内存，本地可以跑什么规模的大模型

回复

使用道具举报

0 主题	4 回帖	164 积分

积分: 164

发消息

发表于 2024-10-24 17:11:52 | 显示全部楼层

我跑过qianwen2.5:32B，运行很快，没问题。72B应该也能跑，不过有点勉强

回复

使用道具举报

返回列表发新帖

Archiver|手机版|小黑屋|动力资源站

GMT+8, 2025-4-4 07:17 , Processed in 0.021322 second(s), 14 queries , MemCached On.

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表