washu 发表于 2025-2-9 23:10:51

zhengrob 发表于 2025-2-9 19:50
你这个机器CPU还行，显卡估计功效不大。内存可以加到32甚至64G。

嗯我试了下，

1.5b 可以完全在显卡跑，但这是一个 9.11 比 9.9 大的智障 :lol
7b 大概一半一半


14b 主要是 CPU 在干，这俩起码都不会犯傻到9.11 比 9.9 大 ;P

14b 已经很慢了，更大模型应该速度上不能接受，所以加内存也无意义，就这样了 :'(除非有钱买个能跑 32b 的计算卡（但这会和第二个 SSD 抢通道），燃鹅我似乎没有钱 :dizzy:
页: 1 [2]
查看完整版本: 记我与DEEPSEEK的一次关于AI技术的对话