githu......打头的网站我这边打不开 。
用 github 下载器试试
https://github.moeyy.xyz/
我没试过，我是直接在 github 下载的 :lol washu 发表于 2025-2-7 09:44
用 github 下载器试试
https://github.moeyy.xyz/
非常感谢你给的链接！
:handshake washu 发表于 2025-2-7 09:25
嗯，不是很高，运行最小版本么但问题是，它能干啥？
btw. DSR1-617b 需要 336GB 显存，而 7b（ ...
你的下载的7B比我下载的(好像是1.5B)高一个级别！
你说显卡要求要8G显存，这是说显卡也参加运算？
这能干什么真的不知道！但大家都这么干我就跟一下风！:lol
但因为Ollama不能再打开，我已把它卸载了！ 爱你矿坛 发表于 2025-2-8 01:44
你的下载的7B比我下载的(好像是1.5B)高一个级别！
你说显卡要求要8G显存，这是说显卡也参加运算？
这能 ...
显卡是否参与取决于你（指令），显存不够就别想了；以及，如果是足够大的模型，你不用显卡加速，那你的电脑一定非常好 ;P washu 发表于 2025-2-8 12:16
显卡是否参与取决于你（指令），显存不够就别想了；以及，如果是足够大的模型，你不用显卡加速，那你的电 ...
我的电脑很差(i5二代，8G内存)，这是较差的一台。
因之前并不玩游戏因此所有的电脑都不很注重显卡。
我想其他电脑也好不到那里！
本来就只是想跟风一下，谁知还有这么一手，真失败！ 爱你矿坛 发表于 2025-2-9 02:08
我的电脑很差(i5二代，8G内存)，这是较差的一台。
因之前并不玩游戏因此所有的电脑都不很注重显卡。
我 ...
首先说一下， 就是其实只有 671b 是真正的 DSR1，其他几个并不是 ;P
所以其实真正的 DSR1，按老黄的建议，跑起来大概要 100k+ 的美刀 :funk:
然后一个琼B替代方案就是用按摩店 EYPC，96 核，768GB 工作站运行，老外弄了一个大概花了 6k 刀，EPYC 9B14 假货宝上大概 15k 软妹，主板差不多 9k 软妹，剩下的钱买够 768G 内存 :lol 这是能跑 4 比特量化的真正的 DSR1 的最低要求了。
*也就是说模型是真的，但量化精度差很多，官方精度是 8 比特
然后我们在本地玩的并不是 671b，你可以看看它们的描述是比如
DeepSeek-R1-Distill-Qwen-1.5B <--- 你跑的，它其实是 Qwe（马云的模型）
DeepSeek-R1-Distill-Llama-8B<--- 显然，这是 Llama :P
这个的意思是，用 DSR1 微调过的马云模型或者 Llama 模型，不是真的 DSR1，但我们也只能跑得起这个 :dizzy:
btw. 我用按摩店 3600X 跑的 14b
这是载入过程，载入时主内存和显存同步消耗，显存在载入完已经爆掉了（5GB 显存）
运行时
默认 Ollama 大概会用一半的 CPU 线程，所以 CPU 符合大概是 50%，显卡不行显存爆掉，所以 GPU 负荷并不高
爱你矿坛 发表于 2025-2-9 02:08
我的电脑很差(i5二代，8G内存)，这是较差的一台。
因之前并不玩游戏因此所有的电脑都不很注重显卡。
我 ...
之前测试 14b，写的是隔壁帖子的程序
http://www.crystalradio.cn/forum.php?mod=viewthread&tid=2177685&extra=page%3D1
用 DSR1 官网 Web 版写出来的已贴图，目测很好。
本地 14b...
惨不忍睹 :funk:
so，本地算力不够，跑 llm 意义不大，这么个简单玩意都不对 :curse: washu 发表于 2025-2-9 11:00
之前测试 14b，写的是隔壁帖子的程序
http://www.crystalradio.cn/forum.php?mod=viewthread&tid=217768 ...
也就是说要玩真正的Deepseek个人真的没有几个玩得起的！
你认为在个人电脑上部署Deepseek有可玩性吗？:handshake
页:
1
[2]