V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  parad  ›  全部回复第 1 页 / 共 1 页
回复总数  9
18 分钟前
回复了 Themyth 创建的主题 奇思妙想 有没有出租 deepseek 本地模型的云服务器?
@lovestudykid 根据我的理解,DeepSeek 最终的 weight 是 mixed F8_E4M3 + FP32 。这个可以在 Hugging Face 的 原始 model layer details 里面看到: https://huggingface.co/deepseek-ai/DeepSeek-R1/tree/main?show_file_info=model-00027-of-000163.safetensors

而 Hyperbolic 的 FP8 是他们自己的 quantization ,是在 model 上面额外的 quantization ,这里有解释: https://docs.hyperbolic.xyz/docs/hyperbolic-ai-inference-pricing

所以我理解 Hyperbolic 应该是做了额外的 quantization 。当然有可能是我理解错了。欢迎指正。
16 小时 42 分钟前
回复了 Themyth 创建的主题 奇思妙想 有没有出租 deepseek 本地模型的云服务器?
域名太小众,渲染不出 link [https://prompt.16x.engineer/blog/deepseek-r1-cost-pricing-speed]( https://prompt.16x.engineer/blog/deepseek-r1-cost-pricing-speed)
16 小时 44 分钟前
回复了 Themyth 创建的主题 奇思妙想 有没有出租 deepseek 本地模型的云服务器?
有很多,我这里做了对比

https://prompt.16x.engineer/blog/deepseek-r1-cost-pricing-speed

持续更新中
3 天前
回复了 CC11001100 创建的主题 程序员 全球工单系统: deepseek 是挂了吗?
2022-08-31 16:03:53 +08:00
回复了 wenzaiquan199 创建的主题 问与答 为安全问题,早上公司热烈讨论
PCI DSS
2022-02-16 13:20:53 +08:00
回复了 iDontEatCookie 创建的主题 English 英语很烂怎么办啊?
https://www.nginx.com/resources/wiki/community/faq/

How do you pronounce “NGINX”?
There seems to be some confusion surrounding the pronunciation of NGINX.

Correct
en-juhn-eks*
Engine-X

Incorrect
en-jingks
2021-04-21 10:32:23 +08:00
回复了 8e47e42 创建的主题 问与答 遇到什么都不懂的面试官应该怎么办?
位运算,一个 int 搞定
2020-10-17 11:30:59 +08:00
回复了 LUREN 创建的主题 问与答 求助用 shell 循环输出一段内容
XY?
2020-09-28 08:25:51 +08:00
回复了 leishi1313 创建的主题 程序员 一个美国小码农眼中的硅谷
写 FLAANG 的话,应该是 L 了吧。
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1692 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 21ms · UTC 01:46 · PVG 09:46 · LAX 17:46 · JFK 20:46
Developed with CodeLauncher
♥ Do have faith in what you're doing.