ShadowPower 最近的时间轴更新 ShadowPower 最近的时间轴更新 |
ShadowPowerV2EX 第 167153 号会员，加入于 2016-04-08 00:38:28 +08:00今日活跃度排名 7203 |
| 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了
1 程序员 • ShadowPower • 5 小时 16 分钟前 • 最后回复来自 clino
|
96 |
| Vision Pro 实际体验 Apple • ShadowPower • 105 天前 • 最后回复来自 ShadowPower | 53 |
| 请问这个 bug 要重启哪个进程才能解决 macOS • ShadowPower • 205 天前 • 最后回复来自 craiiz | 3 |
| 编译到 ARM 指令的复杂度比编译到 x86 更低吗？ 程序员 • ShadowPower • 233 天前 • 最后回复来自 elechi | 10 |
| Mac 平台有类似 Sandboxie 的软件吗？ Apple • ShadowPower • 234 天前 • 最后回复来自 NavilleZhang | 7 |
| 求推荐 Windows 下的图片查看器
1 Windows • ShadowPower • 350 天前 • 最后回复来自 lucacham
|
58 |
| 我发现大多数第三方 Android ROM 默认没有启用 ZRAM Android • ShadowPower • 2023-10-07 20:27:51 PM • 最后回复来自 ShadowPower | 23 |
| 什么样的用户会需要新款 Mac Pro？ Apple • ShadowPower • 2023-06-06 21:13:32 PM • 最后回复来自 Ga2en | 28 |
| 我发现高通骁龙 8Gen2 的核显都支持了光追 Android • ShadowPower • 2023-01-28 10:34:00 AM • 最后回复来自 jklove123bai | 31 |
ShadowPower 最近回复了
53 分钟前 回复了 k1eran 创建的主题 › MacBook Pro › 笔记本选购求建议，编程建模渲染 |
@k1eran 插件全都没有。国内用 AutoCAD 的话，往往还需要天正建筑之类的插件……
其实以前 Mac 在 3D 设计方面一直有劣势（硬件性能和散热问题），所以基本上没有建立起什么生态。Blender/C4D 的情况倒是稍微好一点。
其实以前 Mac 在 3D 设计方面一直有劣势（硬件性能和散热问题），所以基本上没有建立起什么生态。Blender/C4D 的情况倒是稍微好一点。
58 分钟前 回复了 k1eran 创建的主题 › MacBook Pro › 笔记本选购求建议，编程建模渲染 |
AutoCAD+SketchUp+PS+3DS MAX
有这项就没法用 MacBook ，我的这条回复就是用 MacBook 写的
有这项就没法用 MacBook ，我的这条回复就是用 MacBook 写的
19 小时 53 分钟前 回复了 ShadowPower 创建的主题 › 程序员 › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了 |
@WispZhan M3 MAX 128G 可以随便跑，估计还挺快的。M4 Ultra 还没发布呢……
20 小时 3 分钟前 回复了 ShadowPower 创建的主题 › 程序员 › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了 |
@234ygg 3.5 没有你想象中那么强，目前 7B 参数量就有 3.5 的能力。3.5 只能写一些模板代码，或者提供代码给它做一些调整，写不出有点深度的东西。
只是在那个从 0 到 1 的时期显得非常惊艳罢了。
只是在那个从 0 到 1 的时期显得非常惊艳罢了。
1 天前 回复了 ShadowPower 创建的主题 › 程序员 › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了 |
@yanyuechuixue 共享显存不行，对 LLM 性能影响极大，因为 PCIe 带宽太小了。而且 4060Ti 还是 PCIe x8 接口……
1 天前 回复了 ShadowPower 创建的主题 › 程序员 › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了 |
@Donaldo 8bit 的权重有 30.29 GB ，再加上 context 的大小，40GB 应该足够了
1 天前 回复了 ShadowPower 创建的主题 › 程序员 › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了 |
@kennylam777 我还没试过用 Continue ，改天有空的时候试试看
1 天前 回复了 ShadowPower 创建的主题 › 程序员 › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了 |
@spkingr 如果追求运行速度，最低的话，都是整机售价一万多到两万的设备……
门槛还是有点高。
门槛还是有点高。
1 天前 回复了 ShadowPower 创建的主题 › 程序员 › 体验了 Qwen2.5 Coder 32B 之后，我觉得本地 LLM 能用了 |
@HatMatrix 双 3090 或者一块 RTX8000 改散热就可以了，运行 8bit 量化版本，质量损失很小。
我觉得再过一两年可能会有价格低廉的消费级设备来跑。
很多处理器和显卡的架构设计都是两年之前就开始的，当时根本不会有本地 LLM 的需求。
没准将来的普通电脑都会有四通道内存，搭载高性能 NPU 而且针对 LLM 特别优化，同时还有配套的软件设施。
我觉得再过一两年可能会有价格低廉的消费级设备来跑。
很多处理器和显卡的架构设计都是两年之前就开始的，当时根本不会有本地 LLM 的需求。
没准将来的普通电脑都会有四通道内存，搭载高性能 NPU 而且针对 LLM 特别优化，同时还有配套的软件设施。
3 天前 回复了 dislike 创建的主题 › Apple › Mac mini M4 体验 |
Windows 的睡眠我觉得还行。我用远程桌面连接就可以唤醒 S3 电源状态的 Windows 台式机……
虽然有点 bug ，第一次连接会连不上，不过此时已经触发唤醒了。再连接一次就可以使用远程桌面了。
虽然有点 bug ，第一次连接会连不上，不过此时已经触发唤醒了。再连接一次就可以使用远程桌面了。
Select Language