AI 资讯

跟进 AI 的项目、产品与讨论

已同步 34650 条公开资讯,来源和发布时间保留在每条记录中。

AIGOOD 已同步公开来源;每条资讯详情保留来源和原文链接。

清除
社区讨论V2EX 技术

你好 NVFP4: strata-0.1.44.1, qwen3.8-flash-next, rtx pro 5000 48GB + 64GB RAM, decode 130t/s, prefill2600 t/s

如题。 相较于只有 ISTA-DASLab 孤立跑分 的 IQ3 系列, nvfp4 有英伟达官方站台 ,所以其能力会更有说服力。 更何况 nvfp4 并不是全 4bit ,很多参数都保持了全量 bf16 。 对于 64GB ram + rtx pro 5000 48GB 而言。瓶颈主要是因为专家变大了,导致显存只能放进 13500 个专家,从而专家命中率从 99.7%降低至大概 97.x~99%。 然后就是因为内存的紧张,所以 Conversation cache 只能维系在 8GB ,4slot 。 其他的配…

社区讨论V2EX 技术

你好 NVFP4: strata-0.1.44.1, qwen3.8-flash-next, rtx pro 5000 48GB + 64GB RAM, decode 130t/s, prefill2600 t/s

如题。 相较于只有 ISTA-DASLab 孤立跑分 的 IQ3 系列, nvfp4 有英伟达官方站台 ,所以其能力会更有说服力。 更何况 nvfp4 并不是全 4bit ,很多参数都保持了全量 bf16 。 对于 64GB ram + rtx pro 5000 48GB 而言。瓶颈主要是因为专家变大了,导致显存只能放进 13500 个专家,从而专家命中率从 99.7%降低至大概 97.x~99%。 然后就是因为内存的紧张,所以 Conversation cache 只能维系在 8GB ,4slot 。 其他的配…

社区讨论V2EX 技术

你好 NVFP4: strata-0.1.44.1, qwen3.8-flash-next, rtx pro 5000 48GB + 64GB RAM, decode 130t/s, prefill2600 t/s

如题。 相较于只有 ISTA-DASLab 孤立跑分 的 IQ3 系列, nvfp4 有英伟达官方站台 ,所以其能力会更有说服力。 更何况 nvfp4 并不是全 4bit ,很多参数都保持了全量 bf16 。 对于 64GB ram + rtx pro 5000 48GB 而言。瓶颈主要是因为专家变大了,导致显存只能放进 13500 个专家,从而专家命中率从 99.7%降低至大概 97.x~99%。 然后就是因为内存的紧张,所以 Conversation cache 只能维系在 8GB ,4slot 。 其他的配…

社区讨论V2EX 技术

你好 NVFP4: strata-0.1.44.1, qwen3.8-flash-next, rtx pro 5000 48GB + 64GB RAM, decode 130t/s, prefill2600 t/s

如题。 相较于只有 ISTA-DASLab 孤立跑分 的 IQ3 系列, nvfp4 有英伟达官方站台 ,所以其能力会更有说服力。 更何况 nvfp4 并不是全 4bit ,很多参数都保持了全量 bf16 。 对于 64GB ram + rtx pro 5000 48GB 而言。瓶颈主要是因为专家变大了,导致显存只能放进 13500 个专家,从而专家命中率从 99.7%降低至大概 97.x~99%。 然后就是因为内存的紧张,所以 Conversation cache 只能维系在 8GB ,4slot 。 其他的配…

社区讨论V2EX 技术

你好 NVFP4: strata-0.1.44.1, qwen3.8-flash-next, rtx pro 5000 48GB + 64GB RAM, decode 130t/s, prefill2600 t/s

如题。 相较于只有 ISTA-DASLab 孤立跑分 的 IQ3 系列, nvfp4 有英伟达官方站台 ,所以其能力会更有说服力。 更何况 nvfp4 并不是全 4bit ,很多参数都保持了全量 bf16 。 对于 64GB ram + rtx pro 5000 48GB 而言。瓶颈主要是因为专家变大了,导致显存只能放进 13500 个专家,从而专家命中率从 99.7%降低至大概 97.x~99%。 然后就是因为内存的紧张,所以 Conversation cache 只能维系在 8GB ,4slot 。 其他的配…

社区讨论V2EX 技术

大家用 hermes 用什么消息平台啊?

之前看飞书支持全面所以用了飞书,昨天下午突然发现用不了,报 21001 错误,用不了了,后台也没有任何提示。 其实 telegram 是最佳选择,但是要开代理,手机上不太想开代理,所以很尴尬。

社区讨论V2EX 技术

大家用 hermes 用什么消息平台啊?

之前看飞书支持全面所以用了飞书,昨天下午突然发现用不了,报 21001 错误,用不了了,后台也没有任何提示。 其实 telegram 是最佳选择,但是要开代理,手机上不太想开代理,所以很尴尬。

社区讨论V2EX 技术

大家用 hermes 用什么消息平台啊?

之前看飞书支持全面所以用了飞书,昨天下午突然发现用不了,报 21001 错误,用不了了,后台也没有任何提示。 其实 telegram 是最佳选择,但是要开代理,手机上不太想开代理,所以很尴尬。

社区讨论V2EX 技术

大家用 hermes 用什么消息平台啊?

之前看飞书支持全面所以用了飞书,昨天下午突然发现用不了,报 21001 错误,用不了了,后台也没有任何提示。 其实 telegram 是最佳选择,但是要开代理,手机上不太想开代理,所以很尴尬。

社区讨论V2EX 技术

大家用 hermes 用什么消息平台啊?

之前看飞书支持全面所以用了飞书,昨天下午突然发现用不了,报 21001 错误,用不了了,后台也没有任何提示。 其实 telegram 是最佳选择,但是要开代理,手机上不太想开代理,所以很尴尬。

社区讨论V2EX 程序员

大家用 hermes 用什么消息平台啊?

之前看飞书支持全面所以用了飞书,昨天下午突然发现用不了,报 21001 错误,用不了了,后台也没有任何提示。 其实 telegram 是最佳选择,但是要开代理,手机上不太想开代理,所以很尴尬。

社区讨论V2EX 程序员

大家用 hermes 用什么消息平台啊?

之前看飞书支持全面所以用了飞书,昨天下午突然发现用不了,报 21001 错误,用不了了,后台也没有任何提示。 其实 telegram 是最佳选择,但是要开代理,手机上不太想开代理,所以很尴尬。

社区讨论V2EX 程序员

大家用 hermes 用什么消息平台啊?

之前看飞书支持全面所以用了飞书,昨天下午突然发现用不了,报 21001 错误,用不了了,后台也没有任何提示。 其实 telegram 是最佳选择,但是要开代理,手机上不太想开代理,所以很尴尬。

社区讨论V2EX 程序员

职业规划

Selected model is at capacity. Please try a different model. 最近一周 codex 一直出现这种情况,有啥解决方案,我的是 200 刀的账号