返回 AI 资讯
社区讨论LinuxDo 最新

未来类似Qwen3.8 27B这种小型模型会如何发展

现在的量化蒸馏越来越优秀,智商也不断提高,想问未来这些小模型会怎样发展,是略微提高参数量的同时提高智商,还是在保持参数量的同时优化算法? 未来会和个人显卡有什么联动,可不可以替代luna这种模型干一些基础任务,个人本地部署会成为趋势吗? 问题有点多,希望佬们可以一起探讨一下。

内容摘要

作者:#南风 板块:#搞七捻三 现在的量化蒸馏越来越优秀,智商也不断提高,想问未来这些小模型会怎样发展,是略微提高参数量的同时提高智商,还是在保持参数量的同时优化算法? 未来会和个人显卡有什么联动,可不可以替代luna这种模型干一些基础任务,个人本地部署会成为趋势吗? 问题有点多,希望佬们可以一起探讨一下。

资讯来源

LinuxDo

原文链接

打开原文