开源模型每周都在刷榜。对中小团队,先问三件事:许可证能不能商用、推理能不能在现有机器上跑、文档有没有人维护。
通用对话模型适合做客服草稿和站内检索。垂直项目更适合分类、摘要、审核辅助。一上来就上多模态,成本和机器会把演示做死。
本地部署注意显存和并发。演示给领导看的单次生成,和给用户看的高峰排队,是两种容量规划。
贡献代码前先读安全说明。把密钥、用户私信、未审核帖子送进第三方接口,是最常见的事故。
本站后续只会把经过人工复核的摘要接到后台,不会让模型直接改前台正文。

开源模型每周都在刷榜。对中小团队,先问三件事:许可证能不能商用、推理能不能在现有机器上跑、文档有没有人维护。
通用对话模型适合做客服草稿和站内检索。垂直项目更适合分类、摘要、审核辅助。一上来就上多模态,成本和机器会把演示做死。
本地部署注意显存和并发。演示给领导看的单次生成,和给用户看的高峰排队,是两种容量规划。
贡献代码前先读安全说明。把密钥、用户私信、未审核帖子送进第三方接口,是最常见的事故。
本站后续只会把经过人工复核的摘要接到后台,不会让模型直接改前台正文。