让任何本地模型变成Jev?我制作了这个工具集
合集 · 【开发日志】 (2)
Description
本地小模型,也能像 Jev 一样,读完问题就直接给出判断吗? 介绍下我做的开源工具 S1Kit,让你带上自己的模型也可以变成Jev。 相较于Typesafe的官方实现,S1Kit支持了任意llm模型在Jev模式下推理,对于多模态基座,更可以使用图片、音频等基座模型支持的模态作为条件或问题。 后续也会优化工具,并提供强化学习微调、温度校准等工具。 针对优化过的Qwen3.5-4B/2B模型也正在微调,过两天可能会分享出来,方便大家一键部署。 欢迎体验、建议,觉得有用也请给视频一个三连,给仓库点个 Star! 项目仓库:https://github.com/ZakeArias-A/S1Kit 参考开源实现:https://github.com/TheoLeeCJ/SemIf 参考文章:Archer Hume · Jev’s Architecture Unmasked