让任何本地模型变成Jev?我制作了这个工具集

合集 · 【开发日志】 (2)

  1. 1:21
    开发日志-某种为Quest V81系统准备的申必玩意
  2. 3:51
    让任何本地模型变成Jev?我制作了这个工具集
Description
本地小模型,也能像 Jev 一样,读完问题就直接给出判断吗?
介绍下我做的开源工具 S1Kit,让你带上自己的模型也可以变成Jev。
相较于Typesafe的官方实现,S1Kit支持了任意llm模型在Jev模式下推理,对于多模态基座,更可以使用图片、音频等基座模型支持的模态作为条件或问题。

后续也会优化工具,并提供强化学习微调、温度校准等工具。
针对优化过的Qwen3.5-4B/2B模型也正在微调,过两天可能会分享出来,方便大家一键部署。
欢迎体验、建议,觉得有用也请给视频一个三连,给仓库点个 Star!

项目仓库:https://github.com/ZakeArias-A/S1Kit
参考开源实现:https://github.com/TheoLeeCJ/SemIf
参考文章:Archer Hume · Jev’s Architecture Unmasked