Jev 与 jevlike:让模型直接计算决策
今天讲解一下最近火热的 Jev 模型,17 号过的 waitlist,测试了一下效果,下面讲解一下。 举一个电商场景例子:客服路由只需要选一个队列,工具调用只需要选一个动作,审核分流只需要决定放行还是复核。这些任务的输出空间很小,却经常走一条很长的路径:模型生成一段文字,程序解析 JSON,最后取出一个枚举值。如果最后只消费一个选择,语言生成是否仍然是合适的计算方式? ...
今天讲解一下最近火热的 Jev 模型,17 号过的 waitlist,测试了一下效果,下面讲解一下。 举一个电商场景例子:客服路由只需要选一个队列,工具调用只需要选一个动作,审核分流只需要决定放行还是复核。这些任务的输出空间很小,却经常走一条很长的路径:模型生成一段文字,程序解析 JSON,最后取出一个枚举值。如果最后只消费一个选择,语言生成是否仍然是合适的计算方式? ...