Jev 是初创公司 TypeSafe AI(typesafe.ai)开发的,创始人是前 OpenAI 研究员 Diego Almeida。
这个模型的定位非常清晰,不生成文本输出,而是纯粹的判断输出,即「是/否」或者「带概率和置信度的类型化判断」。典型使用场景就是选择题、数值评分和是非题。
然而,不要嗨,没什么可嗨的。
Jev 的特点是没有常见的 LLM 幻觉和响应效率,并不是不会出错,判断准确性依然和训练数据以及输入有关,并不是一个万金油。
短时间内实际场景中最吃得开的,还是开发领域。比如说有一个网页,源码非常多,要判断里面有没有广告或者弹窗,扔给 LLM 模型,Token 消耗非常大,推理需要时间。
扔给 Jev 就很快,在这里 Jev 就是前置判断,用于高效的决策分流场景。
而不是去演示小明考了 60 分,父母会不会生气这种悬浮场景的讲解。拿着锤子看什么都是钉子,看的人不仅理解不到模型的真实使用场景,反倒会被误导以为用这个模型就能解决所有选择题了。
然后,这个模型目前并非开源模型,无法本地部署的情况下,效率上会进一步打折。
这类模型对于各个大厂来说要实现会很快,就算不自己实现也可以直接收购,用于自身产品内部。
这也是我说没必要嗨的原因,越往后这只是基建中的基建,并不是一个能带动 AI 往前跨越的东西。
