节目片头
大家好,欢迎来到 Next Token|词元之外。Next Token|词元之外是一档关注 AI 技术、产品与现实影响的视频播客,同时提供音频版。旗舰栏目 Next Token Weekly,由杨攀、歸藏、橘子和向阳乔木每周圆桌对谈,分享观察、实践与不同判断。不只预测下一个词元。¶00:48B 站00:10YouTube
四位主理人开场
Jev:不聊天,做结构化判断
我们这就开始我们的这周的 Next Token,首先我们看一下,还是按照我们之前的来跟着上周的新闻聊,聊到哪儿算哪。第一个是我觉得上周最火的新新模型,也就是 TypeSafe AI 的 Jev 模型。它跟现在的大语言模型不太一样,它的优势比较明显,你可以当它一个通用的分类器,然后它能它输出的不是我们现在大语言模型输出的。聊天或者是一段一段的话,它只输出一些类似于程序上的一些结果,比如说他,你让他选几个东西,他给你一个选择,你让他打一个分,他给你一个对应的分数,他给你一个是非的判断错。所以说它的速度就非常快,同时可以并行去处理,成本也非常低。他们现在官方是输入价格是 $0.042/MTok,输出免费,成本完成一些批量的任务,成本就低的很多。大家都看过,用没用,反正不知道,反正大家都应该看过!你们有什么想法吗?¶01:38B 站01:41YouTube
微信好友标签与高频判断
我这有个案例,我不是之前把自己的微信相关的资料导出来了嘛,然后我这里边有 1 万个好友,我之前做功能,让他读我跟我好友的聊天记录,看我们共同的群,然后给这些人打标签,我自己有 20 多个标签,都是比如说,这是 CTO,这是创始人,这是做什么什么的,我之前试过用我本地的 27B 或者 35B 的小模型来干这个事情,第一个就是干的特别慢,第二个其实也挺不准的,我现在试的就是让他帮我去做打标签的工作。然后我给他提了方案,我说你你做完之后给我个枚举什么的,他说不要这么做,他这我用 GPT-6 来做,GPT-6 说你这样,你把你的每一个标签让他算一遍。然后算这个标签是 yes or no 它不是三种模式,一个是 yes no,¶03:44B 站03:47YouTube
选择题。¶
一个,是枚举,一个概率,然后他说让我去做,把每个标签,让返回一个 yes no,因为标签是个多选嘛,它你要是直接让它多选,它是做不到,这是一个场景,还有一个场景,我之前不是好友加满了,一直有个功能,让大模型建议我删谁,我觉得又是一个海量的数据的问题,就这个 Jev 其实特别适合,海量高频的场景。因为之前昨天有人说一些场景,我觉得,他们说中间能省 Token,但在很多场景,现在大家使的案例都是说。比如说我有 1% 的地方,我再优化个 90%,你只获得了 0.9% 的优化。如果你把不用到一个海量高频的地方,进的收益不够高,然后我就是让他把我的 1 万个好友都跑一遍,然后给他一些规则,然后让他告诉我。建议删除谁,返回也是个概率,另外还有一个就是让他把我每天的那个,聊天沟通的内容都扫一遍,我一天大概可能跟几十、一百个人聊过天,然后把这里边的。谁跟我聊天完了以后有,比如有 TODO 有 highlight,然后让他帮我返回过来滤出来,我这个现在还在跑,跑一部分出来了,我目前看的速度和结果还行,回头我会跟另外一个小尺寸模型再做个对比,回头可以出数据。¶04:43B 站04:46YouTube
我说一下。¶
对。¶
语义搜索与数据库查询
“没有幻觉”不等于判断正确
对,他这里边就是宣传过程中有一个点,他说这个没有幻觉,他里边有点偷换概念,他是说我们,我们正常用小模型来去做,比如你让它输出个强类型的结果,输出一个 JSON 的话,它是有可能输出错误格式的,那个程序本身你做 Harness 的时候需要去做保护,比如让它重试什么的,它目前是说我,我确定返回的结果肯定是不用重试的,中间准确率对错,还不好说,现在不也有很多人在去做 Benchmark 去对比嘛,对,我觉得还有看到一点。社区上好多人说,你没什么的,我们能复现,反正我看到目前社区里边复现出来的好像,没有比更好的,无论是质量,速度方面,原来说能复现的好像就最后都被别人给戳穿了。但是另外一方面,我觉得就是可能开源复刻也很快吧。¶08:44B 站08:47YouTube
比如说。¶
对。¶
会开源吗?¶
对,¶
对,¶
然后。¶
还得调工具!¶
这是他们自己写的,¶
对。¶
对。¶
对。同意!¶
对。¶
对。¶
对。¶
好快,网站,¶
对,¶
看见了 Jevable.com!¶15:32B 站15:35YouTube
太赞了。¶
战旗。¶
对,¶
这太合适了。¶
他都必须给你个答案。¶
Okay。¶
对,所以。¶
橘子推荐的网站叫 Jevable.com,对吧?Jevable.com。¶17:00B 站17:03YouTube
用模型过滤隐性广告
把新模型接入现有 Agent
多模态:音视频为什么要一起理解
量化与本地小模型
所以 Gemini 到现在一直是大家很需要的,在这个领域几乎是没有办法打败的模型。第二个是,一家公司微调了一下 Qwen 27B,做了一个三值量化,体积比全精度的 Qwen 27B 小了 9 倍,只有 5.6 GB。他说保留了 98.2% 的综合性能,尤其在多模态和长程任务调用上比之前还强,可以在单张 5090 上本地运行。这个还是挺重要的,因为 5090 的问题就是显存太低,之前 27B 根本没办法塞进去。你要是多张的话,那就扯淡嘛。单张 5090,而且 5090 的性能在这部分推理上,我觉得有时候比苹果的 MLX 优化要强。本地任务挺需要的,那这样的 32 GB Mac Studio 其实也能跑。¶27:48B 站27:51YouTube
更高的。¶
对,它主要因为内存小一个,¶
谢谢你。¶
对!¶
也是首创的?¶
SVG、图标与设计工作流
Arrow 2,一个画 SVG 的模型,非常强。可以找一下它的演示,画鹈鹕骑自行车,比现在所有模型画得强 1 万倍,细节巨多。你就看着它一笔一笔把羽毛勾勒得很细,自行车的轮子也非常夸张。这部分我觉得一直有很多模型没搞好。画图标,就是画我们正常界面上的这些 SVG 图标,其实 GPT-6 或者其他模型都画不太好。画图标对设计师来说也是一件非常痛苦的事儿,你要在 Figma 里画一个非常小的方格,几十像素乘几十像素,然后拿着钢笔画贝塞尔曲线,或者用一些基础形状进行切割和布尔运算。熟练工会画得很快,但擅长画图标的人非常少,很难搞,可能 20 个图标要画一天。¶31:39B 站31:42YouTube
对。¶
是可以。¶
对。¶
对。¶
对,¶
有就更确实。¶
对,这很爽!¶
还有它是矢量的,¶
对。¶
没事。¶
还有大屏幕展示。¶
OS 可以配上?¶
我觉得。¶
用 GPT-6 Astra 造数据、训练小模型
实时语音与 Computer Use
具身智能与零样本任务
Vibe Coding 把硬盘用满之后
也是不够!¶
我主要,你说。¶
塞满了对。¶
今天。¶
也有局域网?¶
内网,乱找。¶
对说。¶
所以,¶
记得哈。¶
1T¶
对。¶
确实。¶
我觉得核心。¶
因为不是,¶
对这。¶
对。¶
对很。¶
都不够。不好,擅长。¶
因为我觉得这块以后可能也是大收入。你想,我们进入数字时代二三十年,前 10 年、20 年产生了多少需要存档的数字成果和作品?可能每隔几年,我们需要存档的容量就翻 10 倍。今年一年我们几位产生的数字内容,可能就是过去几年的总和。以后肯定还有存储需求。在家里买 NAS 也很贵,硬盘可能会坏,还得做备份。要备份就得买两块盘,价格相当于 double 了。所以刚才说的,如果能有一个地方帮我做一份便宜的云存储,比如一年付几十块钱存几个 TB,我觉得愿意。现在我的苹果订阅是 2 TB 套餐,全家 2 TB 一个月 68 块钱,已经快满了。下一个版本我可能一个月就要花 200 多,去买额外几 TB 了。¶55:13B 站55:16YouTube
对。¶
对。¶
用代码做宣传片和配乐
语音输入产品与实时反馈
代码?¶
对。¶
它不是输入法嘛,它是个软件嘛对就 Chatterfly。¶1:10:01B 站1:10:04YouTube
对。¶
不是 Chatterfly 吗?¶1:10:03B 站1:10:06YouTube
我现在主要用。¶
对,¶
它应该也有吧。¶
腾讯新出的 Chatterfly 可以往里加一个 Skill。你说完一段语音,它可以用特定 Skill 处理,我觉得算是个创新吧。¶1:11:43B 站1:11:46YouTube
早早就有。¶
虽然说很早就做了,¶
但是某种角度,¶
但是做复杂了,¶
其实,¶
对。¶
对。¶
核心问题是,它的 Skill 本质上还是提示词。你也不能操作电脑,不能执行工具。作为一个语音输入法,它也执行不了工具,本身还是提示词。提示词润色东西,大家怎么说?懂的都懂!是 Claude Code 终于支持了这个 AGENTS.md 我之前一直维护很多套,¶1:12:17B 站1:12:20YouTube
对,就他 OpenRouter 调用量不是第一次输给 OpenAI 吗?¶1:13:16B 站1:13:19YouTube
多多了,¶
多多了。¶
对。¶
好多都是直接。¶
你现在把。¶
对,¶
太狠了。¶
对!¶
对。¶
比如说 ego (lite) 或者是 Tabbit 类似,¶1:15:33B 站1:15:36YouTube
干没了。¶
对。¶
宽点儿对。¶
对。¶
太恶心了。¶
被人骂死了?¶
但逻辑不对。¶
左边会话列表中间聊天,¶
体验太差了!¶
也很差。很难用。¶
我提前准备着的吧!¶
对。¶
别的。你别着急,¶
对,¶
对,搞不明白。¶
你用了时间不?¶
他没做好。¶
对,¶
反正我用了一段时间了,¶
他没有做标签。¶
对。¶
我不是?¶
他不是问题。¶
对。¶
对。¶
Codex 多账号与工作空间
常驻 Agent 与多平台内容分发
Coding 与 Office:两种工作模式
下一个是 Grok Bot 支持的语音就是语音对话能力,我觉得对于低成本 Agent 来说,低使用成本 Agent 来说还挺重要的。下一个是 Claude Code,就刚才说了,Claude Code 推出了 Projects 测试版,一次对话的话,它自动把工作,就它就没有对话的聊天的。一个聊天的概念,只有项目的概念就是你一启动一个项目以后你所有的聊天都会在一起,然后你不用自己切聊天,它会自己拆线程,然后去在云端运行,然后在不同的对话之间传递上下文。你离开电脑,它也能在云端继续跑,感觉他们在朝着 Grok Bot 走。¶1:27:20B 站1:27:23YouTube
对。对。¶
对你,¶
他每次都。¶
你要么就原生在云端,¶
拆一个。¶
没办法。¶
对,¶
是不知道为啥?¶
对。¶
云端处理。¶
没必要分,¶
对,¶
我觉得没必要分。¶
对话会话,¶
对。对,对话!¶
对。¶
云端 Mac 与 Agent 执行环境
企业数据与日志边界
AI 剧与内容生产
AI 参与研发与人的监督
最后一个是前沿 AI 实验室发布了一个 AI 发展速度指标,反正指标有三个。第一个是 AI 参与自身研发的程度,我们一直说 ASI 自动化趋势指数。它把公司内的研发按人类工作分类,评估自动化水平。2026 年 8 月,它说 Claude 尚未在任何环节完成自主运动,但是在 26% 的研发工作中扮演主导角色,处于 AI 协作级以上的水平超过九成。第二项是衡量对 AI 智能体的监督能力,就是他们安全那套东西。第三个衡量算力如何分配,尤其是 AI 研究投入的算力比例。他们说投入了 6% 的算力,约 12% 的 AI 研发驱动算力应用于安全工作。感觉他们除了第一个以外,¶1:38:14B 站1:38:17YouTube
我们不聊了。¶
去在线录制?¶
线上录制。¶
在线录制,好。¶
对。¶
那就再见吧!¶
你不等 60 秒吗?¶
你好。¶
大家拜拜。¶
那下期见,拜拜!¶
拜拜。¶
拜拜。¶
下次见!¶