全模态模型是什么
这两年发布会听得最多的词就是"全模态",什么 GPT-4o、Gemini、Qwen-Omni 全是这一挂的。一句话说清楚:文本、图片、音频、视频都能进,还都能出的模型,就叫全模态(Omni)。
和它容易搞混的是"多模态"。很多模型说自己多模态,其实只是能看图,你发张照片它能聊两句,但它听不了语音,更看不了视频。全模态是更进一步:你说话它能听,你开摄像头它能看,它回答你的时候还能开口说。
它和普通聊天模型差在哪
打个比方。普通文本模型像个笔友,只能写信交流;多模态模型像个能看照片的笔友;全模态模型就是个坐在你对面的真人,你说什么它听到什么,你给它看什么它看到什么,还能即时回你话。
技术上最大的区别是实时性。全模态模型普遍能做到低延迟的语音对话,你打断它,它能停下听你说,像打电话,不像发邮件。
普通人什么时候用得上
几个真实的场景,都不是炫技:
1. 开会录音转纪要。录音丢进去,说话人分开,要点直接列好。
2. 看图问事。体检报告看不懂、说明书找不到重点、猫生病了拍张照问一句,都比纯文字描述省事。
3. 长视频提炼。两小时的教程视频,让它按问题取关键片段,给你一份带截图的笔记。
4. 语音助手。开车或者手上忙着的时候,动口不动手。
什么时候别用它
全模态模型贵,这个死穴绕不过去。纯文字任务让它干,等于开着卡车买酱油。写文章、改代码、翻译文档这些,普通文本模型又快又便宜。
一个简单的判断:任务里有声音或画面,才考虑全模态。之前写过一篇 Token 和上下文窗口的入门,里面算过账单,多模态输入的 token 消耗和纯文字完全不是一个量级,用之前值得看看那篇。
怎么试
门槛很低:通义、豆包、ChatGPT 这几家的手机 APP,语音对话按钮按下去,你就是在使用全模态能力了。想深一点的,等它支持图片、视频输入后,把报告、视频直接丢进去问。
9 月 18 日阿里刚发的 Qwen3.8-Omni-Flash 把音频输入价格降了一个数量级,全模态从"演示玩具"往"日常工具"走,接下来这个赛道的价格战值得盯着。