平凡往事

注册日期:2008-12-29
访问总量:5795119次

menu网络日志正文menu

沈医课堂感悟:AI浪潮下高校教育的认知断层


发表时间:+-

沈医课堂感悟:AI浪潮下高校教育的认知断层

我和沈阳医学院的老师们相识多年,回国之后就一直保持合作。他们院长还是我们专委会的常委,这次才有机会过来讲课。单纯为一点课酬,我肯定不会专程跑一趟。愿意过来,主要是想和师生面对面交流,把AI这十五年走过的路讲一讲,从跌入低谷到再度兴起,聊聊身处技术变革之中,个体如何避免被淘汰,如何寻找重生的路径,最后落点回到人性。

一堂课讲完,留下来和在座老师们交流,心里生出很强烈的割裂感。台下不少是医学院承担计算机基础课的老师,教了一辈子计算机。可聊过才知道,他们对当下生成式AI最基础的概念,基本没有建立认知。反观前段时间,我去口腔医院、耳鼻喉科讲课,那些临床大夫不是计算机科班出身,但他们对AI的兴趣、愿意动手尝试的劲头,反倒强得多。这件事,让我一直放不下,心里满是困惑。

行业里不少人判断,AI产业化的窗口期就在眼前,甚至笃定2027到2035年,大范围AI智能化落地一定能够实现。可如果高校里教计算机基础的老师,对底层原理都不甚了解,整个高等教育体系,又该如何接住这场技术变革?

顺着课堂讲授的思路,我把这一组核心概念逐一拆开,把彼此内在的逻辑梳理清楚,一并讲明白生成式大模型为什么天生存在两个短板:缺少持久记忆,容易产生幻觉。

先说生成式大模型。

很多人误以为大模型就是一座巨大的知识库,把全世界的知识都存储在里面。这其实是最大的误区。生成式大模型本质上就是一个概率预测器。训练阶段,它学习海量文本当中词语之间的统计关联;等到实际运行推理的时候,它不是去调取一条预先存好的标准答案,而是顺着已经生成出来的文字,去预判下一个出现概率最高的单元,一段一段接龙,拼出完整的文字。

模型权重记录的,只是文字和文字之间的统计规律,并不是像数据库那样,把一条条事实固化保存。这一点,和早年传统AI完全不一样。老一代符号AI、专家系统,有独立的存储器,事实写进去,读出来是什么就是什么,几乎不会编造内容。生成式大模型本身没有原生的永久存储单元,这就是所有问题的根源。

再讲Token,词元。

大模型并不直接认识汉字、词语或是完整句子。所有输入、输出的文字,都会被切分成最小的处理单元,也就是Token。一个Token可能是单个汉字,可能是半个词语,也可能只是一个标点符号。模型全部的概率计算,都是在Token这个层面完成。整套信息链路里,所有数据流转,全部以Token流的方式传递。

简单来讲,Token就是AI世界里信息最小的载体。不管是人的提问,还是外部调取回来的资料,都必须转换成Token,模型才能够处理。

接下来是上下文窗口,IMIC。

IMIC就是大模型眼前这张临时草稿纸。大模型能够实时读到的全部信息,只能放在这张草稿纸上。用户提出的问题、过往对话片段、外部检索拿到的资料、工具返回的结果,全都要转成Token,填进IMIC。窗口有固定的Token容量上限,一旦空间占满,最早写进去的内容就会被截断丢掉。

这就是大模型“没有记忆”最直接的原因。它不存在一块可以永久存放信息的内存。所有信息只留在这张临时草稿纸上,草稿写满、旧内容被冲刷掉,信息也就消失了。它只有有限的短时工作信息,没有长时记忆。

当草稿纸上现有的信息不足以回答问题,模型又必须继续生成通顺的文字,它就会按照统计规律,自动补全看起来合理的内容,这就是幻觉。幻觉不是程序漏洞,是生成式架构自带的副作用,就像药物与生俱来的不良反应。学医的人很容易理解:想要用好一项技术,先要读懂它的副作用。

只依靠大模型和上下文窗口,能力远远不够。这就引出Tool,工具。

大模型本身不会联网检索,做不了复杂数学运算,也读不了外部文档。Tool就是外部能力接口,负责执行单一类型任务,像文献检索、数据计算、读取文件都属于Tool。

当智能体判断上下文里面信息不足,就下发指令调用Tool;Tool完成任务,把结果送回来,再转为Token送入上下文窗口,大模型才能看到这份真实素材,依靠外部事实减少编造,降低幻觉发生的概率。Tool只是独立的执行单元,本身没有任务规划、自主推理的能力。

单个工具比较零散,我们把整套流程打包封装,就形成Skill,技能。

Skill是一套封装完成的标准化业务流程。里面包含提示词模板、多个Tool的调用逻辑,还有事实校验规则,明确规定什么场景调用哪一类工具,拿到结果之后如何核验,哪些情况不允许模型自由发挥。Tool好比一件件单独的器械,Skill是一套完整、规范的操作流程。

Skill的价值,就是约束大模型不受控的概率生成,加入复核环节,压低幻觉出现的概率。

把大模型、上下文窗口、外部记忆系统、Skill调度模块、安全护栏整合在一起,就构成了Agent智能体。

智能体不等于大模型。大模型只是智能体内部负责思考推理的大脑。智能体本身是一套调度管控框架。接到一项任务之后,智能体先拆解任务,判断现有信息够不够;信息不够,就去检索外部记忆,按需启用对应的Skill,Skill再调用Tool获取外部信息;拿到结果之后循环校验,信息不足就再次检索或者调用工具,反复推进,直到任务完成。

这里单独说外部记忆系统。它独立在大模型之外,一般采用向量数据库,相当于永久的档案库房。历史对话、文献资料长期保存在这里。但大模型不能直接读取向量数据。有需要的时候,由智能体检索相关档案,提取内容转成Token送入上下文窗口。外部记忆解决长期留存的问题,弥补上下文窗口容量有限的短板,但没法彻底消除幻觉,只能提供可信的参考素材。

整套智能体体系落地使用,最终的运行模式就是人机协同。

智能体擅长信息检索、文本整理、多步骤任务执行,但是幻觉没办法百分之百根除,AI不具备人的价值判断、真实场景感知和风险权衡能力。人机协同的核心,就是分工互补:AI负责信息处理、生成初稿;人负责设定目标、审核风险,做出最终决策。AI承担执行层面的工作,人守住风险底线。

各组件之间的互动逻辑,以及AGI、智能体、Skill之间的关系

讲完单个概念,更重要的是看懂它们如何联动运转。

整条信息链路的起点永远是Token。所有信息流转,全部以Token作为载体。外部记忆检索出来的材料、Tool返回的数据、Skill里面预设的规则,都必须翻译成Token,送入IMIC。IMIC是整套系统唯一的信息交汇舞台。没有放进IMIC里的内容,大模型看不见。不管外部记忆库存了多少档案,只要检索结果没有转成Token送入IMIC,这个大脑就感知不到。这是最底层的一条规则。

智能体作为总调度,它的工作是一个完整闭环:接收任务 → 检索外部记忆,调取相关历史资料 → 把资料转为Token送入IMIC → 大模型依靠IMIC内全部信息判断任务难度,规划执行步骤 → 判断是否启用Skill;如果需要,由Skill按需调用Tool → Tool执行完毕,返回结果,结果再次转为Token送入IMIC → 大模型继续推理,校验结果;信息不足就再次发起检索或者调用工具,循环往复,直到任务完成。

我用医院体系来类比AGI、智能体、Skill之间的关系,医学院的老师们一听就能明白。

AGI,通用人工智能,就相当于医院里的全科医生。全科医生知识面广,能够接诊各类问题,初步评估病情,判断患者需要转诊到哪个专科。但全科医生并不精通每一类复杂专科手术与专项诊疗,遇到棘手的病症,要交给专科处理。

Skill,就是一个个专科医生。心内科、骨科、耳鼻喉、口腔,每一个专科只精通一类固定业务,有标准化诊疗流程、专用器械,专门解决特定问题。

Agent智能体,则相当于医院整体的诊疗管理体系。这套体系负责分诊、调度,接收患者诉求,判断什么时候调用全科能力(大模型)做初步判断,什么时候转交给专科Skill去处理。

IMIC在这套体系里,相当于接诊医生眼前的病历页。档案室(外部记忆系统)资料再多,专科大夫(Skill)检查得到的结果再关键,都必须摘抄到这张病历纸上,接诊的全科医生(大模型)才能读到。病历纸篇幅有限,写满了,前面记录的内容就要舍弃,这就是IMIC的局限。

放到我们的智能体架构里看:AGI是能力愿景,是那个全科式的通用推理能力;Skill是专项能力包,用来处理特定场景,弥补通用能力在专业领域的不足;Agent智能体是调度框架,负责把通用能力和各项专项Skill组织起来,配合外部记忆、工具协同完成复杂任务。

技术本身终究只是工具。无论智能体架构怎么完善,都替代不了人的判断。技术浪潮来来去去,到最后,所有技术的落脚点,终究还是看见人性。




浏览(85)
thumb_up(0)
评论(0)
  • 当前共有0条评论