年关快要，寰球 AI 年夜模子却忽然卷了起来。就在本周，Kimi 的新模子翻开了强化进修 Scaling 新范式，DeepSeek R1 用开源的方法「交班了 OpenAI」，谷歌则把 Gemini 2.0 Flash Thinking 的高低文长度延长到了 1M。各种迹象标明，进入推理加强赛道的列位玩家正试图在近来一两个月卷出个高低。1 月 24 日上午，百川智能重磅宣布了海内首个全场景深度思考模子，把这一轮武备比赛推向了热潮。Baichuan-M1-preview 同时具有言语推理、视觉推理跟搜寻推理三个维度的片面推理才能，各项才能在多个范畴的主流开源、闭源评测集上表示出众。在 AIME 跟 Math 等数学基准测试以及 LiveCodeBench 代码义务上，Baichuan-M1-preview 的成就超出了 o1-preview 等模子。在视觉推理才能方面的 MMMU-val、MathVista 等威望评测中，Baichuan-M1-preview 超出了 GPT-4o、Claude3.5 Sonnet、QVQ-72B-Preview 等模子。现在，百川曾经将 Baichuan-M1-preview 在百小应 App 中上线。一夜之间，百小应就具有了深度思考形式。百川也展现了新模子在大批义务上的现实利用后果。在学术研讨、软件开辟、医疗安康方面，Baichuan-M1-preview 的思考才能都展示出奇特上风：在数学推理跟跨学科常识处置方面表示出色，可能处理庞杂实践成绩。深刻懂得代码构造，供给精准的优化倡议跟调试计划，明显晋升开辟效力。别的，医疗才能是 Baichuan-M1-preview 另一年夜亮点，它能像资深医疗专家一样停止深度思考，构建谨严的医学推理进程，搜寻到医疗信息之后会对差别威望品级的证据停止专业剖析与整合，并保障信息的正确性。经由过程谨严的病程推理，帮助大夫停止诊断决议，为患者供给片面的剖析跟特性化倡议。深度思考年夜模子卷到了医疗范畴从落地后果看，百川智能的 M1 年夜模子能够说既有通用才能，又领有专精的长板。它解锁了「医疗循证形式」。也就是说，当用户应用 Baichuan-M1-preview 答复庞杂医学识题时，模子能像「循证医学」（Evidence-based medicine）一样，用专业牢靠的医疗常识作为推理根据，经由过程「摆现实、讲情理」的循证方法供给言之有物、有理有据的解答。为此，百川智能自建了涵盖亿级条目标循证医学常识库，席卷了海内外海量医学论文、威望指南、专家共鸣、疾病与症状剖析、药品阐明等专业医疗内容，且以天为单元停止静态更新，实时收录医疗范畴的新冲破、新停顿。固然领有了数据量宏大的医疗常识库，然而医学常识多样性强、因果关联庞杂，尤其叠加了互联网上搜寻到的信息后，咱们依然可能会碰到局部医学数据、医学实践纷歧致的情形。面临这个要害成绩，医疗循证形式还能应用医学常识跟证据评价尺度，对质据停止多层分级，并对差别威望品级的证据停止专业剖析与整合，辨认各种威望信息的起源跟可托度，从而防止因信息混淆招致的误判，构成片面、连接的医学论断。如许一套操纵上去，年夜年夜晋升了年夜模子停止医疗推理的牢靠性。对医疗范畴的专业人士来说，Baichuan-M1-preview 的医疗循证形式起首在临床场景中为他们供给了疾速获取跨学科、跨病种庞杂临床成绩最新科研结果或威望指南的方法，可能帮助疑问病症的诊断跟医治供给，晋升临床决议效力。其次在医学科研场景中，可能辅助专业人士敏捷检索最前沿、最相干、最威望的研讨结果，高效构建完全的范畴常识系统，年夜幅晋升科研摸索的效力跟品质。对患者来说，他们能够基于医疗循证形式查问经由过程威望指南跟迷信研讨推理总结的论断，获取第二诊疗看法、晋升与大夫的相同品质，以及清楚、普遍的科普支撑。这一形式不仅是晋升了模子医疗成果的可托度，也为年夜模子在医疗等高度专业范畴的落地利用指明白偏向。14B 版本直接开源全链路优化进程曝光对 Baichuan-M1-preview 的小尺寸版模子 Baichuan-M1-14B，百川智能抉择了直接开源。作为行业首个医疗加强开源模子，Baichuan-M1-14B 表示优良。在 cmexam、clinicalbench_hos、clinicalbench_hos、erke 等威望医学常识跟临床才能评测上，它的成就超出了更年夜参数目的 Qwen2.5-72B-Instruct，与 o1-mini 也相差无多少。Baichuan-M1 系列擅长经由过程深度思考来处理庞杂推理成绩，而且尤其善于庞杂医疗成绩的推理。那么，它是怎样做到的？咱们能够从 Baichuan-M1-14B 颁布的技巧细节中做一些剖析。为了无效晋升医疗才能，Baichuan-M1 -14B 从数据到练习再到对齐方式，利用了一系列翻新思绪。在数据网络方面，百川智能投入了大批时光，针对差别场景做了十分过细的数据网络，笼罩公然跟非公然的数据。从中 / 英文专业医疗论文、院内实在医疗病例、课本跟册本，再到海量词条、常识库等形成的常识图谱，统共收拾了万亿级 token 的严正医疗数据。在此基本上，百川还对全网数据停止了片面的分类跟评价，在预练习进程中履行严厉的数据挑选战略以确保各科室的数据散布平衡，保障模子可能学到准确且有医疗代价的丰盛信息。同时停止的一项主要任务是数据分解，百川针对常识图谱、病例、课本、指南、常识库、专家共鸣、问诊记载、学术论文等涵盖实在且稀释的医疗常识跟决议教训的高品质数据，对每品种型数据计划了针对性的数据分解计划。借助业界进步模子，百川天生了超千亿 token 高品质医疗推理数据、数据情势丰盛，包括了医疗庞杂决议推理链条、决议根据以及问答平等多种情势。这些分解数据不只具有多样化的常识浮现情势，而且包括了大批与人类大夫实在决议分歧的模仿头脑进程，明显晋升了年夜模子的医疗推理才能。别的在通用性偏向上，百川智能构建了范围为 20T 的多言语数据集。此中包含 14T 英文数据、4T 中文数据，以及 2T 笼罩寰球前 30 年夜主流言语的多言语数据。迈过数据门槛，离开模子的练习阶段。百川智能应用行业开创的多阶段范畴晋升计划，将全部练习分红了通识晋升、医疗基本常识晋升、医疗进阶常识晋升三阶段。详细来说，三个阶段分辨是：通识才能晋升。停止基本言语模子建模，晋升模子的基本言语才能、知识等才能；医疗基本常识晋升。一直晋升模子高阶才能、如推理，数学等，并明显晋升医疗数据的比例；医疗进阶常识晋升。进一步晋升数据品质跟难度，对更高阶的医疗才能、如推理、逻辑、疑问杂症等停止进一步优化。在这之后是给模子定三不雅的对齐阶段（Model Alignment）。在针对年夜模子的强化进修进程中，数据的品质与多样性是模子机能晋升的要害。为此，百川从多个范畴经心网络并收拾了偏序对（preference pairs）数据，这些数据笼罩了普遍的利用场景，旨在晋升模子的片面才能。偏序对数据共约 100 万条，涵盖了多轮对话、指令追随、数学与代码、推理义务等。为了进一步晋升模子的天生品质、逻辑推理才能跟用户偏好贴合度，百川计划了一套体系化的强化进修练习流程，在监视微调（Supervised Finetuning）的基本上分三步停止优化：起首是用 ELO（Exploratory Log-likelihood Optimization）停止头脑链摸索。与传统强化进修方式差别，ELO 摒弃了对嘉奖模子的依附，直接优化天生门路逻辑，防止了可能引入偏向的成绩。ELO 在加强天生逻辑性跟坚持内容多样性的同时，确保了头脑链天生进程的稳固性与高效性，为后续练习阶段供给了优质的初始化模子。随后基于偏序对数据应用 TDPO（Token-level Direct Preference Optimization）方式对模子停止优化。实践剖析标明，在 DPO 的优化框架中，KL 散度项用于束缚天生模子与参考模子（Reference Model）之间的散布差别。但是，因为 KL 散度的束缚效应跟着句子长度变更不平衡，其对短句的束缚较强，而对长句的束缚则明显削弱。这种不平衡可能招致天生模子在长句天生进程中偏离参考模子，影响天生成果的逻辑性与品质。TDPO 能够做到盘算效力与机能兼备，在 ELO 练习的基本上，模子停止了一轮的 TDPO 练习，可能确保精准贴适用户偏好，同时统筹是非句子的天生品质。在终极阶段，百川 M1 采取了 PPO（Proximal Policy Optimization）方式进一步优化模子的天生战略。PPO 充足应用了 ELO 跟 TDPO 阶段的优化结果，将模子的天生战略从部分的 Token 级别优化扩大至全局的战略调剂，确保模子可能在多种义务中天生合乎用户需要的高品质文本。在一系列独占特征跟高品质数据的加持下，Baichuan-M1-14B 以一个十分小的尺寸在通能才能尤其是医疗才能上实现了极佳的后果。Baichuan-M1-14B 开源链接：Github: https://github.com/baichuan-inc/Baichuan-M1-14BHuggingface(base): https://huggingface.co/baichuan-inc/Baichuan-M1-14B-BaseHuggingface(Instruct): https://huggingface.co/baichuan-inc/Baichuan-M1-14B-InstructNPU版本支撑BF16推理：https://modelers.cn/models/MindIE/Baichuan-M1-14B-Base难而准确的事在 GPT-4 推出之后，年夜模子技巧开展一度面对着数据跟并行化的瓶颈，人们始终在摸索预练习 Scaling Law 以外的智能扩大方法。直到客岁 9 月，OpenAI 宣布主打「庞杂推理」的 o1 年夜模子，指出了增强推理的行进偏向。在 o1 呈现后，咱们只要要一个通用模子就能处理比此前迷信、代码跟数学特化模子能做的更难的成绩。强推理年夜模子给全部人带来了一次 GPT 式震动，它从方式上证实了言语模子能够经由过程强化进修重现昔时 AlphaGo 的胜利 —— 给越多算力，就输出越多智能，始终到超出人类程度。从道理性的角度来剖析，o1 的上线象征着 AI 才能的一个分水岭 —— 年夜模子今后在答复良多庞杂成绩之前会停止细心的思考，就像人类年夜脑的体系 1 跟体系 2。假如说 AI 曾经从仅应用体系 1（疾速、主动、直不雅、易犯错）退化到了可应用体系 2（迟缓、沉思熟虑、无意识、牢靠）开展头脑跟剖析的话，它们就可能处理良多此前无奈处理的成绩。但从另一个角度看，年夜模子接入「慢体系」也象征着愈加庞杂的练习进程、高耽误与高推理本钱。信心投入更高量级的研讨资本之后，范畴内盼望到达的目的是，推理 Scaling Law 能敏捷攻破年夜模子处理成绩才能的现有天花板。在 o1 推出之后，海内外顶尖 AI 公司纷纭跟进，百川智能天然是此中之一。但与行业中其余纯真寻求通用推理才能的公司差别，它抉择了医疗这个奇特的切入角度。正如王小川所言，AI 医疗对年夜模子技巧的需要多少乎不下限，其对常识、推理、多模态、感情感知、相同共情等多少乎全体才能都提出了极高的请求。从某种意思下去说，AI 医疗完整能够同等于 AGI。用年夜模子构建「AI 大夫」，这注定是一条难走的路。越是难做的事件，越须要有人去实现，做难而准确的事，才干真正地推进 AI 技巧的提高。