AI 大模型在各行业的应用
一、医疗领域大模型
1. DoctorGLM
基于 ChatGLM-6B 的卓越中文问诊模型,融合了海量中文医疗对话数据集进行精准微调,采用 LoRA、P-tuningv2 等前沿技术实现高效部署。
2. BenTsao (本草)
该项目集大成者,开源了多款经过中文医学指令微调的大语言模型,涵盖 LLaMA、Alpaca-Chinese、Bloom 等。皆以医学知识图谱和医学文献为基础,结合 ChatGPT API 精心打造,实现了中文医学指令微调数据集的精准训练,极大提升了医疗领域问答的准确性与实用性。
3. Med-ChatGLM
该项目同样基于中文医学指令微调,对 ChatGLM-6B 模型进行了深度优化,微调数据与 BenTsao 项目一脉相承,确保了模型在医疗领域的卓越表现。
4. BianQue (扁鹊)
该项目开创性地推出了生活空间健康大模型,深度整合了当前开源的中文医疗问答数据集,结合自建的生活空间健康对话大数据,构建了千万级别的扁鹊健康大数据 BianQueCorpus,基于此精心打造了以 ChatGLM-6B 为初始化的 BianQue 模型,全面提升了模型在医疗与健康领域的应用价值。
5. HuatuoGPT (华佗)
该项目鼎力推出医疗大模型 HuatuoGPT,其中包括了基于 Baichuan-7B 训练的 HuatuoGPT-7B 与基于 Ziya-LLaMA-13B-Pretrain-v1 的 HuatuoGPT-13B,旨在提供全方位、高标准的医疗智能服务。
6. QiZhenGPT
该项目通过启真医学知识库的精妙运用,构建了独具匠心的中文医学指令数据集,进一步在 Chinese-LLaMA-Plus-7B、CaMA-13B、ChatGLM-6B 等尖端模型上精心调整指令,显著提升了模型在中文医疗环境中的实用效果。
7. ChatMed
该项目创新性地发布了中文医疗大模型 ChatMed-Consult,以 ChatMed_Consult_Dataset 中超过 50 万的中文医疗在线问诊数据及 ChatGPT 的精准回复作为训练基石,基于 LlaMA-7b 并通过 LoRA 技术进行了细致微调。
8. ShenNong-TCM-LLM(神农)
该项目推出了中文中医药领域的杰出模型 ShenNong-TCM-LLM,以中医药知识图谱为基础,运用实体为核心的自指令方法,通过 ChatGPT 生成了丰富的 2.6 万 + 中医药指令数据集 ChatMed_TCM_Dataset,再基于 LlaMA 底座,借助 LoRA 技术进行了精准微调。
9. XrayGLM
该项目开创了中文多模态医学数据集与模型的先河,尤其在医学影像诊断与多轮交互对话中展现出卓越的潜能。
10. MedicalGPT
该项目隆重推出了医疗大模型 MedicalGPT,集成了增量预训练、有监督微调、RLHF(奖励建模、强化学习训练)和 DPO(直接偏好优化)等前沿技术。
11. Sunsimiao(孙思邈)
该项目推出了中文医疗大模型 Sunsimiao,该模型以 baichuan-7B 和 ChatGLM-6B 为坚实底座,在数十万条高质量的中文医疗数据中进行了精心微调。
12. CareLlama(关怀羊驼)
该项目推出了医疗大模型 CareLlama,并汇集了数十个公开可用的医疗微调数据集和开放可用的医疗大语言模型,旨在为医疗 LLM 的快速发展注入强劲动力。
13. DISC-MedLLM
该项目由复旦大学发布,针对医疗健康对话式场景精心设计了医疗领域大模型与数据集。模型通过 DISC-Med-SFT 数据集在 Baichuan-13B-Base 基础上进行指令微调,有效匹配了医疗场景下的人类偏好,缩小了通用语言模型输出与真实世界医疗对话之间的差距。
14. PMC-LLaMA
本项目公开了前沿的医疗大模型 PMC-LLaMA,其中包含 MedLLaMA_13B 预训练版本与 PMC_LLaMA_13B 指令微调版本,为医疗领域带来了革新的技术突破。
15. ChatDoctor
ChatDoctor,一款基于 LLaMA 训练的医疗大模型,其开源特性让更多人能够领略医疗科技的魅力。
16. MING (明医)
MING,一个基于 bloomz-7b 指令微调而成的医疗大模型,其卓越的性能在医疗问答、智能问诊等方面得到了充分体现。
17. IvyGPT
IvyGPT,一款医疗大模型,经过高质量的医学问答数据监督微调和人类反馈强化学习训练,展现了出色的智能医疗处理能力。
18. PULSE
本项目开源了中文医疗大模型 PULSE,该模型采用约 4,000,000 个中文医学与通用领域指令微调数据进行优化,支持广泛的医疗领域自然语言处理任务,包括健康教育、医师考试问题解答、报告解读、医疗记录结构化以及模拟诊断和治疗等。
19. HuangDI (皇帝)
HuangDI,一款中医大模型,其独特之处在于融合了中医教材、网站数据与 Ziya-LLaMA-13B-V1 基座模型,打造出具有深厚中医知识理解力的预训练模型,并通过海量中医古籍指令对话数据与通用指令数据进行微调,实现中医古籍知识问答的精准能力。
20. ZhongJing (仲景)
ZhongJing,一个旨在传承中医精髓与现代技术相结合的中医大模型。该项目不仅弘扬了中医的博大精深,还通过现代技术创新,为医学领域提供了可信赖和专业的工具,是中医与 AI 融合的杰出代表。
21. TCMLLM
该项目旨在通过大型模型技术,实现中医临床辅助诊疗(包括病证诊断、处方推荐等)以及中医药知识问答等多项任务,引领中医知识问答与临床辅助诊疗等领域的飞跃性进步。当前,我们已针对中医临床智能诊疗中的处方推荐问题,发布了 TCMLLM-PR 这一中医处方推荐大模型。该模型通过整合真实世界的临床病历、医学典籍与中医教科书等海量数据,精心构建了包含 68k 数据条目的处方推荐指令微调数据集,并在 ChatGLM 大模型上进行深度优化与微调。
22. OpenBioMed
该项目致力于开源多模态生物医学大模型,涵盖了 BioMedGPT 这一多模态生物医药大模型、DrugFM 和 MolFM 等多模态小分子基础模型,以及 CellLM 等细胞表示学习模型。
评测基准
PromptCBLUE 医疗评测基准
PromptCBLUE 是一个针对中文医疗场景的评测基准,通过二次开发 CBLUE 基准,将 16 种不同的医疗场景 NLP 任务全面转化为基于提示的语言生成任务,为中文医疗领域的研究提供了有力的支持。
中文医疗模型评估基准 CMB
A Comprehensive Medical Benchmark in Chinese(CMB)是一项综合性的中文医疗模型评估基准,它涵盖了不同临床职业、不同职业阶段考试中的多项选择题(CMB-Exam)以及基于真实病例的复杂临床诊断问题(CMB-Clin),为中文医疗模型的评估提供了全面的参考。
二、心理健康领域大模型
1. MeChat
该项目致力于开源中文心理健康支持对话大模型与数据集。该模型基于 ChatGLM-6B LoRA 16-bit 指令进行了细致的微调。同时,我们通过 ChatGPT 技术将真实的心理互助 QA 改写为多轮的心理健康支持多轮对话,构建了含有 56k 个多轮对话的丰富数据集。该数据集的主题、词汇和篇章语义丰富多样,特别适用于长程多轮对话的应用场景。
2. SoulChat (灵心)
该项目开源了心理健康大模型 SoulChat(灵心)。该模型源于 ChatGLM-6B 的深厚底蕴,经过百万规模心理咨询领域的中文长文本指令与多轮共情对话数据的精心微调,得以诞生。它不仅仅是一个模型,更是人们心灵的守护者,静静倾听,深情理解。
3. MindChat(漫谈)
这一项目致力于开源心理大模型 MindChat。经过人工精心清洗的约 20 万条高质量多轮心理对话数据,涵盖了工作、家庭、学习、生活、社交、安全等多个层面,为模型的训练提供了丰富的素材。MindChat 期望从心理咨询、心理评估、心理诊断、心理治疗四个维度,为人们带来心灵的慰藉与解脱,提升整体的心理健康水平。
4. QiaoBan(巧板)
在儿童情感陪伴领域,QiaoBan 这一儿童情感对话大模型应运而生。它基于开源通用大模型,融合了通用域人机对话、单轮指令数据以及专为儿童设计的情感陪伴对话数据,经过精心微调,最终形成了这款专为儿童量身打造的情感陪伴大模型。
三、法律领域微调模型及评测基准
1. LawGPT_zh(獬豸)
这一中文法律通用模型源自 ChatGLM-6B 与 LoRA 16-bit 指令的精心融合。数据集方面,项目团队不仅利用了现有的法律问答数据集,更通过 self-Instruct 技术,基于法条和真实案例构建了高质量的法律文本问答数据,大幅提升了模型在法律领域的表现,确保了回答的专业性和可靠性。
2. LaWGPT
LaWGPT 系列模型在通用中文基座模型的基础上,增添了法律领域的专有词表和大规模中文法律语料,极大地增强了模型在法律领域的基础语义理解能力。结合法律领域对话问答数据集、中国司法考试数据集的指令精调,LaWGPT 对法律内容的理解和执行能力得到了显著提升。
3. LexiLaw
LexiLaw,这一中文法律大模型,以 ChatGLM-6B 为架构基础,经过法律领域数据的精心微调,使得其在法律咨询与支持方面展现出卓越的性能和专业性。无论是法律从业者、学生还是普通用户,LexiLaw 都能为他们提供准确、可靠的法律咨询服务,助力他们在法律问题的海洋中乘风破浪。
4. Lawyer LLaMA
这一项目开源了法律领域的指令微调数据和基于 LLaMA 训练的中文法律大模型 Lawyer LLaMA。Lawyer LLaMA 以其卓越的性能和深度,为法律领域带来了前所未有的创新与突破。LLaMA 经过大规模法律语料库的预训练,深入系统地学习了中国的法律知识体系。在此基石之上,我们借助 ChatGPT 的智慧,搜集了一系列针对中国国家统一法律职业资格考试客观题的分析和法律咨询的回答,并通过对这些宝贵数据的指令微调,使模型具备了将法律知识灵活应用于各种具体场景的能力。
5. HanFei (韩非)
HanFei-1.0 作为国内首个全参数训练的法律大模型,拥有高达 7b 的参数量,其功能涵盖法律问答、多轮对话、文章撰写、检索等多元化需求。
6. ChatLaw
北京大学开源的法律大模型系列——ChatLaw,依托海量的法律新闻、论坛、法条、司法解释、法律咨询、法考题及判决文书等原始文本,构建了丰富的对话数据。ChatLaw-13B 和 ChatLaw-33B 便是基于姜子牙 -13B、Anima-33B 的卓越训练成果。同时,ChatLaw-Text2Vec 更是利用 93 万条判决案例,基于 BERT 训练出相似度匹配模型,精准匹配用户提问与对应法条。
7. Lychee (律知)
我们开源了基于 GLM-10B 模型的中文司法领域大模型 Law-GLM-10B,经过 30GB 中文法律数据的指令微调,展现出卓越的司法领域应用能力。
8. wisdomInterrogatory (智海 - 录问)
由浙江大学、阿里巴巴达摩院及华院计算携手打造的法律大模型,该模型基于 Baichuan-7B 进行了法律领域数据的深度预训练与指令微调,并独具匠心地设计了知识增强的推理流程。
9. JurisLMs
该项目基于丰富的中文法学语料库,精心训练了一系列法律领域的语言模型,包括:
- AI Judge——一款可解释的法律判决预测模型,由 GPT2 在法学语料上深化预训练,并结合法条适用模型(基于 BERT 的分类器)微调而成,不仅能精准预测判决结果,更能阐述法院的审理观点;
- AI Lawyer——一款智能法律咨询模型,通过主动学习在有限的数据上进行精细微调,能够针对用户咨询,精确匹配并应用相应的法律法规进行回答。
- 项目地址:https://github.com/seudl/JurisLMs
10. 夫子•明察司法大模型
该模型汇聚了法律领域的智慧,致力于司法领域的深度应用与探索。以 ChatGLM 为基石,我们精心构建了一个中文司法大模型,它依托海量的中文无监督司法语料与精准的有监督司法微调数据。这款模型功能丰富,涵盖法条检索、案例分析、三段论推理判决以及司法对话等,致力于为用户提供全面且精准的法律咨询与解答服务。
法律评测基准
LEXTREME
作为一个多语言的法律评测基准,覆盖 24 种语言,拥有 11 个评测数据集,其权威性和全面性备受认可。
LexGLUE
专注于英文法律评测,以其独特的视角和深度在业界获得了广泛认可。
四、金融领域微调模型及评测基准
1. BBT-FinCUGE-Applications
该项目不仅开源了中文金融领域语料库 BBT-FinCorpus,还推出了知识增强型大模型 BBT-FinT5 及评测基准 CFLEB,展现了其在金融领域的深厚积累。
2. Cornucopia (聚宝盆)
该项目凭借对公开和爬取的中文金融领域问答数据的深入挖掘,构建了独特的指令数据集,并对 LLaMA 系模型进行了精准指令微调,显著提升了模型在金融领域的问答效果。
3. XuanYuan (轩辕)
作为国内首个开源的千亿级中文对话大模型,轩辕更是针对中文金融领域进行了深度优化。它基于 BLOOM-176B 进行了针对性预训练与微调,既能处理通用领域问题,又能提供全面且准确的金融信息与建议。
4. PIXIU (貔貅)
本项目公开了金融领域的指令微调数据集 FIT,以及大型模型 FinMA 与评估基准 FLARE,为金融领域注入了智能化新动力。
5. FinGPT
本项目贡献了多个金融领域的大模型,涵盖 ChatGLM2-6B+LoRA 和 LLaMA2-7B+LoRA 等,并汇集了金融新闻、社交媒体、财报等多维度中英文训练数据。
6. FLANG
本项目倾力打造了金融大模型 FLANG,为金融行业的智能化发展再添新翼。
10. FinEval
FinEval,一个专注于金融知识的评测基准,汇聚了 4,661 道高质量多项选择题,覆盖金融、经济、会计、证书等多个领域,涉及 34 个不同学术科目。
金融领域评测基准
FLARE
一个专为金融领域打造的评测基准,它涵盖了金融知识理解和预测等任务,助力金融行业智能化发展。
CFLEB
一个面向中文金融领域的评测基准,包含了语言生成与理解的多项任务,为中文金融领域智能化评测提供了有力工具。
FLUE
作为金融评测基准的新星,汇集了 5 个金融领域数据集,为金融智能化评测提供了全新视角。
五、教育领域大模型
1. 桃李 (Taoli)
该项目引领了国际中文教育领域的潮流,通过开源大模型,汇集了 500 余册国际中文教育教材与教辅书、汉语水平考试试题以及汉语学习者词典等资源,构建了国际中文教育资源库。精心设计的 88000 条高质量问答数据集,让模型在国际中文教育场景中灵活应用知识。
2. EduChat
该项目在教育垂直领域展现出了卓越的对话能力,其大模型融合了多样化的教育资源,并通过指令微调、价值观对齐等方法,为教育场景下的出题、作业批改、情感支持等提供了全面支持。它服务于教师、学生和家长,致力于实现智能化、个性化的教育。
六、自媒体领域的创新之作
1. MediaGPT
该项目展示了中文自媒体领域的新锐力量,通过在大规模自媒体语料上进行预训练,系统地学习自媒体知识体系。借助 ChatGPT 等技术,MediaGPT 在抖音运营、短视频创作等领域展现出卓越的实际应用能力。
七、电商领域的佼佼者
1. EcomGPT
该项目推出的电商大模型 EcomGPT,凭借其出色的性能,在电商领域内脱颖而出。基于 BLOOMZ 在电商领域的指令微调数据集,EcomGPT 在多个电商评测数据集上超越了 ChatGPT,为电商领域带来了智能化的新体验。
八、政务领域的智慧选择
YaYi (雅意)
该项目推出的多领域大模型 YaYi (雅意),凭借其百万级高质量领域数据和上百种自然语言指令任务,为媒体宣传、舆情分析、公共安全等领域提供了智慧化的解决方案。
九、天文地理领域的璀璨之星
1. StarGLM
该项目正式发布了天文大模型 StarGLM,它依托于司天工程的丰富语料与知识库,经过精细训练而成。StarGLM 的诞生,旨在破解大语言模型在天文知识及前沿变星领域所面临的挑战,从而进一步夯实了未来在天文多模态任务中的基础,并为望远镜阵列中的司天大脑(数据智能处理系统)的部署铺平了道路。
2. K2
K2,这款地球科学大模型,其灵感源于 LLaMA,并巧妙地融合了地球科学文献与维基百科的精髓。进一步的指令微调,更是在 GeoSignal 数据集的滋养下得以实现。
GeoGLUE
GeoGLUE,这一由阿里巴巴达摩院与高德联袂推出的地理语义理解评测基准,旨在点燃地理文本处理技术的火花,推动社区共荣。多个核心场景被精心提炼,包括地图搜索、电商物流、政府登记与金融交通等,每个场景都围绕六大核心任务展开:门址地址要素解析、地理实体对齐、Query-POI 库召回、Query-POI 相关性排序、地址 Query 成分分析以及 WhereWhat 切分。
十、交通领域的璀璨新星
1. TransGPT (致远)
TransGPT,这一交通领域的明星大模型,以'致远'为名,寓意深远。它深植于真实交通行业,致力于实现多种实用功能,包括交通情况预测、智能咨询助手、公共交通服务、交通规划设计、交通安全教育、协助管理、交通事故报告与分析以及自动驾驶辅助系统等。TransGPT 作为通用常识交通大模型,为道路工程、桥梁工程、隧道工程、公路运输、水路运输、城市公共交通运输、交通运输经济、交通运输安全等行业提供了广博的通识知识。以之为基石,可以灵活运用于各种交通应用场景。
十一、网络安全领域的守护者
1. AutoAudit
AutoAudit,这款网络安全大模型,犹如网络安全领域的守护者,以强大的自然语言处理能力为安全审计和网络防御提供了坚实的后盾。它具备分析恶意代码、检测网络攻击、预测安全漏洞等能力,为安全专业人员提供了不可或缺的支持。
十二、科技前沿的两大模型
1. TechGPT
TechGPT,这款科研领域的巨星模型,其潜力与应用价值正逐步被发掘。在未来的科研道路上,它将发挥出无可替代的作用。我们荣幸地宣布,我们已成功开源了一款卓越的科技大模型——TechGPT。该模型专注于计算机科学、材料、机械、冶金、金融及航空航天等十余种专业领域,深度集成了领域术语抽取、命名实体识别、关系三元组抽取等先进功能。不仅如此,TechGPT 还拥有文本关键词生成、标题生成摘要、文本领域识别等自然语言理解和生成能力,进一步拓展了其在机器阅读理解、基础常识问答、基于上下文的知识问答等多个场景的应用。其出色的文案生成、中英互译以及简单代码生成功能,无疑将为科研人员和技术开发者提供极大的便利。
2. 开源科技论文大模型——Mozi(墨子)
这款模型专为科技文献问答和情感分析设计,旨在为用户提供精准的文献解答与深入的情感洞察。
总结与展望
随着人工智能技术的飞速发展,大模型在各个垂直领域的应用已成为行业数字化转型的关键驱动力。本文梳理了医疗、法律、金融、教育、交通、安全等多个领域的代表性开源大模型及其评测基准。这些模型不仅在特定任务上展现了超越通用模型的性能,也反映了行业对专业化、精细化 AI 服务的迫切需求。
未来的发展趋势将集中在以下几个方面:一是多模态能力的深度融合,如医疗影像与文本的结合;二是数据隐私与安全机制的完善,特别是在金融和法律等敏感领域;三是轻量化部署与边缘计算的支持,以降低应用成本并提高响应速度。开发者在引入这些模型时,应充分评估其合规性、可解释性及实际业务场景的适配度,确保技术落地既高效又安全。