53AI知识库
学习大模型的前沿技术与行业应用场景
大家好,我是GitHub好项目君,每天分享GitHub上的好项目
主要分享GitHub上有趣、有意义、重要的项目
团队围绕“望闻问切”的核心理念,结合医学专家的深厚知识、多模态技术的创新应用,以及多生理信号的精准计算,推进模型的精准化和智能化。
大模型BianQue(扁鹊)是一个专注于医疗对话的大型语言模型,以下是对其的详细介绍:
BianQue是一个经过指令与多轮问询对话联合微调的医疗对话大模型。
该模型旨在强化AI系统的问询能力,模拟医生问诊的过程,特别注重“问”的能力,以更贴近真实医疗场景中的多轮问询。
BianQue基于ClueAI/ChatYuan-large-v2作为基准模型进行微调。
微调过程在8张NVIDIA RTX 4090显卡上进行,使用了包含超过900万条样本的中文医疗问答指令与多轮问询对话混合数据集。
微调一个epoch花费了大约16天的时间。
BianQue旨在通过模拟医生的多轮问诊过程,提供更准确、个性化的医疗建议。
该模型未来计划围绕“望闻问切”的中医诊疗方法,结合医学专家知识、多模态技术等进行多个版本的模型迭代研究,以提升其在医疗领域的应用效果。
BianQue项目已经开源,便于医疗界、学术界、相关企业等科研力量共同推进模型的专业能力与创新应用。
通过开源和协作,期望BianQue能够成为推动医疗AI发展的重要力量。
自2023年4月首次发布以来,BianQue团队不断对模型进行迭代和优化,以提升其性能和实用性。
未来,团队将继续围绕医疗领域的需求,推动BianQue模型的进一步发展和完善。
BianQue作为一个专注于医疗对话的大模型,通过结合指令与多轮问询对话进行微调,旨在提供更贴近真实医疗场景的问诊体验。其开源性质和持续的迭代研究将有望推动医疗AI的发展和应用。
结合当前开源的中文医疗问答数据集(MedDialog-CN、IMCS-V2、CHIP-MDCFNPC、MedDG、cMedQA2、Chinese-medical-dialogue-data),分析其中的单轮/多轮特性以及医生问询特性,结合实验室长期自建的生活空间健康对话大数据,构建了千万级别规模的健康大数据BianQueCorpus。对话数据通过“病人:xxx\n医生:xxx\n病人:xxx\n医生:”的形式统一为一种指令格式,如下图所示。
input: "病人:六岁宝宝拉大便都是一个礼拜或者10天才一次正常吗,要去医院检查什么项目\n医生:您好\n病人:六岁宝宝拉大便都是一个礼拜或者10天才一次正常吗,要去医院检查什么项目\n医生:宝宝之前大便什么样呢?多久一次呢\n病人:一般都是一个礼拜,最近这几个月都是10多天\n医生:大便干吗?\n病人:每次10多天拉的很多\n医生:"target: "成形还是不成形呢?孩子吃饭怎么样呢?"
训练数据当中大量目标文本为医生问询的内容而非仅限于建议,这有助于提升AI模型的问询能力。
基于扁鹊健康大数据BianQueCorpus,选择了Chatglm-6B作为初始化模型,经过全量参数的指令微调训练得到了新一代BianQue【BianQue-2.0】。与扁鹊-1.0模型不同的是,扁鹊-2.0扩充了药品说明书指令、医学百科知识指令以及ChatGPT蒸馏指令等数据,强化了模型建议与知识能力。以下为两个测试样例。
例1:宝宝特别喜欢打嗝,是什么原因啊,该怎么预防啊
样例2:我外婆近来身体越来越差,带她去医院检查,医生说她得了肾静脉血栓,我们全家都很担心,医生开了不少疫苗用低分子量的肝素钙,我想问它的药理毒理?
扁鹊-2.0采用了ChatGLM-6B模型的权重,并受其MODEL_LICENSE约束。因此,本模型仅供非商业性研究使用。
我们收集了GitHub上大量的开源项目,点击 阅读原文 查看更多学习项目
53AI,大模型落地应用首选服务商
定位:开箱即用的大模型落地应用平台
承诺:先做场景POC验证,看到效果再签署服务协议。零风险落地应用大模型,已交付160+中大型企业
微软技术社区:做RAG?向量搜索还不够
全球首个开源AIGC数字人模型免费使用,手机端可跑!
如何让AI基于超长文档进行问答?
翻车了?这才是真正的SD3!
Omost!让AI大模型代写AI绘画提示词
《构建和评估高级RAG》: RAG评估要素和方法
【AI大模型应用开发】AI+知识图谱极简入门:手把手带你体验LangChain实现知识图谱创建和查询(附代码和源码分析)
Translation Agent 引领智能翻译新方向
广州:广州市华景路37号(华景软件园)暨南大学科技大厦6楼(整层) 杨小姐 186 6662 7370
上海:上海市浦东新区金新路58号1602室 戴先生 186 1639 7587
广州:广州市华景路37号(华景软件园)暨南大学科技大厦6楼(整层) 杨小姐 186 6662 7370
上海:上海市浦东新区金新路58号1602室 戴先生 186 1639 7587
与创始人交个朋友
-->广州:广州市华景路37号(华景软件园)暨南大学科技大厦6楼(整层) 杨小姐 186 6662 7370上海:上海市浦东新区金新路58号1602室 戴先生 186 1639 7587
-->自动秒收录 | 电影导航 | 网络推广 | ChatGPT中文版 | AI绘画 | AI文生图 | 网站地图 | 网站目录