最新刊期
2024年第10卷第5期
-
分布式技术在大模型训练和推理中的应用 AI导读
摘要：近几年，人工智能被广泛应用于多个领域，大语言模型（以下简称大模型）的“预训练-微调”成为人工智能的最新范式。分布式技术存在于大模型生命周期的每一环，为大模型的发展助力。在数据获取环节，针对海量小文件的存储问题，研发了文件系统SuperFS，能够同时满足低延迟和可扩展的要求。在数据预处理环节，针对从分布式文件系统读取数据开销大的问题，研发了高效大数据处理引擎“诸葛弩”。在模型训练环节，针对检查点文件读写性能差的问题，提出了分布式检查点策略，加快了检查点文件的读写速度。在模型推理环节，针对KVCache对存储系统的挑战，研发了高吞吐推理方案FastDecode以及大模型推理架构Mooncake。分布式技术的应用，使大模型能够充分利用计算资源，加快训练速度，有利于人工智能领域的发展。关键词：分布式技术;大模型;海量小文件;大数据处理引擎;检查点;KVCache549|1038|0更新时间：2024-09-15
战略研究
-
-
面向法律领域的大模型微调与应用 AI导读
摘要：近年来，大语言模型在多个自然语言处理任务上展现出了出色的能力，为智慧法律系统的发展带来巨大的帮助。现有法律领域的大模型，通过微调通用大模型能够实现利用法律知识进行简单的问题回答，即大多以法律咨询问答为主，没有考虑到法律领域的其他使用场景，如法律信息抽取、判决预测等，而真实世界中的法律服务要比对话服务复杂得多。提出中文法律智慧大模型LawLLM，该模型可以面向不同用户群体，提供多样的法律服务。同时，探究了针对法律领域裁判文书的长文本信息抽取的应用。LawLLM在Lawbench上的Zero-shot的平均表现超过了所有对比的大模型，均值比具有175×109个参数的GPT-3.5-Turbo高0.19%，LawLLM在Lawbench上的Few-shot的平均表现仅次于GPT-3.5-Turbo，相比其低0.02%。关键词：大语言模型;智慧法律;自然语言处理511|216|0更新时间：2024-09-15 - 摘要：大语言模型在医疗领域显现出巨大的应用潜力，如何评估其在医疗领域中的性能成为挑战。现有医疗评测基准测试多为选择题形式，难以全面和精准地评估模型在儿科医疗场景中的性能。为此，提出首个中文儿科医疗问答基准测试方法——PeMeBench。该方法基于双视角评估维度，参考来自10个儿科疾病系统的诊疗规范类书籍，将儿科医疗问答任务细分为疾病知识、治疗方案、用药剂量、疾病预防和药理作用5个儿科医疗问答子任务，构建超1万个开放式的问答题目，引入一种融合实体召回和检测语句幻觉的多粒度自动化评估方案，旨在对大语言模型在儿科基础医疗领域中的性能进行全面、准确的评估，深入剖析其潜在局限性，为提升医疗服务的智能化水平奠定坚实的基础。关键词：儿科医疗;基准测试;大语言模型;问答175|77|0更新时间：2024-09-15
-
门控变关系图卷积网络的涉烟案件当事人预警 AI导读
摘要：为了落实“精准监管”方针，烟草公司需要提高涉烟案件命中率。过往的方法缺少了对涉烟案件高危当事人的研究，阻碍了案件命中率的提高。基于烟草公司存有的大量历史数据，挖掘出准确的预警名单是提高案件命中率的有效途径。进行高危当事人特征分析后，提出门控变关系图卷积网络，以得到准确的高危当事人预警名单。首先，门控变关系图卷积网络使用变关系图卷积网络，捕捉当事人的关系与关键特征。然后，门控层进一步提取特征。最后，把特征输入Softmax层得到分类结果，进而得到预警名单。通过对比实验，证明构建的模型效果更佳。某市专卖局应用本项目的系列成果后，其案件命中率从约0.01%提升到了约0.5%，这证明构建的预警模型能满足真实监管的需求。关键词：烟草行业;涉烟案件;高危当事人识别;门控层;图卷积网络115|82|0更新时间：2024-09-15
专栏：数据与算力驱动的应用
-
情感语音合成综述 AI导读
摘要：作为语音领域一个重要的研究方向，语音合成致力于将文本转化为语音。随着深度学习技术的快速发展，语音合成的目的早已不仅仅是合成一段“能听懂”的音频这么简单，情感的加入往往能使语音变得更加具有表现力。基于此，情感语音合成在语音中加入不同的情感并对情感进行调控，以生成灵活且准确的情感语音。从情感语音合成中的几个关键科学问题出发，分别对近几年来基于情感迁移、情感强度控制和情绪混合的发展进行了总结分析，并介绍了情感语音合成的相关数据集和评价指标，最后对情感语音合成进行了展望。关键词：情感语音合成;情感迁移;情感强度;深度学习328|110|0更新时间：2024-09-15 -
数字说话人脸生成技术综述 AI导读
摘要：在现代计算机视觉和自然语言处理的交叉领域，数字说话人脸生成技术已经成为一个越来越重要的研究主题。数字说话人脸生成技术专注于依据预定的文本或音频序列生成逼真的人脸图像。近年来，深度学习方法，如卷积神经网络、生成对抗性网络以及神经渲染场在此领域已经表现出了显著的应用价值。这些方法不仅引起了学术界的广泛关注，而且在工业界得以实际应用，用于解决图像处理和计算机视觉方面的具体问题。尽管已经取得了一定的进展，实际应用这些方法仍然面临诸多挑战。综合分析和评估深度学习方法在数字说话人脸生成方面的具体实现，以识别现存方法的优缺点，探讨尚待解决的普遍问题，并突出仍需进一步研究的开放性问题。此外，从统计学角度列出了目前可用的数据集，并对其进行评估和比较，以便研究人员能更容易地选择满足他们需求的数据集。关键词：数字说话人脸生成;虚拟人;语音驱动173|83|0更新时间：2024-09-15 -
面向抑郁症行为特征的领域词典构建 AI导读
摘要：抑郁症患者的行为表征反映其临床特征及病情状况，有利于病情诊断。当前抑郁症领域词典在构建时忽略了抑郁症文本中的行为特征与患者病况的关联性，导致词典领域信息不足。为此，提出面向抑郁症行为特征的领域词典构建方法，拓展了领域词典涵盖的情感表示。首先，采用TF-IDF算法构建情感类和行为类种子词集，通过PMI计算现有词典与情感类种子词的相似度获得情感类词集；其次，基于行为特征与患者病况的对应关系，设置行为类种子词标签，再将种子词与抑郁症文本输入WoBERT生成动态词向量，计算二者的相似度得到候选词集；然后，基于词间相似度构建语义图，并使用标签传播算法获得行为特征词集；最后，收集微博负面情感表情符号构建表情符号词集，合并情感类词集、行为特征词集与表情符号词集，得到中文抑郁症领域词典。实验结果表明，构建的词典可以提升抑郁症文本分类效果。关键词：抑郁症;领域词典;行为特征;WoBERT;标签传播算法143|90|0更新时间：2024-09-15 - 摘要：磁盘作为重要的存储介质，一旦出现故障很可能会导致存储数据丢失，给个人及企业带来难以估量的损失。现有磁盘故障预测模型存在不能很好地平衡磁盘数据样本、未充分利用磁盘数据的时序特性等问题。以Backblaze云存储公司公布的真实磁盘数据为研究对象，提出了一种融合注意力机制的卷积神经网络（CNN）和双向门控循环单元（BiGRU）网络的磁盘故障预测模型。在数据预处理方面，采用负采样与焦点损失函数来平衡正负样本，利用CNN进行特征提取，并结合BiGRU网络来有效地处理时序数据。通过融合注意力机制，能够让模型快速地捕捉更多关键特征信息，将筛选出的特征与数据输入模型进行训练。通过对比其他故障预测模型，本文提出的模型在精确率等4个评价指标上均有1%~7%的性能提升，为提高磁盘存储的可靠性提供了有力的支撑。关键词：注意力机制;磁盘故障预测;双向门控循环单元;卷积神经网络;焦点损失函数163|226|0更新时间：2024-09-15
研究
- 摘要：公文作为政府机关办文、办事、办会的主要载体，在数字政府建设中起着信息记录、交换、传递和指令发布等作用，构建公文标签体系是促进政府机关公文高质量办理和提升政府行政效率的重要途径。针对公文标签，提出了基于数字政府建设的公文标签体系构建方法，开发设计了以业务场景驱动与用户需求导向为核心的政府公文标签体系。该体系通过公文标签的设计、生成与管理创新，旨在破解政府公文管理效率低下、内容分散、流程烦琐等难题，实现政府公文管理与运行效率的提升。同时，对公文标签在不同场景下的创新应用进行了阐述，并给出了基于政府机关的公文标签应用案例，为推进数字政府高质量发展提供重要支撑。关键词：数字政府;公文标签;应用场景;智慧政务197|89|0更新时间：2024-09-15
应用
-
公共数据的产权运行机制与技术方案 AI导读
摘要：公共数据的要素化既有迫切需求和巨大价值，又具备良好基础和实施保障。为了实现公共数据的要素化，数据要素智能构建技术与公共数据产权运行机制需要协同创新和融合发展。梳理了公共数据的分类和参与主体，提出一套公共数据产权运行机制，包括公共数据产权结构性分置制度、公共数据确权授权机制和个人信息授权机制，并搭建一套数字化系统来承载该机制，以建立健全数据要素各参与方的合法权益，促进公共数据在政府各部门、各层级、各主体之间的安全、合规、有序流通。关键词：数据要素;公共数据;数据产权运行机制;数据产权结构性分置;公共数据确权授权182|248|0更新时间：2024-09-15 -
智慧治理中的数据质量管理困境及对策研究 AI导读
摘要：数据质量是实施智慧治理的基础。从数据使用者的视角出发，以D市智慧治理项目为案例，基于多渠道收集的资料，剖析数据质量管理的困境及其产生的原因，并提出相应对策。研究发现，智慧治理项目中数据质量管理困境表现为管理制度机制不健全、数据质量评价指标不适配以及协同中信息传递不畅通。困境产生的原因是项目建设中质量管理要求特殊性、数据资源可用程度难以匹配使用需求以及理念惯性下质量管理共识难以支撑管理执行。突破困境的关键是，提高质量管理理念共识化程度，增强质量评价方法动态化能力以及优化数据协同策略精细化粒度。关键词：智慧治理;数据质量管理;数据赋能170|111|0更新时间：2024-09-15 -
大语言模型数据隐私保护的难点与探索 AI导读
摘要：基于海量数据训练的大语言模型在带来通用人工智能可能性的同时，也给数据隐私保护带来了新的风险与挑战。在分析大语言模型全环节中涉及的数据隐私保护风险的基础上，对隐私保护中知情同意原则、数据收集“正当、必要”原则所面临的新伦理难点展开分析论证，并探索可能的解决框架和路径，以及实操中仍可能存在的伦理难点。关键词：大语言模型;生成式人工智能;数据隐私;知情同意;数据责任248|118|0更新时间：2024-09-15
论坛
- 地址：北京市丰台区东铁匠营街道顺八条1号院B座“北阳晨光大厦”2层 邮编：100079
- 联系电话：（010）53879208、53859533 Email：bdr@bjxintong.com.cn
- 技术支持由北京北大方正电子有限公司提供 京ICP备09064830号-19
京公网安备11010802024621 - 本系统建议在Chrome、 IE9+ 以上版本浏览器阅读本站内容，360浏览器请切换至极速模式
- Cookies帮助我们提供服务并提供个性化体验。使用本网站，即表示您同意我们使用Cookies
- 总访问量：273110 今日访问量：16
0