首页
期刊简介
编辑委员会
现任编委会
历届编委会
学术文献
当期目录
过刊浏览
优先出版
投稿指南
投稿须知
稿件格式要求
出版道德
下载中心
同行评议
期刊订阅
会议活动
联系我们
个人中心
退出登录
浏览全部资源
扫码关注微信
首页
期刊简介
编辑委员会
现任编委会
历届编委会
学术文献
当期目录
过刊浏览
优先出版
投稿指南
投稿须知
稿件格式要求
出版道德
下载中心
同行评议
期刊订阅
会议活动
联系我们
最新刊期
美国国立卫生研究院AI-Ready科学数据集建设实践与启示
AI导读
翟军, 王思慧, 李昊原, 李鑫
DOI:10.11959/j.issn.2096-0271.BDR26207
摘要:为满足AI系统日益增长的数据需求,AI‑Ready数据成为当前AI发展的重点领域,得到各国政府的高度重视。其中,美国国立卫生研究院(NIH)已走在AI-Ready科学数据集建设的前列,对其进行系统研究,可为我国高质量科学数据集建设提供一定的借鉴和参考。采用网络调查、内容分析和案例研究方法,较为系统地介绍NIH的数据政策和资助政策、Bridge2AI研究计划旗舰数据集及AI就绪度框架的建设情况。进而,结合我国高质量数据集建设实际,提炼出有益的经验与启示,包括完善政策体系、构建标准体系和打造人才支撑体系。
关键词:科学数据;AI-Ready数据;高质量数据集;FAIR原则;人工智能;NIH
11
|
4
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
162969719 false
更新时间:2026-07-27
面向成本收益协同优化的高质量数据准备方法
AI导读
崔文萱, 丁小欧, 程海峰, 钱泽凯, 李勇, 王宏志, 王晨
DOI:10.11959/j.issn.2096-0271.BDR26172
摘要:数据治理是保障数据质量与安全、促进数据高效流通与价值释放的关键基础。然而目前实际机器学习(machine learning,ML)模型训练场景下,存在数据准备环节资源利用效率低、成本不可控及预算约束下优化不足的问题。针对以上问题,构建了一种面向成本收益协同优化的数据准备方法。采用数学规划方法,将数据预处理、清洗、转换等操作统一纳入成本建模与决策框架,设计面向整体管道的成本收益分析规划方法。实验结果表明,该方法在有限预算条件下可实现更优的成本效益权衡,提升数据准备过程的整体性能与性价比。研究认为,将成本收益分析和优化的思想纳入到数据准备优化策略,有助于实现资源的高效配置,并为复杂数据处理场景中的成本控制与性能优化提供参考。
关键词:数据治理;数据准备;资源调度;成本收益
4
|
3
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
162969639 false
更新时间:2026-07-27
医疗数据治理关键技术综述
AI导读
DOI:10.11959/j.issn.2096-0271.BDR26152
摘要:高质量、多模态的数据资源是驱动医疗人工智能模型研发与临床应用的基础。然而,医疗数据具有多源异构、稀疏缺失、隐私敏感和标注不足等特征,直接影响模型的泛化能力、可解释性和临床适用性。医疗数据治理旨在围绕数据全生命周期,提升数据的互操作性、可用性、质量可控性和合规流通能力。本文以医疗数据的全生命周期为主线,系统综述了关键治理技术的演进路径。首先,探讨了在数据采集环节,多模态协同获取与生成式合成如何缓解样本不足问题;其次,聚焦数据标准化与质量控制,剖析了医疗数据在语义转换、智能清洗、自动化质量评估及人机协同标注等方面的主要进展;再次,针对跨机构数据共享与利用需求,讨论了隐私计算、联邦学习和区块链等技术在合规治理中的应用;最后,结合大模型应用背景,归纳了当前医疗数据治理在数据偏见、模型幻觉、跨模态对齐等方面面临的现实挑战,并对数据治理的发展趋势进行了展望。
关键词:医疗数据治理;数据质量;数据标准化;隐私计算
10
|
3
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
162968737 false
更新时间:2026-07-27
公共数据价值释放的五层治理框架构建与实证分析
陈怡硕, 王肖涵, 张晓彤, 赵占波
DOI:10.11959/j.issn.2096-0271.BDR26171
摘要:针对公共数据开发利用由“是否开放”转向“如何治理实现价值释放”的问题,研究了制度规则、组织协同、资源管理与安全监督尚未形成完整治理体系的困境。基于制度文本、文献研究与地方案例,构建制度规则层、组织协同层、资源管理层、流通应用层与安全保障层构成的五层治理框架,阐述层级间规则传导、冲突调适与反馈迭代机制。选取8省市公开数据,运用熵权法与Pearson相关性分析测算层级权重与关联度,以上海、河南、贵州代表东中西部开展案例对比。结果表明,流通应用层与资源管理层贡献度最高,制度规则层与组织协同层相关性最强,验证框架普适性。研究认为公共数据价值释放关键在于五层框架形成规则传导、协同治理与安全可控闭环机制。
关键词:公共数据;开发利用;数据治理;治理框架;实施策略
5
|
0
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
162968802 false
更新时间:2026-07-27
领域知识插件化与多智能体协同的政务高质量数据集构建方法
AI导读
禹芳, 杨琳
DOI:10.11959/j.issn.2096-0271.BDR26170
摘要:政务高质量数据集能够有效支撑政务服务、执法监管、城市治理等领域的智能化能力提升,针对企业信用风险监管场景,提出基于领域知识插件化与多智能体协同的高质量数据集构建方法。通过将领域本体和业务规则封装为可插拔知识插件,实现架构与知识解耦,支撑跨领域低代码迁移;构建检测、规划、行动、评估的多智能体协作闭环,实现数据质量管理全流程自治迭代;建立可审计链式日志机制,实现全链路血缘追溯与操作可追责。为政务领域高质量数据集建设提供可解释、可复用且具备跨域自适应能力的技术路径。
关键词:高质量数据集;多智能体协同;领域知识插件化;政务数据质量;知识图谱
9
|
3
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
162968775 false
更新时间:2026-07-27
后量子密码学研究:从传统公钥体系到后量子安全方案
AI导读
莫文涛, 陶伟, 洪振厚, 查高密, 张旭龙, 瞿晓阳, 宋歌, 王健宗
DOI:10.11959/j.issn.2096-0271.BDR26077
摘要:随着量子计算技术的发展,基于大整数分解与离散对数问题的传统公钥密码体系面临安全挑战。为系统梳理后量子密码的研究进展,对其理论基础、算法体系、工程实现与部署问题进行了综述。首先分析传统密码体系在量子攻击模型下的脆弱性及协议迁移约束;随后分类比较格基、哈希基、编码基、多变量及同源映射等后量子密码方案,并结合CPU、FPGA与嵌入式平台讨论硬件适配、实现优化和实现安全问题。在统一测试环境下,对传统、后量子、混合及部分国内研究团队提出并公开实现的签名与KEM方案进行了性能和通信开销评测。结果表明,不同技术路线在安全性、计算效率与通信成本之间存在明显权衡。最后归纳长期安全验证、实现安全、系统迁移与工程部署等挑战,为后量子密码研究与应用提供参考。
关键词:后量子密码;量子攻击模型;公钥密码;密码标准化;性能评测
6
|
3
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
162967839 false
更新时间:2026-07-27
面向居家养老场景的高质量具身智能仿真数据集构建研究
AI导读
田佳蕊, 孙奥兰, 瞿晓阳, 张旭龙, 付佳, 叶志伟, 王健宗
DOI:10.11959/j.issn.2096-0271.BDR26165
摘要:人口老龄化持续深化,居家养老成为我国主流养老模式,具身智能机器人是破解照护资源短缺、应急响应滞后的关键技术。具身智能模型训练依赖大规模高保真交互数据,而真实场景采集存在安全风险高、成本高、样本不足等瓶颈,通用仿真数据集未适配养老场景特性、人机安全约束与核心服务任务,难以直接支撑算法研发与落地。为此,本文提出面向居家养老场景的高质量具身智能仿真数据集构建方法,采用Marble世界模型与Isaac Sim物理双引擎协同,搭建场景生成、物理建模、控制执行、数据采集四层架构,分别设计四足机器人应急响应、双足机器人日常照护的专属流程,融入安全物理约束,生成多模态、标准化、高泛化的专用仿真数据,有效填补养老领域具身智能数据空白,为机器人虚实迁移与产业化落地提供支撑。
关键词:具身智能;物理仿真;世界模型;空间智能;物理智能;机器人;视觉语言导航VLN;视觉语言动作VLA
8
|
3
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
162967776 false
更新时间:2026-07-27
电力物资供应链电子数据信任强度自适应分级方法
AI导读
俞春华, 郭庆雷, 杨珂, 柏能, 黄宜华
DOI:10.11959/j.issn.2096-0271.BDR26030
摘要:电力物资供应链电子数据管理需求复杂,而传统电子数据信任强度分级方法受限于静态规则与单一评价维度,缺乏领域知识引导,难以满足精细化与差异化的应用要求。针对这一问题,提出一种电力物资供应链电子数据信任强度自适应分级方法(Adap-LLM),将专家构建的多维评分体系与分级规则以结构化提示词形式注入大语言模型,并结合参数高效微调实现领域知识深度融合,实现对多种类型电力文档进行信任强度的自适应分级。实验结果显示,该方法在真实电力及公共数据集上的各项指标均优于现有模型方法,充分验证了本方法在电力物资大数据分级管理时的有效性与先进性,具有良好的电力应用价值。
关键词:供应链电子数据分级;大语言模型;领域知识;提示词工程;参数高效微调
34
|
8
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
160113059 false
更新时间:2026-06-30
面向国际中文教育的语音偏误数据集构建与应用
孙佳杰, 陈熙之, 凌锋, 袁丹, 兰韵诗, 王晔
DOI:10.11959/j.issn.2096-0271.BDR26168
摘要:针对国际中文教育中缺乏公开、标准化细粒度的汉语语音偏误数据集及通用模型非母语发音诊断适配有限的问题,构建面向留学生的汉语语音偏误数据集。采用融合基础声学对齐与专家诊断的十层结构化标注规范,建立“机器预标注—人工精修—专家复核”的人机协同流程,并完成数据清洗、质量复核与结构化入库,以保证样本可追溯和可训练。结果获得340份真实发音样本、12万余条声韵级时间对齐切片和数万条偏误诊断标签;在非母语口音自动语音识别和端到端语音偏误诊断任务中,基于该数据集微调的Paraformer-large与Qwen2-Audio-7B均表现出更好的任务适配效果。该数据集可为国际中文教育场景下的模型微调与智能发音反馈提供监督数据,也为垂直领域高质量数据集建设提供数据治理参考。
关键词:国际中文教育;语音偏误诊断;高质量数据集;人机协同标注;数据治理
36
|
11
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
159876923 false
更新时间:2026-06-26
面向国际中文教育的知识图谱数据集构建方法与应用
AI导读
王韩, 王千予, 兰韵诗, 王晔, 梁远远, 丁安琪
DOI:10.11959/j.issn.2096-0271.BDR26163
摘要:针对国际中文教育资源分散、标准体系并存、题目与知识点关联不显式、偏误与文化资源难以复用等问题,构建了面向国际中文教育的知识图谱数据集CFL-KG。通过整合等级标准、汉字、词汇、语法、题目、偏误、文化、成语和多媒体等资源,并经过数据清洗、字段规范、实体对齐、关系标注和质量校验,形成了可计算、可追溯、可持续维护的结构化数据。当前数据快照包含389,111个节点和1,017,421条关系,覆盖多类教学对象及其关联。该数据集可支持跨标准备课、测评资源追溯、偏误诊断、文化解释和智能问答等应用,为国际中文教育的数据建设和智能化服务提供基础支撑。
关键词:国际中文教育;知识图谱;数据集构建;多源融合;教学应用
42
|
12
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
159008798 false
更新时间:2026-06-23
基于区块链的无人机轻量化身份认证方案
AI导读
李扬, 陈浩男, 胡全贵, 于莉莉, 赵光俊
DOI:10.11959/j.issn.2096-0271.BDR26132
摘要:目前无人机身份认证存在流程繁琐低效、无人机资源限制等挑战,为应对这些挑战,设计分层区块链架构,差异化拆分去中心化身份(decentralized identifier, DID)标识与认证声明链上存储逻辑,提出一种基于国密算法的无人机身份认证方案,重构轻量化身份认证协议。方案采用轻量级且安全的分层区块链结构,实现快速身份验证;结合国密算法完成数字签名、会话密钥协商与数据加密,确保身份数据的合法性;基于去中心化身份在区块链全局信息更新链存储DID文档,身份信息更新链存储可验证声明,实现无人机身份的统一管理。在联盟链Hyperledger Fabric框架下进行实验并分析,方案具有较低的计算开销,并能够有效应对动态无人机群应用中的多种安全威胁。
关键词:区块链;无人机;国密算法;身份认证
23
|
19
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
158482091 false
更新时间:2026-06-17
超大城市“一网统管”平台建设的思考
AI导读
桂颖, 吴学军, 杜靖敏
DOI:10.11959/j.issn.2096-0271.BDR26105
摘要:随着城市化进程的加速,超大城市在人口规模、经济活动、基础设施等方面的复杂性持续攀升,传统治理模式面临诸多挑战。“一网统管”作为新型智慧城市建设的核心载体,通过技术融合、机制创新和流程再造,为超大城市治理现代化提供了有效路径。本文基于多地“一网统管”建设实践调研,系统分析超大城市治理面临的突出问题,阐述“一网统管”平台的核心作用,梳理各地建设经验,构建超大城市“一网统管”平台总体框架,并提出推进建议,为超大城市提升治理科学化、精细化、智能化水平提供参考。
关键词:一网统管;超大城市;城市治理;一网统管平台;治理现代化;基层减负
72
|
16
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
158482071 false
更新时间:2026-06-17
构建面向汉语二语学习者的手写作文语法纠错数据集:方法与应用
AI导读
李春秋, 张潇晓, 梁远远, 袁丹, 兰韵诗, 王晔
DOI:10.11959/j.issn.2096-0271.BDR26164
摘要:针对中文语法纠错研究以印刷体文本数据集为主、缺少手写文本专用数据的现状,本研究分析了构建手写语法纠错数据集面临的关键挑战。据此,构建了面向汉语二语学习者的手写作文语法纠错数据集HCGEC,以真实手写作文为语料,使用优化OCR处理涂改重写等噪声,经过文本识别、标准化标注、图文对齐与质量校验,形成细粒度多模态的标注数据,共包含8 726条有效样本,覆盖599类细粒度错误类型,可为手写场景语法纠错、错误诊断及智能汉语教学提供数据支撑。
关键词:中文语法纠错;手写作文批改;汉语二语;数据集构建;光学字符识别
25
|
12
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
158482037 false
更新时间:2026-06-17
基于可信数据空间架构的高质量数据集建设
AI导读
张群洪, 李林, 杨堃, 陈爽, 张彬斌, 叶自燊
当前状态:
一校优先
DOI:10.11959/j.issn.2096-0271.26084
摘要:高质量数据集是推动人工智能发展的关键基础,但现有建设模式存在质量评价偏静态预设、商业模式闭环困难、与实体经济脱节等现实难题。对此,提出并论证了一种高质量数据集建设的新范式:将高质量数据集建设深度融入数据要素市场,依托市场化流通与多维度用户反馈动态定义数据质量。该范式以“实体经济赋能为主、AI训练服务为辅”的数据要素双循环价值模型为核心,并依托“基于实数融合的可信数据空间”,通过全量流通图谱与数据流通大模型等,确保数据流通的可信、可控与可计量。在此基础上,设计了从数据资源入市到精准分发的全流程技术方案,并构建了可持续的商业模式与激励机制,为推动高质量数据集建设从“静态、供给驱动”转向“动态、市场驱动、生态化运营”提供了创新思路。
关键词:高质量数据集;可信数据空间;数据要素市场;动态质量评价;实数融合
42
|
14
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
157928993 false
更新时间:2026-06-10
基于多智能体协作的法庭模拟与法律文书生成方法研究
AI导读
周裕林, 秦永彬, 林川
DOI:10.11959/j.issn.2096-0271.BDR26078
摘要:随着大语言模型在自然语言处理领域的突破性进展,利用人工智能技术辅助司法文书生成与裁判推理已成为法律人工智能研究的重要方向。然而,现有方法在应用于法庭模拟任务时仍面临法律信息不完整、文本结构强约束、司法推理过程不可解释以及复杂庭审流程难以建模等科学问题。针对上述挑战,本文提出了一种角色驱动的多阶段法庭模拟框架(AgentCourts),旨在有效缓解信息获取缺失、提升文书结构规范性、增强推理可解释性并优化庭审流程建模。该方法首先通过多轮对话式信息采集机制逐步抽取案件关键要素,将起诉状生成建模为信息抽取与整合问题;其次采用对抗式法律文本建模策略生成答辩状,确保答辩内容与起诉事实在语义层面形成有效回应;再次严格按照民事一审流程显式建模开庭审理、法庭调查、法庭辩论、评议宣判等阶段,并引入证据驱动的推理机制;最后通过模板约束下的内容填充策略,将法律文书生成从"自由生成"转化为"结构化填空",并调用法律条文检索接口提升法律适用准确性。在CAIL 2025法庭模拟赛道数据集上的实验结果表明,该方法能够稳定生成结构规范、逻辑一致的法律文书,在起诉状、答辩状及判决生成三个子任务上均取得了优异性能,验证了多阶段建模与模板约束生成策略在司法场景中的有效性与实用性。
关键词:法庭模拟;大语言模型;法律文书生成;多阶段推理;模板约束
32
|
13
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
157660843 false
更新时间:2026-06-03
面向人工影响天气的机载多源微物理数据集构建与泄露控制评估
AI导读
付佳, 陈英英, 李德俊, 陈旭, 刘睿
DOI:10.11959/j.issn.2096-0271.BDR26159
摘要:针对人工影响天气飞机作业机载数据种类繁多、探头难精确对齐及切分易致数据泄露等问题,构建了面向数据治理与泄露控制评估的人影作业飞机多源微物理基准数据集。通过脏数据剔除、多编码自适应解析、以结冰探头为锚点的1Hz融合及非负物理冰厚生成等方法,将43个架次的机载数据转化为含336570条样本的高质量融合表,并建立了按会话留组的严格嵌套交叉验证协议以阻断事件级泄露。采用XGBoost算法开展基准测试,验证了机载数据结冰起始信号的有效性,并确立了泄露控制下的回归任务基线。该数据集为航空结冰机理剖析与预警算法研发提供了标准化数据底座,为提升风险监控与飞行安全保障提供了严谨的评估参考。
关键词:人工影响天气;机载数据集;数据集构建;数据治理;秒级对齐;泄露控制
20
|
10
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
157454736 false
更新时间:2026-05-29
高质量演训数据集的构建与评估研究
AI导读
霍明亮, 黄永亮, 赵程亮, 林李杰, 郑向通
DOI:10.11959/j.issn.2096-0271.BDR26192
摘要:实战化演训是提升体系作战能力、检验装备效能、优化指挥决策的核心手段,而演训数据则是支撑复盘评估、战法验证、能力认证与指挥决策的关键数据要素。针对当前演训活动中存在的数据采集零散、标准不统一、多源异构难以融合、全生命周期治理机制缺失、质量评估体系不健全、数据安全与复用水平薄弱等现实问题,构建了高质量演训数据集全生命周期理论框架,系统研究了演训数据的需求建模、标准体系、数据预处理和质量管控、精准标注等关键构建技术,提出了“静态基础质量+动态作战效用”的双层评估模型,构建了演训数据集评估指标体系,并结合联合演训数据开展了验证分析。结果表明,该方法在完整性、准确性、时空一致性、标注一致性、复现率五个维度均实现了显著超越,且具备更强的自适应能力与鲁棒性,对联合演训数据质量评估具有有效性和可行性,可为实战化演训数字化转型、数据要素赋能体系作战提供理论支撑与技术路径。
关键词:实战化演训;高质量数据集;构建技术;评估模型;数字化转型
31
|
10
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
157454700 false
更新时间:2026-05-29
基于改进密度峰值聚类的AIS数据航线挖掘方法
AI导读
慕志颖, 李晓宇, 郑玉方, 郭森森
当前状态:
二校优先
DOI:10.11959/j.issn.2096-0271.2026048
摘要:针对现有船舶轨迹挖掘方法特征点提取阈值确认难、轨迹相似度计算效率低下以及聚类算法处理海量AIS数据时耗时过长等问题,提出了基于改进密度峰值聚类的AIS数据航线挖掘方法。首先,针对特征点阈值难以确定的问题,设计自适应阈值特征点提取算法,通过计算航向变化率和速度变化率的动态阈值自动筛选关键轨迹点;其次,针对轨迹相似度计算效率低下的问题,引入FastDTW算法计算轨迹间相似度距离,克服了传统方法在时序性和轨迹数量关系上的局限性;最后,针对聚类算法处理海量数据耗时过长的问题,结合四叉树空间分区策略,提出改进的密度峰值聚类算法,实现自适应参数选择和多分区并行聚类。在厦门港周边海域1 020万条AIS数据上进行实验验证,结果表明该方法在处理海量AIS数据时,能够准确提取目标水域的主要航路,轨迹相似度计算与航线挖掘效率显著优于传统方法。
关键词:AIS数据;密度峰值聚类;空间分区
53
|
25
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
155070153 false
更新时间:2026-05-29
大规模视觉语言模型幻觉综述
AI导读
张旭龙, 潘鹏, 瞿晓阳, 倪晓俊, 田晖, 王健宗
DOI:10.11959/j.issn.2096-0271.BDR25258
摘要:在多模态人工智能的快速发展中,大规模视觉语言模型凭借强大的跨模态理解与生成能力,已在视觉问答、图文生成、智能检索等任务中展现出广泛的应用前景。然而,幻觉问题,即模型生成的内容与输入视觉信息或事实不符,正成为制约其可靠性和可信度的关键挑战。研究发现,幻觉的产生不仅与训练数据的偏差和噪声有关,还涉及视觉编码与语言生成之间的对齐不足、模型结构的固有局限,以及推理阶段注意力分布的不稳定性。现有工作在幻觉的检测和评估方面逐步建立了多层次的分析框架,包括从对象、属性、关系等语义维度刻画模型错误表现;在缓解策略方面,研究者尝试通过提升数据质量、优化视觉表征、改进跨模态对齐方式、引入人类反馈机制,以及设计更稳健的推理与生成方法来降低幻觉发生率。尽管相关研究已取得一定进展,但在高风险应用领域中,幻觉问题仍然存在潜在风险,亟需进一步深入探索。系统梳理了LVLM幻觉的定义、类型、成因、检测与缓解思路,总结了当前面临的主要挑战与未来研究趋势,旨在为相关研究人员与工程实践提供全面而深入的参考。
关键词:幻觉;大规模视觉语言模型;多模态人工智能;跨模态对齐
58
|
31
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
155113669 false
更新时间:2026-05-29
数智风洞:面向生成式大模型的内生安全测评框架
AI导读
胡涛, 马海龙, 韩伟涛
摘要:随着生成式大模型的快速迭代和相关应用的不断扩展,其潜在的生成式内容风险和安全威胁日益凸显。因此,在大模型部署应用前开展全面深入的安全风险测试和评估至关重要。然而,当前测评手段存在测评用例固化、评估科目单一、结果漏报误报等问题。为此,提出了数智风洞——面向生成式大模型的内生安全测评框架,整体架构上,采用结构化、反馈式设计思想,分为测评基础支撑、测评对象设定、测评用例增强、测评环境配置、测评结果判定等5个模块。具体设计上,首先,基于检索增强生成技术智能辅助测评用例优化,高效扩展生成多样、有效的测评用例数据;其次,分析大模型内容安全与系统安全风险交织的内生特性,构建面向大模型的分级分类内生安全测评科目体系,共计3级43项;最后,基于多模型集成对测评结果进行综合裁决判定,防止单一模型判定引发的漏报误报问题。实验结果表明,相比现有的测评框架,数智风洞显著提升了测评时效性、覆盖度和准确率。
关键词:大模型;安全测评;内生安全
36
|
20
|
0
<HTML>
<网络PDF>
<WORD>
<XML>
<Meta-XML>
<引用本文>
<批量引用>
155113640 false
更新时间:2026-05-29
共 0 条
1
前往:
页
跳转
0
批量引用
回到顶部