分布式技术在大模型训练和推理中的应用

郑纬民

doi:10.11959/j.issn.2096-0271.2024056

您当前的位置：

首页 >

文章列表页 >

分布式技术在大模型训练和推理中的应用

战略研究 | 更新时间：2024-10-11

- 分布式技术在大模型训练和推理中的应用
- Application of distributed techniques in large language model training and inference
- 大数据 2024年10卷第5期页码：1-10
- 作者机构：
  
  清华大学计算机科学与技术系，北京 100084
- 作者简介：
  
  [ "郑纬民（1946- ），男，中国工程院院士，清华大学计算机科学与技术系教授，中国计算机学会第十届理事长，数博会专家咨询委员会委员，何梁何利科学与技术进步奖获得者，中国存储终身成就奖获得者，享受国务院政府特殊津贴，《大数据》主编。获北京市优秀教师奖和北京市教学名师称号，获国家科技进步奖一等奖1项、二等奖2项，国家技术发明奖二等奖1项，2016年获ACM戈登·贝尔奖。2019年当选中国工程院院士。主要研究方向为网络存储系统，长期从事网络存储系统科学研究、工程建设和人才培养，在存储系统扩展性、可靠性和集约性等科学问题和工程技术方面，取得了国内外同行认可的创新性成果；研制的网络存储系统、容灾系统和自维护存储系统在多个重大工程中发挥了重要作用。教学方面长期讲授计算机系统结构课程，2008年被评为国家级精品课程；已编写和出版计算机系统结构教材和专著10本，与合作者一起发表论文530余篇。" ]
- 基金信息：
  
  国家自然科学基金项目(U23A6007)
- DOI：10.11959/j.issn.2096-0271.2024056
  中图分类号： TP319
- 收稿：2024-07-28，
  
  纸质出版：2024-09-15
- 稿件说明：
移动端阅览
郑纬民. 分布式技术在大模型训练和推理中的应用[J]. 大数据, 2024,10(5):1-10.

ZHENG Weimin. Application of distributed techniques in large language model training and inference[J]. Big Data Research, 2024, 10(5): 1-10.
郑纬民. 分布式技术在大模型训练和推理中的应用[J]. 大数据, 2024,10(5):1-10. DOI： 10.11959/j.issn.2096-0271.2024056.

ZHENG Weimin. Application of distributed techniques in large language model training and inference[J]. Big Data Research, 2024, 10(5): 1-10. DOI： 10.11959/j.issn.2096-0271.2024056.

浏览量

1038

下载量

CSCD

文章被引用时，请邮件提醒。

提交

工具集

关联资源

大模型时代下的存储系统挑战与技术发展

分布式技术在大模型训练和推理中的应用

Application of distributed techniques in large language model training and inference

DOI：10.11959/j.issn.2096-0271.2024056