当前位置: 首页 >头条 > 正文

45亿参数科学大模型一天训完

2023-06-28 10:11:44 来源:中国教育新闻网

6月27日,国内高校最大的云上科研智算平台CFFF(Computing for the Future at Fudan)在复旦大学正式上线。这台为发现和解决复杂科学问题而建的科研“超级计算机”由复旦大学与阿里云、中国电信共同打造,以先进的公共云模式提供超千卡并行智能计算,支持千亿参数的大模型训练——这在国内高校中尚属首例,也领先于斯坦福大学等国际知名高校。

目前,首个基于CFFF平台训练的科学大模型成果已正式发布,45亿参数大模型一天训完。

复旦大学校长、中国科学院院士金力表示,在数据和智能技术驱动的“大科学时代”,如何在日新月异的科技创新环境中赢得主动,在关键领域取得创新突破,是时代给予高校的命题。以CFFF平台为代表的智算平台作为一种新兴的科研超算架构,将成为科研的重要支撑力量,极大提升科研效率、降低科研成本,加速科学原理发现和技术突破,并有力推动科学大模型的落地。


(资料图)

延续复旦大学“博学而笃志,切问而近思”的校训,CFFF平台由面向多学科融合创新的AI for Science智能计算集群“切问”一号和面向高精尖研究的专用高性能计算集群“近思”一号两部分组成。

复旦大学浩清教授、人工智能创新与产业研究院院长漆远介绍,基于百G高速数据传输网和阿里云全球领先的大规模异构算力融合调度技术、分级存储技术、AI与大数据一体化技术,部署在复旦校内的“近思”一号和托管在1500公里外阿里云乌兰察布数据中心的“切问”一号连成了一台真正意义上的“超级计算机”,复旦四校区的所有实验设备都能高速接入,做到异构算力统一管理,计算任务统一调度,满足不同应用场景下的科学智能研究与应用需求。

它还拥有国内高校最大规模的多级数据冷热分层存储集群,解决了海量科研数据无法长期备份的痛点,并支持云上高速传输。

位于“东数西算”节点上的阿里云乌兰察布数据中心,以公共云模式为复旦校内多学院的多个科研项目提供更高性能、更具弹性、更低成本和更绿色的智能计算服务。漆远表示,有赖于公共云模式,跑在CFFF平台上的项目可享受到超千卡并行的智能算力,千卡并行的有效算力达到行业领先的92%,可拓展性达到万卡,万卡并行有效算力也可达90%。

同时,CFFF平台更加低碳。阿里云绿色数据中心技术结合乌兰察布当地天然的气候优势,CFFF平台可实现年平均PUE小于1.2,每年节省总电力超过2000千瓦,节省电费500万元,年均节碳量达15吨。

据悉,CFFF平台从开始建设的第一天起,就收到了来自复旦不同院系的多种研究需求,不仅涵盖生命科学、大气科学、材料科学领域,也包括金融系统分析等社会科学研究。平台上的云原生与低代码工程化AI开发平台,进一步降低了AI与科研融合的门槛。

目前,CFFF平台上的第一个科研成果已经诞生。复旦大学人工智能创新与产业研究院李昊团队近期发布了45亿参数量的中短期天气预报大模型,预测效果在公开数据集上首次达到业界公认的ECMWF(欧洲中期天气预报中心)集合平均水平,并将预测速度从原来的小时级缩短到了3秒内。

这也是CFFF平台上孕育出的第一个大模型。金力表示,复旦希望基于CFFF平台建成一批具有世界级影响力的科学大模型,例如生命科学大模型、材料科学大模型、大气科学大模型、集成电路大模型等。

标签:

返回顶部