shanghai security defense & alarm association 爱建网">

成人av视屏_成人av网页_成人av网站免费_成人av亚洲_日韩毛片在线免费观看_日韩毛片在线视频

 当前位置:行业资讯 >> 行业新闻 >>
华为与科大讯飞联合打造中国首个万卡国产算力平台“飞星一号” AI数据湖存储底座
  2024-03   华为数据存储
字号:


科大讯飞作为亚太地区赫赫有名的智能语音和人工智能企业,拥有语音及语言国家工程实验室和认知智能全国重点实验室。面对业界百模大战,谁可以快速部署高性能大模型训练平台,快速训练上线,谁就能先一步抢占市场有利位置。

为此科大讯飞与华为联合打造存、算、网全栈国产化的AI大模型解决方案,共同建设国内首个支持万亿参数大模型训练的万卡算力平台“飞星一号”。

1w.jpg 

华为AI数据湖解决方案,基于多套OceanStor专业存储分级建设,依托智能数据分级与多集群故障隔离、高效数据治理的高性能存储,为客户提供TB级带宽,端到端加速AI模型开发。  

大模型建设中遇到了哪些问题?

星火认知大模型从海量数据和大规模知识中持续进化,实现了从提出、规划到解决问题的全流程闭环。人工智能技术从感知理解世界的专用领域向生成创造世界的通用领域进行跨越式演进,这一过程产生了对数据存储的新挑战:

GPU利用率低:AI大模型训练以多机多卡任务为主,故障频率高,模型加载和断点续训CheckPoint读写时,对存储系统IO和带宽性能要求很高,千卡以上集群平均每天故障1次,断点恢复时间高达15分钟+,每次损失几十万。

集群分散不可靠:多家存储“烟囱式”建设,总容量几十PB,切分成几十个PB级的分散小集群,极大地增加了管理复杂度,并采用软硬分离的方式建设存储集群,降低了存储集群的可靠性同时也降低了带宽能力。

数据治理困难:AI训练集的文件数量有百亿个,当前“烟囱式”存储集群的建设模式,形成多个数据孤岛,数据需要人工迁移,效率低。同时无全局数据可视能力,无法识别冷热数据与高价值数据,数据难以治理。

综上可以看到大模型厂商对存储的核心诉求是:

1、 高性能的存储底座,以便支撑多机多卡的AI集群极致的训练时长和尽可能快的断点续训能力,降低错误回滚率。

2、 统一的AI存储数据湖管理能力,高效可靠的数据治理能力。

优质存储成为大模型时代的“黄金门票”

华为数据存储与科大讯飞联合打造中国首个万卡算力平台AI数据湖存储底座,针对通用AI大模型训练,科大讯飞采用算、存分离架构,计算侧追求更加极致的算力释放,存储侧部署多套华为OceanStor AI存储,提供可靠高效的几十PB可得容量。 

2w.jpg

AI数据湖方案架构图

15min->1min,断点续训恢复速度提升15倍,日节省几十万¥

断点续训恢复速度提升15倍:集群最大提供TB级大带宽,缩短CheckPoint读写耗时,断点续训恢复时长从15min缩短到1min,速度提升15倍。

集群管理,99.999%高可靠

存储集群安全可靠:华为OceanStor AI存储单集群多Storage Pool的方案,管理面合一,数据面分离,通过数据面隔离避免AI集群故障扩散;同时通过亚健康管理、大比例EC等进一步提升存储可靠性,单集群可靠性达99.999%。

全生命周期管理TCO降低30%

数据治理成本低:统一数据湖管理,GFS全局文件系统,无损多协议互通,免除数据孤岛,数据全局可视、可管,高效流动,跨域调度效率提升3倍,数据零拷贝,端到端加速AI模型开发;千亿元数据秒级检索,智能识别数据热度,精准分级,实现存储系统性能与容量均衡。


面向未来万卡/十万卡更大规模算力集群华为OceanStor AI存储专为AI而生,与科大讯飞联合打造中国首个万卡算力平台AI数据湖存储底座,借助海量数据和知识加速星火认知大模型持续进化,共建“让机器能听会说,能理解会思考,用AI建设美好世界”的美好愿景!


TOP
主办单位:上海安全防范报警协会
shanghai security defense & alarm association
地址:上海市普陀区云岭东路235号3号楼404室   电话:021-54732822   传真:021-54732822
协会标准咨询邮箱:sdaasc2015@126.com 协会工程咨询邮箱:sdaapc2015@126.com 协会申诉咨询邮箱:sdaaqc2015@126.com
ICP备案号: 沪ICP备14004542号-2

沪公网安备 31011202001934号


技术支持 : 爱建网
建议使用最新版浏览器,以获得最佳浏览效果。
主站蜘蛛池模板: 国产精品福利在线观看入口 | 欧美日韩在线观看精品 | 成人免费观看的视频黄页 | 欧美日韩中文一区二区三区 | 国产成人精品福利站 | 七七国产福利在线二区 | 国产在线观看免费人成小说 | 欧美一级做a爰片久毛片 | 国产成人在线视频 | 青青草原国产在线观看 | 欧美国产免费 | 日本网址 | 欧美视频在线观在线看 | 九九精品视频一区二区三区 | 国产欧美日韩在线观看精品 | 日韩欧美精品在线观看 | 精品久久久久国产 | 欧美大尺度网站 | 韩国美女韩宝贝vip2019 | 超级碰碰在线观看免费视频 | 国产偷怕自拍 | 3344在线成人看片 | 黄色毛片在线 | 韩国美女韩宝贝vip2019 | 日韩成人影院 | 毛片视频免费 | 国产在线一区二区三区在线 | a级人体片免费观看网站 | 国产精品永久免费自在线观看 | 精品在线小视频 | 成年人在线观看免费视频 | 久久久久免费精品国产小说 | 精品成人毛片一区二区视 | 国产 欧美日韩 在线播放 | 日韩高清一区二区三区不卡 | 高清不卡一区二区三区 | a级精品九九九大片免费看 a级片在线免费观看 | 国产激情一区二区三区成人91 | 日本高清在线中文字幕网 | 国产区精品高清在线观看 | 国产高清视频网站 |