当前位置:首页 > 国内新闻

英博数科发布英博云智算解决方案,精准应对大模型算力市场变革

内容摘要:随着AIGC技术的爆发,大模型驱动的算力需求正在重塑市场格局。近日,国产智算先锋英博数科正式发布了旗下品牌英博云的多款GPU智算产品和服务,致力于解决大模型时代算力需求...

随着AIGC技术的爆发,大模型驱动的算力需求正在重塑市场格局。近日,国产智算先锋英博数科正式发布了旗下品牌英博云的多款GPU智算产品和服务,致力于解决大模型时代算力需求的核心痛点。英博数科高管团队在接受媒体采访时,深入剖析了算力市场的三大变化、技术挑战和英博云的独特优势,为智算产业的发展提供了清晰的方向。

67651e21321ee

算力市场风云变幻,三大趋势引领变革

英博数科CEO浦威指出,当前大模型引发的算力市场正在经历三大显著变化:

通用大模型从千卡迈向万卡集群:

大模型的迭代对算力规模提出了更高要求,万卡级集群已成为新门槛。OpenAI、xAI等国际巨头正布局十万卡集群,国内科技公司如字节跳动、阿里巴巴、百度等也在积极迈向这一规模。

垂直大模型需求走向弹性化:

不同于通用模型的集中训练,垂直领域的模型微调和行业应用对算力需求更加分散、临时和动态。企业对算力资源的成本和灵活性有更高要求,推动了弹性算力模式的普及。

算力需求从训练转向推理:

随着大模型商业化落地,推理场景正逐步取代训练成为主导。预计到2027年,中国AI服务器推理负载将达到72.6%,推理需求在文本生成、视频生成和自动驾驶等领域呈爆发式增长。

英博云:多样化智算方案精准应对市场需求

面对算力市场的变革,英博数科推出了英博云智算解决方案,覆盖大规模训练和弹性算力需求两大核心场景。

智算中心定制化建设:

为通用大模型企业提供万卡级集群的建设、运维和整体解决方案。英博数科凭借在京能智算中心项目中的经验,解决了大规模集群建设中的硬件选型、网络互联和运维管理等技术难题。

GPU容器服务:

针对中小企业和垂直领域客户,英博云提供基于K8S的GPU容器服务,支持按小时、按分钟计费,满足弹性算力需求,显著提高算力资源的利用率,降低企业成本。

先进算力实验室:

围绕硬件评测、软件评测以及行业服务展开工作,为企业算力基础设施的升级与优化提供前瞻先进、切实可行的建议。比如在硬件评测方面,实验室会对GPU、交换机、光模块、并行存储等进行严格测试,确保设备性能符合高标准;在软件评测方面,围绕基座模型、训练框架、微调框架、推理框架等,为智能算力的优化提供全方位支持。通过提供行业标准制定和定制化服务,先进算力实验室会帮助企业在智能算力领域不断突破创新。

“单位有效算力成本”:定义算力效率新标准

英博数科提出了**“单位有效算力成本”**评估框架,通过算力投入成本(设备、机电、运维)与有效算力(装机算力、卡可用率、卡利用率、模型算力利用率)的比值,帮助企业精准评估算力使用效率。

英博数科副总裁秦伟俊表示:“我们从IDC建设、运维折损、模型训练效率等全链条进行优化,确保客户的每一份算力投入都能物尽其用,降低资源浪费。”

技术实力与市场定位的差异化优势

在智算市场中,英博云的核心优势体现在:

深厚的技术积累:

拥有从智算中心建设、集群运维到算力调度的完整技术链条,能够为头部客户提供定制化万卡集群解决方案。

灵活的弹性算力服务:

面向中小企业,提供VCluster形式的GPU和CPU混合资源,支持动态算力分配,填补了公有云厂商在细分市场的空白。

成本优化能力:

通过单位有效算力成本标准,帮助客户降低算力成本,提高资源利用率,特别适合AIGC、自动驾驶等高频应用场景。

引领智算市场健康发展

英博数科副总裁宋琛表示,虽然部分跨界企业因资金和技术门槛退出市场,但核心的算力需求依然强劲。随着大模型向垂直行业渗透,算力市场将更加理性和健康,弹性算力服务将成为未来主流。

CTO李少鹏指出,万卡和十万卡级集群并行训练将是下一阶段的技术挑战,英博数科已具备在这一领域抢占先机的能力。

在大模型驱动的算力市场中,英博数科与英博云通过技术创新和市场洞察,提供高效、弹性、多样化的智算解决方案,助力企业高效利用算力资源。英博数科正以强大的技术实力和战略布局,引领智算产业迈向高效化、智能化和可持续发展的新阶段。

(以上内容来源如无标示深港网皆为本网站转自其它媒体,相关信息仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。如有侵权,请来信告知,本站不负任何法律责任。)

上一篇:树人托管亮相广州千人峰会,宣布“0加盟费”,震惊业界

下一篇:返回列表