中国  

English  

你的位置:J9九游会登录入口首页·「中国」首页直达 > 新闻动态 > J9九游会体育一方面大模子范围化商用发挥突飞大进-J9九游会登录入口首页·「中国」首页直达

J9九游会体育一方面大模子范围化商用发挥突飞大进-J9九游会登录入口首页·「中国」首页直达

时间:2025-11-10 11:33 点击:185 次

J9九游会体育一方面大模子范围化商用发挥突飞大进-J9九游会登录入口首页·「中国」首页直达

2025湾区半导体产业生态展览会(即2025湾芯展)在深圳举办本事。10月16日J9九游会体育,AI芯片与智算产业发展岑岭论坛在展会举行,英特尔中国区显卡和AI高档居品总监徐金平通过主旨演讲要点先容了英特尔锐炫多卡有规画。

在AI时间,企业机遇与挑战并存。一方面大模子范围化商用发挥突飞大进,蕴涵的机遇近在目下。另一方面不管是海量图像、文本、音视频数据的处理,照旧复杂紧密化AI模子的部署等等,齐给传统算力架构的性能和能耗带来了挑战。

怎样将AI后劲灵验地滚动为本色坐褥力?英特尔锐炫多卡有规画但愿凭借生动的膨大才智,不仅高效衔接多模态数据的密集型谋略需求,又能指责企业AI部署的资本与复杂度,为AI的大范围、普惠化落地筑牢复古。

看成有规画的中枢硬件,英特尔锐炫Pro B60 GPU凭借24GB的大显存和456GB/s的高内存带宽,自大了AI推理对显存容量的遑急需求,让大参数模子运动驱动,让海量数据高效申辩,197 TOPS的峰值算力则为万般复杂AI推理任务提供能源。

徐金平先容,B60主要用于推理责任站,英特尔对其作念了一些AI的性能测试,举例Windows PC上单卡场景中就测了10个模子。“咱们对比的居品是RTX2000和5060Ti,在相对小的14B-int4模子上,B60比RTX2000有比拟光显的普及,稍稍逾期于5060Ti,这是与SPEC相符的。背面的9个模子咱们齐是高出的。”

英特尔锐炫Pro B60 GPU的另一亮点是支捏多显卡协同责任,洽商到边际端和工作器等更平凡利用场景的需求,通过多卡互联有规画Battlematrix(斗争阵列)推理责任站平台,最多可搭载8张英特尔锐炫Pro B60 GPU,显存最高可达192GB;若罗致独特的“一卡双芯”有规画,则最多可支捏16颗GPU芯片,显存总量可达384GB,其支捏100B+参数模子,可顺畅处理大范围数据集与复杂模子等任务,契合企业对“高算力+大显存+资本效益”的多重诉求。

据先容,在本色利用中,英特尔工程师团队借助该有规画,将本来需数天完成的代码配置全历程指责至数小时,充分考据了多卡互联有规画在复杂任务处理中的高效与可靠。

以英特尔锐炫Pro B60和锐炫多卡责罚有规画为中枢,英特尔也为个东谈主和边际侧轻量级AI推理、通用责任站及工作器、专用AI工作器等不同场景的AI部署,提供了生动的居品风光选定,从个东谈主电脑、边际征战,到通用责任站/工作器乃至专用AI工作器,齐能找到与之匹配的高效且具备资本上风的部署有规画。徐金平示意,B60居品不错支捏多种风光整机的居品风光,也能支捏全场景平凡的模子范围,是企业架构下的“甜点”GPU。

本年,英特尔照旧推出了英特尔锐炫多卡AI算力一体机有规画,而基于英特尔锐炫Pro B系列的多卡有规画的到来,进一步丰富了英特尔支捏AI大模子部署的硬件风光。在AI快速迭代确当下,英特尔强调的是软硬吞并的概括价值,将通过底层硬件更正与灵通软件生态,让AI部署更普惠、更浅薄。

南边+记者 葛政涵 郜小平J9九游会体育

官网:www.lx0737.com

邮箱:1e069cd1@outlook.com

联系:14972852696

地址:新闻动态电子工业园4100号

Powered by J9九游会登录入口首页·「中国」首页直达 RSS地图 HTML地图


J9九游会登录入口首页·「中国」首页直达-J9九游会体育一方面大模子范围化商用发挥突飞大进-J9九游会登录入口首页·「中国」首页直达