博鱼体育官方英特尔颁发全新软创新硬件平台全快帮力企业推动AI更始

发布时间:2024-04-10 15:23:26    浏览:

[返回]

  博鱼体育入口中闭村正在线日,英特尔举办了面向客户和配合资伴的英特尔on资产革新大会,发布了英特尔至强6收拾器的全新品牌,推出英特尔Gaudi3加快器,以高本能、盛开性和精巧性帮力企业推动天生式AI革新,并公布了涵盖全新盛开、可扩展体例,下一代产物和一系列政策配合的全栈处理计划,以加快天生式AI落地。遵照cnvrg.io的调研结果,2023年唯有10%的企业告成将其天生式AI项目产物化。英特尔的最新处理计划希望帮帮企业应对施行AI项目时所面对的寻事。

  英特尔公司首席推广官帕特·基辛格吐露:“革新身手正正在以空前未有的速率发扬,每家公司都正在加快成为AI公司,这所有都需求半导体身手供应支撑。从PC到数据中央再到角落,英特尔正正在让AI走进千行百业。英特尔最新的Gaudi、至强和酷睿平台将供应精巧的、可定造化的处理计划,满意客户和配合资伴无间变动的需求,驾御住将来的伟大机缘创新。”

  英特尔Gaudi 3 AI加快器将为AI体例供应动力,该AI体例可通过以太网的通用圭表衔接多达数万个加快器。与上一代产物比拟,英特尔Gaudi 3将带来4倍的BF16 AI筹算才气晋升,以及1.5倍的内存带宽晋升。该加快器将为寻求大范围安放天生式AI的企业带来AI操练和推理方面的巨大奔腾。英特尔Gaudi 3估计可大幅缩短70亿和130亿参数Llama2模子,以及1750亿参数GPT-3模子的操练工夫。别的,正在Llama 7B、70B和Falcon 180B大发言模子(LLM)的推理含糊量和能效方面也显现了生色本能。

  英特尔Gaudi 3供应盛开的、基于社区的软件和行业圭表以太网汇集,答允企业精巧地从单个节点扩展到拥少有千个节点的集群、超等集群和超大集群,支撑大范围的推理、微协和操练。英特尔Gaudi 3将于2024年第二季度面向OEM厂商出货。

  英特尔概述了面向盛开的、可扩展的AI体例的政策,此中席卷硬件、软件、框架和器材。英特尔让平凡的AI盛开生态体例插手者,如修造创造商、数据库供应商、体例集成商、软件和任事供应商等,可能供应满意企业特定天生式AI需求的处理计划创新。与此同时,亦让企业与他们已知创新、信托的生态体例配合资伴睁开配统一接纳相应处理计划。

  英特尔连合Anyscale、Articul8、DataStax、Domino、HuggingFace、KXSystems、MariaDB、MinIO、Qdrant、RedHat、Redis、SAP、VMware、Yellowbrick和Zilliz配合发布,将创修一个盛开平台帮力企业胀动AI革新。这一凝聚全行业力气的方针旨正在开采盛开的、多供应商的天生式AI体例,通过RAG(检索巩固天生)身手,供应一流的安放方便性、本能和代价。RAG可使企业正在圭表云根蒂措施上运转的豪爽现存专少有据源取得盛开大发言模子(LLM)效力的巩固,加快天生式AI正在企业中的利用创新。正在该方针的初始阶段,基于安定的至强收拾器和Gaudi处理计划,英特尔将面向天生式AI历程(pipelines)推出参考告竣,公布身手观念框架,并不停促进英特尔Tiber开采者云平台根蒂措施的效力,以便为RAG及将来历程的生态体例开采和确认打下根蒂。英特尔荧惑生态体例进一步插手到这一盛开平台的创修中来,以鼓舞企业采用该平台,夸大处理计划的利用鸿沟,并赢得营业功劳。

  :英特尔至强收拾器为运转目下的天生式AI处理计划供应了本能高效的处理计划,席卷操纵专少有据天生特定营业结果的RAG。同时,英特尔还为面向数据中央、云和角落的下一代收拾器实行了品牌焕新,即英特尔至强6。装备能效核(E-cores)的英特尔至强6收拾器将于2024年第二季度推出,供应优异的功效,装备本能核(P-cores)的英特尔至强6收拾器将紧随其后推出,带来更高的AI本能。

  客户能以近3:1的比例调换旧体例,大幅低重能耗,帮帮其告竣可连续发扬对象。

  包蕴了对MXFP4数据款式的软件支撑,与操纵FP16的第四代英特尔至强收拾器比拟,可将下一个令牌(token)的延迟工夫最多缩短6.5倍,可能运转700亿参数的Llama-2模子博鱼体育官方。

  :英特尔分享了客户端产物的发扬势头以及诸多角落和汇集互联产物的道途图更新,席卷:

  英特尔酷睿Ultra收拾器为分娩力、安定性和实质创作供应了全新才气,并为企业焕新其PC修造供应了伟大动力。英特尔估计将于2024年出货4000万台AI PC,以及凌驾230种的策画,笼盖浮滑PC和游戏掌机修造。将于2024年推出的下一代英特尔酷睿Ultra客户端收拾器家族(代号Lunar Lake),将具备凌驾100 TOPS平台算力,以及正在神经汇集收拾单位(NPU)上带来凌驾46 TOPS的算力,从而为下一代AI PC供应宏大支撑。

  英特尔公布了涵盖英特尔酷睿Ultra、英特尔酷睿、英特尔凌动收拾器和英特尔锐炫显卡系列产物正在内的全新角落芯片,重要面向零售、工业创造和医疗等症结规模。英特尔角落AI产物组合内的一起新品将于本季度上市,并将正在本年年内取得英特尔Tiber角落平台的支撑。

  通过超以太网同盟(UEC),英特尔正正在驱动面向AI高速互联身手(AI Fabrics)的盛开式以太网汇集革新,并推出一系列针对AI优化的以太网处理计划。这些革新旨正在更新可大范围纵向(scale-up)和横向(scale-out)扩展的AI高速互联身手,以支撑AI模子的操练和推理,这些模子的范围日益重大,每一代都邑拉长一个数目级。英特尔的产物组合席卷英特尔AI汇集衔接卡(AI NIC)、集成到XPU的AI衔接芯粒、基于Gaudi加快器的体例,以及一系列面向英特尔代工的AI互联软硬件参考策画。

  英特尔公布了英特尔Tiber营业处理计划组合,以简化企业软件和任事的安放,席卷天生式AI。这一联合的体验将使企业客户和开采职员可能更轻松地找到适合其需求的处理计划,加疾革新并开释代价,同时不失掉安定性、合规性或本能。客户近日起便可起首探究英特尔Tiber产物组合,本年第三季度这一处理计划将会全数推出创新。

  英特尔永远努力于让AI更易于操纵、更盛开、更安定,从而满意环球企业的分歧需求。通过IntelVision 2024大会上布告的全新配合和处理计划,英特尔将正在AI海潮中戮力引颈革新,让AI为各行各业带来空前未有的代价。博鱼体育官方英特尔颁发全新软创新硬件平台全快帮力企业推动AI更始

搜索