pa集团官网入口

CN EN JP
企业邮箱入口
关注pa集团官网入口智能掌握最新行业动态与资讯
目今位置:首页 >  新闻中心 >  公司新闻

走向边沿智能,,,,,pa集团官网入口智能携手阿加犀乐成在高算力AI模组上运行一系列大语言模子

宣布日期:2023-11-14 会见量:31287 泉源:pa集团官网入口智能

克日,,,,,pa集团官网入口智能施展软硬件一体协同开发能力,,,,,融合阿加犀卓越的AI优化安排手艺,,,,,在搭载高通QCS8550平台的高算力AI模组上,,,,,乐成运行了一系列大语言模子,,,,,包括LLaMA-2、通义千问Qwen、百川大模子、RedPajama、ChatGLM2、Vicuna,,,,,展现出卓越的边沿端大模子安排能力。。 。。。。。

111401.jpg

▌构建智算底座,,,,,加速大模子端侧安排

大模子和天生式AI的浪潮席卷全球,,,,,带来人工智能新纪元。。 。。。。。大模子降生之初主要是与云端绑定,,,,,而随着应用场景的拓展,,,,,AI最先赋能千行百业,,,,,大模子也需要在越来越多的终端装备上运行。。 。。。。。若是说天生式AI是正在高速向前行驶的列车,,,,,那算力就是燃料。。 。。。。。终端侧AI的落地应用,,,,,离不开硬件和装备算力的升级。。 。。。。。

今年,,,,,高通推出了AI算力芯片QCS8550,,,,,整合了强盛的NPU算力和边沿侧AI处置惩罚手艺、Wi-Fi 7毗连手艺以及增强型图形和视频处置惩罚能力,,,,,提供高速、低功耗的AI盘算平台,,,,,为终端侧AI赋能。。 。。。。。

111402.jpg

基于高通QCS8550芯片平台,,,,,pa集团官网入口智能推出了高算力AI模组SNM970,,,,,综合AI算力高达48Tops,,,,,并支持混淆精度盘算,,,,,为IoT装备打造全新的智算底座。。 。。。。。高算力AI模组是承载端侧AI无限创造空间的最佳形式,,,,,为海量碎片化场景提供稳固的通讯能力和强盛的边沿算力,,,,,让终端开发者能够基于标准化的模组完成低本钱、短流程的产品设计和制造,,,,,降低大模子的开发和使用本钱。。 。。。。。

另一方面,,,,,AI从芯片到应用还需要解决跨平台迁徙、异构芯片效率丧失、碎片化的场景需求等挑战。。 。。。。。阿加犀具备成熟的AidLux平台和行业领先的开箱即用AI工具链,,,,,能够周全提升边沿装备的AI性能和模子执行效率,,,,,为AI项目在富厚场景中快速落地提供专业支持,,,,,进一步推动AI应用的终端安排。。 。。。。。

此次,,,,,pa集团官网入口智能高算力AI模组产品团队携手阿加犀,,,,,在基于高通骁龙800系列平台的自研高算力AI模组上乐成运行一系列大语言模子,,,,,乐成验证了算力模组作为未来大模子边沿AI算力底座的通用性,,,,,对边沿端天生式AI的支持进一步成熟,,,,,有望将天生式AI拓展至更多领域。。 。。。。。

微信图片_20231114141224.jpg

pa集团官网入口智能提供具备精彩能效比、强盛的盘算能力的算力模组,,,,,团结阿加犀独吞的AI工具链带来的领先的SoC性能调理能力,,,,,二者强强团结施展出模组的极致性能,,,,,让多个参数达70亿的语言大模子,,,,,包括LLaMA-2、通义千问Qwen、百川大模子、RedPajama、ChatGLM2、Vicuna,,,,,都能在算力模组上坚持高效运行。。 。。。。。

▌高算力AI模组,,,,,让AI触手可及

pa集团官网入口智能高算力AI模组产品专为终端侧、边沿侧AI应用设计,,,,,依赖强盛的软硬件一体研发能力,,,,,pa集团官网入口智能一连推进高算力AI模组的AI硬件一直升级,,,,,至今已履历经多代产品演进,,,,,涵盖入门级、中端、旗舰级多条理产品,,,,,包括SNM930、SNM950、SNM960、SNM970、SNM972等系列,,,,,对应AI算力笼罩14Tops~48Tops。。 。。。。。

111403.jpg

同时,,,,,pa集团官网入口智能研发团队在AI应用场景开发、AI性能优化和AI低功耗程序研发等领域的设计研发能力处于行业领先水平,,,,,相关算力产品在种种焦点场景大规模应用,,,,,让智慧零售、智能机械人、智慧交通、智慧农业、智能制造等各行各业快速于边沿端安排大模子,,,,,以AI驱动营业立异。。 。。。。。

针对AI边沿盘算领域,,,,,pa集团官网入口智能基于高算力AI模组SNM972,,,,,助力客户打造SoC阵列服务器产品。。 。。。。。该模组接纳MiniPCIe封装方法,,,,,支持16GB LPDDR5X + 256GB UFS 4.0内存,,,,,并支持混淆精度盘算,,,,,支持ONNX、Pytorch、CAFFE、TensorFlowLite等模子框架,,,,,可轻松赋能种种AI场景。。 。。。。。

1114.5.jpg

计划中每个算力节点接纳刀片+阵列式设计,,,,,内部实现????????榛叭炔灏紊杓,,,,,可以实现不;;;; ;;;;ぁ。 。。。。。最高可设置80路算力模组,,,,,单颗模组内部支持Android虚拟化,,,,,可虚拟出多路盘算单位,,,,,更好地举行算力设置,,,,,为实时互动云盘算、边沿AI云盘算、云渲染等营业场景提供最佳算力底座。。 。。。。。

AI正在改变天下,,,,,pa集团官网入口智能始终以市场需求为导向,,,,,与相助同伴细密相助,,,,,围绕高算力AI模组打造更多适配行业的解决计划,,,,,拉近大模子和应用之间的距离,,,,,掌握智慧先机,,,,,实现让AI触手可及的目的,,,,,赋能数字经济生长。。 。。。。。

返回列表
分享:

Copyright ? 2019 pa集团官网入口.粤ICP备16017609号

粤公网安备44030402003674号

友情链接: 友情链接 | 网站地图

智能客服 PA集团|中国官网

添加企业客服 添加企业客服
微博 PA集团|中国官网
0755-83218588 PA集团|中国官网
TOP

【网站地图】【sitemap】