锐单电子商城 , 一站式电子元器件采购平台!
  • 电话:400-990-0325

后摩智能推出边端大模型AI芯片M30,赋能多场景智能化

时间:2024-06-28 13:37:11

近日,后摩智能推出基于存算一体架构的边端——后摩漫界™️M30,最高100TOPS,典范功耗12W。为了进一步晋升安排的便捷性,后摩智能同步推出了基于M30芯片的智算模组(SoM)和力谋®️AI加速卡。

跟着安排需要从云端敏捷向端侧和边缘侧设置装备摆设迁徙,AI芯片的功能、功耗和呼应速率面对前所未有的挑衅。后摩漫界™️M30芯片兼具高性能与特点,可餍足边端侧大模子安排对高效率和及时性的严苛请求。


后摩漫界™️M30

M30是一款通用的边端大模子AI芯片,可以或许支撑多种大模子,包孕但不限于ChatGLM、Llama2、通义千问等。以Qwen1.5-7B-Chat为例,M30的运转功能可达15-20 Tokens/s。

基于M30芯片的智算模组(SoM)支撑PCIe EP模式,以其玲珑的体积、微弱的功能和极低的功耗,成为小型化设置装备摆设和功耗敏感场景的现实抉择。另外,基于M30芯片的力谋®️AI加速卡作为规范的半高半长PCIe加速卡,能在PC、一体机和中完成倏地安排,支撑自动散热和被动散热两种模式,确保设置装备摆设在分歧环境下的稳固运转。

后摩漫界™️M30将以“+AI”的体式格局,为传统的端侧和边缘侧设置装备摆设注入壮大的大模子才能,现已胜利适配包孕X86、ARM在内的多种支流,可广泛应用于AI PC、一体机、、商用表现、智能融会网关,(网络附加存储)等畛域,为在更多畛域的深刻使用注入壮大能源。

锐单商城拥有海量元器件数据手册IC替代型号,打造电子元器件IC百科大全!

相关文章