近日,后摩智能推出基于存算一体架构的边端——后摩漫界™️M30,最高100TOPS,典范功耗12W。为了进一步晋升安排的便捷性,后摩智能同步推出了基于M30芯片的智算模组(SoM)和力谋®️AI加速卡。
跟着安排需要从云端敏捷向端侧和边缘侧设置装备摆设迁徙,AI芯片的功能、功耗和呼应速率面对前所未有的挑衅。后摩漫界™️M30芯片兼具高性能与特点,可餍足边端侧大模子安排对高效率和及时性的严苛请求。

后摩漫界™️M30
M30是一款通用的边端大模子AI芯片,可以或许支撑多种大模子,包孕但不限于ChatGLM、Llama2、通义千问等。以Qwen1.5-7B-Chat为例,M30的运转功能可达15-20 Tokens/s。
基于M30芯片的智算模组(SoM)支撑PCIe EP模式,以其玲珑的体积、微弱的功能和极低的功耗,成为小型化设置装备摆设和功耗敏感场景的现实抉择。另外,基于M30芯片的力谋®️AI加速卡作为规范的半高半长PCIe加速卡,能在PC、一体机和中完成倏地安排,支撑自动散热和被动散热两种模式,确保设置装备摆设在分歧环境下的稳固运转。
后摩漫界™️M30将以“+AI”的体式格局,为传统的端侧和边缘侧设置装备摆设注入壮大的大模子才能,现已胜利适配包孕X86、ARM在内的多种支流,可广泛应用于AI PC、一体机、、商用表现、智能融会网关,(网络附加存储)等畛域,为在更多畛域的深刻使用注入壮大能源。

