泡泡网手机频道 PCPOP首页      /      手机     /      新闻    /    正文

MediaTek携手阿里云在天玑移动平台完成通义千问大模型端侧部署

  2024年3月28日 —— 今日,MediaTek与阿里云宣布达成一项深度合作,旨在将通义千问大模型成功部署于天玑9300移动平台,并确保其兼容性覆盖至天玑8300移动平台。此次合作的核心目标是实现在离线环境下,依然能够提供即时、精确的多轮人机对话问答功能,从而推动AI智能体(AI Agent)应用的广泛发展。

  MediaTek无线通信事业部副总经理李彦辑博士对此次合作充满期待,他表示:“阿里云的通义系列大模型在AI领域表现卓越。我们相信,通过双方的共同努力,将为应用开发者和终端用户提供更加强大的软硬件解决方案。这不仅将促进生成式AI的端侧部署,还将加速AI应用和AI智能体生态的发展,为用户带来更加激动人心的AI产品体验。”

  阿里巴巴通义实验室业务负责人徐栋也对合作成果表示肯定,他指出:“端侧AI是大模型应用落地的关键场景,但面临诸多挑战。通过与MediaTek的合作,我们克服了软硬件适配和开发环境的难题,成功实现了大模型在手机芯片中的集成,为业界树立了端侧AI Model-on-Chip部署的新典范。我们相信,这将激发开发者创造出更多创新和实用的AI应用。”

  MediaTek的天玑9300集成了第七代AI处理器APU 790,内置硬件级的生成式AI引擎,支持运行高达330亿参数的AI大语言模型,并具备生成式AI模型端侧“技能扩充”技术NeuroPilot Fusion。此外,MediaTek的AI开发平台NeuroPilot已经适配了全球主流的AI大模型,并提供了完整的工具链,支持NeuroPilot Fusion和LoRA融合技术,大幅提升了大模型的端侧处理效率。

  通义千问作为阿里云自研的LLM基座大模型,已经推出了多个参数版本的产品,包括千亿参数的2.0版本以及开源的多模态大模型。这些模型在多个行业基准评测中取得了优异成绩,并在全球高影响力的Hugging Face排行榜上名列前茅。

  MediaTek与阿里云的合作不仅完成了通义千问大模型在天玑移动平台的端侧适配,还将通过开发者生态推动这一成果在端侧AI应用中的广泛应用。MediaTek的模型中心和工具链将集成通义千问大模型系列,帮助开发者更便捷地在天玑移动平台上开发各类基于通义大模型的应用。

  展望未来,MediaTek和阿里云将共同探索AI智能体解决方案,整合双方的硬件和AI运算能力,以及先进的大模型技术和开发工具平台,支持智能终端在端侧高效实现自然语言理解、复杂决策制定和个性化服务生成。这将为用户带来更加智能化的生活方式,同时为开发者和终端设备厂商开启更广阔的创新机遇。

  随着生成式AI的兴起,大模型正成为科技革命和产业变革的重要力量。MediaTek将继续与阿里云通义实验室合作,加速终端侧生成式AI的部署,培育AI应用场景和生态,共同打造面向未来的AI智能体产品体验,推动AI技术在各行各业的广泛应用,让科技更好地服务于大众生活。

0人已赞

关注我们

泡泡网

手机扫码关注