2026-05-13 08:07:52 来源:网易新闻(NetEase News) 作者:张家辉

IT之家 2 月 4 日消息,据“华为计算”今日消息,随着大语言模型迅猛发展,参数量已迈入千亿甚至万亿级别,MoE(IT之家注:混合专家)稀疏架构凭借兼顾模型容量与计算效率的优势,成为 AI 领域核心研究方向。在此背景下,南京大学李猛博士团队,依托南京大学鲲鹏昇腾科教创新孵化中心的算力支持,基于华为昇腾,开展专家等价性驱动的 MoE 无损显存高效优化研究,成功攻克系列技术瓶颈,实现显存消耗降低 50% 以上、推理延迟显著提升的重要突破。项目聚焦 MoE 模型部署的核心痛点:大参数量模型部署时,高显存占用导致仅能驻留少量热专家,大量参数需频繁在内存与显存间切换,引发严重推理延迟;同时,自主化硬件适配需求日益迫切。团队基于对 MoE 专家冗余性与等价性的创新观察,提出软硬件协同优化方案,通过四项核心技术构建异构推理混合部署框架,实现全链路效率提升。依托昇腾的硬件特性与 CANN 软件栈,团队针对性研发异构推理加速引擎 MoE-Ascend,涵盖动态专家路由管理、专家预测预取、算子适配等核心功能模块,实现昇腾平台的深度适配与优化。该引擎可支持昇腾等多硬件环境,在保持模型精度无损的前提下,不仅将显存消耗降至原方案的一半,推理速度也较同类方法提升 2 倍以上,提升显存缓存命中率到 70% 以上,破解 MoE 模型对国外高端硬件的依赖。该项目构建的推理优化工具链计划开源至昇腾社区、DeepModeling 社区及 GitHub,供科研与工程开发者复用扩展。未来,项目成果将应用于 AI 推理平台、智能客服、语音生成等多个场景,尤其适配昇腾等自主 NPU 部署环境,为边缘侧智能服务提供支撑。 (function(){ var adScript = document.createElement('script'); adScript.src = '//d1.sina.com.cn/litong/zhitou/sinaads/demo/wenjing8/js/yl_left_hzh_20171020.js'; document.getElementsByTagName('head')[0].appendChild(adScript); })();

「活动」首次登录送93 元红包

86.43 MB
|
版本V7.13.11
喜欢 83%好评(324人)
评论 539
下载校花的贴身高手贴吧的本吧信息 安装你想要的应用 更方便 更快捷 发现更多
开局地摊卖大力笔趣阁小说截图0 爱下电子书TXT下载网站截图1 陈佳怡的相片高清截图2 主角开始就有顶级修为截图3 ai一键生成小说免费版截图4
详细信息
  • 软件大小: 82.22 MB
  • 最后更新: 2026-05-13 08:07:52
  • 最新版本: 7.13.11
  • 文件格式: apk
  • 应用分类: ios-Android日韩欧美亚洲㊙国产🔞精品字幕久久
  • 使用语言: 中文
  • 网络支持: 需要联网
  • 系统要求: 6.3以上
应用介绍
BRAZZERS💋💋28
99玖玖国产🔞综合精品女同
男女扒开🍑伸进🍌❌动漫
free 扒开老师❌狂揉❌自慰芒果网站
2021国产🔞A三级日剧片

【联系我们】 客服热线:137-6734-2126

加载更多
包含 饿了么 的应用集
斗破苍穹漫画免费观看软件 评论
  • 玩弄+跪趴+调教+s🔝m主奴👏🏾网站 1天前
    一栗小莎子已化疗4次还有8次
  • 红色😍一片直播免费 4天前
    朱媛媛抗癌5年拍了5部作品
  • 一个人看的WWW片免费高清视频 5天前
    王濛剪蕾丝
  • 🧋男r18禁🎅🏾视频🙍🏻处被c哭动漫 4天前
    唐艺昕因皮肤原因4年未拍戏
  • 好想被c㊙️好爽n🈲教程 5天前
    德约科维奇示意纳达尔帮忙打
  • tube开心久久婷婷综合中文字幕 1天前
    罗永浩自曝可能误伤西门子
  • 91在线无码精品㊙️明日香 5天前
    短剧选用11岁女童演替嫁新娘
  • 最新bt国产🔞精品合集 2天前
    跨年当天朋友圈的仪式感有多强
  • 火影❌18同人禁游戏 5天前
    女子称休完产假公司没了
  • 🏃🏻‍♀️‍➡️国外开放的🕦电🙍🏼影 5天前
    投资人称人活着不是为了工作
  • 孕妇裸体㊙️直播 1天前
    央视撤档爱情没有神话