面向6G网络的大规模人工智能模型编排框架MAIMO的设计与性能评估

《Future Internet》:Massive AI Model Orchestration for 6G Networks: Architecture, Optimization, and Energy-Efficient Deployment

【字体: 大 中 小 】 时间:2026年10月21日 来源:Future Internet 4.6

编辑推荐:

   摘要

  

摘要

第六代(6G)网络将为来自云端、边缘端和设备端的大型预训练人工智能(AI)基础模型提供服务,但在延迟、能耗和精度约束下进行模型的部署、压缩与调度仍是亟待解决的问题。本文提出了一种大规模AI模型编排(MAIMO)三层框架,用于在无线接入网和核心网内管理模型驻留与请求路由。该编排问题被建模为混合整数多目标规划问题,证明了其帕累托最优解的存在性,并证明其离线部署-路由版本为NP难问题。一种在线控制器将双向长短期记忆(BiLSTM)流量预测器与近端策略优化(PPO)相结合。评估完全基于仿真,采用专门构建的系统级模拟器,并针对标准化城市宏基站信道模型进行了校准。在超过20次配对重复实验中,MAIMO将纯云端服务的平均端到端延迟减少了一半(11.3毫秒,而纯云端为22.7毫秒),在缓存预热状态下以平均2.1毫秒的时间服务于超可靠低延迟车对万物(V2X)请求,在所有满足精度下限的方案中获得了最低的服务水平协议违反率,同时在平均延迟方面与深度Q网络及上下文老虎机控制器持平。一个透明的解析能耗模型显示,每次推理的能耗为5.46焦耳,而纯云端服务为16.73焦耳;通过受约束的碳感知工作负载转移,运营碳排放减少了27.2%。
相关新闻
生物通微信公众号
微信
新浪微博
  • 搜索
  • 国际
  • 国内
  • 人物
  • 产业
  • 热点
  • 科普

热点排行

    今日动态 | 人才市场 | 新技术专栏 | 中国科学人 | 云展台 | BioHot | 云讲堂直播 | 会展中心 | 特价专栏 | 技术快讯 | 免费试用

    版权所有 生物通

    Copyright© eBiotrade.com, All Rights Reserved

    联系信箱:

    粤ICP备09063491号