2025中国互联网大会|下一代互联网创新成果精彩亮相

   日期:2025-08-23     作者:2rzey       评论:0    移动:http://ww.soyinfo.com/mobile/news/2319.html
核心提示:面向数据安全的分布式AI推理:面向AI时代推理用户自建AI算力成本过高、租用云端算力担心数据泄露风险的痛点需求,中国联通升级AI

面向数据安全的分布式AI推理:面向AI时代推理用户自建AI算力成本过高、租用云端算力担心数据泄露风险的痛点需求,中国联通升级AINet网络能力,推出分布式边云协同训推方案。企业原始数据存于本地,模型中间数据存于云中心,通过智算IP广域网高效传输,实现云边算力整合与协同调度,满足AI训练/推理的算力与隐私需求。在边云协同训练场景下,企业侧部署轻量算卡,采用PP并行与云中心协同训练,样本和模型首尾层保留本地,确保数据不出园区。基于Llama2-13B实测,算效达97.7%。在边云协同推理场景下,企业侧部署轻量算卡,模型分割协同推理,通过本地处理技术保障Prompt隐私。基于DeepSeek-70B实测,算效99%,算效几乎0损失。

 
特别提示:本信息由相关用户自行提供,真实性未证实,仅供参考。请谨慎采用,风险自负。

举报收藏 0打赏 0评论 0
 
更多>同类最新资讯
0相关评论

相关文章
最新文章
推荐文章
推荐图文
最新资讯
点击排行
{
网站首页  |  关于我们  |  联系方式  |  使用协议  |  隐私政策  |  版权隐私  |  网站地图  |  排名推广  |  广告服务  |  积分换礼  |  网站留言  |  RSS订阅  |  违规举报  |  鄂ICP备2020018471号