在数字经济中,算力作为核心生产力备受关注。为了推动数据中心的高质量建设,扩大算力规模和提高算力利用效率成为重要的手段。此外,利用端侧智能算力也逐渐成为焦点。端侧算力无需额外部署,且终端品类多样且规模庞大,正在快速扩大。其中,手机算力是主要组成部分,并且规模已经非常庞大。
根据中国电信研究院最新发布的“终端智能算力发展指数”,手机终端智能算力的渗透率持续快速增长。从2018年的25%增长到2022年的82%,2022年新增智能算力规模超过3100EOPS。截至2023年2月,国内存量手机终端智能算力总规模已经超过7100EOPS,相当于我国数据中心算力总规模的12倍以上,近似于一百万片英伟达H100芯片的算力。
手机算力支持了各种智慧场景,包括当前非常热门的AIGC等。根据该指数,分类、检测、人脸等基础场景的模型推理能力迅速增长,具备较高的绝对性能和富余的能力,能够支持复合和复杂场景的应用扩展。而分割、超分、语义等复合场景需要更大的计算量,其中分割和超分的绝对速度提升相对较慢。但是,旗舰手机芯片平台已经开始支持自然语言处理(NLP),一些平台还能够支持AIGC。在庞大的算力规模支撑下,手机智能算力的利用空间是巨大的。
基于以上情况,中国电信研究院评测中心副主任程贵锋提出了端侧智能算力发展的两个推进路径:泛化和进化,并向产业链提出了端侧智能算力未来发展的倡议。未来的端侧智能算力将发展成为模型训练和算力交易等方向,各个产业链的参与方应该协同努力,推动终端智能算力从碎片化走向标准化,从单个实体走向网络化,从云端集中走向云+端的分布式部署,实现端到端、端与云、端与边的协同融合,构建终端智能算力的广泛网络。