电子行业AI+系列专题报告:边缘AI,大语言模型的终端部署,推动新一轮终端需求

报告出品:国信证券
报告摘要生成:司马阅

近年来,随着海量数据的增长和无需标注自监督学习等技术的应用,大模型的参数量呈指数级增长。

然而,大模型的训练和推理带来了算力、显存和通信等方面的三大瓶颈,目前还无法在终端上离线运行。

不过,通过量化、知识蒸馏、剪枝等技术,大模型可以在手机本地实现推理,即边缘 AI。

此外,聚焦于大语言模型,以语言为接口,控制多个 AI 模型的系统正在井喷式发展,有望推动新一轮的手机换机潮。

因此,AI 2.0的时代已经到来,将推动多领域的优化与通用化。

近期,OpenAI推出了一款基于 ChatGPT 的移动应用,这也有望推动大型AI模型进入移动端创新阶段。

总之,AI技术的快速发展推进了大型模型的不断进步,但同时也带来了多方面的挑战。通过针对不同方面的技术(如量化、知识蒸馏、边缘AI等)的优化,大模型在终端本地的运行正在逐渐成为可能,也有望促进手机换机潮。在这个大趋势下,AI技术的发展将更加多样化,也会向着更加普及化和通用化的方向发展。

电子行业AI+系列专题报告:边缘AI,大语言模型的终端部署,推动新一轮终端需求电子行业AI+系列专题报告:边缘AI,大语言模型的终端部署,推动新一轮终端需求电子行业AI+系列专题报告:边缘AI,大语言模型的终端部署,推动新一轮终端需求

获取本文完整报告:免费领取
获取更多AI前沿报告:加入AI先锋联盟社群
AI前沿报告

电子行业深度报告:AI浪潮奔涌,CPO等光技术持续演进

2023-6-20 21:28:34

AI前沿报告

工业机器视觉行业深度报告:兼具高成长和成熟技术的AI应用赛道

2023-6-20 21:39:43

搜索