Meta和高通的阳谋：开辟边缘计算新战场 AI竞赛能否后发先至？

公众号：小姨ai

tml>

Meta和高通的阳谋：开辟边缘计算新战场 AI竞赛能否后发先至？_科技新闻

Meta和高通的阳谋：开辟边缘计算新战场 AI竞赛能否后发先至？

《科创板日报》7月19日讯（编辑 郑远方）当地时间7月18日，Meta宣布，将发布其开源大模型LLaMA商用版本，新版本名为Llama 2。

高通将与Meta合作，从2024年起，Llama 2将能在旗舰智能手机和PC上运行。客户、合作伙伴和开发人员能构建智能虚拟助手、生产力应用、内容创建工具、娱乐等用例，AI功能可以在没有网络连接的地方，甚至在飞行模式下运行。

根据高通19日的最新表态，能够在智能手机、PC、VR/AR头显和汽车等终端上运行Llama 2一类的生成式AI模型，将支持开发者节省云成本，并为用户提供更加私密、可靠和个性化的体验。

高通技术公司高级副总裁兼技术、规划和边缘解决方案业务总经理Durga Malladi表示，为了有效地将生成式人工智能推广到主流市场，人工智能将需要同时在云端和边缘终端（如智能手机、笔记本电脑、汽车和物联网终端）上运行。

“AI竞赛追赶者联盟”？

Meta一直被评价为“在AI竞争中落后于同行”，而本次的Llama 2也能看出Meta追赶同行的野心。

首先是合作伙伴。Meta的新版模型将由微软通过其Azure云服务分发，且可以在Windows操作系统上运行。Mata更表示，微软是“我们的首选合作伙伴”。

其次是开源。Meta强调，Llama 2是一个开源大模型，“可以免费用于研究和商业用途”。而竞争对手中，不论是OpenAI的GPT-4，还是谷歌的PaLM 2，走的都是“技术保密路线”。

至于高通，迄今为止，出于AI计算对算力与数据的庞大需求，AI大模型主要是在大型服务器群与英伟达GPU上运行。而高通之前没有赶上本轮AI热潮，年内股价涨幅与英伟达差距甚大。

在这种情况下，高通已将AI边缘计算定为发展方向。高通公司高级副总裁Alex Katouzian5月曾明确表示，高通正在从一家通信公司过渡到一家智能边缘计算公司。“随着连接设备和数据流量加速增长，叠加数据中心成本攀升，（我们）不可能将所有内容都发送到云端。”Katouzian表示，当涉及到个人信息时，人们也不会愿意这样做。

另外，之前高通已发布了全球首个在安卓手机上运行的Stable Diffusion终端侧演示。Stable Diffusion是一个可用文本直接生成图像的AI模型，其参数超过10亿，此前仅能在云端计算集群内运行。

“云-边”一体或成为AI应用闭环的必由之路

如今，AI大模型已站上从“玩具”向“工具”快速演化的关键迭代期。如何让大模型渗透进入各类垂直场景，如何更低成本的使用大模型，如何让更多场景与用户接触AI，成为了发展的下一个重点。

国盛证券指出，在AI向实际场景落地时，边缘算力的重要性加速凸显，边缘算力在成本、时延、隐私上具有天然优势，也可以作为桥梁，预处理海量复杂需求，并将其导向大模型。边缘算力堪称AI触及万千场景的“毛细血管”。“云-边”一体（云计算和边缘计算有机结合）正是AI应用闭环的必由之路，边缘侧需求的释放将开启“真AIoT”时代。

中航证券认为，以云计算为基础的大模型架构在企业或者行业应用落地中，牵涉到场景细分、 云算力瓶颈、传输时效、海量数据、信息安全等因素，其集中式技术架构并不能满足人工智能普遍部署实践。

因此，AI应用将逐步从中心节点向更贴近数据源和业务现场的边缘侧拓展，边缘计算合理利用边缘侧算力和实时数据，使机器学习模型提供的智能服务更加便捷和贴近应用，有望打通行业细分、多元化场景落地瓶颈。

（科创板日报 郑远方）

公众号：小姨ai