高通终端侧AI+5G优势加速大模型时代到来!
2023年,以ChatGPT为代表的生成式人工智能(AIGC)大火,标志着生成式AI元年的到来。生成式AI技术已经在建筑、艺术、工程编程等行业中展现出显著的应用潜能,这些技术通过深度学习和神经网络,学习并模仿人类的语言和视觉艺术模式。例如,ChatGPT能基于输入的文本生成连贯且有创意的回答,而Stable Diffusion则能根据简单的描述创造出精美的图像和视频。
据行业初步预估,生成式AI市场规模将达到1万亿美元,并驱动新一轮内容生成、搜索和生产力相关用例的发展。例如,在传媒和娱乐行业,生成式AI正在重塑内容的生产和消费方式;在教育领域,生成式AI提供了个性化学习材料和交互式学习体验;在商业领域,生成式AI助力广告创意、产品设计和市场分析;甚至在医疗健康领域,生成式AI也开始展现出在疾病诊断和治疗计划制定中的潜力。
手机、PC、物联网……终端侧生成式AI应用有哪些?
随着技术的发展,AIGC也在逐渐从云端向终端侧转移,并引起了移动终端芯片厂商的广泛重视。包括高通在内的各大移动芯片商都在积极推动AIGC在智能手机、PC、汽车、XR设备以及物联网等多种终端品类的普及。
在智能手机领域,生成式AI的应用正在推动算力的实质性增长,特别是在搜索方面。超过100亿次的日搜索量中,移动端占据主导地位。基于生成式AI的查询能提供令人满意的答案,引发用户搜索方式的变化。随着对话式搜索功能的不断强化,智能手机正逐渐成为真正的数字助手。这些设备不仅能够理解文字和语音,还能处理图像和视频等多种输入模式,并提供准确、贴切的回答。
在PC领域,生成式AI应用正变革着生产力。例如,Microsoft Office 365通过集成生成式AI,使日常工作流程更加高效。Microsoft 365 Copilot利用大语言模型和用户数据,将提示转化为生产力工具,支持大语言模型在Outlook、Word、PowerPoint、Excel和Teams中工作。Office用户可以通过大语言模型进行文档编写、电子邮件撰写、数据分析等任务,极大地提高了工作效率。
在汽车领域,AI正在提供高度个性化的体验。车载数字助手支持驾驶员和乘客通过免提界面保持无缝互联,同时为汽车生态系统创造新的收入机会。这些助手不仅能访问个人数据,还能处理来自车辆传感器的数据,提供增强的导航体验、自动化提醒和个性化娱乐内容。在自动驾驶系统中,生成式AI还有助于模拟极端驾驶情况,改进驾驶策略和安全性。
在XR领域,生成式AI正开拓3D内容创作和沉浸式体验的新前景。下一代AI渲染工具能够帮助内容创作者基于文本、语音等提示生成3D物体和场景,创造完整的虚拟世界。同时,文本到文本的大语言模型能为虚拟化身生成自然对话,图像生成模型则为虚拟化身创造外观和服装。未来,人们将能够利用语音提示、图像或视频生成逼真、全动画、智能、可量产的类人虚拟化身。
在物联网领域,行业正在利用生成式AI改进决策质量,优化运营效率,并创造竞争优势。例如,在零售业,生成式AI可以帮助提升客户和员工体验,通过简单提示帮助商店经理进行商品规划、库存管理和促销活动预测;在能源和公共设施领域,生成式AI有助于创建极端负荷场景,预测电力需求和潜在电网故障,提供优质的客户服务。
从云到端,混合AI成关键技术趋势
从云侧到端侧,生成式AI正在进入终端和云端协同工作的混合AI时代,这也是当今AI领域的一个关键趋势。
混合AI的核心优势在于其架构,它通过在云端和终端之间有效分配计算任务,解决了传统云端集中处理模式的计算需求和成本挑战。这种分布式处理机制不仅节省了成本,降低了能耗,还提高了可靠性、隐私保护、安全性和个性化体验。例如,对于简单的推理任务,如日常对话或基本查询,终端侧AI可以独立处理;而对于复杂的数据分析或大规模模型训练,则需要云端的强大计算能力。在混合AI架构下,终端设备处理相对简单的推理任务,而更复杂的任务则由云端处理。随着终端AI处理能力的提升,更多的云端负载可以转移到终端。
混合AI在适当的场景和时间下分配AI计算的工作负载,以提供更好的体验,并高效利用资源,这其中5G承担着连接云端算力和终端应用的关键桥梁。在5G的加持下,混合AI架构使AI在云端、边缘云和终端侧协同运行,使整个系统中的计算和处理能力能够以最有效的方式重新分布,实现更强大、更便利、更高效、更优化的AI。
高通在其发布的《混合AI是AI的未来》白皮书中提到,混合AI将支持生成式AI开发者和提供商利用边缘终端的计算能力降低成本。不仅如此,混合AI架构或终端侧AI还能够在全球范围带来高性能、个性化、隐私和安全等优势。