1.4.3 端侧应用

超过千亿参数的大模型层出不穷，从手机厂商到科技公司，各家都在不断强化自己的AI能力，大模型因其强大的能力和出色的表现而受到广泛关注。

需要注意的是，大模型正在向端侧转移，AI推理将在手机、PC、耳机、音响、XR设备、汽车，以及一系列可穿戴式新型终端上运行。端侧轻量化的“小模型”越来越受到关注，“小模型”不仅可以减少计算资源的消耗，还可以加快响应速度，因而在实时应用场景中的应用更为广泛，在资源受限的环境中表现出色。相比大模型，端侧“小模型”具有一些独特优势，如本地数据处理效率更高、节省云端服务带宽和算力成本，带来更好的用户数据隐私保护、更新的交互方式和体验等。

作为新技术应用的风向标，手机和汽车行业优先落地端侧大模型技术。

其中，手机端侧大模型应用包括手机AI助手和App内AI助手。手机AI助手在操作系统层面提供服务，能跨越多个应用程序并提供全面支持。用户可以通过语音、文本或其他输入方式与全局AI助手交互，以执行各种任务，如搜索信息、管理日程、发送消息、控制智能家居设备等，甚至可以调用各类手机App的接口。App内AI助手支持大模型在单个应用内为用户提供支持，增强现有App的语音交互和智能化能力。比如办公软件或社交软件内部的AI助手，每个助手通常针对其所在应用的特定功能和用例进行优化。

汽车行业大模型落地的应用包括智能座舱和自动驾驶等。智能座舱为用户提供更为贴心的交互体验。用户可以直接与座舱数字人对话，实现用车指导、导航、娱乐、服务信息查询、聊天陪伴等全面贴心的服务。目前自动驾驶汽车以“重感知+轻地图”的方案为主，因此需要车辆自主完成行驶任务并做出智能的决策，该方案已在多个城市进行测试。