▶ 本报记者 李洋
今年以来高曝光率的AI大模型正在逐步走向“智能终端侧”。国外的高通、微软、英伟达、OpenAI,以及国内AI“头部战队”的腾讯、百度等,纷纷宣布加速推进AI大模型在移动终端的轻量化部署。近日,在2023年华为开发者大会上,华为发布HarmonyOS 4,并宣称相比前几代操作系统,HarmonyOS 4最大的变化在于,将AI大模型能力内置在了系统底层。
种种迹象表明,大模型的“新入口”属性已经从主流的PC向手机端以及更广泛的机器人、智能音箱、车载助手等智能设备扩散。未来这个市场有多大?
从云端转移到终端
据悉,HarmonyOS 4的AI能力目前主要由华为智慧助手“小艺”体现。大模型接入后,小艺在语音交互的基础上,扩展了文字、图片和文档等多种形式的输入,自然语言理解能力得到提升。小艺还能根据指令,连接多种服务和场景,比如自动提取图片文字,生成各类商业电子邮件内容或生成图像等。
在7月初举办的2023世界人工智能大会上,高通生成式AI模型Stable Diffusion放在搭载了第二代骁龙8移动平台的智能手机上运行,在15秒内执行了20步推理,并生成了一张512×512像素的图像。从实际演示效果来看,与云端处理水平相差无几,用户输入文本也完全不受限制,这标志着AI大模型运行可以从云端转移到终端,彰显AI赋能智能手机领域的潜力。
在不少业界人士看来,各大大模型厂商将目标瞄准移动端的原因是用户对智能化体验的需求增加。
“没有应用终端,大模型就是一个软件,无法实现自身的价值。”通信业知名观察家项立刚说,“能不能把大模型从一个聊天的工具赋能到各个不同的终端上面,这是各大厂商也是产业界关注的核心方向。”
“大模型的理解和生成能力会改变未来的人机交互方式,其中一个方向就是AI真正随身,成为用户的随身智能助理。”易观智慧院院长李智表示,在这个方向上手机毫无疑问是最合适的选择之一。理由主要有两个:一是目前用户黏性最高的终端就是手机,二是对于用户的各种数据而言,手机或许是目前存储最完整和最个性化的终端之一。“如果说使用云端大模型仍然存在数据安全和隐私问题,那么在端侧直接使用本地数据运行大模型一定程度上可以保障数据安全。”
李智分析认为,对于用户而言,未来手机带来几个变化:一是更加智能化,从以往的类似“Siri”的鹦鹉学舌到更加理解用户的意图和需求。二是用户对手机的随身和依赖会更加严重。三是App危机来临。未来,手机智能化升级之后,用户只需要向手机发出指令,以往很多需要用户主动点击App才能执行的任务就能直接实现。
如何成功“瘦身”
业界认为,要成功实现大模型的“瘦身”,需要从多个方面发力。
达睿咨询创始人马继华认为,要实现大模型的成功“瘦身”,需要从多个方面发力。首先是数据方面,大模型需要训练和优化大量的数据,包括语音、图像、文本等,以提高模型的准确性和泛化能力。其次是算力方面,大模型需要强大的计算能力来进行训练和推理,因此需要优化算法和硬件架构,提高计算和能耗效率。此外,还需要考虑模型的压缩和剪枝技术,以减少模型的参数量和计算量,提高模型在移动设备上的运行效率。
“大模型通过剪枝、量化、蒸馏等方式进行‘瘦身’,在尽可能地保留大模型能力的前提下,减小模型体积,降低所需的算力资源。”李智说,此外,大模型要进入到手机等多个移动智能终端,还需要其他力量的共同作用,比如端侧AI芯片的研发和升级,手机计算能力与存储资源升级等。
“移动终端需要更高的计算能力、存储容量和能耗效率,以支持大模型的运行。这将为移动终端厂商提供机会,推动他们加大研发投入,提升产品的性能和用户体验。与此同时,大模型的应用也将拓展到更广泛的智能设备领域,包括机器人、智能音箱、车载助手等。”马继华说。
倒逼终端硬件升级
毋庸置疑的是,大模型正在倒逼终端硬件升级。这是一块充满机遇和挑战的蓝海。
“这种倒逼有望为移动终端领域带来多方面的机会。”安光勇表示,大模型的应用能力将得到进一步提升,用户可以享受到功能更加强大、智能的移动设备。硬件供应链可能会出现调整,为大模型提供更好的硬件支持。此外,大模型的“新入口”属性将推动更广泛的智能设备向AI技术的融合,涵盖机器人、智能音箱、车载助手等领域,这将为AI产业带来更多的商机和市场空间。
“所有的应用都值得用AI重做一遍。”在李智看来,在此之前所有智能终端已经通过AI得到能力加持,从增长的低谷当中获得新一轮的增长。这一轮的浪潮与其说是大模型倒逼硬件终端升级,不如说是用户对于智能化需求的进一步倒逼。
“随着大模型的应用扩展到更广泛的智能设备,大模型在移动终端的应用将为用户带来更多惊艳体验,同时也有望推动智能终端硬件的升级和普及。”安光勇说。
“未来,随着大模型在各个终端的不断渗透,有望带来数十万亿级的市场。”项立刚进一步解释说,基于大模型的赋能,一些传统行业将会得到提升,这其中孕育着巨大的机会和可能。