2024年09月09日
第A3版:热点

并非越大越好,模型选择要结合需求

  今年8月底,微软和英伟达相继发布小型语言模型,引发业界热议。两家公司均称,新发布的小模型能在算力资源消耗和功能表现之间取得平衡,甚至可以在某些方面媲美大模型。不仅如此,苹果、美国开放人工智能研究中心(OpenAI)等也发布了参数规模更小、性能更强的小型语言模型。

  据了解,大多数小模型参数量在几百万至数千万,结构也更简单。参数量缩小带来的明显改变是对功耗以及算力需求的降低。

  目前,主流旗舰手机的芯片算力可以达到40—50TOPS(1TOPS代表处理器每秒钟可进行1万亿次操作)。若再叠加专门开发的功耗控制策略,许多智能手机都能轻松“驾驭”小模型。

  专家表示,不能泛泛谈大模型与小模型孰优孰劣,必须结合具体使用场景来评估。大、小模型相结合或将成为未来人工智能发展的重要方向,确定某一任务是使用大模型还是小模型更好,取决于其泛化性和效率要求。

  《科技日报》 2024.9.2 都芃

2024-09-09 6 6 高新科技导报 content_136607.html 1 <p> 并非越大越好,模型选择要结合需求 </p> /enpproperty-->