GoogleDeepMind的最新研究为优化大型语言模型(LLM)(如OpenAI的ChatGPT-o1)提供了全新的视角。该研究强调的不是仅仅增加模型参数，而是在推理过程中优化计算资源，即测试时间计算。这种方法可以改变人工智能的部署，特别是在资源有限的环境中，允许更高效、更具成本效益的解决方案，而不会牺牲性能。

ChatGPT-o1、GPT-4、Claude3.5和Sonic等大型语言模型在自然语言处理任务中表现出色。它们可以生成类似人类的文本、回答复杂问题、编写代码、提供辅导，甚至参与哲学辩论。然而，这些模型的开发和部署面临着重大挑战，包括：

计算能力和内存方面的资源消耗高

与训练和运行模型相关的成本增加

大量能源消耗，引发对环境影响的担忧

在资源受限的环境中部署模型的困难

freestar

测试时间计算的概念

测试时间计算是指推理阶段所需的计算工作量，此时模型根据给定的输入生成输出。在此阶段有效分配计算资源对于提高模型性能至关重要，而不仅仅依赖于增加模型大小。通过优化测试时间计算，研究人员的目标是在最大限度地降低成本和能耗的同时获得更好的结果。

在YouTube上观看此视频。

以下是从我们丰富的内容库中精选出来的有关GoogleAI主题的其他文章，您可能会感兴趣：

初学者的人工智能基础知识-Google的人工智能基础课程

谷歌语音AI新功能发布

如何使用GoogleAIStudio和GeminiAPI-初学者指南

如何使用GoogleAIStudio并访问Gemini1.5Pro

GoogleGemma27BAI模型性能测试

免费的GoogleAI编码助手作为CodeTransformation发布

GoogleGemini1.5ProExperimental–全新AI模型

比较模型缩放和测试时间计算

传统上，提高LLM的性能需要通过添加更多层、神经元和连接来扩展模型参数。虽然这种方法确实可以提高性能，但也带来了一些缺点：

训练和运行更大模型的成本高昂

能源消耗增加，加剧环境问题

部署大型模型的挑战，特别是在资源有限的环境中

另一种方法是优化测试时间计算，通过在推理过程中有效分配计算资源，可以在较小的模型上实现更好的性能。这种方法有可能解决模型扩展的局限性，同时仍能提供高质量的结果。

优化测试时间计算的机制

可以采用几种机制来优化测试时间计算，从而实现更高效的LLM：

验证者奖励模型：这些模型评估并验证主模型在推理过程中采取的步骤，确保准确性并根据实时反馈动态改进响应。

自适应响应更新：该机制允许模型根据实时学习改进其答案，从而无需额外的预训练即可提高输出质量。

通过结合这些机制，LLM可以获得更好的性能，同时最大限度地减少对额外计算资源的需求。

计算最佳扩展策略

计算优化扩展策略涉及根据手头任务的难度动态分配计算资源。此方法可确保高效利用计算能力，为具有挑战性的任务提供更多资源，同时为较简单的任务节省资源。通过采用此策略，LLM可以在各种任务中保持高性能，同时最大限度地降低总体计算成本。

研究实施与结果

谷歌的研究团队使用数学基准来测试法学硕士的深度推理和解决问题的能力。他们针对修订和验证任务对谷歌Pathways语言模型(Palm2)的各个版本进行了微调，采用了监督微调、过程奖励模型(PRM)和自适应搜索方法等技术。

结果表明，与传统的模型扩展方法相比，优化测试时间计算可以实现类似或更好的性能，且计算量明显减少。使用优化策略的较小模型表现优于较大的模型，挑战了主导LLM领域的“规模就是一切”范式。

这项研究的影响深远，表明未来AI部署可以更加节省资源和提高成本效益。通过专注于在推理过程中优化计算资源，较小的优化模型可以提供高质量的结果，同时最大限度地减少与大型模型相关的环境影响和部署挑战。

GoogleDeepMind的研究强调了在推理过程中优化计算资源以提高大型语言模型性能的潜力。通过专注于测试时间计算，AI部署可以变得更加高效，尤其是在资源受限的环境中。这种方法预示着未来较小的优化模型可以胜过较大的模型，为更可持续、更具成本效益的AI解决方案铺平道路，这些解决方案可以使更广泛的应用程序和用户受益。

版权说明：本站所有作品图文均由用户自行上传分享，仅供网友学习交流。若您的权利被侵害，请联系我们

标签：