爱奇飞网

网站首页互联网 >正文

微软发布全新Phi-3AI小语言模型

开心的月饼 2024-04-26 14:03:06 互联网

微软推出了一系列名为Phi-3的新语言模型,其中包括Phi-3-Mini、Phi-3-Small和Phi-3-Medium。这些型号在各自的重量级别中都是最先进的,并且被设计为高效且功能强大,Phi-3-Mini足够小,适合移动部署。

微软发布全新Phi-3AI小语言模型

Phi-3-Mini将令人印象深刻的38亿个参数打包到一个紧凑的封装中,适合移动CPU和内存限制。尽管其规模很小,但它经过了3.3万亿个海量代币的训练,提供了强大的性能。在基准测试中,Phi-3-Mini取得的结果可与更大的型号相媲美:

MMLU(大规模多任务语言理解)基准测试的准确度为69%

MT-bench(机器翻译)基准测试平均得分为8.38

这使得Phi-3-Mini与Mixtral8x7B和GPT-3.5等型号处于同一水平,但其外形尺寸适合您的口袋。其高效的架构和优化充分利用了有限的移动硬件资源。

接受高质量安全和性能数据培训

为了构建Phi-3-Mini的知识库,微软结合使用了仔细过滤的网络数据和合成数据。这种混合方法确保模型具有广泛而深入的知识,同时最大限度地减少低质量网络来源的潜在安全风险。

MicrosoftPhi-3AI模型SLM比较表

Phi-3-Mini的性能就是证明——它擅长理解复杂的提示并生成相关、连贯的响应。它的训练使其能够处理具有挑战性的任务,例如:

参与自由对话

回答有关广泛主题的问题

协助开放式研究和分析

解决逻辑难题并应对假设场景

重要的是,Phi-3-Mini的设计还考虑到了道德保障。它将拒绝参与不适当或危险的请求,而是建议更安全的替代方案。这有助于使其适合广泛的受众。您可以在已发布的技术报告中阅读有关该语言模型的更多信息。

透明且易于访问的人工智能

为了使这项技术大众化,微软公开了整个Phi-3系列的模型权重。这意味着开发人员可以轻松地将Phi-3-Mini及其较大的兄弟产品集成到各种应用程序中,从而为移动人工智能释放新的可能性。

Phi-3-Small和Phi-3-Medium提供更先进的功能,分别具有70亿和140亿个参数。这使他们能够处理更复杂的任务,例如识别计算机代码中的错误。在基准测试中,他们实现了:

Phi-3-Small:MMLU上75%,MT工作台上8.7

Phi-3-Medium:MMLU上为78%,MT基准上为8.9

通过这套模型,微软提供了灵活的选项来支持从休闲聊天应用程序到任务关键型企业工具的所有内容。

移动智能新时代

Phi-3-Mini有可能从根本上改变我们与口袋和包里的设备交互的方式。它将大型语言模型和高级自然语言交互的强大功能带入移动领域。

想象一下,一个智能手机助手不仅可以回答简单的查询,还可以进行真正的上下文通信。或者可以动态分析、总结复杂文档并从中获取见解的移动应用程序。这些只是Phi-3-Mini所实现的一些可能性。

随着开发人员开始利用这项技术,我们有望看到新一代更智能、更强大的移动体验。Phi-3-Mini和更大的Phi-3系列型号有望推动移动人工智能领域的创新浪潮。通过使这项技术变得开放和易于使用,微软正在帮助创作者突破我们日常携带的设备的可能性界限。真正智能移动计算的时代已经到来。跳转至Microsoft官方新闻网站,了解有关小语言模型的更多信息。


版权说明:本站所有作品图文均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系我们


标签:

站长推荐
栏目推荐
阅读排行