OpenAI最近推出了一项突破性举措，即使用大型语言模型GPT-4来制定内容政策和审核决策。这种创新方法带来了更加简化的流程、一致的标签和更快的政策细化反馈循环。

GPT-4在这种情况下的应用显着减少了对人工审核员的需求，将政策变更所需的时间从几个月缩短到了几个小时。这证明了该模型能够解释广泛内容策略文档中的规则和细微差别，并立即适应策略更新。

“内容审核在维持数字平台的健康发展方面发挥着至关重要的作用。使用GPT-4的内容审核系统可以加快政策更改的迭代速度，将周期从几个月缩短到几个小时。GPT-4还能够解释长内容策略文档中的规则和细微差别，并立即适应策略更新，从而产生更一致的标签。我们相信，这为数字平台的未来提供了更积极的愿景，人工智能可以根据平台特定的政策帮助调节在线流量，并减轻大量人类调节者的精神负担。任何拥有OpenAIAPI访问权限的人都可以实施这种方法来创建自己的人工智能辅助审核系统。”

GPT-4内容政策制定和审核

OpenAI的API访问将此功能扩展到更广泛的社区，允许任何人实施此方法并创建自己的AI辅助审核系统。这是向前迈出的重要一步，因为像GPT-4这样的大型语言模型能够理解和生成自然语言，使其非常适用于内容审核。

这些模型可以根据提供给他们的策略指南做出审核判断，从而显着减少开发和定制内容策略的过程。此外，GPT-4的预测可用于微调更小的模型，使其能够大规模处理大量数据。

这种方法背离了宪法人工智能，后者依赖于模型自身对安全与不安全的内在判断。相反，OpenAI正在探索进一步增强GPT-4预测质量，包括思路推理或自我批评，以及检测未知风险的方法。

从这些探索中获得的见解将为现有内容政策的更新或新风险领域政策的制定提供信息。然而，值得注意的是，语言模型很容易受到训练过程中引入的不良偏差的影响。因此，需要通过保持人员参与来仔细监控、验证和完善结果和输出。

通过减少人工参与审核过程的某些部分，人力资源可以更多地专注于解决政策细化最需要的复杂边缘情况。OpenAI致力于透明度，并将继续与社区分享经验和进展，确保人工智能辅助审核的发展仍然是一个开放和协作的过程。

版权说明：本站所有作品图文均由用户自行上传分享，仅供网友学习交流。若您的权利被侵害，请联系我们

标签：