爱奇飞网

网站首页生活常识 >正文

研究人员创建验证技术以提高人工智能和图像处理的安全性

开心的月饼 2024-04-30 15:23:57 生活常识

来自IMDEA软件研究所、马德里卡洛斯三世大学和NEC欧洲实验室的研究人员团队推出了一种新颖的框架,有望提高可验证计算的效率和实用性。

研究人员创建验证技术以提高人工智能和图像处理的安全性

该研究在论文《机器学习和图像处理应用的模块化求和证明》中进行了详细介绍,并在上届ACM(计算机协会)计算机和通信安全会议上提出,解决了通用证明所面临的可扩展性和模块化挑战针对人工智能和图像处理领域的特定应用量身定制的系统和解决方案。

可验证计算包含一系列加密技术,这些技术提供不可伪造的保证,确保某些第三方(例如公司或云服务器)已对用户数据进行了正确处理。这些技术的一些例子包括证明图像或视频已被编辑、人工智能做出的预测来自经过审计的模型、或者在信用度决策中仅使用了客户提供的数据。此外,可验证的计算与数据隐私兼容,例如,服务器在计算中使用的算法是保密的。

可验证的计算提供了完整性、公平性和隐私性,这些是外包数据处理任务的应用程序的基本属性。在可能的解决方案中,有一些通用的证明系统,例如某些区块链中使用的证明系统,在处理大量数据的计算时存在可扩展性问题。另一方面,专门为这些应用程序设计的解决方案效率更高,但通常彼此不兼容,因此很难扩展它们或将它们集成到更大的数据处理链中。

研究

研究人员推出了一种新框架,旨在通过将定制解决方案的性能优势与通用测试系统的多功能性相结合来弥补这一差距。其核心是一种可验证的顺序操作计算的模块化方法,该方法基于一种称为VE(可验证评估方案)的新密码原语。

研究人员提出了一种适合卷积运算的新型VE,能够处理多个互连的输入和输出通道,展示了他们的框架在人工智能中的实际应用。

DavidBalbás博士表示:“我们的协议可以轻松集成到数据处理链中,以全面验证卷积神经网络(CNN)做出的预测,而卷积神经网络是大多数人工智能模型的基础。”IMDEASoftware的学生和本研究的研究员。

此外,论文还提出了用于图像处理的新VE,可以有效验证编辑或修饰,包括裁剪、模糊、重新缩放等操作和其他更复杂的操作。

该团队已经制作了其测试系统的原型应用程序,这是对现有技术的重大改进。IMDEA软件研究所的研究程序员DamienRobissout解释道:“我们的基准测试表明,除了在算法中引入理论创新之外,我们的证明生成速度比迄今为止最好的现有解决方案快五倍,验证速度快十倍。”该研究的共同作者。

这些成果不仅提高了密码证明系统的效率和可扩展性,而且为确保人工智能和图像处理的各种应用中数据处理任务的完整性、公平性和隐私性开辟了新的可能性。

该研究的另一位作者MaribelGonzálezVasco表示:“如今,这种方法在我们正在考虑的应用领域至关重要,因为如果不值得最终用户的信任,技术进步就不算是技术进步。”UC3M数学系。

研究中生成的应用程序是开源的,其模块化特性为其扩展和集成到数据处理链中的各种工具铺平了道路。通过这种方式,研究人员为可验证计算在金融道德、个人数据保护或人工智能监管等多种应用中的多功能和稳健部署扫清了道路。


版权说明:本站所有作品图文均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系我们


标签:

站长推荐
栏目推荐
阅读排行