爱奇飞网

网站首页健康养生 >正文

如果我们不被理性的铁笼所困人工智能可能会彻底改变环境规划

开心的月饼 2024-07-05 08:44:03 健康养生

越来越低成本的环境传感器与人工智能分析工具相结合,有望实现更快、更有洞察力的环境规划。

如果我们不被理性的铁笼所困人工智能可能会彻底改变环境规划

我们现在更加迫切地需要对如何使用生态系统和自然资源做出更好的决策,因为《快速通道批准法案》提出的同意变更需要更快的评估。

作为我们在KuahaMatahiko研究的一部分,KuahaMatahiko是一个汇编土地和水数据的开放获取和协作项目,我们发现iwi和hapū(部落)群体真正渴望与人工智能互动。

不堪重负的环境守护组织看到了人工智能帮助整合碎片化的环境数据集,同时快速且廉价地提高分析能力的可能性。

基于这一需求,KuahaMatahiko项目开发了一款实用的人工智能,该人工智能使用来自新西兰的环境数据进行训练。这表明一个转折点正在出现,定制人工智能正迅速成为kaitiaki团体(即使是小型团体)的现实选择。

然而,谨慎是必要的。以往的经验表明,算法驱动的系统经常将我们锁定在重现数据收集中现有的不平等的路径上,并阻碍我们对结果的想象。

这些问题通常是由于两个相互关联的问题而发生的:临时数据收集的遗留问题以及常常被误解的“数据量越大,准确性越高”的观念。

“精准陷阱”

首先,有用的人工智能系统需要速度快、数量多的丰富数据。环境事务议会专员曾警告历届政府,新西兰的环境数据系统是临时的、投机性的,而且资源不足。

现有的环境数据库在很大程度上反映了国家主导的农业科学的优先事项以及最近监测其环境影响的努力。我们的环境数据也因系统性地忽视了毛利人马陶朗加而受到影响。

长期运行的环境数据集非常有价值。但它们对地点和问题的覆盖范围非常不完整,我们无法回到过去重新进行数据收集。认识到不均衡、排他性数据生成历史造成的差距和偏见至关重要,因为这些数据(以及嵌入的假设)将用于训练未来的人工智能。

其次,人工智能保证了确定性和精确性。但一项针对精准农业的研究描述了当我们误以为大数据的高容量和高粒度就是高精度时出现的风险。过分相信大数据的精确性可能会导致制衡机制的削弱。

随着算法的模糊性增加,这个问题变得越来越严重。现在大多数算法都难以理解。这源于技术复杂性、用户误解和开发人员的故意策略。它使我们对不准确的风险视而不见。

如果不注意算法的不透明性,我们就有可能陷入“精确陷阱”。当对人工智能精确性的信任转化为对人工智能输出准确性的无条件接受时,就会发生这种情况。这是一种危险,因为我们赋予数字政治、社会和法律价值,将其视为客观“硬事实”的可信表达。

当人工智能系统用于预测(和管理)未来事件时,这些风险会迅速上升,这些预测是基于精确但不准确的模型,与观察无关。但是,当人工智能输出成为评估和决策的基本要素时会发生什么?我们是否可以选择完全不相信它们?

避免“铁笼”

一种可能的未来是德国社会学家马克斯·韦伯所说的“理性的铁笼”。在这里,社区被困在理性、精确和高效但同时又不人道和不公平的系统中。

避免这种未来意味着要积极建立包容、可理解和多样化的人工智能伙伴关系。这并不是要拒绝理性,而是要缓和其不合理的结果。

我们不断发展的数据和人工智能治理框架借鉴了可查找、可访问、可互操作和可重用(FAIR)原则。这些原则非常有用。它们也忽视了数据收集的社会历史。

2018年人口普查的失败是忽视历史不平等现象的典型例子。我们无法重做我们拥有的环境数据。但新的人工智能系统需要意识到过去数据缺口的影响,而这些影响是嵌入在设计中的。这也可能意味着要超越意识,积极丰富数据以弥补漏洞。

拓宽人工智能的世界观

数据和人工智能需要服务于人类目标。土著数据主权运动正在主张土著人民拥有和管理其社区、资源和土地数据的权利。他们启发了被称为CARE的框架,它代表集体利益、权威、责任和道德。

这些提供了一种赋权数据关系的模型,将蓬勃发展的人际关系放在首位。在新西兰,TeKāhuiRaraungaMāori于2019年成立,是一个独立机构,使毛利人能够访问、收集和使用自己的数据。他们的数据治理模型是这些CARE原则付诸实践的一个例子。

更大的进步是拓展人工智能的世界观。服务于人类目标意味着揭示不同人工智能所包含的假设和优先事项。这反过来意味着开放人工智能的发展,超越目前主导该领域的所谓“WEIRD”观点——西方、受过教育、工业化、富裕、发达。

为毛利组织使用新西兰的环境数据训练人工智能是一回事。而创建能够体现毛利人精神和毛利人世界观中蕴含的生活责任的人工智能则是更为激进的事情。

我们需要这种从多元化世界观出发的激进的人工智能愿景,以避免被关进笼子并阻碍未来。


版权说明:本站所有作品图文均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系我们


标签:

站长推荐
栏目推荐
阅读排行