人工智能(AI)已迅速流行起来。它为帮助我们驾驶车辆、校对电子邮件甚至设计新药物分子的模型提供支持。但就像人类一样，我们很难读懂人工智能的想法。

可解释人工智能(XAI)是该技术的一个子集，它可以通过证明模型决策的合理性来帮助我们做到这一点。现在，研究人员正在使用XAI不仅更仔细地审查预测性人工智能模型，而且还更深入地研究化学领域。

研究人员在美国化学学会秋季会议上展示了他们的研究成果。

人工智能的广泛用途使其在当今的技术领域几乎无处不在。然而，许多人工智能模型都是黑匣子，这意味着不清楚产生结果的具体步骤。当结果类似于潜在的药物分子时，不了解这些步骤可能会引起科学家和公众的怀疑。

曼尼托巴大学化学教授丽贝卡·戴维斯解释说：“作为科学家，我们喜欢证明。如果我们能提出一些模型，帮助深入了解人工智能如何做出决策，那么科学家就有可能更适应这些方法。”

提供这种理由的一种方法是使用XAI。这些机器学习算法可以帮助我们了解AI决策的幕后情况。尽管XAI可以应用于各种情况，但Davis的研究重点是将其应用于药物发现的AI模型，例如用于预测新抗生素候选物的模型。

考虑到需要筛选和拒绝数千种候选分子才能批准一种新药，而且抗生素耐药性对现有药物的功效构成了持续威胁，准确而有效的预测模型至关重要。

“我想利用XAI来更好地了解我们需要什么信息来教计算机化学，”戴维斯实验室化学研究生HunterSturm在会议上介绍这项工作时说道。

研究人员首先将已知药物分子的数据库输入AI模型，该模型可以预测某种化合物是否会产生生物学效应。然后，他们使用德国卡尔斯鲁厄理工学院的合作者PascalFriederich开发的XAI模型来检查导致模型做出预测的药物分子的特定部分。

根据模型，这有助于解释为什么某种特定分子具有活性或不具有活性，也有助于戴维斯和斯特姆理解人工智能模型可能认为什么是重要的，以及它在检查了许多不同的化合物后如何创建类别。

研究人员意识到，XAI能够发现人类可能忽略的东西;它能够同时考虑比人脑多得多的变量和数据点。例如，在筛选一组青霉素分子时，XAI发现了一些有趣的东西。

“许多化学家认为青霉素的核心是抗生素活性的关键部位，”戴维斯说，“但XAI却不这么认为。”相反，它认为附着在核心上的结构才是分类的关键因素，而不是核心本身。

“这可能是为什么一些含有该核心的青霉素衍生物表现出较差的生物活性的原因，”戴维斯解释道。

除了识别重要的分子结构外，研究人员还希望利用XAI来改进预测性AI模型。“XAI向我们展示了计算机算法对抗生素活性的重要性，”Sturm解释道。

戴维斯补充道：“然后我们可以利用这些信息来训练人工智能模型，让它知道它应该寻找什么。”

接下来，该团队将与一家微生物实验室合作，合成并测试一些经过改进的AI模型预测可作为抗生素的化合物。最终，他们希望XAI能够帮助化学家创造更好的，或者完全不同的抗生素化合物，从而有助于遏制抗生素耐药性病原体的泛滥。

“人工智能给人们带来了很多不信任和不确定性。但如果我们能让人工智能解释它在做什么，这项技术被接受的可能性就会更大，”戴维斯说。

Sturm补充说，他认为AI在化学和药物研发领域的应用代表了该领域的未来。“有人需要打下基础。这就是我希望做的。”

版权说明：本站所有作品图文均由用户自行上传分享，仅供网友学习交流。若您的权利被侵害，请联系我们

标签：