科學(xué)家越來越依賴經(jīng)過機(jī)器學(xué)習(xí)訓(xùn)練的模型來為復(fù)雜問題提供解決方案。但是，當(dāng)模型使用的復(fù)雜算法不容易被詢問或無法向人類解釋他們的決定時(shí)，我們怎么知道這些解決方案是值得信賴的呢?

這種信任在藥物發(fā)現(xiàn)中尤其重要。例如，機(jī)器學(xué)習(xí)用于對數(shù)百萬種潛在有毒化合物進(jìn)行分類，以確定哪些可能是藥物的安全候選者。

羅切斯特大學(xué)化學(xué)工程副教授 Andrew White在一篇 文章中說：“計(jì)算機(jī)科學(xué)中發(fā)生過一些引人注目的事故，模型可以很好地預(yù)測事物，但這些預(yù)測并不是基于任何有意義的東西。”采訪 化學(xué)世界。

White 和他的實(shí)驗(yàn)室開發(fā)了一種新的“反事實(shí)”方法，該方法在《 化學(xué)科學(xué)》中有所描述，可用于任何基于分子結(jié)構(gòu)的機(jī)器學(xué)習(xí)模型，以更好地了解模型如何得出結(jié)論。

反事實(shí)可以告訴研究人員“會(huì)改變預(yù)測的特征的最小變化，”主要作者、博士 Geemi Wellawatte 說。懷特實(shí)驗(yàn)室的學(xué)生。“換句話說，反事實(shí)是一個(gè)與原作相似的例子，但結(jié)果卻不同。”

反事實(shí)可以幫助研究人員查明模型做出預(yù)測的原因以及預(yù)測是否有效。

本文確定了三個(gè)示例，說明如何使用稱為 MMACE(Molecular Model Agonistic Counterfactual Explanations)的新方法來解釋原因：

預(yù)測一種分子會(huì)滲透血腦屏障

預(yù)測小分子是可溶的

預(yù)計(jì)一種分子會(huì)抑制 HIV

該實(shí)驗(yàn)室必須克服開發(fā) MMACE 的一些重大挑戰(zhàn)。他們需要一種可以適應(yīng)化學(xué)中廣泛使用的機(jī)器學(xué)習(xí)技術(shù)的方法。此外，由于可能的候選分子數(shù)量眾多，為任何給定場景尋找最相似的分子也具有挑戰(zhàn)性。

White 實(shí)驗(yàn)室的合著者 Aditi Seshadri 通過建議該小組采用多倫多大學(xué)開發(fā)的 STONED(超快遍歷、優(yōu)化、新穎性、探索和發(fā)現(xiàn))算法幫助解決了這個(gè)問題。STONED 有效地生成類似的分子，作為反事實(shí)生成的燃料。Seshadri 是 White 實(shí)驗(yàn)室的一名本科生研究員，能夠通過名為“Discover”的羅切斯特暑期研究計(jì)劃為該項(xiàng)目提供幫助。

White 說，他的團(tuán)隊(duì)繼續(xù)改進(jìn) MMACE，例如，通過嘗試其他數(shù)據(jù)庫來搜索最相似的分子，并改進(jìn)分子相似性的定義。