多倫多大學(xué)和LG AI Research的研究人員開發(fā)了一種“可解釋的”人工智能(XAI)算法，該算法可幫助識別和消除顯示屏中的缺陷。在新的算法，其中跑贏行業(yè)基準(zhǔn)類似的方法，是通過LG和多倫多大學(xué)之間正在進行的人工智能研究的合作是在2019擴大，重點放在AI應(yīng)用，為企業(yè)的發(fā)展。

研究人員表示，XAI算法可能會應(yīng)用于需要了解機器學(xué)習(xí)如何做出決策的窗口的其他領(lǐng)域，包括對醫(yī)學(xué)掃描數(shù)據(jù)的解釋。

“可解釋性和可解釋性是要滿足我們?yōu)楣こ處熥陨碓O(shè)定的質(zhì)量標(biāo)準(zhǔn)，并滿足最終用戶的要求，”應(yīng)用學(xué)院愛德華·羅杰斯電氣與計算機工程系高級教授科斯塔斯·普拉塔尼奧提斯(Kostas Plataniotis)說?？茖W(xué)與工程。“有了XAI，就不可能有一個適合所有人的尺寸。” 您必須詢問要為誰開發(fā)它。是否適合另一位機器學(xué)習(xí)開發(fā)人員?還是給醫(yī)生或律師?”

該研究團隊還包括T工程學(xué)院的畢業(yè)生Mahesh Sudhakar和碩士候選人Sam Sattarzadeh，以及LG AI Research Canada的Jongseong Jang領(lǐng)導(dǎo)的研究人員，該公司是該公司全球研發(fā)部門的一部分。

XAI是一個新興領(lǐng)域，致力于解決機器學(xué)習(xí)策略的“黑匣子”方法問題。

在黑匣子模型中，可能會以數(shù)百萬個帶標(biāo)簽的圖像的形式為計算機提供一組訓(xùn)練數(shù)據(jù)。通過分析數(shù)據(jù)，算法學(xué)習(xí)將輸入(圖像)的某些特征與某些輸出(標(biāo)簽)相關(guān)聯(lián)。最終，它可以將標(biāo)簽正確地粘貼到從未見過的圖像上。

機器自行決定要注意圖像的哪些方面，而忽略哪些方面，這意味著其設(shè)計人員將永遠無法確切知道圖像是如何得出結(jié)果的。

但是，當(dāng)這種“黑匣子”模型應(yīng)用于醫(yī)療保健，法律和保險等領(lǐng)域時，就會帶來挑戰(zhàn)。

Sudhakar說：“例如，[機器學(xué)習(xí)]模型可能會確定患者有90%的機會患上腫瘤。“對不正確或有偏見的信息采取行動的后果實際上是生死攸關(guān)。要完全理解和解釋模型的預(yù)測，醫(yī)生需要知道算法是如何得出的。”

與傳統(tǒng)的機器學(xué)習(xí)相比，XAI被設(shè)計為一種“玻璃盒”方法，使決策透明化。XAI算法與傳統(tǒng)算法同時運行，以審核其學(xué)習(xí)性能的有效性和水平。該方法還提供了進行調(diào)試和提高培訓(xùn)效率的機會。

Sudhakar說，從廣義上講，開發(fā)XAI算法有兩種方法-每種方法都有其優(yōu)點和缺點。

第一種稱為反向傳播，它依賴于底層的AI體系結(jié)構(gòu)來快速計算網(wǎng)絡(luò)的預(yù)測如何與其輸入相對應(yīng)。第二種方法稱為擾動，它會犧牲一些速度以提高準(zhǔn)確性，并涉及更改數(shù)據(jù)輸入和跟蹤相應(yīng)的輸出以確定必要的補償。

Sudhakar表示：“我們LG的合作伙伴需要一種結(jié)合了兩者優(yōu)勢的新技術(shù)。” “他們有一個現(xiàn)有的[機器學(xué)習(xí)]模型，該模型可以識別LG產(chǎn)品中帶有顯示器的缺陷零件，我們的任務(wù)是在保持可接受的運行時間的同時，提高可能存在的缺陷的高分辨率熱圖的準(zhǔn)確性。”

在第35屆AAAI人工智能會議的最新論文中，描述了該團隊產(chǎn)生的XAI算法，即語義輸入采樣解釋(SISE)。

“我們看到了SISE在廣泛應(yīng)用中的潛力，” Plataniotis說。“特定場景的問題和意圖將始終需要對算法進行調(diào)整，但是，例如，醫(yī)療專業(yè)人員可以更輕松地解釋這些熱圖或'解釋圖'。”

Jang說：“ LG與多倫多大學(xué)合作的目標(biāo)是成為AI創(chuàng)新的世界領(lǐng)導(dǎo)者。” “ XAI的第一個成就表明我們公司不斷努力在多個領(lǐng)域做出貢獻，例如LG產(chǎn)品的功能，制造創(chuàng)新，供應(yīng)鏈管理，材料發(fā)現(xiàn)效率等，并使用AI來提高客戶滿意度。”

電氣和計算機工程系主任Deepa Kundur教授說，這樣的成功是與行業(yè)合作伙伴合作的價值的一個很好的例子。

Kundur說：“當(dāng)兩組研究人員以各自的觀點來到桌面時，通常可以加快解決問題的速度。” “對于研究生來說，暴露于這一過程是非常寶貴的。”

在長達一年的項目中，團隊要實現(xiàn)積極進取的準(zhǔn)確性和運行時目標(biāo)是一個挑戰(zhàn)，盡管同時要兼顧多倫多/首爾時區(qū)和在約束下工作，但Sudhakar表示有機會生成切實可行的解決方案對于一家世界知名的制造商來說，這是值得的。

Sudhakar說：“對我們了解行業(yè)的運作方式非常有益。” “ LG的目標(biāo)是雄心勃勃的，但是我們得到了他們的令人鼓舞的支持，并就想法或類推提供了反饋。這非常令人興奮。