利用語言學(xué)習(xí)程序抽象和搜索啟發(fā)式
2022-07-10 23:14:58
?
來源:
導(dǎo)讀 程序綜合(符號程序的自動推理)有助于創(chuàng)建穩(wěn)健、可解釋和可驗證的機(jī)器學(xué)習(xí)方法。最近在 arXiv org 上的一篇論文提出了一個框架,用于
程序綜合(符號程序的自動推理)有助于創(chuàng)建穩(wěn)健、可解釋和可驗證的機(jī)器學(xué)習(xí)方法。最近在 arXiv.org 上的一篇論文提出了一個框架,用于使用自然語言監(jiān)督提高學(xué)習(xí)程序合成的效率和泛化性。
語言允許交流搜索空間(在小五邊形旁邊繪制大六邊形的指令將復(fù)雜任務(wù)分解為高級部分)和命名給定域中重要可重用概念的詞典(例如前面示例中的多邊形) )。
因此,建議同時學(xué)習(xí)可重用程序抽象庫和啟發(fā)式算法,以便在程序空間中進(jìn)行搜索。該方法顯著提高了字符串編輯、結(jié)構(gòu)化圖像生成和場景理解等任務(wù)的性能。
歸納程序綜合,或從所需行為的示例中推斷程序,為構(gòu)建可解釋、健壯和可推廣的機(jī)器學(xué)習(xí)系統(tǒng)提供了通用范式。有效的程序綜合取決于兩個關(guān)鍵要素:構(gòu)建程序的強(qiáng)大函數(shù)庫,以及用于查找解決給定任務(wù)的程序的有效搜索策略。我們介紹了 LAPS(抽象和程序搜索語言),這是一種使用自然語言注釋來指導(dǎo)庫和神經(jīng)引導(dǎo)搜索模型的聯(lián)合學(xué)習(xí)以進(jìn)行綜合的技術(shù)。當(dāng)集成到最先進(jìn)的圖書館學(xué)習(xí)系統(tǒng) (DreamCoder) 中時,LAPS 可以生成更高質(zhì)量的圖書館,并提高三個領(lǐng)域的搜索效率和泛化能力——字符串編輯、圖像合成、
免責(zé)聲明:本文由用戶上傳,如有侵權(quán)請聯(lián)系刪除!