基因網(wǎng)絡(luò)繪制需要大量轉(zhuǎn)錄組數(shù)據(jù)用于建立基因之間的聯(lián)系,這也阻礙了一些數(shù)據(jù)有限場(chǎng)景(如罕見?。┑妊芯?。最近,利用遷移學(xué)習(xí)的機(jī)器學(xué)習(xí)技術(shù)在自然語言和計(jì)算機(jī)視覺等領(lǐng)域帶來了變革性進(jìn)展,其通過在大規(guī)模通用數(shù)據(jù)集上進(jìn)行大模型預(yù)訓(xùn)練,而后遷移到數(shù)據(jù)量有限的特定任務(wù)進(jìn)行微調(diào)。美國(guó)博德研究所等研究團(tuán)隊(duì)提出了一個(gè)深度學(xué)習(xí)模型Geneformer可實(shí)現(xiàn)特定生物學(xué)任務(wù)與背景中的預(yù)測(cè)。該研究成果于近日發(fā)表在《Nature》雜志上,題為:Transfer learning enables predictions in network biology。
研究人員開發(fā)的深度學(xué)習(xí)模型Geneformer,在大約3000萬個(gè)單細(xì)胞轉(zhuǎn)錄組的大規(guī)模數(shù)據(jù)集上進(jìn)行了預(yù)訓(xùn)練,以便在網(wǎng)絡(luò)生物學(xué)有限數(shù)據(jù)的情況下進(jìn)行特異性預(yù)測(cè)。在預(yù)訓(xùn)練期間,Geneformer獲得了對(duì)網(wǎng)絡(luò)動(dòng)態(tài)的基本理解,以完全自我監(jiān)督的方式在模型的注意力權(quán)重中編碼網(wǎng)絡(luò)層次。研究人員利用Geneformer基于下游有限數(shù)據(jù)進(jìn)行了預(yù)測(cè)任務(wù),包括“疾病候選靶點(diǎn)預(yù)測(cè)”“解釋拷貝數(shù)變異”“關(guān)鍵基因網(wǎng)絡(luò)調(diào)控因子”“基因網(wǎng)絡(luò)層次編碼”“染色質(zhì)動(dòng)力學(xué)預(yù)測(cè)”等,并通過實(shí)驗(yàn)支持了其預(yù)測(cè)的結(jié)果。
綜上,Geneformer代表了一種預(yù)訓(xùn)練的深度學(xué)習(xí)模型,可以對(duì)其進(jìn)行微調(diào),以實(shí)現(xiàn)廣泛的下游應(yīng)用,加速發(fā)現(xiàn)網(wǎng)絡(luò)調(diào)節(jié)關(guān)鍵環(huán)節(jié)和候選治療目標(biāo)。
注:此研究成果摘自《Nature》雜志,文章內(nèi)容不代表本網(wǎng)站觀點(diǎn)和立場(chǎng),僅供參考。
知前沿,問智研。智研咨詢是中國(guó)一流產(chǎn)業(yè)咨詢機(jī)構(gòu),十?dāng)?shù)年持續(xù)深耕產(chǎn)業(yè)研究領(lǐng)域,提供深度產(chǎn)業(yè)研究報(bào)告、商業(yè)計(jì)劃書、可行性研究報(bào)告及定制服務(wù)等一站式產(chǎn)業(yè)咨詢服務(wù)。專業(yè)的角度、品質(zhì)化的服務(wù)、敏銳的市場(chǎng)洞察力,專注于提供完善的產(chǎn)業(yè)解決方案,為您的投資決策賦能。
版權(quán)提示:智研咨詢倡導(dǎo)尊重與保護(hù)知識(shí)產(chǎn)權(quán),對(duì)有明確來源的內(nèi)容注明出處。如發(fā)現(xiàn)本站文章存在版權(quán)、稿酬或其它問題,煩請(qǐng)聯(lián)系我們,我們將及時(shí)與您溝通處理。聯(lián)系方式:gaojian@chyxx.com、010-60343812。