近日，華為與中國(guó)人民大學(xué)高瓴人工智能學(xué)院孫浩教授團(tuán)隊(duì)合作，基于昇思MindSpore AI框架提出了物理編碼遞歸卷積神經(jīng)網(wǎng)絡(luò)（Physics-encoded Recurrent Convolutional Neural Network，PeRCNN），該成果已在《Nature》子刊《Nature Machine Intelligence》上發(fā)表，相關(guān)代碼已在開(kāi)源社區(qū)Gitee的MindSpore Flow代碼倉(cāng)開(kāi)源[1]。
PeRCN相較于物理信息神經(jīng)網(wǎng)絡(luò)、ConvLSTM、PDE-NET等方法，模型泛化性和抗噪性明顯提升，長(zhǎng)期推理精度提升了10倍以上，在航空航天、船舶制造、氣象預(yù)報(bào)等領(lǐng)域擁有廣闊的應(yīng)用前景。
PDE方程在對(duì)物理系統(tǒng)的建模中占據(jù)著中心地位，但在流行病學(xué)、氣象科學(xué)、流體力學(xué)和生物學(xué)等等領(lǐng)域中，很多的底層PDE仍未被完全發(fā)掘出來(lái)。而對(duì)于那些已知的PDE方程，比如Navier-Stokes方程，對(duì)這些方程進(jìn)行精確數(shù)值計(jì)算需要巨大的算力，阻礙了數(shù)值仿真在大規(guī)模時(shí)空系統(tǒng)上的應(yīng)用。目前，機(jī)器學(xué)習(xí)的進(jìn)步提供了一種PDE求解和反演的新思路。
PerCNN的模型架構(gòu)
已有的數(shù)據(jù)驅(qū)動(dòng)的模型依賴(lài)于大數(shù)據(jù)[2]，這在大多數(shù)的科學(xué)問(wèn)題上很難滿足，同時(shí)還存在解釋性的問(wèn)題。物理約束的神經(jīng)網(wǎng)絡(luò)（PINNs）[3]雖然做到了利用先驗(yàn)知識(shí)去約束模型的訓(xùn)練從而減少對(duì)數(shù)據(jù)的依賴(lài)，但是PINN基于損失函數(shù)的軟約束限制了最終結(jié)果的準(zhǔn)確性。如何在缺少有效數(shù)據(jù)的情形下，得到具有高精度、魯棒性、可解釋性和泛化性的結(jié)果，仍是學(xué)界努力的方向。
因此，華為與孫浩教授團(tuán)隊(duì)合作，利用昇騰AI澎湃算力、依托昇思MindSpore AI框架開(kāi)發(fā)了物理編碼遞歸卷積神經(jīng)網(wǎng)絡(luò)[4]，實(shí)現(xiàn)了對(duì)非線性PDE的精確逼近。
PeRCNN在反應(yīng)擴(kuò)散方程的應(yīng)用，長(zhǎng)期演化上優(yōu)于ConvLSTM\PINN等方法
PeRCNN神經(jīng)網(wǎng)絡(luò)強(qiáng)制編碼物理結(jié)構(gòu)，基于結(jié)合部分物理先驗(yàn)設(shè)計(jì)的π-卷積模塊，通過(guò)特征圖之間的元素乘積實(shí)現(xiàn)非線性逼近。該物理編碼機(jī)制保證模型根據(jù)我們的先驗(yàn)知識(shí)嚴(yán)格服從給定的物理方程。所提出的方法可以應(yīng)用于有關(guān)PDE系統(tǒng)的各種問(wèn)題，包括數(shù)據(jù)驅(qū)動(dòng)建模和PDE的發(fā)現(xiàn)，并可以保證準(zhǔn)確性和泛用性。
PeRCNN在預(yù)測(cè)和外推的性能上也優(yōu)于ConvLSTM/ResNet/PDE-Net/DHPM等方法
PeRCNN的另一個(gè)獨(dú)特優(yōu)勢(shì)是其可解釋性，這源自π-卷積的乘法形式。通過(guò)符號(hào)計(jì)算，可以從學(xué)習(xí)到的模型中進(jìn)一步提取底層的基礎(chǔ)物理學(xué)表達(dá)式。這讓PeRCNN能夠作為一項(xiàng)有效的工具幫助人們從不完善和高噪聲的數(shù)據(jù)中準(zhǔn)確可靠地發(fā)現(xiàn)潛在的物理規(guī)律。
流體力學(xué)、氣象、海洋等學(xué)科中，存在湍流、激波等強(qiáng)非線性現(xiàn)象，傳統(tǒng)數(shù)值方法的求解需要大量計(jì)算資源，當(dāng)前AI已經(jīng)在飛行器流場(chǎng)、中期天氣預(yù)報(bào)等問(wèn)題中展現(xiàn)出極大的潛力，PeRCNN具備高精度、泛化性強(qiáng)和抗噪性強(qiáng)等特點(diǎn)，將有望在這些領(lǐng)域突破傳統(tǒng)計(jì)算瓶頸，加速工業(yè)仿真和設(shè)計(jì)，成為AI+科學(xué)計(jì)算領(lǐng)域的新利器！
[1]https://gitee.com/mindspore/mindscience/tree/master/MindFlow/applications/data_mechanism_fusion/PeRCNN
[2]Yann LeCun, Yoshua Bengio, and Geoffrey Hinton. Deep learning. Nature, 521(7553):436–444, 2015.
[3]Maziar Raissi, Paris Perdikaris, and George E Karniadakis. Physics-informed neural networks: A deep learning framework for solving forward and inverse problems involving nonlinear partial differential equations. Journal of Computational Physics, 378:686–707, 2019.
[4]Chengping Rao, Pu Ren, Qi Wang, Oral Buyukozturk, Hao Sun*, Yang Liu*. Encoding physics to learn reaction-diffusion processes. Nature Machine Intelligence, 2023, DOI: 10.1038/s42256-023-00685-7
（免責(zé)聲明：本網(wǎng)站內(nèi)容主要來(lái)自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網(wǎng)站出現(xiàn)的信息，均僅供參考。本網(wǎng)站將盡力確保所提供信息的準(zhǔn)確性及可靠性，但不保證有關(guān)資料的準(zhǔn)確性及可靠性，讀者在使用前請(qǐng)進(jìn)一步核實(shí)，并對(duì)任何自主決定的行為負(fù)責(zé)。本網(wǎng)站對(duì)有關(guān)資料所引致的錯(cuò)誤、不確或遺漏，概不負(fù)任何法律責(zé)任。
任何單位或個(gè)人認(rèn)為本網(wǎng)站中的網(wǎng)頁(yè)或鏈接內(nèi)容可能涉嫌侵犯其知識(shí)產(chǎn)權(quán)或存在不實(shí)內(nèi)容時(shí)，應(yīng)及時(shí)向本網(wǎng)站提出書(shū)面權(quán)利通知或不實(shí)情況說(shuō)明，并提供身份證明、權(quán)屬證明及詳細(xì)侵權(quán)或不實(shí)情況證明。本網(wǎng)站在收到上述法律文件后，將會(huì)依法盡快聯(lián)系相關(guān)文章源頭核實(shí)，溝通刪除相關(guān)內(nèi)容或斷開(kāi)相關(guān)鏈接。 ）
