版權(quán)歸原作者所有,如有侵權(quán),請聯(lián)系我們

AI「反腐」,德國馬普所結(jié)合 NLP 和 DNN 開發(fā)抗蝕合金

HyperAI超神經(jīng)
原創(chuàng)
人工智能說明書,了解 AI 的功效和副作用。
收藏

內(nèi)容一覽:在被不銹鋼包圍的世界中,我們可能都快忘記了腐蝕的存在。然而,腐蝕存在于生活中的方方面面。無論是銹跡斑斑的鋼釘,老化漏液的電線,還是失去光澤的汽車,這一切的發(fā)生都與腐蝕有關(guān)。據(jù)統(tǒng)計(jì),全世界每年由金屬腐蝕帶來的經(jīng)濟(jì)損失超過
2.5 萬億美元,遠(yuǎn)超過其他自然災(zāi)害。其中,腐蝕在中國造成的經(jīng)濟(jì)損失約 3,949 億美元,占中國 GDP 的 4.2%。正因?yàn)榇?,研究者們一直在探索抗蝕性能更好的合金或是金屬保護(hù)膜。如今,在優(yōu)化材料抗蝕性能的過程中,AI 派上了用場。

關(guān)鍵詞:自然語言處理 深度神經(jīng)網(wǎng)絡(luò) 腐蝕

作者 | 雪菜

編輯 | 三羊

本文首發(fā)于 HyperAI 超神經(jīng)微信公眾平臺~

據(jù)美國腐蝕工程師協(xié)會 (NACE, National Association of Corrosion Engineers) 統(tǒng)計(jì),2013 年全世界由腐蝕造成的經(jīng)濟(jì)損失超 2.5 萬億。同時,中國也飽受腐蝕的困擾,經(jīng)濟(jì)損失約 3,949 億美元,占當(dāng)年 GDP 的 4.2%,較其他發(fā)達(dá)國家比例略高。

作為對比,2008 年汶川大地震造成的經(jīng)濟(jì)損失約 1,100 億美元。也就是說,早在 2013 年,僅腐蝕為我國帶來的經(jīng)濟(jì)損失,就超過了 3 個汶川大地震。


表 1:2013 年世界各地因腐蝕造成的經(jīng)濟(jì)損失(單位:十億美元)
為破解腐蝕難題,研究者們在致力于提升材料強(qiáng)度的同時,也在不斷尋找提升材料抗蝕性能的方法。 借助 AI,他們已經(jīng)取得了一定的進(jìn)展,如對高溫下合金的腐蝕機(jī)制進(jìn)行了預(yù)測,對鋼鐵的大氣腐蝕速率和鋼筋混凝土的環(huán)境腐蝕進(jìn)行了分析,并能夠用卷積神經(jīng)網(wǎng)絡(luò) (CNN) 從圖像中判斷材料的腐蝕形式。

然而,機(jī)器學(xué)習(xí)模型的輸入數(shù)據(jù)多為數(shù)值數(shù)據(jù)。但在金屬材料的加工和分析中,除了 pH 值、測試溫度等數(shù)值數(shù)據(jù),還有材料類型等分類數(shù)據(jù)及熱處理過程、測試方法等文本數(shù)據(jù)。傳統(tǒng)的機(jī)器學(xué)習(xí)模型無法對所有數(shù)據(jù)進(jìn)行徹底讀取和分析,預(yù)測準(zhǔn)確率較低。

為此,德國馬克思普朗克鐵研究所 (MPIE, Max-Planck-Institut für Eisenforschung) 將深度神經(jīng)網(wǎng)絡(luò) (DNN) 和自然語言處理 (NLP) 相結(jié)合開發(fā)了進(jìn)程感知 DNN。 這一模型可以將數(shù)值數(shù)據(jù)和文本數(shù)據(jù)結(jié)合處理,其準(zhǔn)確率較其他模型提升了 15%。

同時他們將金屬的物理化學(xué)特性轉(zhuǎn)換為描述符,構(gòu)建了特征變換 DNN, 可以用于預(yù)測訓(xùn)練集中不存在的元素對抗蝕性能的影響。這項(xiàng)研究已于 2023 年 8 月發(fā)表于《Science Advances》,標(biāo)題為「Enhancing corrosion-resistant alloy design through natural language processing and deep learning」。


相關(guān)研究已發(fā)表于《Science Advances》
論文鏈接:
https://www.science.org/doi/10.1126/sciadv.adg7992

進(jìn)程感知 DNN

模型設(shè)計(jì)

本研究數(shù)據(jù)集為 5 類 769 種合金的點(diǎn)蝕電位,數(shù)據(jù)集中包括數(shù)值數(shù)據(jù)、分類數(shù)據(jù)及文本數(shù)據(jù)。其中,數(shù)值數(shù)據(jù)被直接輸入模型中,分類數(shù)據(jù)通過順序編號轉(zhuǎn)為數(shù)值輸入模型,而文本型數(shù)據(jù)則通過 NLP 架構(gòu)處理后輸入模型。
NLP 架構(gòu)主要分為三個部分,包括詞匯標(biāo)記、向量化和向量序列的處理。

詞匯標(biāo)記過程中,每個詞匯被一個特定的整型數(shù)字 (integer token) 替換。通過詞匯標(biāo)記,一個詞組或句子就被轉(zhuǎn)換為一個整型向量 (integer vector)。

詞匯標(biāo)記之后,雖然文本數(shù)據(jù)轉(zhuǎn)換成了數(shù)值,但數(shù)值之間沒有任何關(guān)聯(lián),無法承載原文的語義。因此,整型向量會經(jīng)過向量化轉(zhuǎn)換為 n 維浮點(diǎn)型向量。在訓(xùn)練過程中, 每個詞匯的權(quán)重被不斷優(yōu)化。訓(xùn)練完成后,向量間的接近度則對應(yīng)著它們的語義相似性。

最后,n 維浮點(diǎn)型向量通過長短期記憶遞歸神經(jīng)網(wǎng)絡(luò) (LSTM) 轉(zhuǎn)換為單一向量,進(jìn)入輸入層。LSTM 可以通過門函數(shù),識別詞匯間的長期依賴性。因此,LSTM 可以從給定語句中找出關(guān)鍵的相關(guān)詞匯,將語句中最重要的部分傳遞給 DNN 的輸入層。


圖 1:進(jìn)程感知 DNN 模型結(jié)構(gòu)

A:NLP 數(shù)據(jù)處理工作流

B:進(jìn)程感知 DNN 模型示意圖

訓(xùn)練及驗(yàn)證

訓(xùn)練之后,研究者對模型的絕對平均誤差進(jìn)行了匯總**。進(jìn)程感知 DNN 的平均絕對誤差約 150 mV,較簡單 DNN 降低了 20 mV。**預(yù)測點(diǎn)蝕電位和實(shí)際點(diǎn)蝕電位之間的 R2 為 0.78 ± 0.06, 較簡單 DNN 的 0.61 ± 0.04 更高。上述結(jié)果說明,在對文本數(shù)據(jù)進(jìn)行分析之后,進(jìn)程感知 DNN 的性能優(yōu)于簡單 DNN 模型。


圖 2:進(jìn)程感知 DNN 訓(xùn)練結(jié)果A:訓(xùn)練及驗(yàn)證過程中的平均絕對誤差,其中紅線為簡單 DNN 模型的平均絕對誤差;
B:進(jìn)程感知 DNN 與簡單 DNN 模型的結(jié)果對比。

合金組分優(yōu)化

為了對比進(jìn)程感知 DNN 與簡單 DNN 在合金組分優(yōu)化過程中的差異,研究者從相似的合金組分開始,用相同的學(xué)習(xí)率,利用兩種模型分別對合金組分進(jìn)行了優(yōu)化。


圖 3:組分優(yōu)化結(jié)果A&B:鐵基合金優(yōu)化結(jié)果;
C&D:Ni-Cr-Mo 合金優(yōu)化結(jié)果;
E&F:Al-Cr 合金優(yōu)化結(jié)果;
G&H:高墑合金優(yōu)化結(jié)果。

圖中可以看到,兩種模型對鐵基合金和 FeCrNiCo 高墑合金的優(yōu)化結(jié)果存在部分的相似性,但對其他兩種合金的優(yōu)化結(jié)果差異很大。 首先,進(jìn)程感知 DNN 預(yù)測 Mo 元素含量增加,會顯著提高鐵基合金和 Ni-Cr-Mo 合金的點(diǎn)蝕電位。其次,進(jìn)程感知 DNN 認(rèn)為在 Ni-Cr-Mo 合金中,間隙氮和間隙碳可以提升合金的點(diǎn)蝕電位。最后,在 Al-Cr 合金中,Cu 元素也有利于點(diǎn)蝕電位的提升。這些都是簡單 DNN 所忽視的。

特征變換 DNN

模型設(shè)計(jì)

通過合金組分特征化函數(shù)「WenAlloys」,合金的組分信息還可以被分解為一系列原子、物理及化學(xué)特性,并變換為不同的描述符,作為 DNN 模型的輸入值。


表 2:部分特征的變換結(jié)果
其中 ci、ri、Xi 及 Ec,i 分別代表原子分?jǐn)?shù)、原子半徑、泡利電負(fù)性、元素結(jié)合能。

訓(xùn)練及驗(yàn)證


圖 4:特征變換 DNN 的訓(xùn)練結(jié)果
A:模型訓(xùn)練及驗(yàn)證過程中的誤差曲線;
B:訓(xùn)練之后預(yù)測點(diǎn)蝕電位和實(shí)際點(diǎn)蝕電位的回歸曲線;
C:特征變換 DNN 及簡單 DNN 的結(jié)果對比。

訓(xùn)練后,特征變換 DNN 的平均絕對誤差約 168 mV,R2 為 0.66,性能較簡單 DNN 模型略有提升。

特征變換 DNN 對抗蝕機(jī)制的分析

從五類合金中各選出一種進(jìn)行特征變換,之后輸入模型中進(jìn)行優(yōu)化?;趦?yōu)化曲線,輸入特征可以被分為兩類。一類特征曲線在優(yōu)化過程中變化顯著,超出了訓(xùn)練集中的預(yù)期;另一類特征在優(yōu)化過程中只有微小的變化。


圖 5:不同輸入特征的優(yōu)化曲線
圖中是 4 個優(yōu)化過程中發(fā)生顯著變化的特征,這意味著這些特征可能是提升合金點(diǎn)蝕電位的重要參數(shù)。

特征變換 DNN 對 Al-Cu-Sc-Zr 合金的預(yù)測

由于特征變換 DNN 的輸入中只有組分的原子、物理及化學(xué)特征,因此它可以對訓(xùn)練集中不存在的元素進(jìn)行預(yù)測。

在多種合金中,Sc 和 Zr 元素都展現(xiàn)出了對抗蝕性能的提升。因此,研究團(tuán)隊(duì)利用特征變換 DNN 對這兩種元素對 Al-Cu 合金的影響進(jìn)行了分析。


圖 6:特征變換 DNN 對 Al-Cu-Sc-Zr 合金的點(diǎn)蝕電位預(yù)測結(jié)果
如圖所示,隨著 Zr 和 Sc 元素含量的增加,合金的點(diǎn)蝕電位不斷提升,說明合金的抗蝕性能有所提高。這一結(jié)果驗(yàn)證了特征變換 DNN 對新元素的預(yù)測能力。

上述結(jié)果說明,**將 NLP 與 DNN 結(jié)合之后,模型能夠讀取有關(guān)合金加工和測試方法的文本數(shù)據(jù), 因此較傳統(tǒng)的 DNN 模型性能更好,**并能夠發(fā)現(xiàn)簡單 DNN 所忽略的元素對合金抗蝕性能的影響。而特征變換 DNN 則可以從合金的原子、物理及化學(xué)性質(zhì)出發(fā), 對訓(xùn)練集中不存在的元素的性能進(jìn)行預(yù)測。

腐蝕:沉默的金屬殺手2009 年,世界腐蝕組織 (WCO) 將每年的 4 月 24 日確立為世界腐蝕日,以提升公眾對腐蝕的認(rèn)知。作為一種常見的化學(xué)現(xiàn)象,腐蝕存在于我們生活中的每個角落。無論是廚房的各種用具,還是家用的各類電器,還有橫跨海陸空的的交通工具,乃至獨(dú)具設(shè)計(jì)的各種建筑物,都飽受腐蝕的困擾。可以說,有金屬的地方就有腐蝕。

金屬腐蝕包括化學(xué)腐蝕和電化學(xué)腐蝕,其中電化學(xué)腐蝕的發(fā)生更為普遍,危害更大。電化學(xué)腐蝕是指兩種金屬在電解質(zhì)溶液中形成回路,構(gòu)成原電池,導(dǎo)致活潑金屬被腐蝕的現(xiàn)象。常見的電化學(xué)腐蝕包括均勻腐蝕、點(diǎn)蝕、應(yīng)力腐蝕、間隙腐蝕等。其中,非均勻腐蝕尤其是點(diǎn)蝕等不易被發(fā)現(xiàn)的腐蝕形式,對金屬的危害更大,極易造成事故。

圖 7:常見的電化學(xué)腐蝕類型
2013 年 11 月 22 日,山東省青島市的輸油管路由于長期處于高氯和干濕交替環(huán)境下,管壁腐蝕減薄,最終發(fā)生破裂,導(dǎo)致原油泄漏。之后的清理搶修過程中, 由于現(xiàn)場操作不當(dāng),導(dǎo)致原油爆燃,最終造成 62 人死亡,163 人受傷。

腐蝕往往難以察覺,因此避免腐蝕事故需要定期的人工檢查和搶修,耗費(fèi)大量的人力物力。現(xiàn)在,在 AI 的幫助下,我們可以對合金的組成進(jìn)行優(yōu)化,找到抗蝕性能更好的材料。 同時,數(shù)字化的腐蝕監(jiān)測系統(tǒng)也正投入使用,幫助我們迅速定位腐蝕電位,讓「沉默的殺手」不再沉默。

參考鏈接:

[1] http://impact.nace.org/documents/Nace-International-Report.pdf
[2] Forms of Corrosion: Corrosion Types (With PDF) | What is Piping
[3] 國務(wù)院調(diào)查報(bào)告揭示青島輸油管道泄漏事故教訓(xùn)

本文首發(fā)于 HyperAI 超神經(jīng)微信公眾平臺~