準(zhǔn)備考研和參加工作的大學(xué)生，各自應(yīng)該怎樣分配學(xué)習(xí)精力？

作為一名大學(xué)計(jì)算機(jī)學(xué)院的老師，在用幾年時(shí)間對(duì)很多大三的學(xué)生進(jìn)行觀察后，我發(fā)現(xiàn)了一個(gè)分化現(xiàn)象。

那些打算讀研或保研的大三學(xué)生，會(huì)非常重視上課。他們會(huì)把書本上的公式背得滾瓜爛熟，反復(fù)做習(xí)題，以期待在期末考試中能夠有好成績(jī)。而那些不打算讀研的學(xué)生，會(huì)把大部分精力放在找工作上，有些人甚至花了一年的時(shí)間反復(fù)做公司的面試題，他們對(duì)于大學(xué)課程通常抱著及格即可的態(tài)度。

圖片來(lái)源：圖蟲創(chuàng)意

你肯定也看出這兩種態(tài)度各自的弊端了：只看書本反復(fù)做題的，如果沒(méi)能如愿讀研，就業(yè)情況可能不會(huì)太樂(lè)觀；一心只想找工作的，專業(yè)基礎(chǔ)很可能未得到夯實(shí)。

如果拋開為了保研或考研而努力學(xué)習(xí)這些課程的情況，我們又應(yīng)該以怎樣的態(tài)度對(duì)待這些課程呢？我想，我們可以從人工智能的遷移學(xué)習(xí)中得到一些啟發(fā)。

機(jī)器的遷移學(xué)習(xí)算法，是人腦本身就具有的能力

人工智能在近幾十年內(nèi)發(fā)展得如火如荼，涌現(xiàn)了包括“多任務(wù)學(xué)習(xí)”“遷移學(xué)習(xí)”“強(qiáng)化學(xué)習(xí)”等多種學(xué)習(xí)算法，這些學(xué)習(xí)算法讓一個(gè)模型具有強(qiáng)大的智能。其中，遷移學(xué)習(xí)是很重要的一種模式。

我讀大學(xué)時(shí)，一位教授在介紹遷移學(xué)習(xí)時(shí)舉了駕駛員開車的例子：

我們知道，在中國(guó)汽車靠右行駛，而在澳大利亞等地的汽車靠左行駛。如果一個(gè)國(guó)內(nèi)的人去澳大利亞自駕游，怎樣避免自己逆行呢？

關(guān)鍵點(diǎn)在于找到兩個(gè)國(guó)家在駕駛方面的共性。在中國(guó)，駕駛的位置在汽車左側(cè)；而在澳大利亞，駕駛的位置在右側(cè)。這樣，我們就可以找到一條共用規(guī)則：不管在哪里行駛，駕駛員都要讓自己的位置比副駕更靠近道路的中心線。當(dāng)我們挖掘出這條共性時(shí)，駕駛員就可以很容易地將駕駛習(xí)慣順利地從一個(gè)國(guó)家“遷移”到另一個(gè)國(guó)家。

這就是遷移學(xué)習(xí)，即通過(guò)自動(dòng)挖掘源領(lǐng)域和目標(biāo)領(lǐng)域之間的“共性”，實(shí)現(xiàn)知識(shí)從源領(lǐng)域到目標(biāo)領(lǐng)域的遷移。

通俗來(lái)講，遷移學(xué)習(xí)就是把在某一個(gè)領(lǐng)域?qū)W到的知識(shí)，用于幫助另外一個(gè)領(lǐng)域內(nèi)的任務(wù)更好地完成。為了方便理解，遷移學(xué)習(xí)把第一個(gè)領(lǐng)域稱為“源領(lǐng)域”，第二個(gè)領(lǐng)域稱為“目標(biāo)領(lǐng)域”。遷移學(xué)習(xí)希望能夠把在“源領(lǐng)域”中學(xué)習(xí)到的知識(shí)運(yùn)用到“目標(biāo)領(lǐng)域”中。

人其實(shí)很會(huì)做遷移學(xué)習(xí)，如果你會(huì)騎自行車，那么你學(xué)騎摩托車、騎電動(dòng)車會(huì)更容易；如果你會(huì)打羽毛球，那么你學(xué)打網(wǎng)球就會(huì)很輕松；如果你會(huì)蛙泳，那么你學(xué)習(xí)自由泳的速度一定會(huì)比一個(gè)不會(huì)游泳的人更快。

遷移學(xué)習(xí)的難點(diǎn)是克服源領(lǐng)域和目標(biāo)領(lǐng)域之間存在的差異。想把源領(lǐng)域的知識(shí)“遷移”到目標(biāo)領(lǐng)域，關(guān)鍵在于找到這兩個(gè)領(lǐng)域之間的“共性”。

以游泳為例。如果你學(xué)會(huì)了蛙泳，那么你學(xué)習(xí)自由泳的速度一定會(huì)比一個(gè)不會(huì)游泳的人更快。這是因?yàn)椤巴苡尽焙汀白杂捎尽钡挠斡咀藨B(tài)雖然不一樣，但是在換氣以及游泳時(shí)身體的協(xié)調(diào)感、水感等方面存在共性。你學(xué)會(huì)了蛙泳，自然掌握了這些共性，你學(xué)自由泳也就更容易。

根據(jù)“共性”的類別區(qū)分遷移學(xué)習(xí)的不同模式

共性有很多類別，我們可以按照共性的類別將遷移學(xué)習(xí)分為幾類。

第一類是“基于示例的遷移學(xué)習(xí)”（instance-based transfer learning）。

雖然源領(lǐng)域和目標(biāo)領(lǐng)域的數(shù)據(jù)總體看起來(lái)不一樣，但是源領(lǐng)域中的某些數(shù)據(jù)樣本很可能和目標(biāo)領(lǐng)域中的比較相似。這時(shí)候，如果我們?cè)谠搭I(lǐng)域中找到這些數(shù)據(jù)，并在訓(xùn)練時(shí)重點(diǎn)關(guān)注這些數(shù)據(jù)，讓模型盡量對(duì)這些數(shù)據(jù)進(jìn)行正確的分類，那么在經(jīng)過(guò)這樣的校準(zhǔn)后，從源領(lǐng)域上得到的模型在應(yīng)用于目標(biāo)領(lǐng)域時(shí)效果就會(huì)比較好了。

第二類是“基于特征的遷移學(xué)習(xí)”（feature-based transfer learning）。

在機(jī)器學(xué)習(xí)中，模型總是先對(duì)數(shù)據(jù)（例如圖像等）進(jìn)行處理，提取數(shù)據(jù)的“特征”，然后基于特征完成各種給定的任務(wù)（例如分類等）。

因此，如果我們能找到源領(lǐng)域數(shù)據(jù)和目標(biāo)領(lǐng)域數(shù)據(jù)之間的一些共性特征，就更能把源領(lǐng)域中的知識(shí)用到目標(biāo)領(lǐng)域。

第三類是“基于模型的遷移學(xué)習(xí)”（model-based transfer learning）。

用于圖像識(shí)別的深度神經(jīng)網(wǎng)絡(luò)是有分層的。研究人員發(fā)現(xiàn)，神經(jīng)網(wǎng)絡(luò)中更靠近輸入的一些分層，識(shí)別的主要是物體的輪廓、曲線、線條等基本特征，這些基本特征通常和任務(wù)或領(lǐng)域無(wú)關(guān)。而更靠近輸出的分層才和具體的任務(wù)或領(lǐng)域相關(guān)。

比如，現(xiàn)在我們用大量的貓和狗的圖片訓(xùn)練出一個(gè)可以區(qū)分貓和狗的深度神經(jīng)網(wǎng)絡(luò)，那么這個(gè)神經(jīng)網(wǎng)絡(luò)更靠近輸入的幾層，同樣可以幫助我們很好地完成區(qū)分牛和馬的任務(wù)。這樣，我們可以把在源領(lǐng)域訓(xùn)練中得到的模型中更靠近輸入的幾層參數(shù)固定下來(lái)，目標(biāo)領(lǐng)域的數(shù)據(jù)只用來(lái)訓(xùn)練剩下那些層的參數(shù)。

如何將學(xué)校知識(shí)遷移到將來(lái)的工作中？

以大三學(xué)生為例：

如果利用遷移學(xué)習(xí)中“基于示例的遷移學(xué)習(xí)”這一思想，那么一個(gè)人的學(xué)習(xí)方式應(yīng)該是這樣的：首先找到某些與將來(lái)的“工作技能”密切相關(guān)的“課本知識(shí)”，然后在上課學(xué)習(xí)的過(guò)程中為它們?cè)O(shè)定更高的權(quán)重。

例如，如果一個(gè)人將來(lái)打算從事人工智能算法方面的工作，他應(yīng)該重點(diǎn)關(guān)注這些課程并更用心地學(xué)習(xí)“算法設(shè)計(jì)與分析”“智能計(jì)算導(dǎo)論”“線性代數(shù)”“概率統(tǒng)計(jì)”等課程。這樣他的“課本知識(shí)”就可以更好地遷移到將來(lái)的工作中。

如果利用“基于模型的遷移學(xué)習(xí)”這一思想，那么他在上課學(xué)習(xí)的過(guò)程中，應(yīng)該有意培養(yǎng)一些很容易擴(kuò)展到將來(lái)“工作技能”中的底層能力。

例如，將來(lái)不管將來(lái)從事什么工作，都需要有表達(dá)能力。在公司，可能你所在的團(tuán)隊(duì)在完成了某個(gè)重要的項(xiàng)目之后，通常需要和領(lǐng)導(dǎo)匯報(bào)情況，讓領(lǐng)導(dǎo)知道團(tuán)隊(duì)的工作對(duì)公司很重要，團(tuán)隊(duì)的人員能力很強(qiáng)，領(lǐng)導(dǎo)應(yīng)該給團(tuán)隊(duì)更多的資源。要想達(dá)到上面的目的，就需要匯報(bào)人具有較強(qiáng)的表達(dá)能力。因此，在大學(xué)里，一個(gè)學(xué)生需要有意識(shí)地培養(yǎng)自己的表達(dá)能力?，F(xiàn)在很多老師都會(huì)在課堂上和學(xué)生進(jìn)行交流，這時(shí)候你就需要積極主動(dòng)地表達(dá)自己的觀點(diǎn)。很多學(xué)生會(huì)在本科階段就進(jìn)入實(shí)驗(yàn)室做科研，如果是這樣，在每周實(shí)驗(yàn)室的組會(huì)上也要把自己的 PPT 做好，借此機(jī)會(huì)清晰地表達(dá)自己的工作。這些都是培養(yǎng)表達(dá)能力的重要手段。

如果一個(gè)學(xué)生選擇使用遷移學(xué)習(xí)，通過(guò)挖掘“課本知識(shí)”和“工作技能”之間的共性，就可以讓他當(dāng)前學(xué)習(xí)的“課本知識(shí)”更好地為“工作技能”服務(wù)。用遷移學(xué)習(xí)訓(xùn)練完，“當(dāng)下的他”就具有了更好地掌握“工作技能”的能力。

所以，當(dāng)一個(gè)面臨讀研和就業(yè)選擇的大學(xué)生使用遷移學(xué)習(xí)的方法，他就能既掌握好書本知識(shí)，又訓(xùn)練出與未來(lái)工作適配的技能。

文章由科普中國(guó)-星空計(jì)劃（創(chuàng)作培育）出品，轉(zhuǎn)載請(qǐng)注明來(lái)源。

作者：北京航空航天大學(xué)副教授、博士生導(dǎo)師 劉雪峰

審核：華中師范大學(xué)數(shù)學(xué)與統(tǒng)計(jì)學(xué)學(xué)院 副教授 鄧清泉