吳迪
【摘要】? 在充分考慮人工智能專業(yè)特點(diǎn)的基礎(chǔ)上,本文對人工智能專業(yè)數(shù)學(xué)基礎(chǔ)課的教學(xué)進(jìn)行了研究和探討,特別是高等數(shù)學(xué)、線性代數(shù)、最優(yōu)化方法和數(shù)理統(tǒng)計(jì)四門數(shù)學(xué)基礎(chǔ)課.
【關(guān)鍵詞】人工智能專業(yè);高等數(shù)學(xué);線性代數(shù);最優(yōu)化方法;數(shù)理統(tǒng)計(jì)
【基金項(xiàng)目】國家自然科學(xué)基金,2021年1月(62006149);陜西省自然科學(xué)基金,2020年1月(2020JQ-403)
一、引言
近年來,全國百所高校新增了人工智能本科專業(yè),該專業(yè)對數(shù)學(xué)基礎(chǔ)的要求較高.因此,該專業(yè)的數(shù)學(xué)基礎(chǔ)課教學(xué)受到廣泛的關(guān)注,是一個(gè)重要研究課題.
“機(jī)器學(xué)習(xí)”是學(xué)生選修最多的信息類專業(yè)課之一,被認(rèn)為人工智能專業(yè)最核心的課程,是人工智能專業(yè)對數(shù)學(xué)基礎(chǔ)要求最高的課程之一.“最優(yōu)化方法”(以下簡稱“優(yōu)化”)和“數(shù)理統(tǒng)計(jì)”是機(jī)器學(xué)習(xí)課重要的先修數(shù)學(xué)課;“高等數(shù)學(xué)”(以下簡稱“高數(shù)”) 和“線性代數(shù)”(以下簡稱“線代”)是優(yōu)化課和數(shù)理統(tǒng)計(jì)課重要的先修數(shù)學(xué)課.
對于人工智能本科專業(yè)的二年級學(xué)生,筆者已經(jīng)講授優(yōu)化課.筆者在教學(xué)過程中發(fā)現(xiàn)數(shù)學(xué)課和機(jī)器學(xué)習(xí)課的銜接存在問題.為了改善此情況,教師應(yīng)根據(jù)機(jī)器學(xué)習(xí)課的要求對數(shù)學(xué)課的教學(xué)內(nèi)容進(jìn)行調(diào)整,并根據(jù)優(yōu)化課和數(shù)理統(tǒng)計(jì)課的要求對高數(shù)課和線代課的教學(xué)內(nèi)容進(jìn)行調(diào)整.
為了更加深刻地理解機(jī)器學(xué)習(xí)的本質(zhì),多數(shù)選修機(jī)器學(xué)習(xí)課的學(xué)生希望教師補(bǔ)充與機(jī)器學(xué)習(xí)有關(guān)的數(shù)學(xué)基礎(chǔ)知識.由于人工智能專業(yè)數(shù)學(xué)課的設(shè)置充分考慮到機(jī)器學(xué)習(xí)課的要求,本文的內(nèi)容可為這些學(xué)生提供參考.
全國高校新增了大量與人工智能相關(guān)的本科專業(yè),如智能感知工程、智能交互設(shè)計(jì)和智慧交通.這些專業(yè)的部分課程與人工智能本科專業(yè)相近,因此,本文對這些專業(yè)的教師和學(xué)生有參考價(jià)值.
二、人工智能專業(yè)數(shù)學(xué)課的設(shè)置
在筆者所在學(xué)院,人工智能本科專業(yè)是在計(jì)算機(jī)科學(xué)與技術(shù)本科專業(yè)的基礎(chǔ)上發(fā)展而來的,繼承了計(jì)算機(jī)科學(xué)與技術(shù)本科專業(yè)的相關(guān)課程,包括四門數(shù)學(xué)課(高數(shù)、線代、概率論和離散數(shù)學(xué)).
針對人工智能本科專業(yè),筆者所在學(xué)院新開設(shè)了機(jī)器學(xué)習(xí)、數(shù)據(jù)挖掘、計(jì)算機(jī)視覺、深度學(xué)習(xí)等課程.機(jī)器學(xué)習(xí)是數(shù)據(jù)挖掘、計(jì)算機(jī)視覺、深度學(xué)習(xí)等新開設(shè)課程的重要先修課程.機(jī)器學(xué)習(xí)課程被認(rèn)為這些新開設(shè)課程中最核心的課程,是這些新開設(shè)課程中對數(shù)學(xué)基礎(chǔ)要求最高的課程之一.因此,筆者所在學(xué)院建議教師根據(jù)機(jī)器學(xué)習(xí)課程的要求對數(shù)學(xué)課的設(shè)置進(jìn)行調(diào)整.
除了從計(jì)算機(jī)科學(xué)與技術(shù)本科專業(yè)繼承的四門數(shù)學(xué)課外,還有多門數(shù)學(xué)課與機(jī)器學(xué)習(xí)高度相關(guān).這些數(shù)學(xué)課可粗略分為兩類:“數(shù)值類”和“統(tǒng)計(jì)類”.數(shù)值類課程有數(shù)值優(yōu)化、數(shù)值計(jì)算方法和統(tǒng)計(jì)計(jì)算;統(tǒng)計(jì)類課程有數(shù)理統(tǒng)計(jì)、多元統(tǒng)計(jì)、隨機(jī)過程、貝葉斯統(tǒng)計(jì)和統(tǒng)計(jì)計(jì)算.需要注意的是,統(tǒng)計(jì)計(jì)算既在數(shù)值類課程中,又在統(tǒng)計(jì)類課程中.另外,為了方便討論,本文將隨機(jī)過程課歸入統(tǒng)計(jì)類.
筆者建議在計(jì)算機(jī)科學(xué)與技術(shù)本科專業(yè)繼承的四門數(shù)學(xué)課的基礎(chǔ)上,進(jìn)一步開設(shè)與機(jī)器學(xué)習(xí)相關(guān)性較高的兩門數(shù)學(xué)課,即一門為數(shù)值類課程,一門為統(tǒng)計(jì)類課程,具體有如下兩個(gè)原因:第一,由于考慮到學(xué)時(shí)的限制,筆者建議新開設(shè)的數(shù)學(xué)課不超過兩門.第二,由于機(jī)器學(xué)習(xí)課中既用到大量數(shù)值類課程的思想,又用到大量統(tǒng)計(jì)類課程的思想,數(shù)值類課程和統(tǒng)計(jì)類課程盡可能都開設(shè).
筆者建議開設(shè)的數(shù)值類課程為優(yōu)化課,而開設(shè)的統(tǒng)計(jì)類課程為數(shù)理統(tǒng)計(jì)課,具體有如下三個(gè)原因:第一,在數(shù)值類課程中,教師一般認(rèn)為優(yōu)化對機(jī)器學(xué)習(xí)課最重要.第二,在統(tǒng)計(jì)類課程中,教師一般認(rèn)為數(shù)理統(tǒng)計(jì)和多元統(tǒng)計(jì)對機(jī)器學(xué)習(xí)課最重要.第三,數(shù)理統(tǒng)計(jì)是多元統(tǒng)計(jì)、貝葉斯統(tǒng)計(jì)和統(tǒng)計(jì)計(jì)算的先修課程,因此,在這四門課程中,教師一般優(yōu)先考慮開設(shè)數(shù)理統(tǒng)計(jì)課.
為了保證機(jī)器學(xué)習(xí)課的教學(xué),教師在優(yōu)化課和數(shù)理統(tǒng)計(jì)課中可適當(dāng)補(bǔ)充其他與機(jī)器學(xué)習(xí)相關(guān)的數(shù)學(xué)知識.另外,數(shù)學(xué)課和機(jī)器學(xué)習(xí)課講授的內(nèi)容之間相關(guān)性高,因此,數(shù)學(xué)課和機(jī)器學(xué)習(xí)課的授課教師之間應(yīng)充分溝通,避免課程講授內(nèi)容的不協(xié)調(diào).
下面分別介紹人工智能專業(yè)高數(shù)課、線代課、優(yōu)化課和數(shù)理統(tǒng)計(jì)課的教學(xué)安排.
三、人工智能專業(yè)高數(shù)課的教學(xué)
在人工智能專業(yè)的課程中,優(yōu)化課被認(rèn)為對高數(shù)要求最高的課程,因此,高數(shù)課的開設(shè)應(yīng)充分考慮優(yōu)化課的要求.優(yōu)化課和機(jī)器學(xué)習(xí)課中常用到多元函數(shù)微分和向量值函數(shù)微分.因此,筆者認(rèn)為在高數(shù)課中可適當(dāng)加強(qiáng)對這部分內(nèi)容的講授.
多元函數(shù)微分是優(yōu)化課的重要基礎(chǔ).多元函數(shù)的方向?qū)?shù)與梯度是最速下降法、共軛梯度法等的基礎(chǔ);多元函數(shù)的泰勒公式是牛頓法、擬牛頓法等的基礎(chǔ).因此,在高數(shù)課的教學(xué)過程中,教師應(yīng)更重視對這部分內(nèi)容的講授.
高數(shù)教材通常將向量值函數(shù)微分作為選修內(nèi)容,而且教師一般不對其進(jìn)行講授.然而,優(yōu)化課和機(jī)器學(xué)習(xí)課常用到向量值函數(shù)微分,如神經(jīng)網(wǎng)絡(luò)的算法推導(dǎo)用到向量值函數(shù)微分.因此,教師應(yīng)在高數(shù)的教學(xué)過程中講授向量值函數(shù)微分的內(nèi)容.
如果課時(shí)允許,那么教師還可以在高數(shù)課中補(bǔ)充范數(shù)和泛函數(shù)的基本內(nèi)容,這些知識與機(jī)器學(xué)習(xí)課和優(yōu)化課的相關(guān)性較高,如KL散度和變分推斷法就用到泛函數(shù)的思想.
四、人工智能專業(yè)線代課的教學(xué)
數(shù)理統(tǒng)計(jì)課、優(yōu)化課和機(jī)器學(xué)習(xí)課中常用到矩陣、二次型和線性變換的相關(guān)內(nèi)容.因此,筆者認(rèn)為在線代課中可適當(dāng)加強(qiáng)對這部分內(nèi)容的講授.
矩陣是人工智能專業(yè)課程中的重要概念,也是二次型和線性變換的基礎(chǔ).在數(shù)理統(tǒng)計(jì)課中,協(xié)方差矩陣是教學(xué)的重點(diǎn)和難點(diǎn).在優(yōu)化課中,黑塞矩陣是最優(yōu)性條件、牛頓法和擬牛頓法的基礎(chǔ).
二次型是數(shù)理統(tǒng)計(jì)課和優(yōu)化課的重要基礎(chǔ).在數(shù)理統(tǒng)計(jì)課中,正態(tài)分布的概率密度函數(shù)用到二次型.在優(yōu)化課中,共軛梯度法、牛頓法和擬牛頓法用到二次型.
線性變換是數(shù)理統(tǒng)計(jì)課和機(jī)器學(xué)習(xí)課的核心之一.在數(shù)理統(tǒng)計(jì)課中,教師常用線性變換將一般正態(tài)分布變?yōu)闃?biāo)準(zhǔn)正態(tài)分布.在多層神經(jīng)網(wǎng)絡(luò)中,相鄰隱含層關(guān)系的構(gòu)建用到線性變換.
五、人工智能專業(yè)優(yōu)化課的教學(xué)
在充分考慮機(jī)器學(xué)習(xí)課要求的基礎(chǔ)上,本文具體介紹了人工智能專業(yè)優(yōu)化課的教學(xué)安排.優(yōu)化課中通常包括以下三個(gè)方面的內(nèi)容.
(一)教材選擇
在人工智能專業(yè)中,為了保證先修課程和后續(xù)課程的開設(shè),機(jī)器學(xué)習(xí)課常在本科三年級第一學(xué)期開設(shè).優(yōu)化課的開設(shè)一般早于機(jī)器學(xué)習(xí)課且晚于高數(shù)課,因此,優(yōu)化課一般在本科二年級開設(shè).教材選擇對優(yōu)化課教學(xué)的開展至關(guān)重要,下面將分別討論三類常見的優(yōu)化課教材.
第一類優(yōu)化課(常稱作“運(yùn)籌學(xué)”)教材主要針對經(jīng)濟(jì)和管理專業(yè)的學(xué)生,其中的大部分內(nèi)容與機(jī)器學(xué)習(xí)課的相關(guān)性較低,因此,筆者認(rèn)為這類教材不太適合人工智能專業(yè).
第二類優(yōu)化課教材主要針對工科專業(yè)研究生和數(shù)學(xué)專業(yè)本科生,其對數(shù)學(xué)基礎(chǔ)要求較高且難度較高.在人工智能專業(yè)中,低年級學(xué)生的數(shù)學(xué)基礎(chǔ)一般且理解程度有待提高,因此,筆者認(rèn)為這類教材不太適合人工智能專業(yè).
第三類優(yōu)化課教材主要針對工科專業(yè)本科生,其與機(jī)器學(xué)習(xí)課的相關(guān)性較高,對數(shù)學(xué)基礎(chǔ)要求適中且難度適中,因此,筆者認(rèn)為這類教材適合人工智能專業(yè).
(二)理論內(nèi)容的教學(xué)
筆者在教學(xué)過程中發(fā)現(xiàn)優(yōu)化課理論內(nèi)容的難度高,對數(shù)學(xué)基礎(chǔ)的要求高,在開設(shè)過程中遇到的問題一般多于同期開設(shè)的數(shù)學(xué)課.因此,教師應(yīng)在講授時(shí)放慢節(jié)奏且多提問題,讓學(xué)生有充足的思考時(shí)間.
大量機(jī)器學(xué)習(xí)模型的訓(xùn)練要用到優(yōu)化方法,如神經(jīng)網(wǎng)絡(luò)的訓(xùn)練一般用到最速下降法,而支持向量機(jī)的訓(xùn)練用到對偶問題的知識.因此,優(yōu)化課的教學(xué)應(yīng)充分考慮機(jī)器學(xué)習(xí)的要求.
教師可以先重點(diǎn)講授無約束非線性規(guī)劃,再重點(diǎn)講授約束非線性規(guī)劃.為了幫助學(xué)生理解約束非線性規(guī)劃,教師可以在講授約束非線性規(guī)劃前適當(dāng)講授線性規(guī)劃的內(nèi)容.如果課時(shí)有限,那么教師可以不講授多目標(biāo)規(guī)劃問題、離散型優(yōu)化問題等.
對于線性規(guī)劃,教師可以講授幾何特征、標(biāo)準(zhǔn)型和對偶問題;對于無約束非線性規(guī)劃,教師可以講授教材里的全部內(nèi)容;對于約束非線性規(guī)劃,教師可以講授KT條件、泛函數(shù)法和可行方向法.如果課時(shí)不夠,那么教師可以不講授泛函數(shù)法或可行方向法.
數(shù)值計(jì)算方法是多門人工智能專業(yè)課程的基礎(chǔ).神經(jīng)網(wǎng)絡(luò)等很多機(jī)器學(xué)習(xí)模型本質(zhì)上是在解決函數(shù)逼近問題.在優(yōu)化課、數(shù)理統(tǒng)計(jì)課和機(jī)器學(xué)習(xí)課中,黑塞矩陣、協(xié)方差矩陣等的計(jì)算常用到矩陣計(jì)算的知識.在數(shù)理統(tǒng)計(jì)課和機(jī)器學(xué)習(xí)課中,期望等的求解常用到數(shù)值積分.在優(yōu)化課和機(jī)器學(xué)習(xí)課中,梯度等的求解常用到數(shù)值微分.因此,教師可以在優(yōu)化課中補(bǔ)充數(shù)值計(jì)算方法的相關(guān)內(nèi)容,如函數(shù)逼近、矩陣計(jì)算、數(shù)值積分和數(shù)值微分.
智能計(jì)算是優(yōu)化課的重要后續(xù)課程,與優(yōu)化課關(guān)系密切,主要講授一類求解函數(shù)極值的方法.如果開設(shè)智能計(jì)算課,教師就可以不在優(yōu)化課里補(bǔ)充智能計(jì)算的部分內(nèi)容;如果不開設(shè)智能計(jì)算課,教師就可以在優(yōu)化課里補(bǔ)充智能計(jì)算的部分內(nèi)容.
(三)實(shí)踐內(nèi)容的教學(xué)
大部分人工智能專業(yè)的學(xué)生將來不是在高校和研究所從事人工智能科學(xué)研究,而是在百度、阿里巴巴等公司解決人工智能技術(shù)問題,這些公司對學(xué)生算法設(shè)計(jì)和算法實(shí)現(xiàn)能力的要求較高.因此,在優(yōu)化課上,教師應(yīng)重視算法設(shè)計(jì)和算法實(shí)現(xiàn)內(nèi)容的教學(xué).
上機(jī)實(shí)踐能訓(xùn)練學(xué)生的算法設(shè)計(jì)能力和算法實(shí)現(xiàn)能力,因此,教師有必要在學(xué)校機(jī)房開設(shè)實(shí)踐課.如果沒有條件開設(shè)實(shí)踐課,教師就可以布置實(shí)踐作業(yè),并讓學(xué)生在課下完成這些作業(yè).
一些學(xué)校要求期末考試成績的占比不得低于70%,而且一般情況下,期末考試主要考查理論內(nèi)容.鑒于實(shí)踐內(nèi)容難以考查的現(xiàn)狀,這些學(xué)校實(shí)踐內(nèi)容的課時(shí)應(yīng)略少于理論內(nèi)容.
優(yōu)化教材通常以Matlab作為編程語言,但對人工智能專業(yè)應(yīng)以Python作為優(yōu)化課的編程語言,具體有如下兩個(gè)原因:第一,Matlab軟件的購買價(jià)格過高.第二,Python是人工智能領(lǐng)域應(yīng)用最廣泛的編程語言,是人工智能專業(yè)課程使用最多的編程語言.為了保證教學(xué)效果,筆者建議在優(yōu)化課前開設(shè)Python課.
六、人工智能專業(yè)數(shù)理統(tǒng)計(jì)課的教學(xué)
在數(shù)理統(tǒng)計(jì)課中,教師可以補(bǔ)充多元統(tǒng)計(jì)、隨機(jī)過程和貝葉斯統(tǒng)計(jì)的相關(guān)內(nèi)容,如多元回歸分析、判別分析、聚類分析、主成分分析、馬爾可夫鏈和貝葉斯推斷.在優(yōu)化課或數(shù)理統(tǒng)計(jì)課中,教師可以補(bǔ)充統(tǒng)計(jì)計(jì)算的相關(guān)內(nèi)容,如蒙特卡洛方法和期望最大化算法.
統(tǒng)計(jì)計(jì)算的內(nèi)容是在優(yōu)化課中補(bǔ)充還是在數(shù)理統(tǒng)計(jì)課中補(bǔ)充,要視具體情況而定.如果優(yōu)化課在數(shù)理統(tǒng)計(jì)課后開設(shè),那么教師應(yīng)在優(yōu)化課里補(bǔ)充統(tǒng)計(jì)計(jì)算的內(nèi)容;如果優(yōu)化課不在數(shù)理統(tǒng)計(jì)課后開設(shè),那么教師應(yīng)在數(shù)理統(tǒng)計(jì)課里補(bǔ)充統(tǒng)計(jì)計(jì)算的內(nèi)容.以上安排可保證,在教師講授統(tǒng)計(jì)計(jì)算的內(nèi)容時(shí),這兩門課與統(tǒng)計(jì)計(jì)算相關(guān)性高的內(nèi)容基本講授完成.
多元統(tǒng)計(jì)課、統(tǒng)計(jì)計(jì)算課和機(jī)器學(xué)習(xí)課研究的對象一般都是多維數(shù)據(jù),并且三門課共同關(guān)注一些問題,如多元回歸分析、判別分析、聚類分析和特征提?。ń稻S).由于三門課的高度相關(guān)性,筆者認(rèn)為在機(jī)器學(xué)習(xí)課前,教師適當(dāng)講授多元統(tǒng)計(jì)和統(tǒng)計(jì)計(jì)算的內(nèi)容是有必要的.
【參考文獻(xiàn)】
[1]南京大學(xué)人工智能學(xué)院.南京大學(xué)人工智能本科專業(yè)教育培養(yǎng)體系[M].北京:機(jī)械工業(yè)出版社,2019.
[2]陳愛斌,張釗源.人工智能專業(yè)數(shù)值分析課程教學(xué)研究與探討[J].計(jì)算機(jī)教育,2019(10):71-73.
[3]李航.統(tǒng)計(jì)學(xué)習(xí)方法(第2版)[M].北京:清華大學(xué)出版社,2019.
[4]施光燕,錢偉懿,龐麗萍.最優(yōu)化方法(第二版)[M].北京:高等教育出版社,2007.
[5]馬昌鳳.最優(yōu)化方法及其Matlab程序設(shè)計(jì)[M].北京:科學(xué)出版社,2010.
[6]盛驟,謝式千,潘承毅.概率論與數(shù)理統(tǒng)計(jì)(第四版)[M].北京:高等教育出版社,2010.
[7]華東師范大學(xué)數(shù)學(xué)系.數(shù)學(xué)分析:下冊(第四版)[M].北京:高等教育出版社,2010.
[8]北京大學(xué)數(shù)學(xué)系幾何與代數(shù)教研室前代數(shù)小組.高等代數(shù)(第三版)[M].北京:高等教育出版社,2007.
數(shù)學(xué)學(xué)習(xí)與研究2021年30期