來到清大的第一個學期,一直對這間學校既陌生又熟悉啊…
前言
秉持著大學的修課習慣: 補(學的到東西) > 甜(分數好拿) > 涼(loading輕),加上四下修的課程套餐滿喜歡的,來到清大後就開始找一些學的到東西的課程,也想找有挑戰性、實作性足夠的課(現在回頭看來真是傻哈哈),最終就選了以下課程:
- 資工所 / 吳尚鴻 / 深度學習
- 通訊所 / 張正尚 / 網路科學
(其實還有修軍訓、書報等課程,但不太值得一提了)
深度學習
看來看去和我研究領域相近的課程實在不多,學長姐和同屆也都有選這堂課,最後也選了吳尚鴻老師的深度學習,我對這堂課大概是喜惡參半,沒有讓我非常喜歡,後面再讓我娓娓道來。這堂課的上課模式大概是: 老師每週上兩堂課,助教們上一堂的實驗課,另外有很多次的Lab以及四次的Competition。以往這堂課程不會有考試,但在學期初因為疫情慢慢解封的關係,多數課程都恢復實體上課,老師也讓同學們表決兩種配分方案,分別是:
- 作業們 + 一次期中考
- 作業們 + 上課參與(規定要舉手發言或問答幾次)
不出意料,結果就是很亞洲的一次期中考(我自己也投這個選項XD),不過我並不是不喜歡問問題,主要是我覺得考試還是會迫使有動力複習和讀書,我上課的目的也是希望能有所收穫而不是白白混過去,就投這個了~
甜: ★★★☆☆
涼: ★☆☆☆☆
補: ★★★★☆
修課成績排名: 1/67 (同個等級排名都一樣,所以會有很多第一名)
Lab
先來說說作業Lab的部分,作業本身其實很簡單,偉大的助教們多數都有寫好很完整的Spec,只要fill in就好了,助教們寫的notebook也是很完整,我覺得讀完他們的notebook收穫大於寫那些作業哈哈,所以我覺得作業的意義可能比較像是強迫學生去讀完那些notebook,很多作業都只是在複製貼上,讓我覺得作業有點煩,每週都有一個作業,有時候又會撞到Competition或其他科目的期中考,時間有點被消磨光,我比較喜歡需要動頭腦的作業(如:需要做實驗研究的作業或是上課內容的數學推導等),然後次數少一點,就是重質不重量的意思。
Competition
Competition比較符合上述需要做實驗研究的性質,所以我個人也比較喜歡這個部分。競賽是利用Kaggle平台舉辦,會分為Public Leaderboard, Private Leaderboard,分別對應不同的Testing dataset subset,在競賽截止時間到之前,所有上傳的結果只會顯示Public的分數,每組再挑選三個model做為最終的預測結果,所以挑選robust model也算競賽的策略之一,常常看到很多原本在public分數很高的,在最終的private榜上performance卻降低不少(就是我們QQ),當然也有進步超多那種,一部份當然是運氣成分,但也是利用這個機制防止overfitting或過度fine-tune的情況,所謂真金不怕火煉,generalizability高的model不管在public還是private都可以保有同樣的競爭力。
這堂課總共有四次competition,分別為:
- Predicting News Popularity
- Object Detection
- Reverse Image Caption
- Unlearnable Datasets
內容就不細講了,我覺得都滿有趣的,雖然我們表現普普,但我是真的學到滿多東西的,包含model的選擇、fine-tune的小技巧、跳脫框架的思維等,每次競賽完都會有前三名組別的Demo,其實他們做的和我們大致上都差不多,就是差了一點巧思,由衷地佩服大佬們。總之,Competition是這堂課我滿喜歡的一個部分,需要花很多時間才可以得到收穫,不過我覺得助教可以多要求實驗報告的部分,我覺得雖然已經要求寫報告,但分數不會有太多的波動(分數還是以競賽名次為主),那也間接少了精進報告的誘因。
考試
這堂課固定都會有一次的期初測驗,分數至少要達到70分或是在全部人之中的前70%才可以修這堂課程,考試的內容大概就是線性代數、微積分、基礎ML知識,考試前老師會釋出基礎課程的影片,我認為把影片看過並推導過一些數學公式,再寫過考古題的話,整體難度不會太高,我看大部分人也都考得不錯,這個考試大概是要過濾掉一些誤闖的阿貓阿狗吧,有準備不用太擔心,但這個考試也會算在總成績中,還是要好好讀書!
至於這學期多加的一次期中考,範圍是真的滿多的,平常沒有在跟影片或上課,到時候抱佛腳會超痛苦。不過考試倒是出乎我意料的簡單,整份考卷只有一題數學推導題,而且還是幾乎必考的題目(back propagation),其他題目多是論述題,寫下來難度不高而且還有10分的加分題,平常心準備的話應該就有不錯的成績(或是開學不要投期中考的選項XD)
課程
這部分我留到最後講,因為說實在的我有滿多意見的… 老師在學期初就要烙狠話說這堂課程loading很重,考慮好再修課,我個人是比較無感,因為上學期在交大修的ML老師也喜歡這樣說,但我認知中的loading重比較像是課程內容難度很艱深,你需要花很多時間額外找資料、複習,才能真正融會貫通,如果你天資聰穎是可以花比較少時間的,但這堂DL的loading重比較像是事情很多的重,撇除課程難度不講,每個禮拜需要花一堆時間去看他的預錄影片、寫一份Lab作業、後面幾乎兩三週一次的Competition,加上他的上課模式又是那種點到為止的講課,所以要紮實學習一定要看預錄影片,影片常常都是2~4小時起跳,每週都在被DL很多事情追著跑的感覺,我個人不太喜歡這種只是單純增加你很多的義務,讓課程感覺是個負擔,相比交大的ML則是老師教得很艱深,很多數學推導需要回家複習,我也得花時間找資料跟上進度,但我上起來的感覺就是覺得很紮實,學習到很多東西,比較像是甜蜜的負擔。
另外一點我比較不喜歡的是剛剛提到的上課模式,老師基本上利用兩堂的時間把PPT快速過一次,值得講的地方會停下來講一點,預錄影片才是整個課程學到最多東西的部分,我自己沒看完影片上課是聽得懂但沒有真正吸收,而看完影片再上課的話,老師的講解的確有畫龍點睛的功效,能讓我收穫不少,但因為只有兩堂課的時間,老師講課超快,又很喜歡拖延下課時間,常常讓我meeting遲到,影片4、5小時的內容塞在不到兩小時的時間裡,週四的一堂實驗課助教幾乎都只講個十分鐘就下課了,為什麼不要把實驗課也拿來上課呢,讓上課節奏與時長更恰當,實驗課可以另外改到晚上或是線上,我有寫到教學意見裡了,但我覺得不太可能改動這樣的模式了QQ
小結
上面抱怨了一大段XD,這堂課程以內容面來說我很喜歡,不管是老師影片的講解,或是助教的notebook說明,我都覺得很仔細很用心,也讓我學習收穫匪淺,而上課模式與課程時間安排,還有過多的小作業是讓我比較詬病的地方,但總體來說這堂課還是很推薦大家去上,適合剛踏入AI領域的碩一們!
網路科學
這堂是由通訊所的張正尚老師所開設,聽其他同學說老師好像是這領域很猛的大佬,雖然我不是做網路的,但第一堂上完覺得課程內容滿有趣的,老師上課方式和節奏我覺得還算可以,一學期上完,整體來說我很喜歡這堂課程!
甜:★★★☆☆
涼:★★☆☆☆
補:★★★★★
修課成績排名: 15/25
課程
課程內容就是在講網路相關的知識,從基本的名詞解釋再到很複雜的Random graph, Preferential attachment, Percolation等,我自己不是網路背景的,說實在前面很簡單,但後面很多機率、微積分、線代等數學一連串砸上來非常吃不消,加上我算是一個人修這堂課,沒有朋友一起讀書討論或是考古資源,最後也反應在成績上了QQ
再來講講老師的上課方式,前1/3學期因為疫情關係所以線上上課,線上滿容易分心的,後面改回實體我覺得就好很多,因為修課人數不多,老師很喜歡和同學互動,加上我都是坐第一排,常常被老師虧,後面每堂課我幾乎都滿專注上課的,老師的講課滿紮實的,數學都會推導過並確定大家有聽懂,也會補充很多相關內容,像是最近conference的相關研究、時事與網路科學的結合,讓我們知道其實很多生活上實際會碰到的事情其實也可以用網路科學的角度去進行分析,像是最近幾年疫情和疫苗施打,其實可以透過很嚴謹的數學去分析,這也是我最喜歡這堂課的一點,不是只有死板板的數學公式推導,而是如何實際應用在實務上!
作業 & Project
這堂課總共有三次作業加上一個期末專題,作業的部分都是和上課內容有關,包含觀念題、數學推導題、程式題,整體而言都滿簡單的,把上課講義看過一次就能寫出來了,程式題也是簡單的call一些API就解決,比較麻煩的是助教要求要用LaTeX,我以前沒用過寫起來就比較沒這麼順手些,後面用習慣就還好~
期末Project的部分是作疫情下施打疫苗的分析,利用不同的centrality measure並對不同比例的人施打疫苗,對最終的感染情況進行實驗與分析,題目本身是滿有趣的,但實際下去寫後好像覺得有點沒難度,沒有太多地方需要思考,助教也有給了一份幾乎step-by-step的教學,而專題也有用到前幾次作業寫好的code,整題而言難度也不高。
作業和期末專題基本上有達到題目要求就很好拿分,好好寫這會是拉分的一大助力
考試
整學期總共有兩次考試,考試的範圍我覺得有點大,準備起來不太好準備,數學式子很多、內容又爆多。期中考幾乎都是數學推導題,比較少論述題,所以底子好的人會比較輕鬆,不能帶筆記也鮮少提供公式,有時候忘記一個小式子整題就去了QQ,加上沒有考古題的方向可以準備,期中考我考的不是太理想,但聽說平均好像60而已,多方考慮下還是沒有退選這堂課。而期末考也是類似的題型,但可能考過一次,我比較有準備的方向,有稍微把分數拉起來一些~
小結
作業和Project分數我幾乎拿滿,但考試成績不是很理想,所以也反應在成績排名上了,不過老師有微調一些分數的樣子。總之,這堂課我還是滿喜歡的,上課學習到的知識真的滿多的,不僅僅是網路科學相關,但過多的數學式讓我考試有點眼花了XD 如果本身是網路背景的很推薦這堂課程,可以收穫滿滿!
總結
這學期修下來綜合來說沒有大四下來的喜歡,不過也都是有收穫的課程,只是有點占據我太多時間,下學期可能傾向修一些比較涼的課,多花點時間在研究和自己想做的事情上面~
Gitalk 載入中…