tft每日頭條

 > 科技

 > 客觀數據測試技巧有哪些

客觀數據測試技巧有哪些

科技 更新时间:2024-07-26 11:16:41

全文共4067字,預計學習時長15分鐘

客觀數據測試技巧有哪些(數據科學技能測試)1

圖源:race.agency

是時候展現真正的技術了!

以下是26個數據科學的問題和供參考的答案。這些問題的難度和主題各不相同,但都與機器學習和數據科學相關。不管是大學生還是專業人士,都可以來測試(或更新)一下自己的技能!

你,都能答上來嗎?

客觀數據測試技巧有哪些(數據科學技能測試)2

圖源‍:Giphy

1.如何區分機器學習、人工智能和數據科學?(主題:通識)

人工智能這一術語涵蓋範圍廣泛,主要涉及機器人學和文本分析等應用,并服務于商業和技術領域。機器學習隸屬于人工智能,但其涉及領域較狹窄,且隻用于技術領域。數據科學并不完全隸屬于機器學習,而是利用機器學習來分析并做出預測,可用于商業領域。

2.什麼是正态分布?(主題:統計學、詞彙)

正态分布,也稱為鐘形曲線,指大多數實例聚集在中心,且實例數量随着距中心距離的增加而減少這種分布情況。嚴格來講,統計學上,正态分布的定義是:66%的數據在平均值的一個标準差内,95%的數據在平均值的兩個标準差内,99%的數據在平均值的三個标準差内。

客觀數據測試技巧有哪些(數據科學技能測試)3

圖源:Wikipedia

3.什麼是推薦系統?(主題:詞彙)

推薦系統是信息過濾系統的一個子類,旨在預測用戶對産品的偏好或評級。推薦系統廣泛應用于電影、新聞、科研文章、産品、音樂等領域。

4.不看聚類,如何選擇k均值聚類算法中的k值?(聚類算法)

k均值聚類算法中,k值的選取有兩種方法。一種方法是手肘法,y軸指某個誤差函數,x軸指聚類的數量,如果整個圖的形狀像一個手臂的話,那肘部對應的值就是最佳的聚類數量。

客觀數據測試技巧有哪些(數據科學技能測試)4

顯然,在上圖中,肘部對應的k值就是3。然而,如果曲線形狀不夠清晰,那就隻能使用第二種方法,即輪廓系數法。輪廓系數法指用範圍在-1到1之間的輪廓系數來描述每個簇的數量,系數越大的聚類通常則為最佳聚類數。

5.線性回歸和邏輯回歸有什麼區别?(主題:回歸與分類算法)

線性回歸是一種統計技術,指将數據拟合到一條線上(或多元線性回歸中的一個多維平面)。當目标值在連續尺度内時,就會發生回歸。邏輯回歸可由線性回歸通過sigmoid函數轉換而成,并會給出一組輸入值為分類0和1的概率。

6. 一種測試的真陽性率為100%,假陽性率為5%。一個群體有千分之一的概率會在測試中出現這種情況。如果你有一個陽性測試,出現這種情況的概率有多大呢?(主題:分類率)

假設你正在接受一項疾病測試,如果你患有此病,測試結果會顯示你已患病。但如果你未患病,5%的情況下,測試結果會顯示你患有此病,95%的情況下,會顯示你沒有患病。

因此,在未患病的情況下,會有5%的誤差。在1000人中,有1人會得到真正的陽性結果,而在剩下的999人中,5%的人會得到(假)陽性結果。大約50人會得到該病的陽性結果。

客觀數據測試技巧有哪些(數據科學技能測試)5

圖源:unsplash

也就是說,在1000人中,即使隻有1人患病,也會有51人的檢測結果呈陽性。但即便如此,你的患病幾率也隻有2%。

7.梯度下降法總是收斂于同一點嗎?(主題:神經網絡)

不,梯度下降法并不總是收斂于同一點。由于誤差空間中可能存在多個局部極小值,根據其特性(例如動量或權重),梯度下降法可能會在不同的地方結束。

8.如何通過box-cox變換改善模型性能?(主題:統計學、算法)

Box-cox變換指将數據按照一定次幂進行轉換,例如将其平方、立方或開方(即1/2次方)。由于任何數的0次方永遠是1,因此,box-cox變換中的“0次方”被認為是對數變換。

對數函數将指數函數放在線性尺度上,因而可以改善模型性能。也就是說,線性回歸之類的線性模型在數據方面性能更優越。

此外,對函數進行平方和立方運算也有助于整理數據,或突出重點信息。

9.分析項目中的關鍵步驟有哪些?(主題:組織)

· 了解業務問題以及分析目标。

· 探索并熟悉數據。

· 清理數據(檢測離群值、缺失值、轉換變量等),準備好建模數據。

· 運行模型并對參數進行相應調整。

· 用新數據驗證模型。

· 執行模型并得出相應結果。

10.什麼是查全率和查準率?(主題:分類率)

查全率指“在所有的正樣本中,有多少樣本被分類為正樣本”。查準率指“在所有被分類為正的樣本中,有多少樣本是真正的正樣本”。

11.解釋一下“維度詛咒”。(主題:數據)

客觀數據測試技巧有哪些(數據科學技能測試)6

圖源:unsplash

“維度詛咒”指的是在分析具有許多特征的數據(高維數據)時出現的某些現象,而這些現象在普通的二維或三維空間中不會出現。随着維數增加,數據會變得極其稀疏,因而無法通過機器學習等模型對所有值進行有意義的計算。

值得注意的是,在極高維的空間中,兩個樣本間的歐氏距離非常小,因此,任何需要計算兩點之間距離的統計方法或機器學習方法都不可行。(這也是為什麼在高維圖像識别中首選卷積神經網絡的原因。)

12.在時間序列建模中,如何處理不同形式的季節性現象?(主題:時間序列)

通常在真實世界的時間序列數據中(比如,在玩具廠購買的泰迪熊),不同形式的季節性現象可能會相互幹擾。

年度的季節性(如聖誕節前後的旺季和夏天的低谷期)可能會與每月、每周、甚至每天的季節性現象重疊。由于變量在不同時間段的平均值不同,導緻時間序列具有非平穩性。

去除季節性的最好方法就是對時間序列進行差分,即取時間x中的一個日期與x減去季節性周期後(一年或一月等)兩者間的差值。由于在前幾個樣本中,x減去季節性周期無法訪問,因此丢失了一個季節性周期的原始數據。

客觀數據測試技巧有哪些(數據科學技能測試)7

年度和月度季節性現象的一個例子

13.人們普遍認為假陰性不如假陽性。那麼,假陽性不如假陰性的例子有什麼?(主題:分類率、組織)

假設一家電商公司決定給可能會購買5000美元商品的顧客贈送一張1000美元的禮券。如果該公司通過模型計算出假陰性結果,那公司就(錯誤地)不會發送代金券,因為公司誤認為該客戶不會購買5000美元以上的商品。

雖然結果不妙,但公司并不虧損。如果公司将代金券發給結果呈假陽性的客戶(誤以為該客戶會購買價值5000美元以上的商品),那些購買不足5000美元的人就會讓公司虧損賠錢。

14.測試集和驗證集的區别是什麼?(主題:數據、組織)

測試集用于評估模型訓練後的性能,而驗證集用于在模型訓練期間選擇參數并防止訓練集上出現過拟合。

客觀數據測試技巧有哪些(數據科學技能測試)8

圖源:unsplash

15.你在什麼情況下會使用随機森林算法,什麼情況下會使用支持向量機算法(SVM)?(主題:算法)

SVM和随機森林是兩種強大的分類算法。對于無離群的純淨數據,可以選擇SVM;反之,則可以選擇随機森林。

SVM(尤其是帶有廣泛參數搜索的SVM)需要進行更多的計算,因此如果内存有限的話,選擇随機森林會更合适。此外,随機森林算法适用于多類問題,而SVM算法适應于高維問題,如文本分類。

16.你會用哪些方法來填補缺失的數據,如果填錯會有什麼後果?(主題:數據清理)

現實世界的數據往往會有缺失。填補這些數據的方法多種多樣。徹底的處理方式就是删除具有NA 值的行。如果NA 值不是很多,并且數據充足,則這種方法可行;否則,則不可行。在現實世界的數據中,删除帶有NA 值的行可能會消除部分可觀察到的模式。

倘若上述方法不可行,也可以根據具體情況,選擇其他方法來填充缺失數據,比如衆數、中位數或平均值。

另一種方法是通過k最近鄰算法(KNN)計算丢失數據的鄰近數據,并選取這些鄰近數據的平均值、中位數或衆數來填補缺失數據。比起使用彙總值,這種方法靈活度更高,規範性更強。

如果填補數據的方法使用不當,可能會出現選擇性偏差——模型的好壞與數據一緻,如果數據有誤,其模型也會受到影響。

客觀數據測試技巧有哪些(數據科學技能測試)9

圖源:unsplash

17.什麼是集成?集成有什麼用?(主題:算法)

集成是對最終決定進行投票的算法組。集成會選出瑕不掩瑜的模型,但成功的模型必須是多樣化的。也就是說,每個模型的缺點必須各不相同。研究表明,正确創建的集成,其性能往往遠優于單分類器。

18.在将數據傳遞到線性回歸模型前,需要對數據作哪些基本假設?(主題:算法)

數據應具有正态殘差分布、誤差的統計相關性以及線性。

19.貝葉斯估計和最大似然估計的區别是什麼?(主題:算法)

在貝葉斯估計中,模型具有先前的數據知識。我們可以尋找多個參數,如5個gammas和5個lambdas來解釋數據。在貝葉斯估計中,有多個模型可以做出多個預測(每對參數一個,其先驗知識相同)。因此,如果想預測新的樣本,隻需計算預測的加權和就可以了。

客觀數據測試技巧有哪些(數據科學技能測試)10

圖源:bjdataart

然而,最大似然估計不考慮先驗概率,它與使用平坦先驗的貝葉斯模型比較相似。

20. P值對數據來說意味着什麼?(題目:統計學)

在統計學中,P值用于确定假設檢驗後結果的顯著性,它可以幫助分析器得出結論。顯著性水平往往在0到1之間。

· 如果p值小于0.05,說明拒絕零假設的理由充分,可以拒絕零假設。

· 如果P值大于0.05,說明拒絕零假設的理由不充分,不能拒絕零假設。

· 而0.05是臨界值,表示兩種情況都有可能發生。

21.何時使用均方誤差(MSE)和平均絕對誤差(MAE)?(主題:精确度測量)

MSE常用于“突出”較大的誤差。由于x²的導數為2x,x越大,x與x-1的差值就越大。然而,MAE常用于輸出可解釋的結果。

因此,當結果不需要進行解釋,而隻是作為數字(可能用于模型之間的比較)時,可以選擇MSE;但是當結果需要進行解釋時(例如,模型平均下降4美元左右),選擇MAE更佳。

22.什麼是ROC曲線?什麼是AUC?(主題:精确度測量)

ROC曲線描述的是模型的假陽性率與真陽性率之間的關系。完全随機預測的ROC曲線就是一條直對角線(圖中的黑色虛線)。最靠近坐标軸的曲線就是最優模型。

客觀數據測試技巧有哪些(數據科學技能測試)11

AUC是衡量ROC曲線與坐标軸之間距離的一項指标,即曲線下的面積。曲線下的面積越大,則性能越好。

23.解釋一下偏差方差平衡,并列舉高偏差和低偏差算法的示例。(主題:算法)

偏差指的是由于機器學習算法過度簡化而在模型中引入的誤差。偏差會導緻欠拟合。如果在欠拟合時訓練模型,模型會做出簡化的假設,使目标函數更易于理解。

低偏差的機器學習算法有決策樹、KNN、SVM等。高偏置的機器學習算法有線性回歸和邏輯回歸。

方差指的是由于機器學習算法較為複雜而在模型中引入的誤差。有時模型會從訓練數據集中學習噪聲數據,導緻在測試集中表現不佳。方差會導緻高靈敏度和過拟合。

通常,當模型的複雜度增加時,模型中低偏差導緻的誤差就會減少。然而,當複雜度增加到某個特定點時,模型就會發生過拟合。

客觀數據測試技巧有哪些(數據科學技能測試)12

24.什麼是PCA以及PCA有什麼用?(主題:算法)

主成分分析(PCA)是一種降維方法,通過尋找n個正交向量來表示數據中的最大方差,其中n是數據降至的維度。n個向量可用作新數據的維度。PCA可以幫助加快機器學習算法的速度,或者用于高維數據的可視化。

25.為什麼在複雜的神經網絡中,Softmax非線性函數往往最後進行運算?(主題:神經網絡)

這是因為Softmax非線性函數輸入實數向量後會返回概率分布。設x是一個實數向量(正或負),那Softmax函數就會輸出一個概率分布:每個元素都是非負的,且所有元素的和為1。

客觀數據測試技巧有哪些(數據科學技能測試)13

圖源:unsplash

26.什麼是TF/IDF向量化?(主題:NLP)

TF-IDF是術語“詞頻-逆文本頻率指數”的縮寫。它是一種數字統計方法,用以反映一個字詞對語料庫中一份文檔的重要性。在信息檢索和文本挖掘中,它常被用作權重因子。

TF-IDF值與字詞在文檔中出現的次數成正比增加,與字詞在語料庫中出現的頻率成反比下降,這有助于在某些字詞出現頻繁時進行調整。

你做對了幾個?這些問題覆蓋主題廣泛,從神經網絡到數據清洗,從SVM到NLP,從分類率到統計學。不熟悉的話得好好複習啦!

客觀數據測試技巧有哪些(數據科學技能測試)14

留言點贊關注

我們一起分享AI學習與發展的幹貨

如轉載,請後台留言,遵守轉載規範

,

更多精彩资讯请关注tft每日頭條,我们将持续为您更新最新资讯!

查看全部

相关科技资讯推荐

热门科技资讯推荐

网友关注

Copyright 2023-2024 - www.tftnews.com All Rights Reserved