對于處理任務通常采用抽樣策略。抽樣程序應分析樣本有多大,以及如何抽取樣本以達到與原始數(shù)據(jù)類似的分布。
以下是常用的數(shù)據(jù)處理方法。
1、聚類分析:根據(jù)數(shù)據(jù)對象的相似性,將其劃分為聚集的聚類,聚類內的對象應盡可能相似,聚類間的對象應盡可能不相似。發(fā)現(xiàn)任意形狀的聚類、處理高維數(shù)據(jù)、處理噪音的能力以及獲得可解釋和易于使用的聚類結果是聚類分析的目標。
2、分類和預測:分類和數(shù)字預測是問題預測的兩個主要類型。分類是一個有監(jiān)督的學習過程,在這個過程中,通過對一組已知的訓練特征的屬性的描述,獲得每個類別的描述或屬性,以建立相應的分類器。
預測是使用數(shù)據(jù)挖掘工具來建立連續(xù)的函數(shù)模型,并從現(xiàn)有數(shù)據(jù)的探索中得出結論。
在技術上,有定性和定量的預測。定性預測是指根據(jù)用戶的經(jīng)驗和判斷,對被預測對象進行定性分析的過程;定量預測是利用數(shù)學模型,在歷史統(tǒng)計數(shù)據(jù)的基礎上,用數(shù)學方法獲得變量之間的規(guī)律性關系。
3、相關分析:尋找事物之間的潛在關系的過程,這些關系看起來并不相關或相互依賴,但通過科學分析往往可以確定。關聯(lián)分析通常使用Apriori算法與頻繁關聯(lián)規(guī)則來分析事物之間的依賴關系或關聯(lián),以找到它們之間的規(guī)律性,并根據(jù)規(guī)律性進行預測。
在實踐中,得到的數(shù)據(jù)可能包含大量的缺失值、離群值等,這對數(shù)據(jù)分析非常不利。在這種情況下,我們需要對臟數(shù)據(jù)進行預處理,以獲得標準化的、干凈的、連續(xù)的數(shù)據(jù),用于數(shù)據(jù)分析、數(shù)據(jù)挖掘等。