Random Forestsという機械学習の方法論があります。すこし前に興味があって、自分で実装してみたりしたのですが、scikit-learnを使えばPythonで簡単に実行できます。

from sklearn.ensemble import RandomForestClassifier
from sklearn.metrics import accuracy_score
clf = RandomForestClassifier(n_estimators=5000, #森の中の木の数
                             max_depth=None,
                             #最後サンプルのクラスが均一になるか、min_samples_split個になるまで分割
                             min_samples_split=2,
                             random_state=0,#乱数のseed？
                             criterion='entropy',#分割の方法、これかgini
                             verbose=1)#出力レベルの調整
forest = clf.fit(X, y) #Xは行がサンプルの2次元array、yはクラスを表現する1次元array
accuracy_score(ｙ2,forest.predict(X2)) #X2は別のデータセット。その正解y2をどれくらい予測できるかが計算される。
#チュートリアルだと、以下のcross validationを利用
scores = cross_val_score(clf, X, y)
scores.mean()    

実装するとアルゴリズムが完全に理解できるので良いですが、使いながら理解していくという方法もありかもしれません。