教師あり学習は、データ・マイニングの場合、分類と回帰の2つの問題に分けることができます。

• 分類では、アルゴリズムを使用して、テストデータを特定のカテゴリーに正確に割り当てます。データセット内の特定のエンティティーを認識し、それらのエンティティをどのようにラベル付けまたは定義するかについて、結論を導き出そうとします。一般的な分類アルゴリズムは、線形分類器、サポート・ベクター・マシン（SVM）、ディシジョン・ツリー、k近傍法アルゴリズム、およびランダム・フォレストです。これらについては、以下で詳しく説明します。

• 回帰は、従属変数と独立変数の関係を理解するために使用されます。これは、特定のビジネスの売上収益などを予測するのによく使用されます。線形回帰、ロジスティック回帰、および多項式回帰は、一般的な回帰アルゴリズムです。

教師あり機械学習プロセスでは、さまざまなアルゴリズムと計算手法が使用され、多くの場合、Pythonなどのプログラムを用いて計算されます。教師あり学習アルゴリズムには、次が含まれます。

• AdaBoostまたは勾配ブースティング：アダプティブ・ブースティング⁷とも呼ばれるこの手法は、よりエラーの少ない、強いアルゴリズムを構築するために、パフォーマンスの低い回帰アルゴリズムをより弱いアルゴリズムと組み合わせることでブーストします。ブースティングは、いくつかのベース・エスティメーターの予測能力を組み合わせます。

• 人工ニューラル・ネットワーク：ANN、ニューラル・ネットワーク、シミュレーテッド・ニューラル・ネットワーク（SNN）とも呼ばれ、機械学習技術の一部（サブセット）であり、深層学習アルゴリズムの中核を成します。学習者アルゴリズムは、ニューロンと呼ばれるビルディングブロックを用いて、入力データ内のパターンを認識します。ニューロンは、時間の経過とともにトレーニングおよび修正される人間の脳のニューロンに近似したものです（詳細については、「ニューラル・ネットワーク」を参照）。

• ディシジョン・ツリー：数値の予測（回帰問題）とデータのカテゴリーへの分類の両方に用いられるディシジョン・ツリーは、樹形図で表すことができる、リンクされた決定の分岐シーケンスを使用します。ディシジョン・ツリーの利点の1つは、ニューラル・ネットワークのブラックボックスとは異なり、検証と監査が容易であることです。

• 次元削減：選択したデータセットに多数の特徴⁷がある場合、そのデータセットは高次元になります。次元削減によって特徴の数を減らして、最も価値のあるインサイトや情報のみを残します。一例に、主成分分析があります。

• k近傍法：KNNとも呼ばれるこのノンパラメトリック・アルゴリズムは、データポイントの近接性と（他の利用可能なデータとの）関連性に基づいてデータポイントを分類します。類似のデータポイントが互いに、近くに存在することを前提としています。その結果、通常はユークリッド距離を用いてデータポイント間の距離を計算し、最も頻度の高いカテゴリーまたは平均に基づいてカテゴリーを割り当てます。

• 線形回帰：線形回帰は、従属変数と1つ以上の独立変数の間の関係性を特定するのに用いられます。通常、将来の結果についての予測を行うために利用されます。独立変数と従属変数がそれぞれ1つだけある場合、単純線形回帰と呼ばれます。

• ロジスティック回帰：従属変数が連続であるときは線形回帰が使用されますが、従属変数がカテゴリカル（「True」と「False」、または「Yes」と「No」）であるときはロジスティック回帰が使用されます。どちらの回帰モデルもデータ入力間の関係性を理解しようとしますが、ロジスティック回帰は、主にスパム識別などのバイナリー分類問題の解決に用いられます。

• ニューラル・ネットワーク：主にディープラーニング・アルゴリズムに使用されるニューラル・ネットワークは、ノードの層を介して人間の脳の相互接続を模倣することで、入力トレーニング・データを処理します。各ノードは、入力、重み、バイアス（しきい値）と出力で構成されます。出力値が特定のしきい値を超えると、ノードが「起動」またはアクティブ化され、ネットワーク内の次のレイヤーにデータが渡されます。ニューラル・ネットワークは、勾配降下法を用いて、損失関数に基づく調整から学習します。コスト関数がゼロまたはゼロに近い場合に、モデルの精度に確信を持つことができます。

• ナイーブ・ベイズ（Naïve Bayes）：このアプローチは、 ベイズの定理のクラスの条件付き独立性の原則に基づいています。つまり、ある特徴があっても、特定の結果が出る確率において、別の特徴の存在には影響を与えず、各予測変数がその結果に同等の影響を及ぼすというものです。ナイーブ・ベイズ分類器には、多項式ナイーブ・ベイズ、ベルヌーイ・ナイーブ・ベイズ、ガウシアン・ナイーブ・ベイズの3種類があります。この技術は、主にテキスト分類、スパム識別、推奨システムで使用されます。

• ランダム・フォレスト：ランダム・フォレストでは、機械学習アルゴリズムが多数のディシジョン・ツリーの結果を組み合わせて、値またはカテゴリを予測します。「フォレスト」とは、ばらつきを低減し、より正確な予測を可能にするための、相関のないディシジョン・ツリーを指します。

• サポート・ベクター・マシン（SVM）：このアルゴリズムは、データの分類と回帰の両方に使用できますが、一般的には分類問題に使用され、データポイントの2つのクラス間の距離が最大になる超平面を構築します。この超平面は決定境界として知られ、平面の両側でデータポイントのクラス（オレンジとリンゴなど）を分離します。

教師あり学習とは異なり、教師なし学習では、ラベルのないデータを使用します。アルゴリズムはそのデータから、クラスタリングまたは関連付けの問題に役立つパターンを発見します。データセット内の共通項に確信が持てない場合に、特に有用です。一般的なクラスタリング・アルゴリズムには、階層型、k平均法、混合ガウスモデル、およびPCAやt-SNEなどの次元削減法があります。

• クラスタリング：このアルゴリズムは、データ内のパターンを識別して、データをグループ化できます。人間が見落としたデータ項目間の違いを特定して、データサイエンティストを支援します。

• 階層的クラスタリング：データをクラスターのツリーにグループ化します。⁸ 階層的クラスタリングは、すべてのデータポイントを個別のクラスターとして扱うことから始まります。次に、次のステップを繰り返し実行します：1）最も近くにある2つのクラスターを特定し、2）最も近い2つのクラスターをマージします。そして、すべてのクラスターがマージされるまで続けます。

• k平均法クラスタリング：互いに類似したデータのグループを見つけることで、ラベルのないデータ内のグループを異なるクラスターに識別します。⁹ 「k平均法（K-means）」という名称は、クラスターの定義に使用される$k$セントロイドに由来しています。ある点が他のどの重心よりもそのクラスターの重心に近い場合、その点は特定のクラスターに割り当てられます。

半教師あり学習アルゴリズム

与えられた入力データの一部のみがラベル付けされている場合に学習が行われ、少し「有利なスタート」になります。このアプローチでは、教師あり機械学習に関連する精度の向上と、教師なし機械学習の場合のようにコスト効率に優れたラベルなしデータの活用という、双方の強みを組み合わせることができます。¹⁰

強化アルゴリズム

人間が学習するのと同じように、報酬と罰則により訓練します。この報酬と罰則は、強化学習エージェント¹¹によって測定され、追跡されます。強化学習エージェントは、スコアアップに成功する確率と、スコアダウンの確率を一般的に理解しています。エージェントは試行錯誤を通じて、時間の経過とともに最も好ましい結果につながるアクションを学習します。強化学習は、リソース管理、ロボット工学、ビデオゲームでよく使用されています。¹² 。