O aprendizado supervisionado pode ser separado em dois tipos de problemas na mineração de dados: classificação e regressão.

• A classificação usa um algoritmo para atribuir dados de teste com precisão a categorias específicas. Reconhece entidades específicas dentro do conjunto de dados e tenta tirar algumas conclusões sobre como essas entidades devem ser rotuladas ou definidas. Algoritmos de classificação comuns são: classificadores lineares, máquinas de vetores de suporte (SVM), árvores de decisão, k-vizinhos mais próximos e floresta aleatória, que são descritos em mais detalhes abaixo.

• A regressão é utilizada para entender a relação entre variáveis dependentes e independentes. É geralmente usada para fazer projeções, como receita de vendas de um determinado negócio. Regressão linear, regressão logística e regressão polinomial são algoritmos de regressão populares.

Diversos algoritmos e técnicas de computação são usados nos processos de aprendizado de máquina supervisionado, geralmente calculados por meio do uso de programas como o Python. Entre os algoritmos de aprendizado supervisionado temos:

• AdaBoost ou reforço de gradiente: também chamada de reforço adaptativo⁷, essa técnica reforça um algoritmo de regressão de baixo desempenho combinando-o com outros mais fracos para criar um algoritmo mais forte que resulte em menos erros. O reforço combina o poder de previsão de vários estimadores de base.

• Redes neurais artificiais: também conhecidas como ANNs, as redes neurais ou redes neurais simuladas (SNNs) são um subconjunto de técnicas de aprendizado de máquina e estão no centro de algoritmos de deep learning. O algoritmo aprendiz reconhece padrões nos dados de entrada usando blocos de construção chamados neurônios, aproximando-se dos neurônios do cérebro humano, que são treinados e modificados ao longo do tempo (mais em "redes neurais").

• Algoritmos de árvores de decisão: usadas para prever valores numéricos (problemas de regressão) e classificar dados em categorias, as árvores de decisão usam uma sequência de ramificação de decisões vinculadas que podem ser representadas por um diagrama de árvore. Uma das vantagens das árvores de decisão é que elas são fáceis de validar e auditar, ao contrário da caixa-preta de uma rede neural.

• Redução de dimensionalidade: quando um conjunto de dados selecionado tem um alto número de características⁷ , ele tem alta dimensionalidade. A redução de dimensionalidade reduz o número de características, deixando apenas os insights ou informações mais significativos. Um exemplo é a análise de componentes principais.

• K-vizinhos mais próximos: também conhecido como KNN, esse algoritmo não paramétrico classifica os pontos de dados com base em sua proximidade e associação com outros dados disponíveis. Ele pressupõe que pontos de dados semelhantes podem ser encontrados próximos uns dos outros. Consequentemente, procura calcular a distância entre os pontos de dados, geralmente por meio da distância euclidiana, e depois atribui uma categoria com base na categoria mais frequente ou média. 

• Regressão linear: usada para identificar a relação entre uma variável dependente e uma ou mais variáveis independentes. Geralmente é empregada para fazer previsões sobre resultados futuros. Quando há apenas uma variável independente e uma dependente, é conhecida como regressão linear simples.

• Regressão logística: enquanto a regressão linear é utilizada com variáveis dependentes contínuas, a regressão logística é selecionada quando a variável dependente é categórica, o que significa que há saídas binárias, como "verdadeiro" e "falso" ou "sim" e "não". Enquanto ambos os modelos de regressão procuram entender as relações entre entradas de dados, a regressão logística é usada sobretudo para resolver problemas de classificação binária, como identificação de spam.

• Redes neurais: utilizadas sobretudo para algoritmos de deep learning, as redes neurais processam os dados de treinamento de entrada ao imitarem a interconectividade do cérebro humano por meio de camadas de nós. Cada nó é composto de entradas, pesos, um viés (limite) e uma saída. Se esse valor de saída excede um determinado limite, ele "dispara" ou ativa o nó, passando dados para a próxima camada da rede. As redes neurais aprendem com ajustes baseados na função de perda por meio do processo de descida de gradiente. Quando a função de custo é igual ou próxima de zero, é possível confiar na precisão do modelo.

• Naive Bayes: essa abordagem adota o princípio da independência condicional de classe do Teorema de Bayes. Isso significa que a presença de uma característica não afeta a presença de outra na probabilidade de um determinado resultado, e cada preditor tem um efeito igual sobre tal resultado. Existem três tipos de classificadores Naive Bayes: Naive Bayes multinomial, Naive Bayes Bernoulli e Naïve Bayes gaussiano. Essa técnica é usada principalmente em sistemas de classificação de texto, identificação de spam e recomendações.

• Florestas aleatórias: em uma floresta aleatória, o algoritmo de aprendizado de máquina prevê um valor ou categoria combinando os resultados de uma série de árvores de decisão. A "floresta" refere-se a árvores de decisão não correlacionadas, que são montadas para reduzir a variância e permitir previsões mais precisas.

• Máquinas de vetores de suporte (SVM): esse algoritmo pode ser usado tanto para classificação de dados quanto para regressão, mas geralmente para problemas de classificação, construindo um hiperplano onde a distância entre duas classes de pontos de dados está em seu máximo. Esse hiperplano é conhecido como limite de decisão, separando as classes de pontos de dados (como laranjas e maçãs) em ambos os lados do plano.

Diferentemente do aprendizado supervisionado, o aprendizado não supervisionado usa dados não rotulados. A partir desses dados, o algoritmo descobre padrões que ajudam a resolver problemas de agrupamento ou associação. Isso é particularmente útil quando os especialistas em um assunto não têm certeza das propriedades comuns em um conjunto de dados. Algoritmos de agrupamentos comuns são: hierárquicos, K-means, modelos de mistura gaussiana e métodos de redução de dimensionalidade, como PCA e t-SNE.

• Agrupamento: esses algoritmos podem identificar padrões nos dados para poderem ser agrupados. Os algoritmos podem ajudar cientistas de dados ao identificarem diferenças entre itens de dados que passaram despercebidas pelos humanos.

• Agrupamento hierárquico: agrupa dados em uma árvore de agrupamentos.⁸ O agrupamento hierárquico começa pelo tratamento de todos os pontos de dados como um agrupamento separado. Em seguida, executa repetidamente estas etapas:  1) identificar os dois agrupamentos que estão mais próximos e 2) mesclar os dois agrupamentos mais comparáveis. Essas etapas continuam até que todos os agrupamentos sejam mesclados.

• Agrupamento K-means: identifica grupos nos dados sem rótulos⁹  em diferentes agrupamentos, encontrando grupos de dados que são semelhantes uns aos outros. O nome "K-means" vem dos centroides $k$ que utiliza para definir os agrupamentos. Um ponto é atribuído a um agrupamento em particular se ele estiver mais próximo do centroide desse agrupamento do que qualquer outro centroide.

Algoritmos de aprendizado semi-supervisionado

Nesse caso, o aprendizado ocorre quando apenas uma parte dos dados de entrada fornecidos foi rotulada, dando ao algoritmo uma certa "vantagem inicial". Essa abordagem pode combinar o melhor dos dois mundos¹⁰: melhor precisão associada ao aprendizado de máquina supervisionado e a capacidade de usar dados econômicos não rotulados, como no caso do aprendizado de máquina não supervisionado.

Algoritmos por reforço

Nesse caso, os algoritmos são treinados da mesma forma que os humanos aprendem: por meio de recompensas e punições, que são medidas e monitoradas por um agente de aprendizagem por reforço¹¹, que tem uma compreensão geral da probabilidade de aumentar ou diminuir a pontuação. Por meio de tentativa e erro, o agente aprende a realizar ações que levam aos resultados mais favoráveis ao longo do tempo. O aprendizado por reforço é geralmente utilizado¹²  na gestão de recursos, em robótica e em videogames.