A carregar...
Publicação
A study of generalization in regression: proposal of a new metric and loss function to better understand and improve generability
| Nome: | Descrição: | Tamanho: | Formato: | |
|---|---|---|---|---|
| 1.38 MB | Adobe PDF |
Autores
Orientador(es)
Resumo(s)
Intuitively Generalization in Machine Learning can be understood as a models ability
to apply its trained or acquired knowledge to a previously unseen scenario. In the
recent years there has been an exponential growth in machine learning models both
efficiency and accuracy, yet the current research is still trying to understand and trust
how well models can perform on previously unseen data.
For this thesis we propose a study of machine learning’s theoretical background to
further expand the notion of generalization and it’s limitation’s, enabling us to derive
its commonly accepted approximation, definitions that we will use to present a new
generalization metric or score more consistent in detecting and providing understanding
of the occurrence of generalization.
Additionally a new loss function will be presented in order to mitigate generalization
error inherit to a noisy sample, where extensive tests suggest that our loss function has
a higher rate of convergence while producing statistically similar or even better results
when compared with classical loss functions.
Intuitivamente generalização em Aprendizagem Automática pode ser entendida como a capacidade de um modelo em aplicar o seu conhecimento treinado ou adquirido a um cenário nunca antes visto. Nos últimos anos, tem existido um crescimento exponencial tanto na eficiência quanto na precisão dos modelos de Aprendizagem Automática, no entanto a pesquisa atual ainda se debate bastante em como entender e confiar na capacidade de execução dos modelos em dados nunca antes vistos. Para esta tese, propomos um estudo dos fundamentos teóricos da Aprendizagem Automática para expandir ainda mais a noção de generalização e suas limitações, permitindo-nos derivar sua aproximação comummente aceita. Definições estas que usaremos para apresentar uma nova métrica de generalização mais consistente na detecção da ocorrência ou não de generalização. Adicionalmente, uma nova função de perda será apresentada a fim de mitigar o erro de generalização herdado de uma amostra ruidosa, onde testes extensivos sugerem que nossa função de perda tem uma taxa de convergência significantemente mais alta produzindo resultados estatisticamente semelhantes ou até melhores quando comparada com as funções de perda clássicas.
Intuitivamente generalização em Aprendizagem Automática pode ser entendida como a capacidade de um modelo em aplicar o seu conhecimento treinado ou adquirido a um cenário nunca antes visto. Nos últimos anos, tem existido um crescimento exponencial tanto na eficiência quanto na precisão dos modelos de Aprendizagem Automática, no entanto a pesquisa atual ainda se debate bastante em como entender e confiar na capacidade de execução dos modelos em dados nunca antes vistos. Para esta tese, propomos um estudo dos fundamentos teóricos da Aprendizagem Automática para expandir ainda mais a noção de generalização e suas limitações, permitindo-nos derivar sua aproximação comummente aceita. Definições estas que usaremos para apresentar uma nova métrica de generalização mais consistente na detecção da ocorrência ou não de generalização. Adicionalmente, uma nova função de perda será apresentada a fim de mitigar o erro de generalização herdado de uma amostra ruidosa, onde testes extensivos sugerem que nossa função de perda tem uma taxa de convergência significantemente mais alta produzindo resultados estatisticamente semelhantes ou até melhores quando comparada com as funções de perda clássicas.
Descrição
Dissertation presented as the partial requirement for obtaining a Master's degree in Data Science and Advanced Analytics
Palavras-chave
Generalization Machine Learning Loss Function Metric Noise Generalização Aprendizagem Automática Função de Perda Métrica Ruido