A carregar...
Publicação
Automatic Document Classification to leverage Funds and Grants’s information retrieval systems
| Nome: | Descrição: | Tamanho: | Formato: | |
|---|---|---|---|---|
| 761.59 KB | Adobe PDF |
Autores
Orientador(es)
Resumo(s)
Balcão 2020 is a fund-granting platform currently enduring issues related to ensuring
that the documents being uploaded into its system by foreign users have their types (i.e.
proposals or receipts) correctly assigned.
This paper aims to offer a solution to that problem through the implementation of
a Machine Learning classifier that predicts the type of a document based on its content
using Natural Language Processing models.
Based on literature review in the field of text classification, a Machine Learning
pipeline was implemented to study the impact of different feature extraction methods
when used in a financial-domain specific context. A performance analysis of a deep learn-
ing classifier, the Convolutional Neural Network (CNN), when compared to two simpler
classifiers, Multinomial Naive Bayes (MNB) and Logistic Regression (LR), when using the
previously mentioned feature extraction methods is also performed.
The results of the stated analyses have shown that Doc2Vec features lead to better
performance over financial-domain specific documents when using the CNN or LR classi-
fiers. The MNB classifier, however, returns better results using Term Frequency features.
This paper also concludes that a shallow CNN can outperform both benchmark models
and was therefore selected to integrate the document classification system proposed in
this paper.
O Balcão 2020 é uma plataforma de distribuição de fundos que se encontra com dificuldades em garantir que os documentos que estão a ser inseridos no seu sistema por utilizadores externos estejam corretamente classificados (por exemplo, como propostas ou recibos). Este projeto tem como objetivo oferecer uma solução a esse problema através da im- plementação de um classificador assente em Machine Learning que prevê o tipo do docu- mento baseando-se no seu conteúdo, utilizando modelos de Processamento de Linguagem Natural. Um pipeline de Machine Learning foi implementado baseado na literatura existente de modo a estudar o impacto de diferentes métodos de extração de features quando uti- lizados num contexto de dominio financeiro e de forma a analisar o desempenho de um classificador de deep learning, uma Convolutional Neural Network (CNN), utilizando os mé- todos de extração de features previamente referidos, comparando esse desempenho com o de dois classificadores supervisionados, o Multinomial Naive Bayes (MNB) e a Logistic Regression (LR) utilizando as mesmas features. Os resultados das analises previamente referidas mostram que o método de extração de features Doc2Vec resulta em melhores desempenho neste tipo de documentos financei- ros quando utilizado com a CNN ou com a LR, mas que o classificador MNB não suporta este método, resultando em melhor desempenho quando utiliza o método Term Frequency. Este projeto conclui ainda que uma CNN pouco profunda consegue ter resultados de classificação melhores que os dois métodos mais simples referidos e foi assim selecionada para integrar o sistema de classificação de documentos propsto neste projeto.
O Balcão 2020 é uma plataforma de distribuição de fundos que se encontra com dificuldades em garantir que os documentos que estão a ser inseridos no seu sistema por utilizadores externos estejam corretamente classificados (por exemplo, como propostas ou recibos). Este projeto tem como objetivo oferecer uma solução a esse problema através da im- plementação de um classificador assente em Machine Learning que prevê o tipo do docu- mento baseando-se no seu conteúdo, utilizando modelos de Processamento de Linguagem Natural. Um pipeline de Machine Learning foi implementado baseado na literatura existente de modo a estudar o impacto de diferentes métodos de extração de features quando uti- lizados num contexto de dominio financeiro e de forma a analisar o desempenho de um classificador de deep learning, uma Convolutional Neural Network (CNN), utilizando os mé- todos de extração de features previamente referidos, comparando esse desempenho com o de dois classificadores supervisionados, o Multinomial Naive Bayes (MNB) e a Logistic Regression (LR) utilizando as mesmas features. Os resultados das analises previamente referidas mostram que o método de extração de features Doc2Vec resulta em melhores desempenho neste tipo de documentos financei- ros quando utilizado com a CNN ou com a LR, mas que o classificador MNB não suporta este método, resultando em melhor desempenho quando utiliza o método Term Frequency. Este projeto conclui ainda que uma CNN pouco profunda consegue ter resultados de classificação melhores que os dois métodos mais simples referidos e foi assim selecionada para integrar o sistema de classificação de documentos propsto neste projeto.
Descrição
Palavras-chave
Document type identification Machine Learning Convolutional Neural Network supervised classification embedding methods Bag of Words methods