A carregar...
Publicação
Deep Semantic Learning Machine: A Convolutional Network Construction Algorithm
| Nome: | Descrição: | Tamanho: | Formato: | |
|---|---|---|---|---|
| 11.98 MB | Adobe PDF |
Autores
Orientador(es)
Resumo(s)
The Semantic Learning Machine (SLM), an algorithm that evolves the topology of feed-forward
neural networks (NN), has shown remarkable results in generalization and computing time. It
has the benefits of searching the space of different NN architectures under a unimodal fitness
landscape in any supervised learning problem. Recent research used the SLM at the end of a
Convolutional Neural Network (CNN) instead of fully connected layers outperforming stateof-
the-art CNNs. It was proposed to extend the SLM to explore the possibility of optimizing
the convolution layers - evolving the full CNN topology. This thesis introduces an operator to
optimize the convolution layers, extending the SLM to the Deep Semantic Learning Machine.
Initial results, computed using the mnist dataset, show that the algorithm does work but are of
limited interpretability. Real-life practicability remains to be improved due to high memory and
computational requirements.
Semantic Learning Machine (SLM), um algoritmo que evolui a topologia de redes neurais feed-forward (NN), tem mostrado resultados notáveis em generalização e tempo de computação. Tem benefícios de pesquisar o espaço de diferentes arquiteturas NN sob um cenário de aptidão unimodal em qualquer problema de aprendizagem supervisionada. Investigação recente recorre ao uso deSLMno final de uma redes neurais convolucional (CNN) em vez de camadas totalmente conectadas, superando CNNs de última geração. Foi proposto estender o SLM para explorar a possibilidade de otimizar as camadas de convolução - evoluindo a totalmente a topologia CNN. A presente tese apresenta um operador para otimizar as camadas de convolução, estendendo o SLM para a Deep Semantic Learning Machine. Os resultados iniciais, calculados usando o conjunto de dados mnist, mostram que o algoritmo funciona, mas revelam uma interpretabilidade limitada. A aplicabilidade em cenários reais precisa ainda de melhorias devido aos altos requisitos de memória e computação.
Semantic Learning Machine (SLM), um algoritmo que evolui a topologia de redes neurais feed-forward (NN), tem mostrado resultados notáveis em generalização e tempo de computação. Tem benefícios de pesquisar o espaço de diferentes arquiteturas NN sob um cenário de aptidão unimodal em qualquer problema de aprendizagem supervisionada. Investigação recente recorre ao uso deSLMno final de uma redes neurais convolucional (CNN) em vez de camadas totalmente conectadas, superando CNNs de última geração. Foi proposto estender o SLM para explorar a possibilidade de otimizar as camadas de convolução - evoluindo a totalmente a topologia CNN. A presente tese apresenta um operador para otimizar as camadas de convolução, estendendo o SLM para a Deep Semantic Learning Machine. Os resultados iniciais, calculados usando o conjunto de dados mnist, mostram que o algoritmo funciona, mas revelam uma interpretabilidade limitada. A aplicabilidade em cenários reais precisa ainda de melhorias devido aos altos requisitos de memória e computação.
Descrição
Dissertation presented as the partial requirement for obtaining a Master's degree in Data Science and Advanced Analytics
Palavras-chave
Deep Semantic Learning Machine Semantic Learning Machine Geometric Semantic Genetic Programming Machine Learning Convolutional Neural Networks Redes Neurais Convolucional Aprendizagem Automática Programação Genética Geométrica Semântica