A carregar...
Publicação
Explainable Artificial Intelligence in Time Series Applied to Physiological Data
| Nome: | Descrição: | Tamanho: | Formato: | |
|---|---|---|---|---|
| 14.32 MB | Adobe PDF |
Orientador(es)
Resumo(s)
Over the past few decades, we have seen Artificial Intelligence (AI) agents move from
controlled laboratory experiments to becoming an integral part of our daily lives. In
our evolving society, algorithms govern many aspects of our daily routines, shaping our
choices, decisions, perceptions, interactions, and aspirations. To support the impactful,
responsible, and legal implementation of these systems, we must understand how they
make decisions and why a given decision was made. Explainable Artificial Intelligence
concerns designing and developing methods that explain how machine learning models
arrive at their decisions.
The sequential nature of time series data, coupled with its high dimensionality, poses
distinct challenges compared to other data types like images, tables, and text. This
underscores the necessity for research in developing methods that enhance explainability
and interpretability for time series classification. As we navigate the complexities of
time series data, the importance of this data type in the realm of biosignals analysis
becomes evident. Biosignals, such as heart rate, human motion, breathing, and muscular
activity, stand out as classic examples of time series datasets in electrophysiology. They
are essential indicators of physiological health and play a pivotal role in diagnostic and
prognostic decisions in healthcare.
This thesis introduces innovative methods to enhance the explainability of time se-
ries classification applied to biosignals. Our advancements are structured into three
complementary research lines: (a) method-oriented, (b) application-oriented, and (c)
human-oriented. In the method-oriented line, we introduce new techniques for explain-
ing models tailored for electrocardiogram interpretation and processing multimodal
biosignal datasets. Within the application-oriented approach, we used feature-based
explanations to study human motion, demonstrating their value as an instrument for vali-
dating scientific discoveries. We centered this analysis around a use case that examines
the relationship between physiological tremors during slow goal-directed movements
and the level of movement expertise. Lastly, in the human-oriented research, we propose
a protocol for evaluating human-AI collaboration in clinical electrocardiogram diagnosis,
highlighted by a user study with cardiologists.
Ao longo das últimas décadas temos assistido a sistemas de Inteligência Artificial (IA) passarem de experiências controladas em laboratório a fazerem parte integral do nosso quotidiano. Na sociedade atual em evolução, estes algoritmos controlam muitos aspectos das nossas rotinas diárias, moldando as nossas escolhas, decisões, perceções, interações e aspirações. Para apoiar a implementação impactante, responsável e legal destes sistemas, é necessária uma melhor compreensão de como tomam decisões e o porquê de uma determinada decisão ter sido tomada. A Inteligência Artificial Explicável concerne o desenho e desenvolvimento de métodos que expliquem como os modelos de aprendizagem automática chegam às suas decisões. A natureza sequencial dos dados de séries temporais, em conjunto com a sua ele- vada dimensionalidade, coloca desafios notáveis em comparação com outros tipos de dados, como imagens, tabelas e texto. Este facto sublinha a necessidade de investigação no desenvolvimento de métodos que aumentem a explicabilidade e interpretabilidade na classificação de séries temporais. Ao navegarmos nas complexidades dos dados de séries temporais, a importância deste tipo de dados no campo da análise de biosinais torna-se evidente. Biosinais, como ritmo cardíaco, movimento humano, respiração e ati- vidade muscular, destacam-se como exemplos clássicos de conjuntos de dados de séries temporais em eletrofisiologia. Os biosinais são indicadores essenciais da saúde fisiológica e desempenham um papel crucial nas decisões de diagnóstico e prognóstico em saúde. Esta tese introduz métodos inovadores para aumentar a explicabilidade da classificação de séries temporais aplicada a biosinais. Os avanços aqui apresentados estão estruturados em três linhas de investigação complementares: (a) orientada ao método, (b) orientada à aplicação, e (c) orientada ao humano. Na linha orientada ao método, introduzimos novas técnicas para explicar modelos adaptados para interpretação e processamento de eletrocardiogramas e para processar conjuntos de dados de biosinais multimodais. Na abordagem orientada à aplicação, utilizamos explicações baseadas em características para estudar o movimento humano, demonstrando o seu valor como instrumento para validar descobertas científicas. Centrámos esta análise num caso prático que estuda a relação entre tremores fisiológicos durante movimentos lentos e o nível de experiência de movimento. Por último, na investigação orientada ao humano, propomos um protocolo para avaliar a colaboração entre humanos e IA no diagnóstico de eletrocardiogramas clínicos, destacado por um estudo com cardiologistas.
Ao longo das últimas décadas temos assistido a sistemas de Inteligência Artificial (IA) passarem de experiências controladas em laboratório a fazerem parte integral do nosso quotidiano. Na sociedade atual em evolução, estes algoritmos controlam muitos aspectos das nossas rotinas diárias, moldando as nossas escolhas, decisões, perceções, interações e aspirações. Para apoiar a implementação impactante, responsável e legal destes sistemas, é necessária uma melhor compreensão de como tomam decisões e o porquê de uma determinada decisão ter sido tomada. A Inteligência Artificial Explicável concerne o desenho e desenvolvimento de métodos que expliquem como os modelos de aprendizagem automática chegam às suas decisões. A natureza sequencial dos dados de séries temporais, em conjunto com a sua ele- vada dimensionalidade, coloca desafios notáveis em comparação com outros tipos de dados, como imagens, tabelas e texto. Este facto sublinha a necessidade de investigação no desenvolvimento de métodos que aumentem a explicabilidade e interpretabilidade na classificação de séries temporais. Ao navegarmos nas complexidades dos dados de séries temporais, a importância deste tipo de dados no campo da análise de biosinais torna-se evidente. Biosinais, como ritmo cardíaco, movimento humano, respiração e ati- vidade muscular, destacam-se como exemplos clássicos de conjuntos de dados de séries temporais em eletrofisiologia. Os biosinais são indicadores essenciais da saúde fisiológica e desempenham um papel crucial nas decisões de diagnóstico e prognóstico em saúde. Esta tese introduz métodos inovadores para aumentar a explicabilidade da classificação de séries temporais aplicada a biosinais. Os avanços aqui apresentados estão estruturados em três linhas de investigação complementares: (a) orientada ao método, (b) orientada à aplicação, e (c) orientada ao humano. Na linha orientada ao método, introduzimos novas técnicas para explicar modelos adaptados para interpretação e processamento de eletrocardiogramas e para processar conjuntos de dados de biosinais multimodais. Na abordagem orientada à aplicação, utilizamos explicações baseadas em características para estudar o movimento humano, demonstrando o seu valor como instrumento para validar descobertas científicas. Centrámos esta análise num caso prático que estuda a relação entre tremores fisiológicos durante movimentos lentos e o nível de experiência de movimento. Por último, na investigação orientada ao humano, propomos um protocolo para avaliar a colaboração entre humanos e IA no diagnóstico de eletrocardiogramas clínicos, destacado por um estudo com cardiologistas.
Descrição
Palavras-chave
Time Series Explainability Biosignals Electrocardiogram Human Motion