O presente estudo teve como objetivo apresentar o panorama atual das pesquisas relacionadas as técnicas para obtenção de explicações sobre como modelos de machine learning para inteligência artificial, e em especial os modelos de deep learning, geram predições e classificações. A pesquisa em inteligência artificial explicável está sendo cada vez mais ampliada, devido a necessidade de obtenção de resultados que sejam aceitos e compreendidos pelos usuários, principalmente os relacionados a análise de imagens médicas. Foi realizada pesquisa exploratória na base de dados Scopus, de abordagem quantitativa, por meio da Teoria do Enfoque Meta Analítico Consolidado, TEMAC [1] . A pesquisa foi limitada aos ultimos 10 anos e os dados obtidos mostraram que houve crescimento significativo no interesse sobre o tema . Este interesse também está alinhado com as orientações surgidas com a GPDR -General Data Protection Regulation da União Européia [2] e a futura Lei Geral de Proteção De Dados – LGPD [3], relacionadas com o direito a explicação. Identificou-se que a técnica mais citada para explicar as decisões tomadas por algoritmos de machine learning é a LIME [4].

XII SIMPÓSIO DE ENGENHARIA BIOMÉDICA -I X SIMPÓSIO DE INSTRUMENTAÇÃO E IMAGENS MÉDICAS