areas y proyectos de investigación

AREAS Y PROYECTOS DE INVESTIGACIÓN
2015-2016
Dra. María del Pilar Gómez Gil
Coordinación de Computación
Instituto Nacional de Astrofísica, Óptica y Electrónica
Oficina 8228
[email protected], [email protected]
http://ccc.inaoep.mx/~pgomez
Presentación disponible en:
http://ccc.inaoep.mx/~pgomez/temasTesis.pdf
V:2015-10-15
(c) P. Gómez, INAOE 2015
[email protected]
1
Mi participación en investigación
Formo parte de:
• Laboratorio de Aprendizaje Automático y
Reconocimiento de Patrones (MLPR),
• Laboratorio de Procesamiento de Bio-Señales y
Computación Médica
• Grupo de procesamiento de señales e Inteligencia
Computacional (PSIC)
– PSIC está formado por investigadores y estudiantes de las
coordinación de Electrónica y de Ciencias de la
computación
(c) P. Gómez, INAOE 2015
[email protected]
2
Áreas de interés de PGG
• Redes Neuronales Artificiales (RNA) aplicadas en
problemas de:
–
–
–
–
Reconocimiento de patrones
Clasificación estática y temporal
Predicción
Diseño de RNA
• Otras áreas de inteligencia computacional aplicadas
a dichos problemas (Lógica Difusa y Algoritmos
Evolutivos)
(c) P. Gómez, INAOE 2015
[email protected]
3
Las Redes Neuronales Artificiales
• Son modelos matemáticos capaces de adaptar su
comportamiento en respuesta a ejemplos
presentados por el medio ambiente de manera
supervisada o no supervisada (esto es aprendizaje
automático!)
• Están inspiradas en la construcción del cerebro y las
neuronas biológicas.
• Una red neuronal artificial es un procesador paralelo
y distribuido, hecho de varios procesadores simples,
que puede almacenar y utilizar conocimiento
adquirido de la experiencia (Haykin 2009).
(c) P. Gómez, INAOE 2015
[email protected]
4
El Contexto de Redes Neuronales
(Gómez-Gil,
2009)
Entradas
Salidas
RNA
Ejemplos
(medio
ambiente)
conocimiento
(c) P. Gómez, INAOE 2015
[email protected]
5
Aprendizaje basado en ejemplos
• Las redes neuronales son capaces de modificar su
comportamiento en respuesta al medio ambiente, el
cual es “presentado a la red” a través de ejemplos
significativos del problema.
• Para una red neuronal, aprender significa modificar
los valores de los pesos (números reales), siguiendo
una estrategia determinada conocida como
“algoritmo de aprendizaje.”
(c) P. Gómez, INAOE 2015
[email protected]
6
Hay muchos tipos de RNA’s… algunos “típicos”
(c) P. Gómez, INAOE 2015
[email protected]
7
Hay muchos tipos de RNA’s… otros
mas “interesantes”…
(c) P. Gómez, INAOE 2015
[email protected]
8
Un punto sobre sobre el plan de estudios
PERIODO 1
(OTOÑO)
Matemáticas
para
computación
PERIODO 2
(PRIMAVERA)
PERIODO 3
(VERANO)
Curso área
prioritaria
Curso área
escogida
Diseño y
análisis de
algoritmos
Curso básico
área 1
Curso área
prioritaria
Curso
área de soporte
Curso otra área
Seminario
Curso básico
área 2
Curso otra área
Seminario de
metodología
Seminario
(c) P. Gómez, INAOE 2015
PERIODO 4
(OTOÑO)
PERIODO 5
(PRIMAVERA)
PERIODO &
(VERANO)
Preparación
de tesis
Preparación
de tesis
Terminación
de tesis
[email protected]
9
Cursos posiblemente requeridos para
mis proyectos
1.
2.
3.
4.
5.
6.
Procesamiento digital de señales
Inteligencia Computacional I
Inteligencia Computacional II
Reconocimiento de patrones
Aprendizaje Computacional II
Procesamiento de bio-señales
(c) P. Gómez, INAOE 2015
[email protected]
10
Características de mi investigación
RETOS
AREAS DEL
CONOCIMIENTO
AREAS DE APLICACIÓN
Con respecto a DATOS:
• ruidosos
• clases sobre-puestas
• muy pocos
• difíciles de
caracterizar
• se requieren fusionar
• etc…
•Clasificación estática
•Clasificación temporal
•Predicción
•Teoría de RNA
•Brain Computer Interfaces
• Biométrica
• Diagnóstico médico
• Economía y Finanzas
• Astrofísica
• Reconocimiento de
escritura
(c) P. Gómez, INAOE 2015
[email protected]
11
Trabajamos con señales no estacionarias
Return map of good2.dat
Mackey-Glass data for A=0.2, B=0.1, tao=17 h=0.9. 550 points of good2.dat
1.4
1.2
1.2
x(i+ 10)
1
0.8
1
0.8
0.6
0.4
0
Injection
regions
1.4
100
200
300
400
500
600
dx(t )
ax(t   )

 bx(t )
dt
1  x10 (t   )
0.6
0.4
1.5
1.5
1
1
0.5
Mackey-Glass time series
x(i+ 5)
(Glass 1987)
0.5
0
0
x(i)
Return map of a Mackey-Glass
time series
Case K.2
1
0.8
0.6
0.4
expected
prediction
0.2
0
1
90
179 268 357 446 535 624 713 802 891 980 1069 1158 1247 1336 1425 1514 1603 1692 1781 1870 1959 2048
-0.2
ATM withdraws (NN5-001)
(Crone 2006)
(c) P. Gómez, INAOE 2015
-0.4
n
Long-term prediction of an ECG
(Gomez et al., 2011)
[email protected]
12
Principales Proyectos para tesis este año
1. Clasificación y predicción temporal de señales EEG
con aplicación a interfaces cerebro-computadora
(BCI, diagnóstico médico-epilepsia). (PSIC)
2. Priscus: reconocimiento automático de escritura
manuscrita en documentos antiguos
(c) P. Gómez, INAOE 2015
[email protected]
13
Proyecto:
Clasificación y predicción temporal de señales
EEG con aplicación a interfaces cerebrocomputadora (BCI, diagnóstico médicoepilepsia). (PSIC)
.
(en colaboración con el grupo PSIC)
(c) P. Gómez, INAOE 2015
[email protected]
14
Clasificación de epilepsia
Healthy patient
(c) P. Gómez, INAOE 2015
During an15ictal event
[email protected]
Biomedical Signal Processing Using Wavelet
Based -Neural Networks
MODWT
(Juarez-Guerra, 2014)
(c) P. Gómez, INAOE 2015
[email protected]
16
Proposed model:
MRW-FFWNN
Prediction of epileptic seizures: example
of state-of-the-art technology
(Cook et al. 2013)
(c) P. Gómez, INAOE 2015
[email protected]
17
Publicaciones seleccionadas- epilepsia
• 2015. Juarez-Guerra E, Alarcon-Aquino V and Gomez-Gil P. “Epilepsy
Seizure Detection in EEG Signals Using Wavelet Transforms and Neural
Networks.” New Trends in Networking, Computing, E-learning, Systems
Sciences, and Engineering Lecture Notes in Electrical Engineering. Eds: K.
Elleithy, T. Sobh. Vol 312, 2015, pp 261-269. DOI: 10.1007/978-3-31906764-3_33 . (Nota: This work was presented in the : “Virtual International
Joint Conferences on Computer, Information and Systems Sciences and
Engineering” (CISSE 2013). Dec. 12-14, 2013)
• 2014. Gómez-Gil P, Juárez-Guerra E, Alarcón-Aquino V, Ramírez-Cortés
M, Rangel-Magdaleno J. Identification of Epilepsy Seizures Using Multiresolution Analysis and Artificial Neural Networks. Recent Advances on
Hybrid Approaches for Designing. Intelligent Systems, Studies in
Computational Intelligence 547, O Castillo et al. (eds.), DOI: 10.1007/9783-319-05170-3_23, Springer International Publishing Switzerland 2014
• 2014. Juarez Guerra, E. “Biomedical Signal Processing Using Wavelet
Based -Neural Networks”. Doctoral program in computer science,
technical report. Nov. 14, 2014. Cholula, Puebla.
(c) P. Gómez, INAOE 2015
[email protected]
18
Interfaz cerebro-computadora
No exige ninguna
actividad muscular
Permite controlar
dispositivos
Actividad cerebral
[Carrera-León 2010]
(c) P. Gómez, INAOE 2015
[email protected]
19
Ejemplo de una estructura básica de un sistema
BCI
[D’croz Barón 2010]
(c) P. Gómez, INAOE 2015
[email protected]
20
Obtención de señales
Usando el casco…
[Ramírez et al 2010]
Datos obtenidos de un casco EEG
(c) P. Gómez, INAOE 2015
[email protected]
21
Existe Software para análisis de ECG…
[Ramírez-Cortés et al. 2010]
(c) P. Gómez, INAOE 2015
[email protected]
22
Classification of EEG signals for
command identification
BLINKY- command
identifier
(Lopez-Espejel, 2015)
(c) P. Gómez, INAOE 2015
[email protected]
23
Blinky: command identifier
Signal sensing
and preprocessing
Feature
extraction –
wavelet
modeling
Classification
– neural
network
(Lopez-Espejel, 2015)
Robot coding
for
movement
(c) P. Gómez, INAOE 2015
[email protected]
24
Publicaciones escogidas - BCI
•
•
•
•
2015. López-Espejel, Jessica N. “Control de movimiento de objetos a través del
uso de electro-encefalogramas y redes neuronales artificiales con equipo de bajo
costo. “ Tesis para obtener el título de Licenciada en Ingeniería en Ciencias de la
Computación. Benemérita Universidad Autónoma de Puebla- Instituto Nacional
de Astrofísica, Óptica y Electrónica, Puebla. México. To be published
2013. Morales-Flores E Ramírez-Cortés JM, Gómez-Gil P, Alarcón-Aquino V.
"Brain Computer Interface Development Based on Recurrent Neural Networks
and ANFIS Systems". Soft Computing Applications in Optimization, Control, and
Recognition, Vol. 294, pp. 215-236, Edited by Melin, P and Castillo, O,
doi=10.1007/978-3-642-35323-9_9. Springer Berlin Heidelberg.
2013. Rosas-Cholula G, Ramirez-Cortes JM, Rangel-Magdaleno J, Gomez-Gil P,
Alarcon-Aquino V. “Head movement artifact removal in EEG signals using
Empirical Mode Decomposition and Pearson Correlation” The 2013 International
Conference on Artificial Intelligence (ICAI 2013). July 22-25, 2013. Las Vegas,
Nevada USA
2012. Obed Carrera León, Juan Manuel Ramirez Cortés, Vicente Alarcón-Aquino,
Mary Baker, David D´Croz-Baron, Pilar Gomez-Gil, “A Motor Imagery BCI
Experiment using Wavelet Analysis and Spatial Patterns Feature
Extraction”, 2012 IEEE Workshop on Engineering Applications, Bogotá,
Colombia, May 2-4, 2012.
(c) P. Gómez, INAOE 2015
[email protected]
25
Algunos retos en este proyecto
• La identificación de los eventos no puede realizarse
simplemente analizando la señal en el tiempo
• Hay muchos trabajos actualmente sobre el tema,
pero sus resultados no son tan buenos como se
desea
• Se requiere analizar tanto la parte de extracción de
características como la de clasificación. Nosotros
nos concentraremos en la clasificación
(c) P. Gómez, INAOE 2015
[email protected]
26
Proyectos posibles
• Asignación de clases temporales a través de lógica
difusa u otras técnicas
• Predicción de eventos ictales basado en EEG
• Predicción de eventos hipotensos súbitos en salas
de terapia intensiva
• Prediccion/clasificación en otras señales biológicas
• Selección de funciones wavelts madre para redes
wavelets aplicadas a clasificación/predicción
(c) P. Gómez, INAOE 2015
[email protected]
27
Otras lecturas..
•
•
•
•
2010. Gómez-Gil P, García-Pedrero A and Ramírez-Cortes JM. “Composite Recurrent Neural Networks
for Long-Term Prediction of Highly-Dynamic Time Series Supported by Wavelet Decomposition”, Soft
Computing for Intelligent Control and Mobile Robotics, Vol. 318/2011, pp.253-268, Castillo O, Janusz K
and Pedrycz W. Editors, Springer-Verlag. DOI:10.1007/978-3-642-15534-5_16 (para conocer algo sobre
redes neuronales recurrentes)
2010. Luna-Pérez, R, Gómez-Gil, P. “Unconstrained Handwritten Word Recognition Using a combination
of Neural Networks.” Lecture Notes in Engineering and Computer Science -Proceedings of the 2010
Word Congress on Engineering and Computer Science (WCECS 2010) – International Conference on Soft
Computing and Applications (ICSCA 10), San Francisco, USA. Vol. 1, pp. 525 - 528. Eds. Ao SI, Douglas C,
Grundfest WS, Burgstone J. International Association of Engineers. (para conocer algo sobre clasificación
temporal)
2010. Ramírez-Cortés JM, Alarcón-Aquino V, Rosas-Cholula G, Gómez-Gil P, Escamilla-Ambrosio J. “P300 rhythm detection using ANFIS algorithm and wavelet feature extraction in EEG signals”. Lecture
Notes in Engineering and Computer Science -Proceedings of the 2010 Word Congress on Engineering and
Computer Science (WCECS 2010) – International Conference on Soft Computing and Applications (ICSCA
10), San Francisco, USA, Vol. 2186, pp. 619 - 623. Eds. Ao SI, Douglas C, Grundfest WS, Burgstone. (para
conocer algo sobre clasificación en BCI)
Página de PhysioNet www.physionet.org
(c) P. Gómez, INAOE 2015
[email protected]
28
Proyecto:
PRISCUS: Reconocimiento automático
de escritura manuscrita en documentos
antiguos
(en colaboración con coordinación de Electrónica INAOE)
(c) P. Gómez, INAOE 2015
[email protected]
29
Resumen
• PRISCUS es un proyecto para la construcción de un sistema
lector de documentos manuscritos antiguos y modernos. Su
objetivo es desarrollar un software inteligente integral.
• Está basado en redes neuronales artificiales y otros
componentes de inteligencia computacional y entendimiento
de lenguaje.
• Se busca la mejor implementación posible a problemas que
aún son abiertos, tales como: segmentación de escritura
continua, entendimiento de texto completo en base a
clasificación de caracteres y palabras, e identificación de
palabras
• Se están iniciando colaboraciones con un grupo en Grecia.
(c) P. Gómez, INAOE 2015
[email protected]
30
El reconocimiento de
manuscritos es un reto!
[Spinola & Linares 2000]
(c) P. Gómez, INAOE 2015
[email protected]
31
Un OCR para documentos manuscritos
1.
Digitalización
Documento
original
3.
Segmentación
de palabras
2. Preprocesamiento
Imagen digital
imagen limpia
Words
Objetos de
caracteres
Parámetros de
entrenamiento
7.
Entrenamiento
del reconocedor
6. Reconocimiento
de caracteres/
palabras
Conocimiento
de la RNA
Conocimiento
de la RNA
Objetos con
caracteres
4.
Segmentación de
caracteres/palabras
y extracción de
características
8.
Identificación
de palabras
Posibles palabras
Diccionario
en el texto
(c) P. Gómez, INAOEPalabras
2015
[email protected]
Parámetros
para
entrenamiento
Segmentación
para
entrenamiento
5.
Entrenamiento
de la
segmentación
Posibles caracteres
10.
Corrección
de estilo
[Gómez-Gil et al. 2007]
32
Transcripción
del
documento
Algunos retos en este proyecto
• El modelo de reconocimiento de caracteres debe
utilizar información probabilística a fin de reconocer
palabras y utilizar el contexto.
• El sistema de segmentación de caracteres requiere
implementarse
• Definir un de sistema de formación de sentencias
basado en procesamiento de lenguaje natural
(c) P. Gómez, INAOE 2015
[email protected]
33
Clasificación de una palabra
(Luna-Perez & Gómez-Gil, 2010)
(c) P. Gómez, INAOE 2015
[email protected]
34
Word Segmentation
Connected components
Lines identification
(Pimentel-Crisostomo, 2015)
Segmented words – experiment 1
(c) P. Gómez, INAOE 2015
[email protected]
35
Proyectos posibles
• Uso de redes recurrentes para reconocimiento de
palabras
• Uso de técnicas conexionistas para identificación de
áreas de interés en textos antiguos
(c) P. Gómez, INAOE 2015
[email protected]
36
Selected publications- PRISCUS
• 2015. Pimentel Crisóstomo Hazziel. “Localización y segmentación de
palabras en documentos manuscritos antiguos y modernos para el sistema
PRISCUS. Tesis para obtener el título de Licenciado en Ingeniería en ciencias
de la computación. Benemérita Universidad Autónoma de Puebla – Instituto
Nacional de Astrofísica, Óptica y Electrónica. Facultad de ciencias de la
Computación. Puebla, México. To be published
• 2010. Luna-Pérez R, Gómez-Gil P. “Unconstrained Handwritten Word
Recognition Using a combination of Neural Networks.” Lecture Notes in
Engineering and Computer Science: Proceedings of the World Congress on
Engineering and Computer Science 2010, WCECS 2010, 20-22 October,
2010,San Francisco, USA. pp 525 - 528. Eds. Ao SI, Douglas C, Grundfest WS,
Burgstone J. International Association of Engineers. ISBN: 978-988-17012-06. ISNN: 2078-0958 (print) ISNN: 2078-0966 (online).
• 2014. Diamantatos P, Kavallieratou E, Gomez-Gil P. “Binarization: A tool for
text localization.” To be published in the Proceedings of the 14th.
International Conference on Frontiers in Handwritten Recognition. 1-4
September, Crete Island, Greece.
(c) P. Gómez, INAOE 2015
[email protected]
37
Para conocer un poco mas de este
proyecto ver las publicaciones
listadas en la página:
http://ccc.inaoep.mx/~pgomez/PRISCUS/
(c) P. Gómez, INAOE 2015
[email protected]
38
Preguntas?
[email protected]
[email protected]
INAOE, Tonantzintla Puebla, oficina 8228
(222) 266-3100 ext. 8228
(c) P. Gómez, INAOE 2015
[email protected]
39