Travaux scientifiques

Recherche

Mes travaux portent sur l’accessibilité des images, la détection multimodale de la fatigue et les interfaces cerveau-machine. Les deux premiers axes sont illustrés ci-dessous par des schémas décrivant les méthodes utilisées.

  1. Images et accessibilité
  2. Analyse multimodale de la fatigue
  3. Interfaces cerveau-machine
  4. Encadrements

Axe 1

Rendre les images et documents plus accessibles

Une approche multi-granulaire transforme les contenus visuels en plusieurs niveaux d’information, exploitables visuellement, interactivement ou tactilement.

Objectif : proposer des représentations adaptables aux utilisateurs, à leurs usages et à leurs contextes d’interaction, notamment dans le domaine de la déficience visuelle.

Application : Accès au Web et aux documents numériques par des représentations alternatives, multi-niveaux et tactiles.
Adaptation d’une image couleur en représentations visuelle et tactile. Description détaillée disponible sous la figure.
Figure 1. Adaptation d’une image couleur en représentations visuelle et tactile. La chaîne conserve deux sorties : les couleurs du premier plan et de l’arrière-plan, ainsi qu’une construction de granules au format SVG tactile.
Description textuelle de la figure 1
  • L’image couleur RVB alimente la granulation variable (étape 1) et une branche directe vers l’interpolation.
  • La sortie Y de la granulation entre dans la décomposition des granules (étape 2). Deux granules en résultent.
  • Ces deux granules alimentent l’interpolation (étape 3), qui fournit les couleurs du premier plan et de l’arrière-plan.
  • Ils alimentent également la sélection du premier plan selon les relations entre granules (étape 4).
  • Le granule de premier plan et le facteur de réduction alimentent la construction des granules (étape 5), dont la sortie est un SVG tactile.
Exploration de l’image et réglage de la granularité. Description détaillée disponible sous la figure.
Figure 2. Exploration de l’image et réglage de la granularité. Les personnes voyantes et aveugles partagent le même cas d’utilisation. La granularité graphique et la granularité haptique peuvent être personnalisées.
Description textuelle de la figure 2
  • Une personne voyante ou aveugle peut explorer une image sur un écran tactile.
  • Deux cas d’utilisation étendent cette exploration : personnaliser la granularité graphique et personnaliser la granularité haptique.
  • Les relations UML « extend », représentées par des flèches en pointillés, relient ces personnalisations au cas d’utilisation principal. Elles n’indiquent pas une succession d’étapes.
Schémas complémentaires sur la granularité
Choisir, convertir ou combiner les niveaux de granularité. Description détaillée disponible sous la figure.
Figure 3. Choisir, convertir ou combiner les niveaux de granularité. La représentation multi-granulaire permet de sélectionner un niveau adapté, de changer de niveau ou de mobiliser plusieurs niveaux pour résoudre un problème.
Description textuelle de la figure 3
  • Optimisation de la granularité : choisir le niveau le plus adapté.
  • Conversion de granularité : passer entre niveaux voisins ou atteindre un niveau supérieur ou inférieur.
  • Résolution conjointe multi-granulaire : mobiliser tous les niveaux de représentation.
Les dimensions du calcul granulaire. Description détaillée disponible sous la figure.
Figure 4. Les dimensions du calcul granulaire. La pensée structurée, le traitement structuré de l’information et la résolution structurée des problèmes constituent trois dimensions du calcul granulaire.
Description textuelle de la figure 4
  • Le calcul granulaire est au centre du schéma.
  • Il est associé à la pensée structurée, au traitement structuré de l’information et à la résolution structurée des problèmes.
  • Les liaisons expriment des relations entre dimensions, sans ordre chronologique ni résultat quantitatif.

Axe 2

Détecter la fatigue à partir de données multimodales

Les méthodes combinent vision par ordinateur, apprentissage automatique et mesures physiologiques pour extraire des indicateurs complémentaires.

Indices visuels

  • expressions faciales
  • mouvements oculaires
  • indices comportementaux associés à la fatigue

Mesures physiologiques

  • fréquence cardiaque
  • pression artérielle
  • saturation en oxygène
Données visuelles et physiologiques pour étudier la fatigue. Description détaillée disponible sous la figure.
Figure 5. Données visuelles et physiologiques pour étudier la fatigue. Les données visuelles et physiologiques apportent des indicateurs complémentaires au modèle d’apprentissage automatique.
Description textuelle de la figure 5
  • La vision par ordinateur extrait les expressions faciales, les mouvements oculaires et d’autres indices visuels associés à la fatigue.
  • Les mesures physiologiques comprennent la fréquence cardiaque, la pression artérielle et la saturation en oxygène.
  • Ces sources complémentaires alimentent le modèle d’apprentissage automatique pour étudier la fatigue chez les personnes âgées.
  • Le document décrit une approche. Ce schéma n’affiche ni performance mesurée ni validation clinique.

Travail associé : Parallel Statistical and Machine Learning Methods for Estimation of Physical Load (2018).

Axe 3

BCI, EEG et classification d’actions physiques

Les techniques d’augmentation de données naturelles et synthétiques visent à renforcer la robustesse des modèles de deep learning lorsque les jeux de données sont limités.

Participants
12
Essais
> 3 900
Échantillonnage
500 Hz
Canaux EEG
32
EEG
Prétraitement
Augmentation naturelle & synthétique
Deep learning
Classification d’actions
Perspectives d’usage : Ces travaux peuvent contribuer à des systèmes plus fiables pour l’analyse de l’activité humaine, notamment pour des personnes à mobilité très réduite.

Travail associé : Effect of Natural and Synthetic Noise Data Augmentation on Physical Action Classification by Brain–Computer Interface and Deep Learning (2025).

Doctorat et coopération scientifique

Encadrements scientifiques

Encadrements autour de l’accessibilité tactile et de la prédiction de l’état de santé par apprentissage automatique.

Sami Rojbi · thèse soutenue en 2022

Co-encadrement à 50 % en co-direction internationale sur l’adaptation de documents numériques en éléments tactiles pour des personnes à besoins spécifiques.

Wiem Ben Ghozzi · thèse en cours depuis 2024

Co-encadrement à 25 % d’une cotutelle internationale sur le suivi et la prédiction de l’état de santé par apprentissage automatique.