Comment les représentations prédictives résolvent l'ambiguïté de l'apprentissage par étiquettes partielles : une nouvelle norme pour les données d'intelligence artificielle

Dans le monde rapide de l'intelligence artificielle, la qualité des données reste le principal obstacle à la réussite des modèles. Les chercheurs en apprentissage automatique se heurtent souvent à un défi spécifique appelé Apprentissage par Étiquettes Partielles (PLL). Ce paradigme propose des exemples d'entraînement liés à un ensemble d'étiquettes potentielles plutôt qu'à une réponse unique et définitive. Cette ambiguïté est courante dans des applications réelles comme l'annotation automatique d'images, le diagnostic médical ou les moteurs de recommandation. Dans ces domaines, une étiquetage précis est soit trop coûteux, soit tout simplement impossible. Le défi central ici est la désambiguïsation. Les modèles doivent identifier la bonne étiquette parmi une liste de candidats tout en construisant un classifieur fiable.

Les méthodes traditionnelles pour gérer le PLL s'appuient lourdement sur la construction de graphes utilisant uniquement l'espace de caractéristiques original. Ces approches propagent l'information d'étiquetage à travers ces structures mais restent vulnérables au bruit, aux valeurs aberrantes et aux variations sans lien avec les classes réelles. Ces faiblesses peuvent réduire considérablement la fiabilité du processus de désambiguïsation. Pour contourner cette limite, les chercheurs ont développé un nouveau cadre appelé Augmentation par Représentations Prédictives (PRA). Cette méthode utilise des représentations prédictives générées par un modèle de classification pré-entraîné. Ces représentations servent d'informations enrichies sur l'espace des étiquettes pour guider la construction des graphes.

Le cadre PRA fonctionne de manière plug-and-play. Il ne nécessite aucun ajustement des hyperparamètres ou des procédures d'optimisation des méthodes de base existantes. Le processus comporte trois étapes distinctes. Tout d'abord, une méthode de base PLL basée sur les graphes subit un entraînement initial. Ensuite, des représentations prédictives sont générées pour chaque instance. Enfin, le modèle subit un réentraînement augmenté. Lors de cette dernière étape, les caractéristiques originales utilisées pour la construction du graphe sont remplacées par des représentations prédictives standardisées. Ces dernières offrent une meilleure séparation des classes par rapport aux données brutes.

Simultanément, l'entrée du modèle de prédiction est augmentée par concaténation des caractéristiques brutes originales avec ces représentations prédictives. Cela garantit que le modèle conserve l'accès à toutes les informations brutes tout en bénéficiant d'une guidance discriminative. Des expériences extenses menées sur six jeux de données de référence variés démontrent l'efficacité du PRA. Ces jeux incluent Lost, MSRCv2, Mirflickr, BirdSong, Soccer Player et Yahoo! News.

Lorsqu'il est appliqué à trois méthodes PLL basées sur les graphes représentatives, notamment PL-LEAF, PL-AGGD et PL-CL, le PRA a obtenu des améliorations statistiquement significatives dans 17 comparaisons par paires sur 18 après correction Holm-Bonferroni. Le cadre s'est montré robuste face à différents niveaux de bruit d'étiquettes et n'a nécessité que deux exécutions d'entraînement. Cela le rend plus efficace sur le plan informatique que les approches itératives. En intégrant des insights de l'espace des étiquettes dans la construction des graphes, le PRA établit une nouvelle norme pour gérer les données ambiguës. Il offre une solution évolutive pour les industries où les annotations précises sont rares.