Projet : classifieur bayésien et perceptron multi classe
Contents
1. Projet classifieur bay sien et perceptron multi classe Master Pro Traitement Statistique de l Information 2008 2009 1 Objectifs Le but de ce projet est de comparer deux approches de classification supervis e 1 un classifieur bay sien param trique 2 un perceptron multi classe Les performances de ces deux classifieurs seront valu es sur une base de donn es artificielles et sur deux probl mes de reconnaissance identification d iris et reconnaissance de caract res 2 valuation 2 1 Travail demand Vous devrez effectuer les t ches suivantes programmer en Octave les diff rentes fonctions d crites dans le reste du sujet fournir le r sultat de votre meilleur syst me sur les donn es de test dans un fichier au format texte r diger un rapport court entre 5 et 10 pages expliquant vos exp riences et r pondant aux questions pos es Le rapport est rendre au secr tariat du Master Pro les sources et la version lectronique du rapport sont envoyer par mel aux adresses claude barras limsi fr et guillaume wisniewski limsi fr au plus tard le 19 novembre 2008 2 2 Modalit s d valuation Les projets seront r alis s en bin mes Chaque bin me devra r aliser l en semble du projet Le travail effectu sera valu sur Le rapport accompagn d un listing des programmes Ce rapport de vra d tailler les contributions de chaque membre du bin me justifier le2. le cas de donn es artifi cielles g n r es partir de gaussiennes Comparaison des deux classifieurs sur des donn es r elles Deux jeux de donn es sont fournis l urlhttp www limsi fr Individu wisniews enseignement 08 09 tsi m2pro index html un jeu d appren tissage et un jeu de test qui sont tiquet s fichiers test et train et un jeu d valuation eval correspondant une suite d exemples de classe incon nue Les donn es sont repr sent es sous la forme de matrice octave lisible par la fonction load d octave La classe de chaque exemple correspond la derni re composante du vecteur les classes des ensembles d valuation ne sont pas donn es 9 10 Appliquer les deux classifieurs programm s pr c demment ces donn es Comparer les r sultats obtenus apr s avoir choisi intelligemment la valeur des diff rents param tres La matrice pr sentant les erreurs par classe reconnue en fonction de la classe r elle appel e matrice de confusion permet d analyser plus finement le type des erreurs produites Il vous est demand de fournir 11 la matrice de confusion pour les donn es de d veloppement ainsi que le taux d erreur par classe et le taux d erreur global sur vos meilleurs syst mes Vous devez galement fournir le r sultat de votre meilleur syst me sur les donn es d valuation dans un fichier au format texte une tiquette par ligne
3. pren tissage sur les performances en classification 3 crire une fonction qui g n re al atoirement une base d exemples de R selon deux gaussiennes 4 Utiliser la fonction pr c dente pour construire une base de test et des bases d apprentissage de diff rentes tailles 5 Tracer la courbe repr sentant le nombre d erreurs en fonction de la taille de l ensemble d apprentissage On repr sentera galement le nombre d erreurs optimal Que peut on en d duire 3 2 Perceptron multi classe Le deuxi me classifieur tudi est une extension du perceptron aux probl mes multi classes On adoptera pour cela la strat gie un contre tous qui consiste apprendre pour chaque classe un perceptron binaire p capable de 3 3 reconna tre les exemples de la classe en consid rant les l ments de la classe comme les exemples positifs et les l ments de toutes les autres classes comme les exemples n gatifs classer une observation x selon la r gle de d cision y argmax Wi X i o w est le vecteur de param tres du i perceptron Ecrire une fonction apprenant les param tres d un perceptron binaire partir d une base d apprentissage On proposera une solution pour pouvoir traiter le cas de donn es non lin airement s parables Ecrire une fonction g n ralisant le classifieur pr c dent aux probl mes multi classes Tester les deux fonctions pr c dentes dans
4. s choix effectu s pour l optimisation du syst me commenter les matrices de confusion et les taux de reconnaissance du syst me et pr senter les am liorations aussi bien programm es qu envisag es Les notes tien dront compte de la qualit de la pr sentation mais aussi de l initiative personnelle et de l int r t port l exp rimentation et la recherche de meilleures solutions Les programmes comment s accompagn s d un mode d emploi La li sibilit et l efficacit du programme en exploitant les sp cificit s d oc tave seront prises en compte Il est noter que les membres d un m me bin me peuvent avoir des notes diff rentes si le travail n est pas effectu quitablement 3 Classifieurs tudi s 3 1 Classifieur gaussien Le premier classifieur tudi est un classifieur impl mentant la r gle de d cision bay sienne On mod lisera les probabilit conditionnelles de chaque classe par des gaussiennes multi dimensionnelles 1 crire une fonction d apprentissage qui estime les param tres n cessaires probabilit priori et probabilit conditionnelle p x w partir d une base d apprentissage fournie en param tre 2 crire une fonction de test qui retourne la performance du classifieur sur une base fournie en param tre On se propose d tudier les performances de ce classifieur sur une base de donn es artificielles afin d valuer l impact du nombre de donn es d ap
Download Pdf Manuals
Related Search