Recommandation par filtrage collaboratif

L'objectif est de mettre en pratique ce qui a été vu en cours concernant la factorisation de matrices dans le cadre des systèmes de notation de produits.

Le problème et les données

Le problème

On va travailler avec des données issues du système de recommandation de films MovieLens. Plusieurs jeux de données sont disponibles sur le site de GroupLens. Ces jeux de données diffèrent par leur taille et vous travaillerez avec le plus petit pour mettre au point vos programmes. Néanmoins, vos programmes doivent aussi fonctionner avec les deux autres jeux de données.

MovieLens est un site communautaire de recommandation de films. Les utilisateurs de ce site notent des films de 1 à 5. Ils peuvent également demander des suggestions de films étant donnés les notations qu'ils ont fournies.
Chaque utilisateur est décrit par quelques attributs :

• un numéro d'identification,
• son âge,
• son sexe,
• son métier,
• son code postal (USA).

Chaque film est décrit par :

• un numéro d'identification,
• son titre,
• sa date de sortie au cinéma,
• son genre.

On dispose alors d'une liste de notes sous la forme :

• identifiant d'utilisateur,
• identifiant de film,
• note attribuée par cet utilisateur à ce film,
• information de date : nombre de secondes écoulées depuis le 1/1/1970.

Dans le plus petit jeu de données, il y a 100.000 notes, provenant de 943 utilisateurs pour 1682 films. Les autres jeux de données en comptent respectivement 1 million et 10 millions.

L'objectif est de pouvoir sélectionner des films pour un utilisateur. Les recommandations peuvent concerner des films qui devraient lui plaire, mais aussi des films qui ne lui plairont probablement pas.
Pour cela, on va appliquer ce que l'on a vu en cours concernant la factorisation de matrices non négatives.

Factorisation de matrices

On va appliquer la méthode de factorisation de matrices non négatives vue en cours pour effectuer des recommentations.

• implanter la méthode de descente de gradient stochastique pour la factorisation de matrices vue en cours.
• l'appliquer sur les données du fichier u1.base dans l'archive disponible sur cette page. Prenez K=10, η=0,001.
• mesurez l'erreur sur le fichier u1.test dans la même archive.
• à chaque itération, mesurer l'erreur quadratique moyenne sur chacun des deux ensembles (apprentissage et test) et la stocker pour pouvoir ensuite dessiner leur diminution.

L'algorithme vu en cours est le suivant : (on suppose que vous avez récupéré les deux fichiers u1.base et u1.test)

• créer deux matrices U et V et les initialiser avec des nombres aléatoires uniformément distribués.
• Répéter :
  • Pour chacune des notes (u, i, r) de u1.base :
    • calculer la note prédite pour (u, i) : r (u, i) ← U_u V_i
    • calculer l'erreur de prédiction : e ← r - r (u, i)
    • mettre à jour les matrices U et V :
      • U_u ← U_u + η e V_i
      • V_i ← V_i + η e U_u
  • E ← erreur de prédiction sur u1.test (on mesure l'écart-type de l'erreur quadratique moyenne, i.e. la RMSE)
  • Si E ne diminue presque plus, quitter la boucle Répéter (break)

Deux points auxquels il faut prêter attention :

• η doit toujours rester petit par rapport à l'erreur e. Aussi, ajouter un mécanisme pour que η soit toujours au moins 10 fois plus petit que e.
• les données d'apprentissage (les notes (u, i, r)) doivent être parcourues dans des ordres différents à chaque itération de la boucle Répéter. Il faut les « mélanger ».

Une fois que cette première version fonctionne, il y a plein de petits trucs pour en améliorer ses performances. Par exemple :

• estimer non pas la note, mais l'écart à la moyenne de la note. Pour cela, on calcule la note moyenne μ dans les données d'apprentissage et on cherche les matrices U et V qui approxime au mieux r - μ (au lieu de r). Autrement dit, la note prédite pour (u, i) devient μ + U_u V_i
• utiliser la mise à jour suivante :
  • U_u ← U_u + η (e V_i - λ U_u)
  • V_i ← V_i + η (e U_u - λ V_i)
  où λ est une valeur petite, 0,02 par exemple.
• prendre K = 30

Recommandation

Écrire une fonction qui recommande 5 films qu'il n'a pas notés à un utilisateur identifié par son numéro.