EmbeddingGemma 2 : une nouvelle piste pour rechercher localement dans textes, images et audio

L’annonce de Google présente un modèle de 740 millions de paramètres, avec des composants pour le texte, l’image et l’audio, publié sous licence Apache 2.0. Il produit des représentations numériques utilisables pour comparer des contenus. Un assistant qui rédige une réponse nécessite encore d’autres composants.

Dans un exemple fictif de maintenance, une personne cherche une photo ressemblant à une pièce, un passage de compte rendu ou un segment audio décrivant un incident. Les trois recherches demandent une préparation différente des fichiers. Le résultat doit aussi pointer vers un document ou un passage que l’utilisateur peut vérifier.

Le modèle peut donc contribuer à un système de recherche documentaire. Il faut encore organiser l’ingestion des fichiers, leur découpage et les références retournées. La qualité doit être mesurée sur des recherches que les employés effectuent réellement.

L’exécution locale peut répondre à certains besoins de maîtrise de l’infrastructure. Vérifiez la mémoire disponible, la durée d’indexation et le délai de recherche sur votre matériel. Un essai sur quelques fichiers ne décrit pas forcément le comportement d’un catalogue documentaire plus volumineux.

Conservez un jeu de questions et de résultats attendus. Pour chaque requête, notez si les premiers résultats contiennent le document utile et si l’utilisateur peut retrouver le passage concerné. Ajoutez les fichiers difficiles, les doublons et les documents anciens. Une recherche précise doit pouvoir signaler l’absence de résultat pertinent.

La protection des documents demande des accès, des sauvegardes et une gestion des mises à jour. La présence du modèle sur un serveur local ne suffit pas à régler ces responsabilités. Vérifiez également les éventuels services externes utilisés ailleurs dans le parcours.

Commencez par un corpus limité, utile à une équipe identifiée. Un service de maintenance peut choisir des manuels validés et des fiches d’intervention autorisées. Définissez les documents à exclure et la façon de retirer un fichier de l’index lorsqu’il n’est plus à jour.

Les permissions doivent suivre les utilisateurs et les sources. La nouvelle sur les contrôles d’accès RAG documentés par AWS décrit un cas où les droits changent après l’indexation. Ce cas mérite aussi un test dans un système local.

Le service RAG et base de connaissances peut cadrer le corpus, le matériel et les critères de recherche. Le choix du modèle vient avec ces contraintes et la procédure de maintenance du catalogue.