Construire une IA générative sécurisé : l’intégration de Templafy et Gemini par oXya

Nous innovons en continu pour mieux accompagner nos clients et être en mesure de contribuer à leur succès. oXya Canada améliore en continue ses processus internes afin que nos équipes puissent avoir tous les outils nécessaires pour répondre plus efficacement aux demandes en interne et en provenance des clients. 

À cet égard, en 2022, oXya a développé un partenariat avec Templafy, une entreprise internationale basée au Danemark. Cette société de logiciels fournit entre autres des outils qui permettent aux professionnels de créer des documents et des courriels précis, conformes et de marque avec efficacité et aisance.

Cette solution a donc été mise à la disposition de nos utilisateurs finaux au Canada sous la forme d’add-ins dans la suite des produits Microsoft 365, la rendant simple d’accès et intuitive à utiliser.

Améliorer le Service à la Clientèle

Templafy est une solution de génération de document sur le cloud. Cela permet un accès centralisé aux contenus et modèles approuvés au sein de l’entreprise. Ainsi, l’information est disponible et demeure à jour pour nos consultants. 

C’est investissement a été bénéfique, car facilite le travail de nos consultants, notamment sur des engagements de type Follow-the-Sun. Cela nous permet entre autres d’être plus efficace sur le terrain en bâtissant rapidement des livrables conformes pour nos clients, tout en étant en accord avec notre identité de marque.  

Gemini, la Solution derrière notre Assistant IA sur Templafy 

Gemini, c’est votre porte d’accès direct à l’intelligence artificielle (IA) sur Google. Comme pour Azure OpenAI, avec Gemini, vous obtenez de l’aide pour rédiger, planifier et apprendre. Plus encore, l’IA générative vous aide à créer des contenus plus élaborés, plus diversifiés et plus complets. 

À cet égard, début 2024, oXya Canada a suivi un projet pilote pour accéder à la solution d’Assistant IA de Templafy.  

Nous avons d’abord utilisé la version Universal AI Assistant « Templafy Hosted », basée sur Azure OpenAI. Par la suite, nous avons collaboré avec Templafy pour développer un connecteur générique capable de se connecter à une API externe, « Custom AI Assistant ». Cela nous a permis de relier l’Assistant IA de Templafy à notre solution d’IA générative personnalisée et surtout au sein de son propre tenant sur Google Cloud.  

oXya exploite ainsi Gemini, le modèle le plus performant et le plus polyvalent de Google, conçu pour être multimodal et disponible en plusieurs tailles. 

Définir un Flux RAG Sécurisé sur Google Cloud 

L’intégration de l’IA générative au sein d’oXya offre des avantages considérables, notamment grâce à l’approche RAG (Retrieval Augmented Generation). Cette technique permet à l’IA d’accéder à un vaste corpus de connaissances internes pour contextualiser ses réponses. 

Ainsi, l’IA ne se contente pas de générer son output sur sa base de connaissance standard. Elle s’appuie sur des informations précises et à jour, provenant de différents départements de l’entreprise, vectorisé et stocké de manière sécurisée. C’est là toute la richesse d’un tel flux, en garantissant la pertinence et la fiabilité des contenus, mais aussi son data privacy. 

Grâce à l’intégration de l’Assistant AI de Templafy au RAG, les équipes d’oXya bénéficient d’un accès centralisé à des informations actualisées, ce qui leur permet d’agir rapidement et efficacement. L’IA devient un véritable assistant, capable de fournir des réponses précises et contextualisées, basées sur les connaissances spécifiques de l’entreprise.  

L’IA générative est un atout pour accélérer les processus et améliorer la productivité. Cependant, nous restons vigilants quant aux risques d’erreurs (hallucinations) et le partage de données sensibles. Afin de sensibiliser nos utilisateurs finaux, nous avons mis en place des formations quant à l’usage de l’IA dans le milieu professionnel et ses risques. Nous avons également établi une charte des bonnes pratiques à respecter. Chaque information générée doit être vérifiée. L’IA est un accélérateur, pas une vérité absolue. 

Anonymiser les Données Sensibles 

Dans le cadre de notre implémentation sur Google Cloud nous avons utilisé l’outil Cloud DLP (Data Loss Protection). Cela permet d’éviter toute fuite de données sensibles potentiellement inclus dans les prompts et envoyées à Gemini.

En effet, Cloud DLP identifie et classifie les données provenant des utilisateurs ou des objets vectorisés pour faire du RAG. On peut citer comme exemples les données personnelles (Personally Identifiable Information, ou PII), les données sensibles lié au contexte client ou encore les données financières. 

Une fois les données identifiées et classifiées par ce service de Google, Cloud DLP offre la possibilité de dé-identifier ces données grâces à des techniques telles que le masquage ou encore la tokenisation. On pourrait aussi filtrer les réponses LLM en temps réel pour supprimer ou masquer les données sensibles qui pourraient être générées. 

Notre objectif était donc d’avoir une solution complète, avec une sécurité renforcée des données et une protection en temps réel. 

La Pratique IA chez oXya Canada 

L’expertise et les compétences d’oXya sur Google Cloud a naturellement guider l’intégration du modèle Gemini dans Templafy. Nous continuons à investir sur notre statut de Google Cloud Premier Partner ainsi que sur la formation de nos ressources sur ses technologies. 

Un autre exemple de l’utilisation de Gemini : le projet Flashcard’it. 

Si l’IA générative se montre utile pour créer des contenus et des présentations par exemple, elle ne saurait se substituer à la fin à l’expertise de l’usager compétent. 

Cherchant constamment à se dépasser, à innover et à montrer tout son savoir-faire, oXya poursuit sa lancée avec les outils qu’il maîtrise déjà parfaitement. À la fin, c’est le client qui gagne.  

Pour tous les Services Google Cloud et Gemini, nos experts se tiennent à votre disposition. Demandez une rencontre dès maintenant ! Innovons de manière sécuritaire ensemble !