Utilisation de Scaleway pour un MVP d’IA

Parmi les différents projets R&D réalisés par STEAMULO pour ses clients et pour des besoins internes, STEAMULO teste actuellement en interne l’application IA “Autoscribe” permettant de rédiger automatiquement les comptes rendus de réunions.

La problématique part du constat de départ que 90% de personnes trouvent cela un peu ennuyant et consommateur en temps de réaliser les comptes rendus de réunion, alors que quasiment tout le monde est d’accord sur l’utilité de ses comptes rendus.

L’idée a donc été d’enregistrer les réunions afin de pouvoir élaborer par la suite automatiquement les comptes rendus des réunions sous format texte et de pouvoir ensuite les relire, les amender avant envoi aux participants.

STEAMULO a donc élaboré en interne un projet R&D “Autoscribe” permettant de réaliser dans un premier temps les comptes rendus de réunion des équipes internes (avec leur consentement).

Cette application tire parti des instances de Scaleway pour héberger son application notamment afin de garantir la fiabilité et l’évolutivité de l’infrastructure cloud.

Le besoin fonctionnel

La solution Autoscribe, s’articule en 3 étapes:

• La première est l’enregistrement de la réunion via l’application sur son ordinateur ou son téléphone
• Ensuite la seconde étape, intègre le modèle d’IA open-source Whisper, hébergé sur AWS via Hugging Face permet de réaliser une transcription écrite de ce qu’il s’est dit dans la conversation enregistrée précédemment
• Enfin en s’appuyant sur un autre modèle d’IA opensource (FLAN-T5 XXL), la solution réalise un résumé de cette transcription à l’aide d’un prompt contextuel fourni par l’utilisateur. L’utilisateur peut ensuite décider de modifier le contenu du résumé comme bon lui semble ou bien re-générer un nouveau résumé en modifiant le prompt afin d’enregistrer la conversation dans son dashboard.

Les prochaines étapes — comment relever les défis de la transition vers les instances AMP2 ?

Steamulo envisage avec enthousiasme l’adoption des instances AMP2 de Scaleway pour ses modèles d’IA, motivé par plusieurs avantages clés :

. Puissance de traitement améliorée : Les processeurs ARM des instances AMP2 sont spécifiquement conçus pour répondre aux exigences de calcul des applications d’IA, offrant ainsi une amélioration significative des performances.

. Mémoire et stockage optimisés : Les instances AMP2 proposent des options évolutives, essentielles pour gérer les volumineuses données associées à la modélisation de l’IA, assurant ainsi une utilisation optimale de la mémoire et du stockage.

L’anticipation de performances supérieures par rapport aux GPU traditionnels, et ce à un coût considérablement réduit, constitue un élément clé. Cette rentabilité revêt une importance cruciale pour Steamulo, car elle ouvre la voie à un projet économiquement viable, alliant puissance de calcul élevée et faisabilité financière.

De plus, cette transition s’aligne avec la stratégie globale de Steamulo qui privilégie l’utilisation de fournisseurs européens de services cloud, renforçant ainsi la souveraineté et la conformité des données. Ceci est particulièrement crucial dans le cas où Steamulo envisage de passer d’un projet de MVP R&D à un projet industrialisé avec un objectif commercial à part entière.

Conclusion — feedback :

L’idée d’enregistrer les réunions pour générer automatiquement les comptes rendus est intéressante et pourrait certainement aider à résoudre le problème du temps et de l’ennui liés à la rédaction manuelle des comptes rendus. Cependant, il y a quelques aspects à prendre en compte avant de lancer de manière industrielle la solution afin de s’assurer du succès ;

• Confidentialité et respect de la vie privée : Il faut s’assurer de respecter les normes de confidentialité et de protection de la vie privée. Les participants doivent être informés de l’enregistrement des réunions et donner leur consentement. Les comptes rendus doivent être stockés de manière confidentielle et sécurisée, ce qui encourage la migration vers les instances de Scaleway (hébergement en France).
• Qualité audio : La qualité de l’enregistrement audio est cruciale pour garantir une transcription précise. Il faut s’assurer que l’équipement utilisé pour l’enregistrement est de bonne qualité et que l’environnement de la réunion est propice à une bonne capture audio.
• Reconnaissance vocale : Les outils de reconnaissance vocale et les modèles utilisés sont très hétérogènes et dépendent de la langue et du vocabulaire métier utilisés. La qualité de la transcription de l’enregistrement audio en texte reste très aléatoire en fonction des solutions utilisées. Il est nécessaire de réaliser des tests de fonctionnement en fonction du modèle de transcription utilisé et du métier, …
• Correction manuelle : Même avec une technologie de pointe, il est probable que la transcription automatique comporte des erreurs. Il est important de prévoir un processus de révision manuelle à chaque étape du processus pour corriger les inexactitudes et améliorer la qualité. Tous les modèles nécessitent une phase d’apprentissage et de prise en compte des retours utilisateurs afin d’améliorer la qualité du rendu.
• Structuration du compte rendu : Nous sommes aperçus en réalisant des tests que le système génère difficilement des comptes rendus sans être guidé. Il faut donc aider les modèles d’IA à structurer le compte rendu en fonction de la typologie des réunions (daily meeting, entretien d’embauche, réunion de cadrage, …) en lui donnant en entrée les principaux points clés attendus tels que les décisions prises, les actions à entreprendre, etc.
  Cela nécessite donc de définir des modèles de comptes rendus en fonction des typologies de réunion, rendant ensuite la lecture et l’amendement plus efficace.
• ROI et business modèle : L’usage actuel représente un coût élevé, étant directement lié aux taux d’utilisation de la solution, en raison de sa tarification par appel. Dans le cadre de la planification de l’industrialisation de la solution, une transition vers les instances AMP2 de Scaleway nous paraît donc indispensable. Affaire à suivre.

La volonté d’innovation de Steamulo, illustrée par le projet AutoScribe et soutenue par les solutions cloud évolutives de Scaleway, est un moyen d’illustrer le potentiel de transformation de l’IA dans les processus d’entreprise.

NB: Lien vers le communiqué de presse de Scaleway