Mind the gap : gérer l’écart entre l’espoir et la réalité autour des IA conversationnelles.

Grands Modèles de Langage Avancés (LLMs): où en sommes-nous et et à quoi s'attendre dans les années à venir.

ALENIA PRODUCTION TOUR
LLM
IA
Par
Xavier Blary
le
9/11/2023
Mind the gap, gérer l'écart entre l'espoir et la réalité autour des IA conversationnelles

Les LLM n'existent que depuis quelques années et l'introduction de GPT en novembre 2022 les a catapulté sous les feux de la rampe. Durant cette conférence, nous aborderons les grands modèles de langage (LLM), leur potentiel, leurs défis et leur rôle dans le façonnement de l'avenir des technologies de l'information.

Les grands modèles de langage sont une nouvelle catégorie de modèles d'intelligence artificielle qui convertissent des données textuelles en vecteurs, facilitant ainsi la manipulation d'énormes volumes de données. L'introduction de l'architecture « Transformer » en 2017 par Google a représenté un changement majeur dans l’intelligence artificielle par rapport au traitement du langage naturel et aux réseaux neuronaux traditionnels. Les LLM permettent de traiter des volumes de texte bien au-delà des capacités humaine et permettent des interactions sophistiquées.

" Les LLM, c’est la mise à l'échelle du raisonnement humain " (Loïc Boutet, Safebrain.ai)

Actuellement, le marché du LLM est polarisé entre des acteurs majeurs, principalement OpenAI, Google et Meta. OpenAI est le plus connu grâce à ChatGPT, Google est le plus performant et Meta se concentre sur l'optimisation énergétique plutôt que sur les performances. Des acteurs de niche, quant à eux, répondent à des besoins spécifiques tels que la confidentialité. Mais la différence fondamentale entre ces différents acteurs est l’approche« open-source » contre les logiciels propriétaires. Alors que les modèles propriétaires soulèvent des inquiétudes quant à la centralisation des données et des connaissances, le mouvement open-source, mené par Meta, favorisel e développement de la communauté et offre divers niveaux d'accessibilité et de personnalisation. Les modèles les plus récents, comme Mistral, sont à la fois libres et hautement personnalisables, ce qui ouvre la voie à une expérience personnalisée de l'IA.

Une autre question fondamentale lorsque l'on cherche à utiliser les LLM est de trancher entre modèles fondationnels ou spécialisés. Les modèles fondationnels (par exemple, GPT) sont des modèles à usage général capables de traiter un large éventail de requêtes. Les modèles spécialisés, quant à eux, se concentrent sur des tâches ou des ensembles de données spécifiques. Les modèles fondationnels intègrent de vastes connaissances mais consomment beaucoup d’énergie, tandis que les modèles spécialisés offrent efficacité et précision dans leurs domaines restreints.

Quelle que soit l'approche, les LLM ont en commun d'offrir de nombreux avantages, principalement leur interface conversationnelle fournissant des réponses cohérentes et une expérience utilisateur intuitive. L'interaction est simple, s'adapte à différentes langues et est très conviviale. Les utilisateurs n'ont pas besoin d'apprendre à coder ou à naviguer dans des interfaces complexes, ce qui les rend accessibles à un large public.

" Pour la première fois, l'homme peut réellement interagir avec les machinesen parlant simplement. " (Loic Boutet, Safebrain.ai)

Les LLM excellent dans l'analyse automatisée et sont capables d'analyser rapidement et avec précision de vastes volumes de documents, une tâche qui nécessiterait autrement un travail humain important. Ils permettent désormais aux non-développeurs d'interroger et d'interagir directement avec de grandes masses de données.

C'est pourquoi l'une des utilisations actuelles les plus courantes des LLM est le support client, où ils surpassent les précédentes technologies de chatbot. Ils s'avèrent également particulièrement efficaces dans les départements RH, en automatisant les réponses aux questions de routine ou en améliorant le processus d'intégration. Leur patience et leur cohérence les rendent bien adaptés à ces tâches répétitives.

Dans la production informatique, les LLM se révèlent très utiles pour l'analyse automatisée des erreurs et l'analyse des causes racines. Ils offrent des capacités inégalées dans l'interprétation des données des logs, la prédiction des problèmes potentiels et la suggestion de solutions.

" Les LLM sont très doués pour identifier les signaux faibles et voir si ce qui fonctionne aujourd'hui fonctionnera toujours demain. " (Guillaume Besson, AI Builders)

Cependant, les LLM ne sont pas encore en mesure de corriger les incidents de production de manière autonome. Ceci nécessite encore une collaboration étroite entre l'homme et l'IA. L'obtention d'un fonctionnement sans faille en production reste un défi, soulignant la nécessité d'une intégration prudente entre les systèmes et d'une mise à l’épreuve approfondie de ces technologies.

" Les LLM vont certainement se doter d’API pour s’intégrer autres composantes de l'IT, mais cela prendra probablement10 à 15 ans"
(Loic Boutet, Safebrain.ai)

Malgré leur utilité et leur potentiel actuels, les LLM sont encore des technologies naissantes avec leurs défis et leurs risques spécifiques.

Tout d'abord, il existe un déficit de compétences prononcé et une offre limitée d'ingénieurs compétents en matière de LLM, ce qui rend difficile le recrutement des talents. Le matériel requis, en particulier les GPU très performants, est coûteux et très demandé, ce qui ralentit les taux d'adoption.

Par ailleurs, le travail avec les LLM présente des risques pour la confidentialité des données et la propriété intellectuelle, car les données saisies peuvent se refléter dans les résultats du modèle. Les utilisateurs doivent être prudents et conscients de ces risques inhérents, en particulier lorsqu'ils traitent des informations confidentielles.

Enfin, l'utilisateur doit être prudent, non seulement en raison des questions de propriété intellectuelle, de sécurité et de confidentialité mais aussi parce que les LLM peuvent générer des informations inexactes ou hallucinées, d'où la nécessité pour les utilisateurs de vérifier les résultats et de comprendre les limites du modèle. Derrière l'interface conviviale se cache une technologie complexe qui nécessite compréhension et prudence. Les utilisateurs doivent être formés à remettre en question et à vérifier les résultats, à utiliser l'outil comme un assistant plutôt que comme un décideur, et à maintenir un niveau de scepticisme sain pour atténuer les risques.

Tous les défis que nous venons de mentionner, inhérents à la technologie même des LLM, deviennent encore plus critiques lors de leur mise en œuvre dans les organisations. Il s'agit d'une tâche complexe qui nécessite de s'assurer de l'adhésion et de l’accompagnement du changement. C'est pourquoi les organisations doivent faire appel à des experts. Les consultants fournissent des informations précieuses, des évaluations des risques et des stratégies sur mesure, aidant les entreprises à prendre des décisions éclairées et à intégrer avec succès les LLM dans leurs activités.

"Ne faites pas les choses seuls. Les LLM sont des technologiesnouvelles, avec des défis, des risques et des limites très spécifiques. Lachose la plus importante aujourd'hui est de trouver l'aide adéquate." (Guillaume Besson, AI Builders)

Les stratégies de mise en œuvre des LLM doivent commencer par ajouter de la valeur et améliorer les structures existantes. Les LLM ne sont pas la solution miracle pour résoudre les problèmes opérationnels ou organisationnels. Les organisations doivent optimiser leurs processus et leurs stratégies opérationnelles avant de mettre en place des LLM. Et pour éviter d'ajouter des problèmes opérationnels aux problèmes organisationnels, les départements informatiques doivent être impliqués dès le début. Ils jouent un rôle crucial dans la mise en œuvre des LLM, car ces modèles sont gourmands en ressources très spécifiques. Une implication et une préparation adéquates des services informatiques sont essentielles pour une intégration en douceur et des performances optimales.

Le shadow AI n'est pas un risque, c'est une réalité. Des études montrent que 68 % des cols blancs utilisent Chat-GPT sans en parler à leurs supérieurs. (Loic Boutet, Safebrain.ai)

L'intégration des services IT est également un moyen de traiter le phénomène du shadow AI, où les employés utilisent les LLM sans supervision. C’est pourquoi les organisations devraient proposer de manière proactive des outils LLM officiels afin de maintenir le contrôle sur les informations et l'utilisation, et conduire le changement grâce à une formation et un soutien appropriés.

Comme toute nouvelle technologie, les LLM représentent des défis, mais si les entreprises peuvent trouver une expertise externe pour gérer ces systèmes, ils constituent déjà une solution viable. À l'avenir, il est fort probable que des solutions « on premise » émergeront, ce qui facilitera l'exploitation de ces modèles. Quoi qu’il en soit, les entreprises doivent dès à présent se préparer à relever les défis liés à l'adoption, à la formation et à la gestion technique des LLM.

Mind the gap, drawings from the conference by Nouss

Mind the gap, gérer l'écart entre l'espoir et la réalité autour des IA conversationnelles

Xavier Blary

Data Leader

LinkedIn IconEmail icon

Plus d'articles