Un an plus tard avec les LLM : Prédictions et réflexions

Dernièrement, nous avons partagé certaines de nos prédictions pour 2024 dans le secteur de la traduction. L'une de nos prévisions est que la technologie alimentée par l'IA deviendra encore plus attrayante pour les entreprises et qu'elle deviendra essentiellement une exigence pour détenir un avantage concurrentiel dans le secteur. 2023 a été une année qui a montré à la fois les capacités extraordinaires de l'IA générative, en particulier les grands modèles de langage, mais qui a également révélé de nombreuses lacunes et la nécessité de prendre des décisions soigneusement planifiées en matière de développement et de déploiement.

En 2024, nous verrons probablement l'impact sur l'industrie de la traduction croître de façon exponentielle, touchant toutes les étapes du parcours de localisation. Bien que l'accent ait été mis jusqu'à présent sur la transformation et la génération de textes, le développement de modèles multimodaux pourrait commencer à avoir un impact sur des domaines tels que la localisation multimédia, la traduction vocale et la traduction d'images.

Les prédictions du LLM pour 2024

Olga Beregovaya, vice-présidente de Smartling chargée de la traduction automatique et de l'IA, a fait part de ses prévisions pour le secteur de la traduction en 2024 :

• Meilleure prise en charge des langues à longue traîne : Nous avons déjà constaté que les LLM peuvent créer des données d'entraînement pour des langues sous-alimentées en utilisant des modèles de langues adjacentes, ce qui rend la traduction automatique disponible et de meilleure qualité pour un plus grand nombre de localités. En outre, comme les gestionnaires de langues vivantes peuvent s'adapter rapidement aux particularités linguistiques locales et géographiques, la traduction pourra s'adresser à des publics plus diversifiés, tels que les groupes ethniques et sociaux.
• De nouvelles opportunités pour l'accessibilité : L'IA permettra aux entreprises d'adapter leurs produits et services à des publics de tous horizons et de toutes capacités. Par exemple, un modèle multimodal de langage étendu peut raconter un texte écrit pour les malvoyants et le transcrire pour les malentendants. L'IA ouvrira des perspectives de carrière aux personnes souffrant de troubles de l'apprentissage en jouant le rôle de co-pilotes et d'assistants d'apprentissage.
• Davantage de réglementations et de restrictions : 2023 a montré que l'absence de réglementation et de mesures législatives concernant l'IA générative peut avoir des conséquences néfastes. L'utilisation abusive de l'IA générative dans l'espace linguistique peut être l'un des domaines les plus dangereux, car elle peut donner lieu à des inexactitudes factuelles ou à une décision potentiellement préjudiciable, comme dans le cas tristement célèbre des décisions de prêt discriminatoires à l'égard de certains groupes ethniques et sociaux. Cette année, nous nous attendons à voir apparaître davantage d'organismes de réglementation internationaux et de garde-fous autour du développement et de l'utilisation des modèles d'IA.
• Des modèles plus petits et plus intelligents : Nous avons commencé à observer de très bonnes performances de la part de modèles plus petits, entraînés sur des ensembles de données plus petits pour des tâches spécifiques (comme Llama2 pour des langues spécifiques et des tâches de traduction). Nous prévoyons que de nombreux autres petits modèles de ce type seront disponibles dans l'année à venir, formés par des fournisseurs de technologie ou des prestataires de services linguistiques pour des langues et des domaines spécifiques.
• Un rôle continu pour la NMT : malgré le battage médiatique autour des LLM, la traduction automatique neuronale traditionnelle continuera à jouer un rôle dans l'espace de localisation. En particulier, nous avons constaté une utilisation continue de la personnalisation pour des domaines spécifiques. Le réglage fin des LLM est encore une tâche complexe et coûteuse qui comporte beaucoup d'inconnues et d'essais-erreurs, alors que la formation des NMT est une approche bien établie et performante qui est également très rentable. Nous finirons par voir la convergence des deux approches, et cela pourrait se produire en 2024.

Utilisation des LLM dans le cadre du Smartling

Nous avons tellement apprécié les prédictions d'Olga que nous avons décidé de demander à quelques-uns de nos collègues de réfléchir à l'impact des LLM sur leurs fonctions, sur le secteur de la traduction dans son ensemble et sur leurs attentes pour l'année à venir.

Voyons ce qu'ils ont à dire :

Benjamin Loy, ingénieur principal

Les LLM ont généré un nouveau point d'inflexion de l'automatisation pour l'ensemble du secteur de la traduction. Les problèmes fondamentaux liés à l'automatisation des transformations linguistiques sont enfin sur le point d'être partiellement ou totalement résolus grâce à ces nouvelles technologies.

Alex Yanishevsky, directeur du développement de l'IA

Les LLM ont profondément changé mon rôle, mais plus important encore, ils ont radicalement changé l'ensemble de notre secteur. En vue de l'année prochaine, mon objectif est le suivant : comment conseiller au mieux le client, c'est-à-dire, parmi la myriade de possibilités pour lesquelles nous pouvons utiliser les MLD, lesquelles offrent la plus grande valeur et font avancer le cadran le plus loin possible pour le coût encouru.

Chris Wyant, Assoc. Directeur des services linguistiques

Les LLM rendent la traduction automatique plus intelligente, plus rapide et plus efficace que jamais. Ces progrès technologiques permettent à nos traducteurs de travailler plus efficacement que jamais. Les linguistes peuvent se perfectionner et développer leur carrière en adoptant ces outils. Nos données montrent que la productivité est en hausse et que les revenus des linguistes n'ont pas subi le coup que beaucoup craignaient.

Grace Feeney, Responsable du développement des ventes

Les LLM ont révolutionné la façon dont mon équipe aborde la création d'e-mails. En rassemblant des données provenant de diverses sources sur le prospect et les objectifs de l'entreprise, les LLM permettent à mon équipe de jouer le rôle d'éditeur plutôt que de créer du contenu à partir de zéro.

Nicole Michel, chef de produit - Traduction automatique

Après le battage médiatique initial, il est devenu clair que les LLM sont vraiment bons pour des tâches spécifiques et très utiles pour certains cas d'utilisation, mais ils ne sont pas généralistes et ne remplaceront pas encore la TA neuronale, en particulier lorsque les flux de travail de TA utilisent également des moteurs Glossaire, TM et/ou des moteurs formés sur mesure. Les hallucinations, les coûts et la nécessité de concevoir une invite distincte pour obtenir les résultats souhaités pour chaque cas d'utilisation limitent actuellement l'adoption à grande échelle des LLM dans de nombreuses organisations.

Andriy Furdylo, Ingénieur chef d'équipe

J'ai remarqué de nombreuses tentatives d'intégration de modèles de langue (LLM) dans divers domaines d'activité, mais toutes n'ont pas été couronnées de succès. Si vous savez poser les bonnes questions, vous pouvez obtenir d'excellents résultats. Il n'est encore qu'un assistant, même s'il est très intelligent.

Max Sogin, vice-président de l'ingénierie

60% de l'équipe d'ingénieurs utilise quotidiennement ChatGPT ou GitHub Copilot. Nous avons constaté que les invites triviales sont nettement moins stables et performantes que les invites sophistiquées, qui font l'objet de multiples itérations de tests et d'améliorations. Je suis curieux de voir si les messages-guides feront finalement l'objet d'une propriété intellectuelle. Nous gardons également un œil sur les petits LLM comme LLama et Alpaca qui peuvent offrir une gestion des coûts et des modèles internes (plus petits). Les LLM deviennent très coûteux à grande échelle.

Il est clair que les LLM ont eu un impact important sur Smartling au cours de l'année écoulée, car nous avons adopté son utilisation à la fois dans notre produit et dans nos fonctions quotidiennes. Dans l'ensemble, nous pouvons certainement appeler 2024 "l'année de l'IA responsable", où les avantages de l'innovation seront récoltés à l'échelle mondiale d'une manière responsable, éthique et la plus efficace possible. Nous sommes impatients de travailler en partenariat avec nos clients pour explorer ensemble ces nouvelles capacités cette année.