IA responsable : à quels enjeux se préparer ?

Dans tous les secteurs d’activité, les solutions basées sur l’IA se multiplient et démontrent les possibilités offertes par ces technologies. Quels sont les cas d’usage appelés à se développer dans la sphère personnelle comme professionnelle ? Comment s’assurer de leurs effets positifs pour tous et limiter les risques intrinsèques liés à l’usage de l’IA ? Eléments de réponse avec Steve Jarrett, Chief AI Officer chez Orange Innovation et Brian Naughton, Data Scientist chez Google.

Comment percevez-vous les apports de l’IA pour les utilisateurs ?

Steve Jarrett : Chez Orange, notre conception de l’IA est qu’elle doit servir à doter les utilisateurs de super pouvoirs qui les aident à améliorer leur vie quotidienne. Cela s’applique évidemment à l’univers professionnel mais également personnel.
En tant qu’opérateur, le recours à l’IA va nous permettre d’être plus performants : avoir un réseau extrêmement fiable et sécurisé, des interactions plus efficaces et utiles avec nos clients.
Cette technologie apporte une assistance dans tous les aspects de la vie quotidienne liés à l’information. Je n’y vois qu’une seule condition : que cela se fasse de manière responsable, pas seulement d’un point de vue environnemental, mais aussi en matière d’éthique, de protection des données et de conformité aux réglementations.

Brian Naughton : L’IA générative va avoir un impact massif sur toutes les industries. La vitesse à laquelle cette technologie est adoptée est sans précédent, ce qui entraîne également une augmentation considérable des attentes et des avantages pour les utilisateurs. Elle va rendre nos tâches quotidiennes beaucoup plus efficaces. Par exemple, 88 % des développeurs disent avoir déjà constaté une augmentation de leur productivité grâce à l’utilisation de l’IA générative dans leur travail mais aussi une amélioration de la qualité du code produit. Certains analystes comparent ce que nous vivons à la prochaine phase de la révolution industrielle, celle où l’Homme interagit avec la technologie de manière intuitive.

Quels sont les cas d’usage que vous anticipez ?

Dans la sphère professionnelle, les trois principaux domaines d’utilisation en 2024 : interagir de manière naturelle avec la technologie, l’aide au développement de logiciels et l’amélioration de l’efficacité.

Brian Naughton, Data Scientist chez Google

B.N : Dans la sphère personnelle, il existe déjà des cas d’utilisation très intéressants :

• Uber a lancé un assistant basé sur l’IA générative qui vous suggère des offres de restauration et vous permet de commander facilement vos plats préférés sur le menu. Bientôt, l’assistant vous aidera à planifier vos repas, à dénicher des promotions lorsque vous faites vos courses et à commander des ingrédients à partir d’une recette.
• Une autre utilisation de l’IA générative que j’attends avec impatience : qu’elle nous aide à naviguer dans l’océan de contenus disponibles sur les plateformes de streaming sous la forme d’un service de suggestions personnalisées. L’assistant apprend ce que vous aimez et en fonction de votre humeur du moment, la plateforme vous propose un film. Il ne faudra plus passer des heures à scroller pour trouver quoi regarder !
• Un dernier cas d’utilisation passionnant concerne le secteur de l’éducation : les élèves auront bientôt leurs propres tuteurs qui pourront les aider à apprendre à leur rythme en leur présentant les informations de manière ultra-personnalisée en fonction de leurs besoins.

Dans la sphère professionnelle, les trois principaux domaines d’utilisation en 2024 seront probablement les chatbots de service à la clientèle permettant aux humains d’interagir de manière naturelle avec la technologie, l’aide au développement de logiciels pour faire de chacun un meilleur développeur et l’amélioration de l’efficacité grâce à l’automatisation de la recherche d’informations et aux recommandations.

S.J : Chez Orange, nous travaillons essentiellement sur trois grandes catégories d’usage.

• Tout d’abord, les réseaux intelligents. Nous utilisons l’IA pour optimiser nos investissements en essayant de prédire comment déployer nos réseaux de la manière la plus rentable. L’IA nous aide également à détecter les anomalies sur nos réseaux avant même que les utilisateurs ne s’en aperçoivent, ce qui contribue à améliorer la qualité perçue. Enfin, nous avons développé des cas d’usage “verts”, comme l’optimisation de la consommation des batteries.
• Il y a ensuite l’amélioration de l’expérience client, à la fois dans les interactions avec des bots mais aussi avec les agents de nos centres de contact. L’IA va retranscrire les échanges, aider à identifier le problème que l’utilisateur rencontre et suggérer en temps réel des actions à mener. L’IA peut également nous aider à identifier les préférences de nos clients pour leur faire des recommandations marketing personnalisées.
• Enfin, et de manière plus générale, l’IA peut nous aider à améliorer l’efficacité opérationnelle de toutes nos actions. Comme chaque entreprise, Orange dispose d’une quantité incroyable d’informations, utiles à de nombreux métiers, mais qui ne se doutent parfois même pas de leur existence. Notre ambition est de dissiper ce brouillard autour des informations, de briser les silos afin de démocratiser l’accès aux données et de rendre possible ce que nous appelons la Data Democracy, pour que chacun puisse s’en saisir. Grâce à l’IA, nos salariés pourront ainsi résoudre leurs problèmes en posant des questions basées sur le langage naturel.

Comment choisissez-vous les cas d’usage les plus utiles et sur lesquels il est pertinent de concentrer les efforts ?

B.N : Traditionnellement, les cas d’utilisation de l’IA étaient plutôt axés sur des tâches nécessitant des règles et des modèles bien définis (trading, détection de fraudes…) alors que l’IA générative est plutôt adaptée aux problèmes qui requièrent de la créativité et la capacité à générer de nouvelles idées. De manière générale, l’IA traditionnelle est plutôt adaptée aux tâches et l’IA générative à la créativité et à l’exploration. Il existe des domaines où les approches traditionnelles et génératives peuvent se compléter, par exemple la prévision de la demande et les moteurs de recommandation.

S.J : L’astuce pour créer des produits vraiment convaincants est de penser aux choses qui peuvent faire la différence et changer des vies. Chez Orange, nous réfléchissons dès le début à la pertinence en termes d’usage mais aussi à la valeur commerciale pour l’entreprise. Nous avons adopté une approche de Test & Learn qui consiste à expérimenter beaucoup d’idées et à les tester pour voir si elles sont utiles et répondent à un besoin. Si les conditions sont réunies, nous investissons des ressources pour créer des prototypes avant de passer ces solutions à l’échelle. 

De nombreux utilisateurs redoutent que l’IA ait des effets négatifs. Ces inquiétudes sont-elles justifiées ?

À court terme, notre priorité est de nous assurer que nous utilisons l’IA de manière responsable, en étant particulièrement attentifs à la question des biais et de la protection des données.

Steve Jarrett, Chief AI Officer chez Orange Innovation

S.J : À chaque fois qu’une technologie nouvelle peut changer de manière significative la vie des gens, notre devoir est d’adopter une approche mesurée. A court terme, notre priorité est de nous assurer que nous utilisons l’IA de manière responsable, en étant particulièrement attentifs à la question des biais et de la protection des données. Ce sont des défis importants à relever. Une autre difficulté majeure tient dans le fait que les modèles d’IA génèrent ce qu’on appelle des hallucinations : des réponses très convaincantes qui ne sont pas toujours exactes. Dès lors, comment leur faire confiance ? 

Pour répondre à ces questionnements, nous avons mis en place un Conseil d’éthique de la Data et de l’IA, composé d’une dizaine d’experts qui nous conseillent sur la façon d’aborder les situations les plus complexes. Au-delà de ce processus de gouvernance, nous investissons dans des formations pour que tous les salariés d’Orange qui interagissent avec ces outils soient conscients des risques potentiels. Nous sommes convaincus que la présence humaine est centrale. L’IA doit être au service des individus, et nous devons nous assurer que ce sont eux qui restent au pouvoir.

B.N : Google a publié sur son site web un ensemble de principes relatifs à l’IA qui détaille son engagement pour développer une IA sûre et responsable. L’explicabilité de l’IA est un facteur clé : comprendre pourquoi des modèles génèrent certains types de réponse permet de les améliorer. Nous nous engageons par ailleurs à ne pas développer d’IA susceptible de nuire ou de blesser des personnes. 

En interne, les équipes de développement de Google sont chargées d’évaluer et d’atténuer les risques des modèles qu’elles créent, en prenant en compte la manière dont les utilisateurs pourraient s’en servir. Nous fournissons aussi à nos clients des outils permettant de contrôler les réponses afin de filtrer des textes abusifs par exemple. Notre rôle est de mettre en place des garde-fous pour atténuer les risques de l’IA. 

Quelles seraient les conditions de l’émergence d’une IA responsable ? 

B.N : Cela nécessite un effort concerté entre chercheurs, développeurs et décideurs politiques. Faire un état des lieux en matière d’innovation et de développement de modèles est une chose mais il faut également s’intéresser à la recherche et aux outils permettant d’évaluer ces modèles pour en comprendre les limites et éviter les abus. Tout cela va très vite et je suis persuadé que nous allons y arriver. 

S.J : Je suis très satisfait des initiatives et réflexions en cours, notamment en provenance de l’Union Européenne, pour aborder ce sujet de façon coopérative et ouverte. Le fait que l’industrie parvienne à se mobiliser si rapidement me rend très optimiste.

Quels sont les objectifs principaux du partenariat en cours entre Orange et Google dans le domaine de l’IA ?

S.J : Google a mis en place une plateforme d’intelligence artificielle baptisée Vertex AI. Il s’agit d’un environnement unifié au sein duquel nous pouvons travailler non seulement sur des modèles fournis par Google et d’autres acteurs, notamment des modèles open source de Meta, d’Anthropic et de Mistral. Google met également à notre disposition des contenus de formation et des experts dans de nombreux domaines qui sont aussi les nôtres. 

Nous travaillons plus spécifiquement sur deux projets : 

• Des solutions logicielles et matérielles on-site pour les données et les modèles d’IA qui ne peuvent être transférés sur un Cloud public en France. 
• La reconnaissance vocale. Orange opère dans 26 pays avec une multitude de langues qui ne sont aujourd’hui pas bien comprises par l’IA. En collaborant avec l’équipe de Google Speech, nous espérons parvenir à la reconnaissance en temps réel de toutes les langues parlées au sein du groupe.

Brian, pourquoi avoir voulu travailler avec Orange ?

B.N : Parce qu’Orange, qui est l’un de nos clients les plus actifs en matière d’IA, a pris une avance incontestable sur le sujet de l’IA générative avec un positionnement particulièrement innovant.  

Steve, pourquoi avoir choisi Google ?

S.J : Parce que selon nous, Vertex IA est l’environnement idéal pour travailler avec différents types de modèles. Mais je crois que l’élément décisif était l’alignement de nos cultures d’entreprise, axées sur l’innovation et la relation collaborative, et notre volonté commune de vouloir améliorer la vie quotidienne des gens.