AI Weekly : les pandas flous contre le "dernier kilomètre" de l'IA

Vous voulez AI Weekly gratuitement chaque jeudi dans votre boîte de réception ? Inscrivez-vous ici.

Mes flux d’actualités liés à l’IA cette semaine étaient remplis d’images de style peinture à l’huile de pandas flous portant des vestes en cuir et faisant du skateboard, grâce au nouveau modèle de diffusion Imagen de Google Research. Je l’admets : j’ai hâte de caresser le corgi ultra-réaliste portant des lunettes de soleil sur un vélo à Times Square à New York.

J’ai également parcouru le terrier du lapin Twitter de tout, de la façon dont le logiciel controversé de reconnaissance faciale de Clearview AI arriverait dans les entreprises privées et les écoles – à plus de mèmes, de fils de discussion et de messages remplis d’emoji autour du will-AGI-come-soon-or-won ‘t-AGI-ever-come débat que j’ai souligné la semaine dernière.

Cependant, j’ai décidé de concentrer ce numéro d’AI Weekly sur quelque chose de très actuel et applicable aux entreprises de toutes formes et tailles travaillant à mettre en œuvre l’IA dans leurs organisations : c’est-à-dire le problème de déploiement de l’IA du “dernier kilomètre”.

Oh, et l’agenda de Transform 2022 est maintenant en ligne.

Creusons.

Sharon Goldman, rédactrice en chef et écrivain
Twitter : @sharongoldman

Le problème du « dernier kilomètre » de l’IA peut-il être résolu ?

Depuis que j’ai rejoint VentureBeat il y a six semaines pour couvrir le rythme de l’IA, peu de statistiques m’ont été répétées plus souvent qu’une version de “la grande majorité des projets d’IA et d’apprentissage automatique échouent”.

Que ce nombre soit cité comme 80%, 85% ou 90%, il semble clair que le plus gros problème est de faire passer les projets d’IA et d’apprentissage automatique du stade pilote à la production. C’est ce qu’on appelle le problème du « dernier kilomètre ». Le terme vient du célèbre obstacle du « dernier kilomètre » de l’industrie de la chaîne d’approvisionnement, qui est décrit comme la dernière étape très complexe du parcours de transport des personnes et des colis depuis les hubs jusqu’à leurs destinations finales.

Cette semaine, j’ai demandé à certains fournisseurs, dirigeants et praticiens de l’IA leurs réflexions sur la manière d’aborder le problème du « dernier kilomètre » et sur la manière dont les organisations peuvent relever le défi.

Les entreprises doivent développer la fluidité du déploiement des modèles

“Le défi est que de nombreuses entreprises manquent tout simplement de l’expertise en ingénierie des données, en science des données et en MLops nécessaire pour créer correctement un modèle, le placer dans un système ou un environnement (cloud ou sur site), le déployer et l’exécuter. Les entreprises doivent maîtriser la manière de déployer des modèles dans divers environnements, d’exécuter ces modèles et de gérer les modèles pour la dérive et les problèmes connexes. Cela ne signifie pas qu’ils doivent embaucher des légions de talents techniques. Au lieu de cela, ils peuvent simplement acquérir les compétences et la fluidité de base de l’organisation et tirer parti des acteurs émergents qui assument une grande partie de cette complexité et offrent MLaaS ou machine-learning-as-a-service.

Edward Scott, PDG, ElectrifAi

Nous avons besoin des “mauvais” modèles d’IA qui ne sont jamais publiés

« C’est facile de dire que 80 % des modèles ne partent jamais en production. Mais nous avons besoin que ce travail soit fait pour que les 20% qui sont publiés soient en fait les bons. Une grande partie de l’élimination des biais, de l’optimisation et de l’apprentissage provient des “mauvais”, mais vous ne voulez pas les publier. Je pense que cela met en évidence l’interaction entre les attentes du leadership et les problèmes réels liés à l’exécution d’un programme d’apprentissage automatique. Est-il raisonnable que 100 % de tous les modèles arrivent en production ? Bien sûr que non – certains problèmes ne peuvent pas être résolus par l’apprentissage automatique, et les personnes qui y travaillent continuent à travailler sur quelque chose d’autre qui entre réellement en production. Mais vous avez aussi des modèles qui ne réussissent pas pour des raisons plus structurelles. Ce sont les scientifiques des données qui ne peuvent pas réellement accéder aux données. Les ingénieurs ne peuvent pas accéder à l’infrastructure, ou les systèmes sont trop fragmentés pour effectuer de gros travaux de données.

– Joe Doliner, cofondateur et PDG, Pachyderm

Il est essentiel de se concentrer sur les résultats et la stratégie de données

« Le « problème du dernier kilomètre » désengage les praticiens des données et coûte aux organisations des centaines de milliers de dollars. Imaginez une équipe de science des données ayant accès aux données qu’elle souhaite, qui a construit et validé un modèle prédictif, ce modèle génère des résultats passionnants localement… et ensuite il est laissé sur l’étagère. Pour les équipes de science des données, il est essentiel de s’éloigner de l’approche traditionnelle des « projets de science des données » et de se concentrer sur les résultats. Au niveau organisationnel, une stratégie de données qui inclut clairement des dispositions pour l’IA est la première étape. L’étape suivante consiste à réunir les praticiens des données (ingénieurs et scientifiques) dans des équipes et des groupes de travail interfonctionnels. Les équipes techniques ont besoin de la contribution des utilisateurs commerciaux pour s’assurer que leurs modèles sont adaptés à l’objectif et répondent à un besoin commercial, et les utilisateurs commerciaux doivent être à l’aise avec le modèle et comprendre parfaitement comment une application augmentera leur travail quotidien.

– Stuart Davie, vice-président de la science des données chez Peak

Les processus, les procédures et les rôles doivent être clairement définis

“Il y a trois semaines, un client potentiel a déclaré qu’un modèle qui gérait la tarification des assurances dans son organisation n’avait pas été examiné depuis 18 mois. Le data scientist qui a créé le modèle avait quitté l’organisation, et le modèle n’était ni documenté ni surveillé. L’organisation s’était appuyée sur son équipe de science des données pour concevoir et maintenir ses modèles. Bien qu’il s’agisse d’une manière parfaitement acceptable de gérer une entreprise, il doit y avoir des processus, des procédures et des rôles clairement définis lorsque quelque chose arrive en production. Les scientifiques des données trouvent une grande signification à ce que leurs modèles d’IA soient mis en production. En fait, après le salaire, le manque d’impact commercial est la principale raison pour laquelle les data scientists quittent les entreprises. Cela dit, beaucoup ne comprennent pas ou veulent maintenir le fonctionnement de la production, d’autant plus que les modèles déployés passent de deux à trois à des centaines.

Grant Case, responsable de l’ingénierie des ventes APAC, Dataiku

L’ingénierie de l’IA va changer la donne

“Le véritable différenciateur pour les entreprises résidera dans leur capacité à améliorer continuellement la valeur grâce à une évolution rapide de l’IA. L’« ère de l’ingénierie de l’IA » sera nécessaire pour que les entreprises parviennent à une véritable IA centrée sur le client. L’ingénierie de l’IA est une discipline qui permet aux responsables commerciaux et informatiques de travailler ensemble pour déployer des modèles reproductibles pour le succès des solutions d’IA. Selon Gartner, AI Engineering, l’une de ses 12 principales tendances technologiques stratégiques de 2022, opérationnalisera la fourniture de l’IA pour assurer sa valeur commerciale continue. C’est un pont essentiel entre les MLOps et l’IA centrée sur le client, où les entreprises verront une valeur durable car elles seront en mesure de vraiment connaître et servir leurs clients tout au long du parcours client.

– Akshay Sabhikhi, fondateur et COO, CognitiveScale

J’espère que vous partagerez avec moi vos réflexions sur le problème du “dernier kilomètre” de l’IA : sharon.goldman@venturebeat.com.

PS J’accepte également les mèmes Twitter liés à l’IA, les emojis et les images d’ours en peluche nageant le 400 m papillon aux Jeux olympiques.

La mission de VentureBeat est d’être une place publique numérique permettant aux décideurs techniques d’acquérir des connaissances sur la technologie d’entreprise transformatrice et d’effectuer des transactions. En savoir plus sur l’adhésion.