Ne croyez pas le battage médiatique : promouvoir l'éthique et les principes de l'IA

L’article suivant est un article d’opinion rédigé par le Dr Niven R. Narain. Les points de vue et opinions exprimés dans cet article sont ceux de l’auteur et ne reflètent pas nécessairement la position officielle de Technology Networks.

De nos jours, il y a beaucoup de battage médiatique autour de l’utilisation de l’intelligence artificielle (IA) dans le développement de médicaments basé sur les données. Les progrès sont incroyables et répandus, mais quelle proportion de l’information est valide ? Il est temps de séparer les faits de la fiction, d’identifier certains des problèmes entourant le statu quo de la technologie médicale et de proposer des solutions pour l’avenir.

Pour commencer, il est primordial de reconnaître l’humanité, et de reconnaître ce qui est vraiment en jeu ici, et la raison pour laquelle nous utilisons l’IA en premier lieu. C’est-à-dire trouver des moyens d’aider les gens en utilisant toute la science et la technologie à notre disposition. Donc, si les gens sont importants, si notre humanité est une priorité, nous avons besoin d’une compréhension holistique de l’état de l’industrie. Nous ne débattons pas de l’utilisation de l’IA pour faire avancer la science, mais nous identifions la frontière entre le développement basé sur des hypothèses et basé sur les données.

Il est également important que nous préservions notre humanité en étant éthiques et honnêtes sur ce que l’IA peut vraiment faire. Trop souvent, une affirmation est faite au sujet d’une découverte de médicament alors que ce qui a été réellement découvert est une nouvelle biologie. Cela peut aussi être une excellente nouvelle, mais la clarté est essentielle. Il y a beaucoup de travail à faire d’ici au point final d’un médicament approuvé. Une découverte n’est vraiment une découverte que lorsqu’elle est scientifiquement validée. Nous traitons de la science de la vie et de la mort, et cela exige honnêteté et transparence, ainsi que le respect d’une terminologie appropriée.

Par une mesure similaire, nous devons gérer les attentes. L’IA est un nouvel outil brillant que nous pouvons utiliser, mais nous devons être réalistes quant à ce qu’elle peut faire. Nous pouvons l’utiliser pour déplacer l’aiguille à l’avant : pour accélérer la préparation des essais, pour nous assurer que nous faisons les bons essais et que nous impliquons les bons patients. Mais l’IA ne réduira pas le temps dont dispose la FDA pour examiner un nouveau médicament. L’IA ne réduira pas le temps de lancement commercial du médicament une fois qu’il aura été approuvé. Nous sommes sur un terrain fragile sur le plan éthique lorsque nous faisons des promesses excessives sur le temps et l’argent qui peuvent être économisés grâce à l’IA, à un moment donné, l’idéalisme vire à la tromperie, et c’est tout simplement irresponsable.

Nous devons également être aussi honnêtes que possible avec les patients et leurs familles sur ce qu’ils peuvent attendre de ces technologies. En fin de compte, ce qui compte le plus pour les patients, c’est la façon dont l’IA peut modifier et améliorer leur propre expérience personnelle. Il est de la plus haute importance de ne pas trop promettre, mais nous pouvons être optimistes quant à ce que les technologies améliorées peuvent apporter aux patients sur le plan de l’expérience.

Alors, quel est le plat à emporter? Que pouvons-nous faire pour éviter les pièges des promesses excessives et des livraisons insuffisantes ? Mon expérience m’a beaucoup appris, et en identifiant les faiblesses dans ce domaine des technologies émergentes, je pense que nous pouvons nous unir pour renforcer le système et éliminer les imposteurs au profit de tous. Voici quelques prochaines étapes concrètes.

Tout d’abord, nous devons nous mettre sur la même longueur d’onde en ce qui concerne la terminologie. Cela pourrait entraîner la création d’un dictionnaire de termes centralisé par IA, une première étape pour contrôler les surestimations et couper le battage médiatique avant qu’il ne soit diffusé. Des mots comme la découverte, la validation, l’ensemble d’outils et le modèle ont des définitions absolues sur lesquelles nous devons nous mettre d’accord. Nous évitons la confusion lorsque nous parlons la même langue et pouvons comprendre les données, les identifications et les découvertes de l’autre.

Deuxièmement, notre industrie doit se regrouper sous la direction de une nouvelle association, spécifiquement axée sur l’éthique en IA. Elle devrait comprendre des avocats, des éthiciens, des médecins, des mathématiciens, des scientifiques, des banquiers et des patients – de vrais patients. Nous avons besoin de la contribution de tous ceux qui participent au parcours de soins de santé, depuis les premières recherches jusqu’aux patients, en passant par les médecins et les pharmaciens. Nous ne pouvons pas nous attendre à résoudre des problèmes que nous ne connaissons pas ; nous avons besoin de commentaires pour identifier les problèmes dans le processus. Une association fédératrice nous fera réfléchir aux vrais défis qui nous entourent et fera éclater la bulle des hautes revendications non fondées de l’IA.

Troisième, la diversité et l’inclusion sont importantes. Chaque fois que l’IA est utilisée pour créer des modèles, vous devez être pleinement inclusif et prendre en compte toutes les races, tous les sexes dans le monde et à travers différents niveaux socio-économiques. Malheureusement, de nombreuses entreprises sont aujourd’hui guidées par le symbolisme et ne font qu’un effort superficiel ou symbolique pour donner l’apparence d’une égalité des sexes ou raciale dans une étude. Cependant, votre recherche ne vaut que par les ressources que vous employez, et si votre population ne reflète pas la population que vous servez, quel bien faites-vous réellement ?

Ensuite, et ce ne sera pas une idée populaire, mais L’IA a besoin d’un certain degré de réglementation. Les bons types de gouvernance sur la façon dont nous interagissons dans un environnement réglementé, et un niveau d’acceptation réglementaire sur les algorithmes et ce que nous énonçons, comment tout cela sort, ce qui est considéré comme de la recherche par rapport à ce qui est un produit oint. Comprenez-moi bien, la réglementation de la recherche peut être dangereuse, ce à quoi je suis sensible, mais une fois qu’il y a une revendication de produit, nous avons besoin d’une orientation claire sur la façon de naviguer dans le processus.

Enfin, mon dernier point est vraiment le début de la voie stratégique, et c’est un accent sur l’éducation. Les scientifiques des données actuellement diplômés des programmes de biologie computationnelle et d’IA ont besoin d’une formation plus holistique et réaliste pour l’industrie qui les attend. Les travaux menés au Schwarzman Center Institute for Ethics in AI de l’Université d’Oxford et au MIT Schwarzman College of Computing se distinguent dans le domaine. Ils reconnaissent le tournant décisif d’il y a 40 ans dans le développement de l’éthique médicale et cherchent à aborder l’éthique et la gouvernance de l’IA à partir d’une position philosophique similaire. Nous avons besoin de plus de programmes comme ceux-là. Il est essentiel que nos prochains grands penseurs comprennent l’importance de rester en contact avec notre humanité alors que nous développons des avancées technologiques socialement et éthiquement responsables.

A propos de l’auteur:

Le Dr Niven R. Narain est PDG de BERG LLC, une biotechnologie de stade clinique alimentée par l’intelligence artificielle qui tire parti de sa plateforme exclusive pour cartographier les maladies et révolutionner les traitements en oncologie, neurologie et maladies rares.