Billet sur les États généraux de la Bio Ethique

Les États généraux de la Bio Ethique début 2018 sur le thème « Quel Monde voulons nous pour demain? » avaient lancé une vaste consultation publique nationale via des réunions en Régions et Internet.

 

Des dizaines de milliers de participants se sont informés, ont voté et parfois ont émis des contributions. J’ai souhaité y participer.

Cette phase est désormais close. Prochainement le Comité de pilotage va rendre sa copie, fin juin ou début juillet. Il s’agira d’une synthèse des différents avis, votes et contributions. Elle devrait permettre aux législateurs (Gouvernement et Parlement, avec les experts) de moderniser le dispositif législatif en 2019.

Sur les 9 thèmes mis en débat, au moins 4 ont des liens avec la Silver Économie :

  • données de santé,
  • IA (intelligence artificielle) et robotisation,
  • santé et environnement,
  • prise en charge de la fin de vie.

 

J’ai choisi de m’intéresser en particulier au thème « IA et robotisation ». Sur le site des États généraux de la Bio Ethique, on trouvait la présentation générale suivante :

 

L’intelligence artificielle, au sens de robotisation, désigne le développement de machines, qui, du fait de leur dimension mécanique et électronique, peuvent agir directement sur la réalité physique et sensible, et interagir avec l’humain et son environnement.

La robotisation et l’Intelligence Artificielle transforment la médecine actuelle, facilitant ou réalisant de plus en plus de tâches jusque-là dévolues aux seuls médecins et aux autres personnels soignants. Le développement des technologies va accentuer ce phénomène, ce qui n’est pas sans conséquences pour les patients, pour les équipes soignantes et pour l’organisation des systèmes de santé.

L’intelligence artificielle a besoin d’une grande masse de données afin d’assurer son fonctionnement, cette thématique est donc très liée avec celle concernant les données de santé.

 

Le thème « IA et robotisation » n’a pas été le plus populaire (1853 contributions; 21353 votes;4513 participants). Ayant pris connaissance d’avis, souvent de rejet, j’ai choisi de produire une contribution positive.

 

Voici mon texte de contribution :

 

Titre : Principes et méthode pour accepter les robots et l’IA

 

Elargir l’approche, pourquoi ?

 

En parcourant les différents avis, trop centrés sur le secteur médical, on ressent le besoin de s’exprimer en élargissant la réflexion. En effet, l’IA et les robots concernent tous les secteurs de l’économie et de la vie sociale. Les activités de ces multiples secteurs impactent directement ou indirectement, la santé humaine : psychologiquement (dépendances, dépression, hyperactivité…) ou physiquement (gestes et postures, niveaux d’activité, prises de risques…).

 

Les ressources de l’IA sont nos données personnelles, notre vie privée et certaines données des paramètres qui peuvent alimenter une base d’information relative à notre santé dans une perspective prédictive. Les premiers robots développant de l’empathie, même s’ils n’ont pas encore apparence humaine, existent déjà et la tentation sera grande de se confier à eux. Les projets annoncés donnent le vertige !

 

Il faut donc considérer maintenant les conséquences possibles (intrusion, sollicitation permanente, influence, perturbation, manipulation…) sur nos vies, sur nos familles, sur notre société en générale de ces nouvelles offres de produits et de services développés par le secteur médical mais aussi par des entreprises.

 

Il faut alors éviter de trop travailler en « silos ». L’étanchéité trop forte entre le « médical » et le « non médical » n’est pas réaliste et nuit à l’efficacité. Evoluons d’une séparation formelle vers une transversalité dans l’action. L’exemple des interventions à domicile pour les personnes âgées constitue une bonne illustration alors que la prévention (souvent réalisée par les prestataires avec des outils technologiques faisant appel à l’IA) devient essentiel pour assurer une vieillesse chez soi paisible et de qualité.

 

La collaboration entre tous les acteurs s’impose : médicaux, industriels et prestataires.

 

Comment poser des principes d’action ?

  • Il faut accepter le progrès et surtout ne pas le nier. Dresser des barrages absolus serait illusoire, impossible et probablement inhumain car des personnes soufrent physiquement ou psychologiquement de situations pour lesquelles l’IA peut ou pourra apporter des solutions. Dans le contexte de la mondialisation, face à des univers culturellement différents (USA, Chine, Inde…) qui ont pris dans plusieurs domaines de l’avance grâce aux GAFAM (souvent sans éthique et sans beaucoup de restrictions), il convient d’organiser l’univers européen. 
  • Il ne faut pas accepter une ouverture débridée au risque d’y perdre notre âme et nos valeurs (à définir). Les théories du transhumanisme ne sont pas acceptables moralement. Pour autant, il ne faut surtout pas renoncer à créer de valeur et des emplois en France, en Europe alors que nous entrons, qu’on le veuille ou non, dans une nouvelle « révolution industrielle », véritable « tsunami », qui va tout changer.
  • Il n’y a pas d’autre choix que celui d’avancer avec prudence, donc pas trop vite, mais en gardant l’équilibre, en étant solide sur nos fondamentaux, nos valeurs. Ne donnons pas de signal d’une accélération trop forte car des faits inquiétants et l’immense complexité attirent notre vigilance.

 

Comment faire face ? Comment réagir face aux « empires » ?

En construisant un encadrement permanent :

  • Décider que la « bienveillance » pour la « fragilité humaine » doit rester/devenir le fil conducteur de l’action. Notre équilibre peut être construit sur les concepts de « bénéfices/risques » pour les personnes humaines. Ces personnes sont des femmes et des hommes bien sur, mais aussi des « Hommes fragiles » qu’il faut protéger : des fœtus, des enfants, des personnes handicapés et des personnes âgées dépendantes… Adoptons définitivement un regard bienveillant sur la fragilité.
  • Permettre à nos chercheurs, à nos laboratoires et à nos entreprises… de développer des alternatives respectueuses de l’Homme en créant des « bulles de liberté » sous contrôle, sinon nous resterons soumis à la dictature GAFAM & Co des empires américain, chinois… ! 
  • Imposer dès le départ une éthique aux acteurs. Les acteurs pour être « agréés » peuvent à minima adopter un management « vertueux » de type EFQM : démarche qualité, traçabilités de l’action, développement durable; production de résultats pour les clients et les capitaux-risqueurs mais aussi pour les salariés et les partenaires (fournisseurs, collectivité, associations…) de l’écosystème. La loi PACTE qui va permettre de redéfinir l’objet social des entreprises constitue une avancée qui va dans le sens à suivre et à amplifier.
  • Contrôler en permanence des acteurs via des organismes de certification habilités et l’Etat, avec l’appui du pouvoir judiciaire. Un système de sanctions crédible, dissuasif et applicable, doit être prévu, à l’encontre de tous les acteurs intervenant dans notre pays quelques soient leurs domiciliations dans le monde.
  • Préparer et former les personnels individuellement (les salariés, les jeunes, tous les français) pour leur permettre d’acquérir de nouvelles compétences : connaissance de l’éthique partagée, développement du sens critique, capacité de réaction, démarche de la co-conception, capacité de communication…
  • Développer collectivement des instances internes dans les structures actrices, dans des structures de portage (clusters, fédérations professionnelles…) réunissant des compétences multiples : éthiques, philosophiques, scientifiques, juridiques et économiques, ces instances devant guider la mise en place des innovations et en assurer un suivi éthique.

 

Le chemin est probablement un peu utopique et naïf, mais il est courageux. En avons-nous un autre possible ? Non. Il s’appuie sur le sens de la responsabilité des hommes et des femmes et fait appel à la vigilance des personnes et des citoyens ? Ce chemin témoigne d’une confiance en nos valeurs morales partagées, en la solidité de notre démocratie.

 

Les discussions, assez souvent complexes et émotionnelles, sont à suivre pour pouvoir adapter vos produits et prestations. Bonnes réflexions.

 

Jean-Paul Vimont

Administrateur TECHSAP Ouest