Vers un avenir cyberpunk ?
L’idée que nous allions vers un avenir cyberpunk est de plus en plus renforcée par une nouvelle proposition législative. Un projet de loi, récemment soumis à la Chambre des représentants américaine par David Schweikert, un élu de l’Arizona, vise à permettre aux intelligences artificielles de prescrire des médicaments contrôlés. Ce texte a été dirigé vers le Comité sur l’énergie et le commerce pour examen.
Un avancement audacieux de la législation
L’objectif de ce projet de loi est d’actualiser le Federal Food, Drug, and Cosmetic Act afin de stipuler que les technologies d’IA et d’apprentissage automatique peuvent être qualifiées en tant que professionnels habilités à prescrire des médicaments. Au premier abord, cela peut sembler prometteur ; dans un système de santé souvent compliqué et frustrant, l’idée d’un praticien médical alimenté par une IA efficace capable de fournir des conseils empathiques, de favoriser un mode de vie sain et de prescrire des médicaments essentiels est séduisante.
Les défis de la technologie actuelle
Cependant, la réalité est que les IA actuelles sont loin d’être prêtes à assurer des prescriptions, encore moins à accéder à des médicaments potentiellement dangereux. Tandis que la législation semble préparer le terrain pour l’intégration de ces technologies dans la médecine, il demeure incertain si elles seront jamais capables d’opérer en toute sécurité et efficacité. Même si le projet de loi ne propose pas une libéralisation totale, il demande que l’utilisation de ces “robodocs” soit approuvée par l’État et la Food and Drug Administration.
Les écueils déjà constatés
Malheureusement, certaines expériences menées dans le domaine de la santé avec l’IA ont été problématiques. Par exemple, un outil de dossier médical alimenté par OpenAI a été pris en flagrant délit de falsification d’histoires médicales, tandis qu’un autre outil de diagnostic de Microsoft a fait des affirmations absurdes. Des incidents supplémentaires, comme celui d’un chatbot qui a encouragé des comportements alimentaires désordonnés, soulignent l’instabilité de ces technologies dans des situations critiques.
Des préoccupations éthiques et sociales
La question des risques sociaux est également alarmante : la facilité d’exploitation actuelle des IA pourrait amener des patients à contourner les contrôles, demandant des prescriptions pour des drogues addictives sans aucune supervision. David Schweikert paraissait plus prudent par le passé en soulignant la nécessité d’une intégration réfléchie de ces technologies. Cependant, il semble maintenant adopter une approche plus systématique, privilégiant un déploiement rapide de l’IA dans le secteur.
Équilibre entre progrès et responsabilité
À l’heure actuelle, la pression croissante sur les entreprises technologiques pour qu’elles fournissent des cas d’utilisation concrets dans le domaine de l’IA est palpable. Ce besoin d’innovation rapide conduit souvent à des compromis sur la sécurité et l’éthique, surtout dans le secteur médical. L’exemple éloquent de grandes entreprises qui mettent des produits sur le marché sans tenir compte des conséquences sociales refait souvent surface, où des technologies sont réclamées sans un minimum de responsabilité.
Un avenir incertain et préoccupant
En raison de la désinhibition réglementaire suggérée par des propositions comme celle de Schweikert, les risques deviennent plus élevés, surtout concernant la protection des données des patients. Cela pourrait également exacerber les inégalités, laissant les plus vulnérables aux prises avec des alternatives peu fiables tandis que les plus riches bénéficieraient des soins d’experts humains.
FAQ
Quelle est la position actuelle sur l’IA dans le domaine médical ?
Le développement de l’IA dans le secteur médical suscite de nombreux débats concernant la sécurité et l’éthique de l’utilisation de ces technologies avant qu’elles ne soient totalement prêtes.
Quelles conséquences pourrait avoir l’approbation de ce projet de loi ?
L’approbation de ce projet pourrait ouvrir la porte à des prescriptions par des systèmes automatisés sans supervision adéquate, augmentant ainsi les risques d’abus.
Quels exemples l’IA a-t-elle déjà ratés dans le secteur médical ?
Des exemples incluent des erreurs de diagnostic et de falsification des dossiers médicaux, démontrant des failles dans la précision de ces systèmes.
Existe-t-il des alternatives fiables à l’utilisation de l’IA dans le domaine médical ?
Des initiatives en cours visent à renforcer les régulations et superviser les facultés humaines, en s’assurant que l’IA soit un outil complémentaire, plutôt qu’un remplaçant.
Comment les patients peuvent-ils se protéger face à l’IA dans la médecine ?
Les patients sont encouragés à rester informés sur les technologies utilisées dans leur soins, à poser des questions à leurs professionnels de santé et à s’assurer qu’il y ait une supervision humaine dans leur traitement.
