Comment des médecins générés par l'IA sont devenus une entreprise YouTube d'envergure mondiale ciblant un public d'âge mûr

Celi Ferreira, âgée de 82 ans, regardait YouTube lorsqu'un médecin est apparu à l'écran et lui a suggéré de protéger sa vue en mangeant des fruits. Elle a trouvé cela plausible.

Mais il ne s'agissait pas d'une véritable chaîne médicale et ce médecin n'existait pas : son visage et sa voix avaient été créés par l'intelligence artificielle (IA).

Bien que signalée par YouTube comme étant générée par l'IA, la vidéo avait attiré près de 300 000 vues et des centaines de commentaires. Et malgré cette mention, Mme Ferreira a déclaré à la BBC qu'elle avait cru écouter un vrai médecin.

Ce n'est pas un cas isolé : une enquête a recensé 29 chaînes en portugais utilisant des médecins générés par l'IA, totalisant au moins 70 millions de vues.

Et ce contenu a une portée mondiale : BBC News Brasil a recensé au moins 50 chaînes YouTube proposant des tutoriels pour apprendre à créer des vidéos mettant en scène des médecins générés par l'IA dans des langues telles que le portugais, l'anglais, l'hindi, l'espagnol, le français, l'italien, le polonais, l'allemand et le turc.

Ces créateurs considèrent les personnes âgées comme un créneau rentable, estimant qu'elles disposent de plus de temps libre pour regarder des vidéos et d'un revenu disponible pour acheter des produits.

Un médecin légitime dont l'image a été utilisée à mauvais escient met en garde contre le fait que les conseils prodigués par ces faux médecins pourraient avoir de graves conséquences et « causer des dommages mortels aux personnes âgées ».

Google, propriétaire de YouTube, a déclaré que les règles de la plateforme s'appliquaient au contenu généré par l'IA et interdisaient la désinformation médicale susceptible de causer de graves préjudices dans la vie réelle.

Le principe de ces vidéos est simple : un visage rassurant vêtu d'une blouse blanche, accompagné d'une voix synthétique apaisante, met en garde contre un aliment, un médicament ou une habitude courante qui pourrait mettre silencieusement en danger les personnes âgées. Les vidéos proposent ensuite un remède prétendument méconnu.

Dans certains cas, les médecins sont de pure invention. Dans d'autres, l'IA reproduit le visage, la voix ou l'identité de véritables cliniciens sans leur consentement. Ces deux versions peuvent donner au public l'impression qu'un professionnel qualifié dispense des conseils médicaux pertinents.

Les 29 chaînes en portugais utilisant des médecins générés par IA ont été mises au jour dans un rapport de CTRL+Z, une organisation journalistique brésilienne à but non lucratif. BBC News Brasil les a passées en revue afin de repérer d'autres chaînes et des schémas récurrents, notamment des titres similaires.

Nous avons identifié Ferreira après avoir recueilli environ 27 000 commentaires publiés sur les vidéos de ces chaînes YouTube et utilisé un processus de filtrage pour repérer les témoignages de changements de comportement signalés par les utilisateurs.

Des dizaines de commentaires attribués à des personnes se présentant comme des personnes âgées indiquent qu'elles ont suivi les conseils de médecins générés par l'IA, soit en commençant des traitements à domicile, soit en arrêtant des médicaments précédemment prescrits.

Dans l'un d'entre eux, un utilisateur qui affirme avoir 85 ans explique avoir remplacé l'oméprazole – un médicament destiné à réduire la production d'acide gastrique – par des patates douces. Dans un autre, une femme de 77 ans déclare qu'elle n'est pas allée chez le médecin depuis trois ans et remercie le médecin IA pour ses conseils sur la maladie d'Alzheimer.

Dans les tutoriels YouTube repérés par BBC News Brasil, les formateurs conseillent de créer des titres et des scripts qui suscitent la peur et un sentiment d'urgence afin de faire croire au spectateur qu'il est confronté à un risque sanitaire immédiat.

Les créateurs gagnent de l'argent à la fois grâce aux vues sur YouTube et à la vente d'e-books et de produits dont la publicité est diffusée sur leurs chaînes. Un formateur basé au Brésil, Jhef Coimbra, a déclaré que les créateurs pouvaient gagner jusqu'à 30 000 reais (5 816 dollars) par mois.

Dans une autre vidéo, il a montré comment adopter un ton alarmiste, en conseillant aux gens de « vraiment y aller à fond » à l'aide de l'exemple suivant : « Avant d'aller vous coucher, faites attention à ça. Faites attention à ne pas mourir dans votre sommeil. »

Après que BBC News Brasil l'a contacté, l'accès à l'une des vidéos a été bloqué au public.

Dans un communiqué, M. Coimbra a précisé que les chaînes d'IA présentées étaient des exemples et non les siennes. Il a déclaré qu'il enseignait la création de contenus informatifs réalisés à l'aide de l'IA, et non des contenus destinés à se substituer aux professionnels de santé, et qu'il n'avait pas l'intention d'encourager les violations des règles de la plateforme ou d'autres normes.

« Aucune empathie »

Nous avons identifié au moins cinq chaînes YouTube utilisant l'image d'un médecin brésilien réputé sans son autorisation afin de promouvoir des allégations alarmistes en matière de santé et des traitements naturels susceptibles de se substituer aux médicaments prescrits.

Hélio Brasileiro, qui anime depuis longtemps une chaîne YouTube comptant près de 300 000 abonnés, a signalé ces vidéos à YouTube et déposé plainte auprès de la police à São Paulo.

Au-delà de l'utilisation abusive de son image, il a déclaré que sa principale préoccupation était que des spectateurs âgés puissent cesser de prendre leurs médicaments après l'avoir vu associé à ces conseils.

« Celui qui crée cela manque totalement d'empathie », a-t-il déclaré à BBC News Brasil. « Essayer de gagner de l'argent de cette manière peut causer un préjudice fatal aux personnes âgées. »

Le plus grand risque est que les patients prennent des substances inefficaces qui pourraient soit aggraver leur état, soit retarder le diagnostic, explique Jaime Zaladek Gil, gastro-entérologue à l'hôpital israélite Albert Einstein de São Paulo.

« Ce qu'il faut, c'est un examen médical approprié et un meilleur réseau de diagnostic, pas seulement une vidéo prétendant qu'un remède va résoudre tous vos problèmes », ajoute-t-il.

Selon des experts juridiques brésiliens, les créateurs qui se font passer à tort pour des médecins s'exposent à des poursuites pénales.

Google, propriétaire de YouTube, a déclaré que les règles de la plateforme de partage de vidéos s'appliquaient aux contenus générés par l'IA et interdisaient la désinformation médicale susceptible de causer de graves préjudices dans la vie réelle.

L'entreprise a précisé que les mentions aidaient les spectateurs à comprendre quand un contenu avait été modifié ou généré.

Après que BBC News Brasil a contacté l'entreprise au sujet de la cartographie CTRL+Z, YouTube a supprimé certaines des plus grandes chaînes de l'échantillon, qui totalisaient environ 41 millions de vues.

De son côté, Celi Ferreira a déclaré vouloir apprendre à mieux reconnaître ce qu'elle voit en ligne.

« Pour mon âge, je me considère plutôt douée en informatique, mais je ne sais toujours pas faire la différence entre ce qui relève de l'IA et ce qui est réel », explique-t-elle.