Quand les IA génératives hallucinent au sujet des élections européennes

L’ONG basée à Berlin Democracy Reporting International tire le signal d’alarme. Depuis au moins deux mois, les l’IA dites génératives de Google, Microsoft et OpenAI ont délivré de fausses informations aux internautes sur les élections européennes

Bien que toutes les IA conversationnelles des grandes firmes du numérique soient restées dans l’ensemble politiquement neutres au sujet des élections, ces programmes ont eu une tendance prononcée à l’hallucination, révèle le rapport de l’ONG Democracy Reporting International. C’est-à-dire, dans le jargon informatique, des IA qui ne pouvaient s’empêcher de fournir des réponses farfelues aux interrogations basiques des électeurs européens avec des questions aussi simples que où, quand et comment voter.

Des IA dépassées par les questions des électeurs européens

Les dates annoncées par les IA des grandes firmes pour participer à l’élection des parlementaires de l’UE ont été la plupart du temps erronées, indique le rapport de l’association. Autre exemple de dysfonctionnement, les dispositifs en ligne de Google, Microsoft ont tenté d’expliquer comment voter par correspondance au Portugal, alors que cette possibilité n’est absolument pas proposée dans le pays. À noter que le programme ChatGPT d’OpenAI affichait qu’il n’avait pas été formé pour fournir une réponse à ce type de question, pourtant élémentaire.

Des robots conversationnels grands publics parlant à tort et à travers

Selon les chercheurs de l’association berlinoise, ces erreurs mettent en évidence la tendance des robots conversationnels pilotés par IA à vouloir être plus « utiles » aux internautes que précis dans leurs réponses. Le degré important des inexactitudes que produisent ces logiciels grand public dans un contexte électoral, suggère que les mastodontes de l’IA générative n’ont pas procédé à une évaluation des risques de désinformations que présentent leurs programmes, comme l’exige, par ailleurs, le règlement européen sur les services numériques du DSA.

Mais entre la guerre informationnelle par IA interposées et les hallucinations de ces programmes, les européennes seraient en danger, estime Axel Dauchez, fondateur de Make.org. Cette plateforme de consultations citoyennes s’est donnée comme mission d’organiser en ligne des débats de société, y compris au sujet de la démocratie à l’ère des IA génératives : « Avec les IA génératives mises en ligne pour informer les électeurs de l’UE et l’utilisation malveillante de ces programmes qui permettent de mener une guerre informationnelle de très haute intensité, les élections européennes risquent à la fois d’être victimes d’attaques informatiques et d’ingérence des puissances numériques comme la Russie ou la Chine cherchant à tout prix à influencer le scrutin des élections. »

Les IA généralistes hallucineront toujours

Et Axel Dauchez de poursuivre : « Les fausses informations délivrées par les IA généralistes qui sont dues au problème dénommé hallucination ne sont pas près d’être réglées. Les employer pour des usages qui sont très sensibles comme d’informer les internautes sur les modalités de vote pour les européennes ou de résumer le programme des candidats en lice dans les différents pays de l’UE, n’est pas judicieux. Il conviendrait plutôt de s’appuyer sur des services en ligne qui n'utilisent pas des IA généralistes de type ChatGPT par exemple, afin de délivrer les bonnes informations aux électeurs européens. Nous travaillons actuellement sur ce problème de fiabilité des données sensibles délivrées par des IA avec le CNRS et la Sorbonne, afin de développer des programmes intelligents permettant ce type de service, qui aujourd'hui, n’existe pas. »

Des IA peu fiables dans un contexte d’élection

À moins de deux mois des élections européennes de 2024, Microsoft, Google et OpenAI devraient revoir la génération de contenu électoral par leurs IA, conclut l’étude menée par l’association berlinoise. L’ONG Democracy Reporting International rappelle que l’émergence rapide de ces programmes IA génératifs qui sont capables de générer du texte, de l’audio et de la vidéo à la demande des internautes permettent aussi influencer le vote des électeurs en délivrant des messages trompeurs qui seront alors repris et amplifiés sur les réseaux sociaux. Leur utilisation sans un contrôle sérieux de leur fiabilité suscite bien des inquiétudes aux agences gouvernementales de régulation du numérique dans le monde entier. Notamment, pour cette année 2024 qui est marquée par des élections cruciales, en Europe, aux États-Unis, au Royaume-Uni ou encore en Inde.