Deep fake : la nouvelle menace qui plane sur les démocraties africaines

Ecofin Hebdo) – Alors que les gouvernements africains peinent encore à endiguer la propagation des fake news, sources de radicalisation de l’opinion et de tension sociales, un nouvel outil de désinformation dopé aux dernières technologies pointe à l’horizon. Le deep fake, du fait de son altération profonde de la réalité, porte sur le continent un risque important de déstabilisation des systèmes politiques africains relativement fragiles et empreints de nombreuses frustrations sociales.

Bien qu’il semble encore assez méconnu en Afrique, le deep fake suscite tout de même déjà des inquiétudes dans plusieurs pays du continent. Cette nouvelle tendance technologique de désinformation, qui touche à l’heure actuelle de nombreux pays d’Asie, d’Europe et d’Amérique, pourrait causer de gros dégâts en Afrique où la culture numérique est encore très faible pour distinguer le vrai du faux.

Cette nouvelle tendance technologique de désinformation, qui touche à l’heure actuelle de nombreux pays d’Asie, d’Europe et d’Amérique, pourrait causer de gros dégâts en Afrique où la culture numérique est encore très faible pour distinguer le vrai du faux.

Le deepfake ou hypertrucage, technique de synthèse d’images basée sur l’intelligence artificielle, réalisée par superposition de fichiers audio et vidéo existants sur d’autres vidéos pour en former une nouvelle, brise la crédibilité que la vidéo et l’audio conféraient encore d’une certaine manière à l’information.

 

Un exemple de deep fake : la leader française d’extême droite Marine Le Pen qui parle arabe.

 

Si la prolifération des fake news a entraîné une certaine remise en question systématique de toute information écrite, la confiance en nos yeux et oreilles préservait encore l’authenticité de l’information audio-vidéo.

« Là, vous pourriez vraiment avoir un impact sur la façon dont la société réagirait. Vous pourriez même répandre des choses qui provoqueront la mort des gens »

« Nous sommes déjà au point où vous ne pouvez pas faire la différence entre les deepfakes et la réalité (…) C’est effrayant (…) Pensez simplement au potentiel d’abus et de désinformation que nous pourrions voir avec ce genre de chose (…) Cela pourrait être encore plus dangereux dans les pays en développement où la culture numérique est plus limitée. Là, vous pourriez vraiment avoir un impact sur la façon dont la société réagirait. Vous pourriez même répandre des choses qui provoqueront la mort des gens », explique Hao Li, professeur agrégé d’informatique et directeur du Vision and Graphics Lab de l’Institut des technologies créatives à l’Université de Californie du Sud.

 

Semer le trouble

Le deep fake, il s’est véritablement fait connaître en Afrique par le Gabon où cette technologie de désinformation a été d’une certaine manière un déclencheur du coup d’Etat manqué du 7 janvier 2019.

 ALI

 

Tout part de la traditionnelle vidéo d’adresse à la nation du chef de l’Etat Ali Bongo depuis Rabat au Maroc, en décembre 2018, diffusée sur les télévisions nationales et les réseaux sociaux.

Le deep fake s’est véritablement fait connaître en Afrique par le Gabon où cette technologie de désinformation a été d’une certaine manière un déclencheur du coup d’Etat manqué du 7 janvier 2019.

Le président de la République dont la santé fait l’objet de nombreuses spéculations dans les médias, après de long mois d’absence de suite d’un accident vasculaire cérébral survenu en août 2018, y est perçu « bizarre » par de nombreux sociaunautes gabonais et même par l’opposition politique locale qui soutiennent qu’il s’agit d’un deep fake crée pour dissimuler à la nation l’incapacité du président à gouverner ou même son décès. C’est dans ce contexte de doute sur le véritable état de santé du chef des armées qu’un groupe de militaires, convaincus que quelque chose cloche, tentera de prendre le pouvoir par la force. Si au Gabon, il s’est avéré avec le temps que le président est bel et bien en état de gouverner et que le deep fake soulevé n’en était finalement pas un, sous d’autres cieux, cette manipulation technologique est utilisée de manière plus offensive pour manipuler les foules, inciter à la violence, insuffler la méfiance.

 

Quelques démonstrations de deep fake : Obama, Trump…

 

Selon le laboratoire DeepTrace, dans son rapport 2019 « The State of Deepfakes: Landscape, Threats, and Impact », le deep fake se développe trop vite. Jack Clark, le directeur des politiques d’OpenAI ; entreprise à « but lucratif plafonné » orientée dans la promotion et le développement d’une intelligence artificielle à visage humain qui bénéficiera à toute l’humanité; estime que « sur la base du taux de progression de l’IA, nous pouvons nous attendre à ce que les deepfakes deviennent meilleurs, moins chers, et plus facile à réaliser sur une période de temps relativement courte. Les gouvernements devraient investir dans le développement de capacités d’évaluation et de mesures technologiques pour les aider suivre le développement plus large de l’IA et les aider à mieux se préparer à l’impact de technologies comme celle-ci ».

Que croire encore?

En Afrique, où « nous avons été incapables de créer une opinion publique nationale depuis la proclamation de la souveraineté de nos pays pour de nombreuses raisons (…) Les réseaux sociaux sont en train de forger cette opinion publique contre vents et marées », soutient le professeur de lettres Makhily Gassama, ex-directeur du Centre d’Études des civilisations à Dakar, et ex-ministre de la Culture du Sénégal.

 Makhily Gassama2

Makhily Gassama : « Les réseaux sociaux sont en train de forger cette opinion publique contre vents et marées »

 

Dans ce contexte, la crainte est que cette opinion publique nationale qui peine déjà à se distancer des fake news soit finalement vérolée par le deep fake qui utilise également les réseaux sociaux comme outil de propagation.

« La vidéo de haute qualité manipulée par l’IA augmente considérablement les enjeux. Ce n’est qu’une question de temps avant que les deepfakes soient utilisés pour tenter de manipuler les élections. »

« Nous avons déjà vu des soi-disant « shallow fake (vidéos manipulées avec des outils d’édition de base ou placées intentionnellement hors contexte) circuler en ligne avec la tentative de fausser le discours politique ou délégitimer les politiciens, et même une révision sélective a été utilisée pour représenter faussement la façon dont un événement politiquement fort s’est produit. La vidéo de haute qualité manipulée par l’IA augmente considérablement les enjeux. Ce n’est qu’une question de temps avant que les deepfakes soient utilisés pour tenter de manipuler les élections », redoute Paul Scharre, le directeur du programme de technologie et de sécurité nationale au Center for a New American Security.

Vu que couper Internet et bloquer l’accès aux réseaux sociaux se sont avérés inefficaces, il devient vital pour les démocraties africaines de se préparer aux nouvelles menaces portées par la technologie.

Muriel Edjo

.