OpenAI lance un outil capable de détecter les images créées par son générateur de texte à image DALL-E 3, a déclaré mardi la startup soutenue par Microsoft, dans un contexte d'inquiétude croissante quant à l'influence des contenus générés par l'IA sur les élections mondiales de cette année.

La société a déclaré que l'outil identifiait correctement les images créées par DALL-E 3 dans environ 98 % des cas lors de tests internes et qu'il pouvait gérer des modifications courantes telles que la compression, le recadrage et les changements de saturation avec un impact minimal.

Le créateur de ChatGPT prévoit également d'ajouter un filigrane inviolable pour marquer les contenus numériques tels que les photos ou les fichiers audio à l'aide d'un signal qui devrait être difficile à supprimer.

Dans le cadre de ses efforts, l'OpenAI a également rejoint un groupe industriel comprenant Google, Microsoft et Adobe et prévoit de fournir une norme qui aiderait à retracer l'origine des différents médias.

En avril, pendant les élections générales en cours en Inde, de fausses vidéos de deux acteurs de Bollywood critiquant le premier ministre Narendra Modi sont devenues virales en ligne.

La diffusion de contenus générés par l'IA et les "deepfakes" sont de plus en plus utilisés en Inde et lors d'élections ailleurs dans le monde, notamment aux États-Unis, au Pakistan et en Indonésie.

OpenAI a déclaré qu'elle se joignait à Microsoft pour lancer un fonds de "résilience sociétale" de 2 millions de dollars afin de soutenir l'éducation à l'IA.