OpenAI, dont les rumeurs parlent d’une éventuelle entrée dans le monde des moteurs de recherche, a annoncé, ce mardi 07 mai 2024, le lancement d’un nouvel outil capable d’identifier les images produites par son générateur de texte à image, DALL-E 3. Cette annonce survient dans un contexte marqué par une préoccupation concernant l’impact des contenus générés par l’intelligence artificielle sur les élections mondiales de cette année.
OpenAI lance un outil de détection des images générées par DALL-E 3
L’outil développé par OpenAI a été soumis à des tests internes, démontrant une capacité de détection précise des images générées par DALL-E 3 dans près de 98 % des cas. De plus, il est capable de gérer efficacement les altérations courantes telles que la compression, le recadrage et les modifications de saturation, tout en minimisant leur impact sur la détection.
En parallèle, OpenAI prévoit d’intégrer un filigrane inviolable pour identifier les contenus numériques comme que les photos ou les fichiers audio, à l’aide d’un signal difficile à supprimer. Un filigrane qui fera également partie des IA génératives vidéos comme Sora. Cette initiative vise à renforcer la traçabilité des médias et à décourager la diffusion de contenus manipulés ou falsifiés. À savoir qu’OpenAI ajoute déjà des métadonnées à ses créations, appelées C2PA metadata, et qui permettent d’identifier l’origine du contenu créé, qu’il s’agisse d’image, d’audio et bientôt de vidéo quand Sora sera déployé auprès du grand public.
Pour l’instant, l’outil appelé « classificateur de détection d’images d’OpenAI » (en anglais « OpenAI’s image detection classifier ») est uniquement accessible à un panel de beta-testeur, y compris des laboratoires de recherche et des organisations à but non lucratif de journalisme orientées vers la recherche. L’objectif est d’obtenir un retour d’information par le biais du programme d’accès d’OpenAI pour les chercheurs. Mais si votre organisation est légitime, sachez que les demandes d’accès peuvent être soumises ici : https://openai.smapply.org/prog/dalle_detection_classifier_access_program/
Les élections en 2024 au centre des motivations de traçabilité des contenus IA
Dans le cadre de ses initiatives, OpenAI s’est associé à un consortium industriel regroupant des géants technologiques comme Google, Microsoft et Adobe. Ensemble, ils envisagent de développer une norme visant à faciliter le traçage de l’origine des différents médias, renforçant ainsi la transparence et la fiabilité de l’information en ligne.
Par ailleurs, lors des récentes élections générales en Inde, des vidéos manipulées mettant en scène deux acteurs de Bollywood critiquant le Premier Ministre Narendra Modi ont suscité une large diffusion en ligne. Cette utilisation de contenus générés par l’IA et de « deepfakes » soulève des préoccupations quant à leur impact sur les processus démocratiques, non seulement en Inde, mais également dans d’autres pays comme les États-Unis, le Pakistan et l’Indonésie.
En 2024, plusieurs élections auront lieu :
- Aux États-Unis, l’élection présidentielle aura lieu le 5 novembre 2024. Le match retour entre l’ancien président Donald Trump et le président actuel Joe Biden est très attendu et pourrait bouleverser l’équilibre géopolitique.
- Au niveau européen, les élections au Parlement européen se dérouleront du 6 au 9 juin 2024. Elles pourraient conduire à une poussée de l’extrême droite populiste et eurosceptique.
- D’autres élections sont prévues en 2024 dans de nombreux autres pays comme le Salvador, l’Azerbaïdjan, l’Indonésie, le Pakistan, etc.
Source : https://openai.com/index/understanding-the-source-of-what-we-see-and-hear-online