Dans un monde où l'innovation technologique progresse à un rythme effréné, Google dévoile un futur prometteur pour la création de contenu digital avec son nouvel outil de génération d'intelligence artificielle, baptisé Vlogger.
Conçu par le chercheur Enric Corona, Vlogger se présente comme une révolution dans l'industrie de production vidéo, capable de transformer de simples photographies en vidéos d'un réalisme saisissant.
Cependant, malgré l'admiration suscitée par cette avancée technologique, elle soulève également des inquiétudes quant aux risques de violation de la vie privée, de propagation des deepfakes, la dévaluation de la créativité humaine et la réduction d'opportunités de collaboration pour les créateurs de contenu humains.
Un pas de géant dans l'intelligence artificielle
L'équipe d'Enric Corona a franchi une étape majeure avec le développement de Vlogger, un outil innovant qui, à partir d'une photographie et d'un échantillon audio, est capable de générer des vidéos haute définition, insufflant la vie à des clones numériques animés.
Cet outil ne se contente pas de créer un avatar numérique, il peut également générer des vidéos où les expressions faciales, les mouvements de la tête et des mains sont synchronisés avec l’audio.
Le modèle, encore à l'étape de prototype, repose sur la compilation de séquences réalistes les unes avec les autres grâce à des modèles d’apprentissage automatique.
Les chercheurs se sont appuyés sur un nouveau type de modèle d’IA appelé Modèles de diffusion (Diffusion Models), qui a montré des performances exceptionnelles dans la génération d’images en se basant sur des descriptions textuelles.
L’équipe de chercheurs a collecté un énorme ensemble de données, comprenant plus de 800.000 identités différentes de personnes parlant et 2.200 heures de vidéos, cela a permis au modèle Vlogger d’apprendre à créer des vidéos de personnes de différentes races, âges, vêtements, situations et environnements de manière objective.
Les applications envisagées par cette IA sont variées, cela va de la conception d'assistants virtuels plus personnalisés en passant par les chatbots expressifs, les avatars pour les jeux en réalité virtuelle, l'éducation et la communication en ligne.
Pour les marques et les entreprises, Vlogger représente un outil de marketing d'influence révolutionnaire. Il permet de concevoir des influenceurs virtuels sur mesure, alignés sur les valeurs et l'image de marque, offrant ainsi une présence sociale personnalisée et impactante.
2- Risque de violation de la vie privée
Toutefois, Vlogger n'est pas sans susciter des inquiétudes éthiques.
La nouvelle IA collecte de nombreuses données personnelles des individus lorsqu'ils créent et partagent des vidéos, ces données peuvent inclure des informations sensibles telles que l'emplacement géographique, les données et préférences personnelles voire même des informations financières.
L'utilisation abusive de cette technologie pourrait compromettre la vie privée des individus par la divulgation de vidéos contenant des informations confidentielles sans leurs consentement.
3 - La menace des deepfakes
Malgré ses intentions initiales positives, Vlogger pourrait être détourné pour générer des deepfakes convaincants.
Ces fausses vidéos, utilisant des algorithmes sophistiqués, pourraient impliquer des personnalités publiques ou des politiciens dans la diffusion de fausses informations, exacerbant ainsi le problème des fakes news et la manipulation de l'opinion publique.
Or, la capacité de distinguer les vidéos authentiques des vidéos manipulées devient de plus en plus floue.
En effet, les vidéos produites par Vlogger, bien que basées sur des images figées, peuvent paraître étonnamment réelles, ce qui contribue à la confusion et favorise la propagation de la désinformation.
En plus, La crédibilité des informations en ligne est cruciale pour maintenir la confiance des utilisateurs. Alors si Vlogger est utilisé pour diffuser de fausses informations, cela pourrait miner la confiance envers les médias sociaux et les plateformes numériques, déjà fragilisée.
4- Dévaluation potentielle de la créativité humaine et réduction des opportunités de collaboration
L'équipe de développement imagine déjà des applications utiles pour les entreprises, avec des avatars réalistes capables de suggérer de l'empathie auprès des clients.
Ces avatars réalistes pourraient mettre les créateurs de contenu humains en position de concurrence directe. Les entreprises et les marques pourraient être tentées de s'associer avec ces entités numériques modulables et faciles à gérer, répondant précisément à leurs exigences marketing.
De ce fait, l'omniprésence des avatars pourrait éclipser la valeur du travail créatif humain.
Contrairement aux avatars générés en quelques clics, les créateurs humains consacrent temps, compétences et passion à leurs projets, une différence qui pourrait altérer la perception de la valeur intrinsèque de leur travail.
Par ailleurs, avec une préférence croissante pour les avatars, les créateurs de contenu humains risquent de voir leurs chances de partenariats s'amenuiser. Ils devront redoubler d'efforts pour se démarquer et mettre en avant leur propre contribution unique de création de contenu.
Face à ces enjeux, la distinction de ce qui est réel de ce qui est généré par les technologies de pointe devient de plus en plus compliquée, ce qui nous oblige à réfléchir à une nouvelle approche de protection de vie privée et de vérification du contenu digital.