Vrai ou (deep)faux ?

Comment l'IA brouille notre perception de la réalité

🎧 ODESZA - A moment apart

Hello tout le monde !

J’espère que cet email vous trouvera en pleine forme et prêt(e)s à profiter du printemps 🌸 De mon côté, je me remets d’un vilain virus qui m’a complètement mise KO pendant plusieurs semaines. J’ai profité de ces journées à plat pour renouer avec la méditation, que j’avais complètement mise de côté ces derniers mois, et ça fait un bien fou 🧘‍♀️

Mais on ne va pas se mentir : j’ai aussi bien zoné sur les réseaux sociaux, et sur ChatGPT/Midjourney. C’est cette activité qui a inspiré cette édition de la newsletter : comment nous préparer à (re)définir les limites du vrai et du faux, alors que l’IA a été perfusée dans tous nos outils, notamment ceux de production de contenu visuel et textuel ? J’ai fait une expérience un peu flippante que je vous partage dans le corps de la newsletter, et je vous propose de décortiquer le sujet avec moi…

Et sinon, la semaine prochaine, je soufflerai ma 34e bougie 🎂 Plus que quelques jours avant de sortir de la zone de danger des 33 ans (pour celles.eux qui ont la ref 😅). Et pour l’occasion, je me suis lancé le défi de faire Marseille-Rome en train avec une amie - je vous raconte tout ça rapidement !

En attendant, bonne semaine et bonne lecture,

Noémie

---

Brain food 🧠

Des signaux faibles (ou forts) révélant les liens complexes entre marques, individus et nouvelles technologies - et l’impact sur nos jobs et nos modes de vie.

• 📸 Influenceur ou journaliste ? La barrière semble de plus floue, selon une enquête de l’INA, à une époque où les influenceurs détrônent les journalistes dans les stratégies des attachés de presse et des marques…

• ❤️ Je t’aime, moi non plus. Entre journalistes et influenceurs, justement, la relation semble compliquée : entre incompréhension et mépris, les influenceurs se disent en majorité mal représentés dans les médias (encore selon la revue des médias de l’INA).

• 📱 Les français, accros aux écrans ? Le Digital Report 2024 de La Réclame est là, et il est formel : nous sommes plutôt accros à nos devices. Selon le rapport, les Français passent 40h par mois sur TikTok (perso, je ne l’ai pas mais les chiffres laissent tout de même songeur…).

• ♻️ Recycling is the new shopping. La tendance du recyclage poursuit son développement avec l’ouverture récente du Veja General Store à Paris. La marque y propose des services de cordonnerie et de retouche textile pour encourager la réparation plutôt que l’achat de neuf !

• 💅 Nouveau look pour une nouvelle vie. La marque Sephora a révélé début mars une nouvelle signature de marque commune à l'ensemble de ses 35 marchés, “We belong to something beautiful”, se fendant pour l’occasion d’une campagne globale.

• 😎 Dessine moi une influenceuse. Pour moderniser son image auprès de la Génération Z, la marque de bijoux Claire’s a décidé de s’entourer d’une équipe d’ambassadeurs influenceurs. Le concept a été baptisé « The Collab ».

• 😵 Dopamine detox. C’est la nouvelle tendance sur les réseaux : le hashtag #DopamineDetox, proposé par une nouvelle génération d’influenceurs qui vantent les mérites de l’abstinence (les réseaux sociaux, l’alcool ou encore la pornographie)… Mais qui le font, via les réseaux sociaux. Absurde ?

• 👨‍👨‍👦‍👦 Les influenceurs famille gagnent du terrain. Selon cette enquête de The Conversation, une nouvelle génération d’influenceurs, les “influenceurs parentaux” ou “influenceurs famille” serait de plus en plus recherchée par les marques. L’histoire ne dit pas si les enfants porteront plainte dans 10 ans pour exploitation de leur image sans consentement…

• ☠️ Dead or alive - on ne sait plus trop. Dans un énième débat sur les limites éthiques liées à l’usage de l’IA, je vous présente : faut-il ressusciter les morts grâce aux deepfakes ? C’est en tout cas une tendance qui semble se développer à toute vitesse, pour le meilleur mais surtout pour le pire.

• 💔 Bye bye Ben. Après 24 ans de relation, Unilever se sépare officiellement de la marque de crèmes glacées Ben & Jerry’s (ainsi que ses autres ‘ice cream businesses’) pour des raisons de non compatibilité de business model. Dans la foulée, le géant de l’agroalim’ planifie aussi de se séparer de 7500 collaborateurs. Ouch

Pause café ☕

Des informations random pour se marrer, se détendre ou s’inspirer

• 🐇 Serge le lapin subversif. L’emblématique lapin de la RATP a été détourné pour une campagne dans le métro, qui dénonce l’augmentation des prix des transports en vue des JO.

• 💃 La teuf, patrimoine de l’humanité. C’est officiel : le Berghain, club mythique de la scène berlinoise techno, a été ajouté à la liste nationale du patrimoine culturel immatériel de l'UNESCO. Faire la teuf est désormais un acte culturel et historique fort !

• 🥊 Musk vs Altman. Elon Musk a l’air d’avoir décidé qu’il n’avait pas encore assez d’ennemis (ou bien il en a marre de Zuck ?) : le CEO fantasque de Tesla et Space X a décidé d’attaquer en justice OpenAI, accusant la société (qu’il a co-fondée) d’avoir trahi son engagement initial de rester une société à but non lucratif. Et pour une fois, je suis plutôt d’accord avec lui…

• 🛰 Collision (pas si) cosmique. Ça se bouscule au portillon dans l’espace - à tel point que deux satellites ont bien faille se rentrer l’un dans l’autre, se loupant de moins de 20 mètres. Flippant !

• 💸 Un tote bag à $500. Exemple édifiant des impacts de la viralité sur les réseaux sociaux : un tote bag de l’enseigne de grande distribution Trader Joe’s, vendu pour 2,99 dollars dans ses magasins, est devenu viral sur TikTok. Résultat : on retrouve désormais ces tote bags à l’achat pour 500 dollars sur eBay 😱

---

Vrai ou (deep)faux ?

Il y a quelques temps, j’ai passé une après midi à “jouer” avec Midjourney, le fameux programme de génération d'images dopé à l’intelligence artificielle. Je n’avais pas particulièrement d’objectif en tête, si ce n’est d’essayer de mesurer les capacités de l’outil et de comprendre s’il pourrait me devenir utile ponctuellement.

Les IA Génératives questionnent notre rapport à la réalité

Après avoir généré quelques images au hasard le plus total, une idée m’a traversé l’esprit : et si j’essayais de demander à l’IA de reproduire mon visage et de me faire des photos de profil un peu cool ? Ni une, ni deux, je cherche un tuto sur YouTube, je débourse quelques euros pour accéder à la version payante de Midjourney, et me voilà en train de taper le ‘prompt’ (aka, la commande écrite) suivante :

girlboss profile picture in the style of executive women posing in fancy outfits for magazines like Forbes or Vanity Fair

PS : Vous avez le droit de me juger sur ce coup, j’avoue qu’en relisant le brief créatif j’ai bien ri 😅

Avant d’avoir un résultat, il faut que je partage une photo de moi. J’en choisis une récente, prise par les copains de La Briqueterie, mon coworking marseillais :

La photo originale de base, prise à La Brique

Je lance ensuite la machine, et là, surprise - les résultats sont honnêtement bluffants :

Hyper réaliste, non ? Même le fond y est !

Le tout, en 2min37 montre en main - le temps d’uploader l’image, d’écrire la consigne et de sélectionner les images les plus prometteuses.

Je ne vais pas vous le cacher, j’ai complètement pété un plomb en voyant le résultat 🤯 Et ce qui à la base devait être une petite demi-heure d’expérimentation est devenu deux heures à tester jusqu’où je pouvais aller dans la génération d’images de ma personne, qui soient assez réalistes pour berner mes amis.

J’ai modifié les prompts, j’ai bidouillé des paramètres, j’ai généré un paquet d’images… Bref, je me suis complètement perdue dans ce rabbit hole assez captivant 🕳

a powerful woman standing and staring into the camera, slightly smiling, in a luxurious outfit : white dress and a coat that looks expensive 

Un autre test, basé sur la consigne ci-dessous, m’a donné des résultats intéressants

PS : les prompts ne s’améliorent donc pas. Et pourquoi donc tenais-je à un manteau ayant l’air de coûter cher ? Mystère. 🤔

À ce stade du test j’étais complètement folle

Pour tester les réactions de mes proches, j’ai utilisé la photo de gauche comme photo de profil sur Instagram et WhatsApp. Et les réactions n’ont pas tardé. « Trop bien ta photo, c’est qui le photographe ? » « Canon ! » « Ça te va bien cette tenue, ça vient d’où ? » etc etc.

Clairement, personne n’avait l’air de réaliser la supercherie. Une de mes plus anciennes amies, quand je lui ai avoué la tromperie, a paru s’inquiéter de ma démarche. « Mais pourquoi tu mets une fausse image ? Tu vas la garder ? C’est pas vraiment toi, c’est bizarre du coup de faire ça non ? »

Elle avait bien évidemment raison : cette image n’était pas moi, mais un assemblage de pixels conçu de toutes pièces par un algo, qui me ressemblait trait pour trait.

Mais finalement, c’est quoi la réalité ?

Ou du moins, c’est ce que je me suis dit quand j’ai commencé à générer ces visuels sur Midjourney. Et puis, petit à petit, une autre petite voix a commencé à s’inviter dans ma tête (accrochez-vous, parce qu’on est beaucoup là haut) : bien sûr, les images étaient “fausses” dans le sens où elles n’avaient pas été capturées par un appareil photo. Mais finalement, qu’appelons nous réalité ?

• 🤡 Est-ce qu’une caricature esquissée par un dessinateur dans la rue, ou un portrait réalisé par un peintre est une représentation fidèle de son modèle ?

• 📸 Que sont les images photographiques, si ce n’est une réorganisation de la lumière pour capturer et fixer une forme ?

• 🎭 Depuis l’apparition des filtres sur Insta, Snap et TikTok, que peut-on qualifier de vrai ?

Somme toute, en quoi la génération d’images via l’IA est-elle différente ?

Elle n’est au final qu’une interprétation de plus d’une réalité absolue - réalité absolue qui est plutôt illusoire si on en croît de nombreux philosophes, au passage…

C’est en tout cas ce dont je me suis convaincue, parce qu’en réalité, j’aimais beaucoup le rendu final de cette création. Depuis, la photo IA a quitté mon compte WhatsApp, mais est toujours sur Insta. Et personne ne semble y faire attention.

Avec l’essor des IA génératives et le tsunami de contenus qu’elles ont dores et déjà engendré, nous sommes confrontés (en tant qu’individus et que société) à une question vieille comme le monde (ou presque, j’exagère un peu) : que considère-t-on comme vrai ? Quelles sont les frontières de notre réalité ? Quelles sont les limites éthiques liées à cette pseudo-réalité ?

Finalement, les distortions de la réalité et notre tendance à nous “cacher” derrière des avatars n’a rien de nouveau. Pour les millenials qui lisent cette newsletter, vous vous souvenez peut-être de l’époque de Caramail, MySpace et Skyblog (je viens de prendre 10 ans en 2 secondes) ? Souvenez-vous : la tendance à créer des faux comptes de personnalités publiques était monnaie commune à cette période !

Dans les années 2000, sur MySpace, « Bill Gates et Donald Trump, par exemple, avaient plus de 30 faux profils, tandis que des stars comme Britney Spears et Paris Hilton en avaient des centaines, » comme alertait Fox News en 2007.

Franchement, c’est vrai qu’on 2007 on avait du temps à perdre mais je me demande quand même ce qui motivait des gens à passer des heures à se faire passer pour des pop stars.

Ceci étant dit, toute cette tendance, l’usage d’avatars, les photos de profil pimpées… Restent des comportements à l’impact “minime” et facilement discernables par l’esprit et l’oeil humain.

IA Génératives : l’essor (et le risque) des deepfakes

La grande différence et le grand enjeu qu’amènent les IA, c’est le niveau de réalisme qu’elles offrent - et le potentiel de manipulation et d’abus à l’échelle qui en découle.

Il y a 4 mois, la journaliste, activiste et autrice de Sois jeune et tais-toi, Salomé Saquet, publiait sur LinkedIn pour partager des photo-montages sexualisés de sa personne. Elle y déclare :

Il y a une semaine, des photo-montages sexualisés avec mon visage ont été diffusés sur internet. On jurerait que j'ai posé nue.

J'ai choisi de les partager, bien que cela me mette mal à l'aise, pour montrer la réalité de l'exposition médiatique en tant que femme, qui implique un cyber-harcèlement quotidien, qui tend à s'intensifier avec l'arrivée des intelligences artificielles. De nombreuses collègues ont fait les frais de pratiques similaires.

Salomé Saquet n’est pas la première cible des deepfakes - et les contenus à caractère sexuel ne sont pas les seuls axes d’abus perpétrés à l’aide de l’intelligence artificielle :

• Politique : en 2018, l’'acteur américain Jordan Peele alertait sur les risques de dérives liés à l’IA en publiant une vidéo dans laquelle un deepfake extrêmement réaliste du président Obama insultait Donald Trump ;

• Fraude : de plus en plus d’entreprises sont désormais victimes de fraudes à l’échelle. En février cette année, un employé a viré 25 millions de dollars à des hackers, après avoir fait un “call vidéo” avec son Directeur Financier… Qui était en réalité un deepfake.

Alors, quand on prend un peu de recul, au-delà de l’aspect “innocent” et très pratique de la génération de photos de profil un peu fun et de visuels pour illustrer nos blogs, avec les IA Génératives, c’est une véritable industrialisation des deepfakes qui nous pend au nez - et franchement, c’est un peu flippant.

Fraude fiscale, accélération des conflits politiques, exacerbation des tensions, chantage… Le futur dopé à l’IA ne semble pas si radieux.

Et ce qui est le plus inquiétant, c’est qu’au delà de ces sujets, les intelligences artificielles génératives s’apprêtent (à mon humble avis) à challenger notre notion même de ce qu’est l’humanité.

Human vs robot : la question de notre humanité

En 2013, l’épisode ‘Be Right Back’ de Black Mirror racontait déjà une histoire dont le scénario - alors complètement délirant - ne semble plus si improbable que ça :

Martha est dévastée lorsque son compagnon Ash est tué dans un accident le jour où ils avaient prévu d'emménager ensemble. Lors des funérailles d'Ash, un ami de Martha lui parle d'un nouveau service qui permet aux gens de communiquer avec leurs proches (décédés) en nourrissant une IA avec toutes leurs données générées sur Internet. 

Martha est d'abord réticente, mais lorsqu'elle découvre qu'elle est enceinte, elle se résigne et commence à communiquer de plus en plus avec l'intelligence artificielle qui a pris le rôle de son compagnon. Martha s’habitue alors à vivre avec cette personnalité virtuelle animée par les nombreuses traces numériques qu’Ash a laissées sa vie durant.

Un scénario réservé aux films et à la fiction ? Pas tant que ça. Ressusciter les morts via l’IA et les deepfakes est désormais une tendance, décryptée notamment par le média Usbek & Rica, qui observe sur les réseaux sociaux, une multiplication des vidéos mettant en scène des enfants assassinés qui racontent l’histoire de leur disparition.

« J’ai été assassiné à l’âge de quatre ans. Mon histoire a troublé la France. » Vêtu d’un pull et d’une salopette, un petit garçon regarde droit la caméra depuis le milieu d’un lac embrumé, de l’eau jusqu’à la taille. Publiée en mai 2023, la vidéo de 1 minute 30 figurant Grégory Villemin, plus connu sous le sobriquet « petit Grégory », racontant son assassinat, a fait le tour de TikTok.

Dans un registre moins glauque, les influenceurs.ses IA connaissent aussi un énorme succès sur les réseaux sociaux depuis des années, comme par exemple Lil Miquela, un personnage créé de toutes pièces par une agence, et qui fédère tout de même une audience fidèle et engagée de plus de 2,6 millions de followers sur Instagram.

Parfois, je me dis que toutes ces tendances sont simplement une évolution normale des technologies que nous avons conçues tout au long des dernières décennies. Mais leur déploiement est tellement rapide, absolument incontrôlé, et surtout, il se fait ces derniers temps sans aucun débat démocratique et philosophique sur les conséquences de l'intégration toujours plus profonde de l’IA dans notre société.

Ces technologies ouvrent pourtant de véritables questions politiques, sociales, éthiques :

• Quel droit avons-nous de ramener les morts à la vie ?

• Les IAs peuvent-elles devenir des individus à part entière ? Si elles le deviennent, comment définir l’humanité ? C’était déjà bizarre de cocher la fameuse case “I’m not a robot” sur certains sites, comment prouverons nous demain que nous sommes humains ?

• Comment les standards et les normes de beauté vont-elles évoluer, quand on peut se transformer en deux clics ? Je gage que ça n’ira pas dans le sens de la tolérance et de l’acceptation de soi…

• Comment vérifier que la personne qui nous parle sur un réseau est bien réelle ?

• Que peut-on qualifier de “vrai” ou de “faux”, quand on reste dans des relations entièrement numériques, que cela soit avec des humains ou avec des IAs ?

Bref - vous l’aurez compris, le sujet est à la fois passionnant et terrifiant. Mais il est surtout important de commencer à nous poser ces questions en tant qu’individus, en tant que citoyens, et, encore plus important, en tant que professionnels de la communication et de l’image.

L’avenir sera forcément hybride. Comme le résumait Brice Duthion, entrepreneur et maître de conférences au Conservatoire national des arts et métiers (Cnam), que j’interviewais récemment pour le compte d’un client, « La question n’est pas de dire qu’on est pour ou contre l’IA - nous allons faire avec, c’est une évolution incontestable. Ce qu’il faut, c’est éviter de penser l’IA comme une finalité en soi. L’intelligence artificielle n’est pas une finalité, c’est un moyen. C’est un processus technologique, qui doit être accompagné d’une volonté politique, et d’une dimension philosophique. »

J’espère que cet article contribuera à votre réflexion sur le sujet et j’ai hâte de lire vos réactions et vos idées dans les commentaires ! 😉

Noémie

---

🌱 #86 - Construire une pratique marketing responsable

Sur The Storyline, on (oui, je parle de moi à la 3e personne du singulier, yakoi) se questionne beaucoup sur la transition vers un marketing plus responsable. Et plus largement, vers des pratiques métiers qui soient plus respectueuses de l’humain. Pour mieux comprendre le rôle des marketeux et des communicants dans ce mouvement, nous avons rencontré avec Charlotte Lischer et Coline Didier, co-fondatrices de Social Declik. Cette communauté aide les indépendants à mettre du sens dans leurs missions et à travailler avec des acteurs à impact positif !

🍿 #87 - Percer dans l’économie des créateurs (avec Gaspard G)

Dans le dernier épisode de The Storyline, je vous emmène en immersion au cœur de l’économie des créateurs, avec Gaspard G, Youtubeur suivi par près de 800K personnes et CEO d’Intello, la première agence dédiée aux créateurs d'  « edutainment ». Gaspard est aussi créateur de contenu sur YouTube, depuis l’âge de 10 ans ! Autant vous dire que c’est un expert de la creator economy. Ensemble, nous avons discuté de cette nouvelle économie en plein essor. Mais aussi de ses contours, de ses acteurs… Et de la manière dont les médias et les entreprises peuvent adopter ses codes pour se développer !

---

Alors, ça vous a plu ?

🌟 Génial • 👍 Bien • 😕 Bof • 🙈 Nuuuul

---

Si vous avez aimé cette édition et que vous kiffez The Storyline, ce serait un énorme coup de pouce de la partager ou même - soyons fous - d’aller donner 5 étoiles et un commentaire au podcast sur Apple 👉 par ici 👈.

D’ici-là, je vous donne rdv dans un mois pour la prochaine édition