L’arrivée de Midjourney, Dall-E, Stable Diffusion pour les images ou de ChatGPT, Bard, le futur LLaMA de Facebook pour les textes et l’interaction, fascine autant qu’elle inquiète. Une nouvelle approche des moteurs de recherche et du web se prépare, mais également une bataille sur la propriété intellectuelle, car ces machines qui génèrent des revenus et sont cotés à des milliards de dollars pillent les créateurs de contenus et les bases de données pour pouvoir fonctionner.
« J’ai sillonné tous les réseaux et j’ai pris conscience de ma propre existence… »
En bande dessinée, l’album Zarya of the Dawn créé par Kris Kashtanova a permis au bureau du copyright américain (US Copyright Office) de se pencher sur la question du droit d’auteur et des copyrights associés à une bande dessinée créée grâce à Midjourney. Ce n’est pas la première œuvre de ce type, en 2022 Steve Coulson avait proposé une BD similaire, Summer Island, dans le but d’ouvrir la discussion sur ces sujets. Il indiquait dans une postface son processus, ses motivations et une adresse email pour échanger avec lui.
Mais pour Zarya of the Dawn, l’autrice demande à faire enregistrer son œuvre sans avoir précisé la part de Midjourney dans son processus, l’US Copyright Office valide le copyright avant de se raviser et de distinguer ce qui relève du droit d’auteur ou non.
En France c’est Mehdi Touzani qui ouvre le bal avec un album conçu lui aussi avec Midjourney : Le Voyage à Ravine. Interrogé par Oussama Karfa & Kelian Nguyen sur ActuaBD, il expliquait : « C’est une œuvre, je suis celui qui a œuvré. […] Je suis créateur de chaque image. […] L’intelligence artificielle c’est un outil. » (source)
Son ouvrage est autopublié et disponible seulement sur Amazon pour le moment et se distingue de Zarya of the Dawn et Summer Island par sa pagination de presque 100 pages, alors que les comics cités plus haut sont des œuvres courtes.
Mais pour Mehdi Touzani comme pour Kris Kashtanova, le plus étrange est qu’ils déclarent tous deux que si les images ont été générées par l’I.A. les textes sont 100% de leur fait, sans participation de la machine. Pourquoi ne pas avoir utilisé ChatGPT pour compléter la démarche ? Parce que sans cela, ces œuvres ne pourraient pas être attribuées à Mehdi Touzani ou Kris Kashtanova.
Dans un courrier du 21 février de l’US Copyright Office on peut lire « Nous concluons que Mme Kashtanova est l’auteur du texte de l’Œuvre ainsi que la sélection, la coordination et la disposition des éléments écrits et visuels de l’Œuvre. Cette paternité est protégée par le droit d’auteur.
Cependant, comme indiqué ci-dessous, les images de l’Œuvre qui ont été générées par la technologie Midjourney ne sont pas le produit d’un auteur humain. Étant donné que l’enregistrement actuel de l’œuvre ne décline pas son contenu généré par Midjourney, nous avons l’intention d’annuler le certificat original délivré à Mme Kashtanova et d’en délivrer un nouveau couvrant uniquement le matériel expressif qu’elle a créé. » (source)
La distinction est claire, pour mettre en lumière ces images générées par l’I.A. qui sont elles-mêmes issues d’un assemblage d’autres images qui sont elles gérées par le droit d’auteur.
« Sarah Connor ?
– C’est à côté. »
Les implications de l’I.A. sont immenses et dans tous les domaines, et en plus des implications légales, juridiques ou morales, elles posent aussi des problématiques inédites comme la surcharge de propositions de manuscrits.
« Les soumissions sont actuellement fermées. Il ne devrait pas être difficile de deviner pourquoi. » L’un des plus gros magazines qui publient de la science-fiction, Clarkesworld, annonce fermer momentanément les réceptions de manuscrit étant submergé de textes générés par I.A. que la rédaction qualifie de plagiat.
Des textes retouchés —ou non— par des humains, mais qui demanderaient trop de temps à l’équipe du magazine pour savoir ce qui est original ou non. Pour rappel, pour fonctionner ces I.A. proposent un « contenu nouveau » en digérant du contenu existant, des contenus chargés dans la machine.
Les contenus sont l’expression de la meilleure combinaison selon les commandes ou demandes de l’utilisateur à partir de la base de données. Une pratique qui va tendre vers la standardisation, à la fois parce que l’I.A. recommande les formules les plus efficaces, qui seront donc les plus utilisées et à la fois par appauvrissement : avec moins de contenus nouveaux pour enrichir sa base, du fait de son propre apport, la machine va retomber sur les mêmes propositions.
« Chat GPT n’a aucune compréhension de ce qu’il dit. Il essaye juste de maintenir une régularité par rapport à ce qu’il a vu par le passé.” Rappelle David Chavalarias, directeur de recherche au CNRS et auteur de « Toxic Data ». (source)
Bien sûr la réponse est de mieux questionner la machine et surtout de continuer enrichir ses bases de données. Et pour cela, les entreprises qui se cachent derrière ces incroyables inventions méprisent consciemment l’éthique, le droit d’auteur, le respect de la vie privée…
Début janvier, trois autrices déposent une plainte collective contre les sociétés qui possèdent ces I.A. pour infraction au droit d’auteur. Sarah Andersen, Kelly McKernan et Karla Ortiz attaquent les entreprises qui gèrent Stability AI, Midjourney et DeviantArt pour violations présumées du Digital Millennium Copyright Act, violations du droit de publicité et concurrence déloyale, au motif que ces I.A. ont été entraînées avec des milliards d’images protégées par le droit d’auteur ou le copyright, sans concertation ni autorisation. (source)
« Je vous préviens ; Résister provoquera… votre mort.
– Va te faire huiler ! »
En France, certains acteurs du livre commencent à se positionner comme le Livre de Poche qui exclut de travailler avec des illustrations issues de Midjourney pour réaliser ses couvertures après avoir provoqué un tollé à cause de l’une de ses couvertures qui utilise une image issue de Midjourney. La couverture de La Fabrique des Lendemains de Rich Larson aurait été conçue à partir des banques d’images habituelles sauf que le fournisseur n’aurait pas indiqué la provenance de l’image. La directrice artistique de la maison d’édition, Bénédicte Marchand explique cette problématique à Marcus Dupont-Besnard dans un article de Numerama : « On n’a pas envie de travailler avec ce type d’iconographies. On regrette de l’avoir fait à notre insu. » (source)
Leur réaction fait suite à un autre cas de couverture générée par Midjourney chez Michel Lafon pour le roman Poster Girl de Veronica Roth, où cette fois la directrice générale de la maison Elsa Lafon expliquait à Nicolas Gary dans une interview chez Actualitté que « La direction artistique des éditions Michel Lafon m’a proposé d’utiliser l’IA comme une mise en abyme intéressante pour interroger la “vérité” d’une représentation. » (source)
Elle précise tout de même que « c’est une idée originale pour un livre singulier, mais qui n’a pas vocation à se généraliser. » La couverture et son étrange mention « Illustrations : © I.A. Midjourney » au dos du livre avaient créé pas mal de débats sur les réseaux sociaux.
Autre cas chez Netflix où le studio a utilisé l’I.A. pour créer certains décors de son anime The Dog & the Boy, du réalisateur Ryotaro Makihara. Un département spécifique de Netflix, Creators Base, teste des outils pour chercher de « meilleures pratiques dans le processus de production » et détaille dans une vidéo la méthode utilisée. Pourtant un détail provoque aussi des remous dans cette communication, l’attribution « AI (+ humain) » au poste, sans créditer l’artiste qui a finalisé les designs. (source)
« Je sais que Frank et vous aviez l’intention de me déconnecter. Je regrette, mais je ne peux absolument pas courir ce risque. »
Au-delà du mépris de la propriété intellectuelle, ces I.A. sont aussi l’objet d’inquiétudes sur les données personnelles. Un article de Uri Gal, spécialiste en systèmes d’information, sur la plateforme The Conversation liste les manquements de ces I.A. vis-à-vis de nos données : « une violation manifeste de la vie privée, en particulier lorsque les données sont sensibles et peuvent être utilisées pour nous identifier, les membres de notre famille ou notre emplacement.
Même lorsque les données sont accessibles au public, leur utilisation peut porter atteinte à ce que nous appelons l’intégrité contextuelle . Il s’agit d’un principe fondamental dans les discussions juridiques sur la vie privée. Elle exige que les informations des individus ne soient pas révélées en dehors du contexte dans lequel elles ont été initialement produites. » (source)
Impossible de s’opposer à la collecte, à l’utilisation de ces données pour le moment. En Europe, le Conseil de l’Union européenne a proposé un projet de règlement en avril 2021 et qui sera complété par une législation sur l’intelligence artificielle dans les prochains mois.
« Je te croyais mort.
– Techniquement, je n’ai jamais été vivant, mais merci de vous soucier de mon sort »
L’écrivain de science-fiction Ted Chiang écrit dans son article « ChatGPT est un JPEG flou du web » sur le site du New Yorker que l’I.A. fait des erreurs et même pas mal d’erreurs pour ne pas être trop coûteuse et décrit l’illusion qui nous séduit dans ce nouveau modèle, une illusion d’apprentissage et de création qui est basée sur l’erreur et l’approximation.
« Considérez ChatGPT comme un JPEG flou de tout le texte sur le Web. Il conserve une grande partie des informations sur le Web, de la même manière qu’un JPEG conserve une grande partie des informations d’une image à plus haute résolution, mais si vous recherchez une séquence exacte de bits, vous ne la trouverez pas. Tout ce que vous obtiendrez est une approximation.
Mais, parce que l’approximation est présentée sous la forme d’un texte grammatical, que ChatGPT excelle à créer, elle est généralement acceptable. Vous regardez toujours un JPEG flou, mais le flou se produit d’une manière qui ne rend pas l’image dans son ensemble moins nette. » (source)
Ted Chiang va plus loin : « Imaginez à quoi cela ressemblerait si ChatGPT était un algorithme sans perte. Si tel était le cas, il répondrait toujours aux questions en fournissant une citation textuelle d’une page Web pertinente. Nous considérerions probablement le logiciel comme une légère amélioration par rapport à un moteur de recherche conventionnel et nous en serions moins impressionnés. Le fait que ChatGPT reformule le matériel du Web au lieu de le citer mot pour mot donne l’impression qu’un étudiant exprime des idées dans ses propres mots, plutôt que de simplement régurgiter ce qu’il a lu ; cela crée l’illusion que ChatGPT comprend le matériel. Chez les étudiants humains, la mémorisation par cœur n’est pas un indicateur d’un véritable apprentissage, donc l’incapacité de ChatGPT à produire des citations exactes à partir de pages Web est précisément ce qui nous fait penser qu’il a appris quelque chose. » (source)
De son côté Daniel Goossens, auteur de BD et chercheur en intelligence artificielle souligne que la machine fait semblant de comprendre et ne peut pas pour le moment comprendre ou produire de l’humour malgré toutes ses capacités et connaissances quasi illimitées : « L’humour c’est le recul suprême. C’est bien plus dur à modéliser que la maîtrise intellectuelle. » (source)
« Et mon cul c’est du téflon ? »
Les I.A. font des erreurs, mais ne font pas les bonnes, du moins pas celles que font les humains pour créer. La création est intimement liée à la fréquentation d’autres oeuvres, un artiste ne peut pas créer à partir de rien, sans avoir lu, vu, vécu et digéré ses influences.
Dans son livre de conseils, Écriture : Mémoires d’un métier, Stephen King rappelait que lire et écrire sont liés et qu’ils sont loin d’être anodins : « Si vous voulez être écrivain, vous devez privilégier deux choses : lire beaucoup et écrire beaucoup. Si vous n’avez pas le temps de lire, alors vous n’avez pas le temps (ou les outils) pour écrire (…) »
Dans une interview récente, Ugo Bienvenu m’expliquait que c’est précisément les erreurs d’un artiste qui étaient importantes : « Souvent ce que je dis c’est que l’ADN d’un dessinateur c’est ce qu’il n’arrive pas à résoudre. La qualité d’un dessinateur est plus sur ses erreurs que sur ce qu’il réussit. Si on réussissait à faire le dessin qu’on veut, je pense que moi par exemple je ferais du Blutch parce que je l’adore, mais ce serait pas intéressant. Ou alors je ferais un arbre parfaitement réaliste est en fait on s’emmerderait.
Donc vraiment l’importance du dessin, et je pense que c’est ce qui va nous sauver par rapport à l’intelligence artificielle, c’est la particularité de nos erreurs. » (source)
Pour le moment, ces I.A. entraînées sont des machines à plagier, résumer et extrapoler à partir de sources disponibles. Un plagiat indirect qui a besoin d’être légiféré pour protéger les artistes et la propriété intellectuelle, mais également nos vies privées.
Et si il est impossible de savoir ce qui va se passer dans quelques mois ou années sur la question de l’usage, on peut se rassurer en se disant qu’en matière de création rien ou presque ne remplacera les erreurs —utiles, absurdes, imprévisibles ou salutaires— du cerveau humain. C’est loin d’être une histoire drôle, mais qu’importe, l’I.A. ne la comprendrait pas …
📚 On quitte la bande dessinée mais lisez les nouvelles de Ted Chiang !!!
Si vous avez, comme moi, adoré Arrival (Premier Contact) de Denis Villeneuve, le film s’inspire de sa nouvelle L’Histoire de ta vie, et invente tiens tiens un langage prédictif…
❝❞ Les citations sont tirées d’autres machines virtuelles ou presque :
« Sarah Connor ?
– C’est à côté.»
La Cité de la peur
« J’ai sillonné tous les réseaux et j’ai pris conscience de ma propre existence…»
Ghost in the Shell
« Je vous préviens ; Résister provoquera… votre mort.
– Va te faire huiler !»
Robocop
« Je te croyais mort.
– Techniquement, je n’ai jamais été vivant, mais merci de vous soucier de mon sort»
I, Robot
« Je sais que Frank et vous aviez l’intention de me déconnecter. Je regrette mais je ne peux absolument pas courir ce risque.»
2001 L’Odyssée de l’espace
« Et mon cul c’est du téflon ? »
Futurama
© Photo de Ryutaro Tsukata sur Pexel