Les intelligences artificielles génératives ont le potentiel d’être aussi bénéfiques que maléfiques pour la société. Mais des indices laissent déjà présager qu’elles seront au centre de la prochaine vague de « merdification » sur Internet. Le processus serait même déjà enclenché avec les batailles juridiques des droits d’auteur.
La « merdification » est une traduction du terme « enshittification » lancé en 2022 par l’écrivain d’origine canadienne Cory Doctorow pour décrire le processus par lequel une plateforme numérique met en marché un service utile à perte pour créer une base d’utilisateurs, qui en deviennent dépendants.
Ensuite, les données de ces utilisateurs sont vendues, aussi à perte, à des clients, qui en deviennent également dépendants.
Le service devient alors un passage obligé et l’entreprise se sert de ce monopole, ou quasi- monopole, pour augmenter ses prix, la quantité de publicité, etc. – selon le modèle de revenus – pour mettre le plus d’argent possible dans ses poches et celles de ses actionnaires.
À cette étape, il n’est plus nécessaire d’offrir un service de qualité, et les paramètres des relations utilisateurs-entreprise-clients peuvent être modifiés sans préavis, toujours pour soutirer plus d’argent.
Le blocage des médias au Canada par Meta est un bon exemple d’un paramètre modifié rapidement dans le but d’éviter d’avoir à céder une part de ses profits. Meta est aussi un exemple de baisse de qualité du produit, puisque la plateforme offre maintenant beaucoup moins d’informations de qualité qu’avant.
Presque toutes les grandes entreprises du web sont dans la phase de recherche du profit. En conséquence, les résultats de recherche sur Google, par exemple, sont de moins en moins fiables, pollués par un grand nombre de publicités et par des sites préoccupés davantage par les clics que par la qualité du contenu.
Amazon est devenu un incontournable de la vente en ligne. Mais il impose des conditions d’utilisation ou des prix qui étouffent les petites entreprises essayant de vendre sur cette plateforme. Surtout quand Amazon veut s’approprier leurs produits ou leurs parts de marché.
Il y a aussi Uber, qui a fait concurrence à un secteur bien règlementé sans suivre les règles en place. L’entreprise s’est imposée en offrant des courses à des prix inférieurs à ceux des taxis et en payant très bien ses chauffeurs. Maintenant qu’Uber a réussi à couper l’herbe sous le pied aux taxis, les prix sont comparables et ses chauffeurs sont payés sous le salaire minimum.
Et arrive l’IA…
Si ChatGPT a piqué votre curiosité et que vous avez mis à l’essai l’intelligence artificielle (IA) génératrice de textes la plus connue, vous avez pu le faire gratuitement. Vous aurez remarqué que cet outil donne des résultats qui peuvent être convaincants, malgré les défauts qu’on lui connait.
ChatGPT en serait donc à la première étape du processus de « merdification » : un produit jugé comme étant performant et offert à perte.
Fin juillet, The Information rapportait justement que l’entreprise derrière ChatGPT, OpenAI, serait en voie d’enregistrer des pertes financières de 5 milliards de dollars américains cette année.
Ce déficit annoncé n’inclut cependant pas les droits d’auteur qu’OpenAI n’a pas payés. L’entrainement de ChatGPT s’est fait à partir de contenus qui se trouvent sur Internet et qui, dans certains cas, sont protégés par des droits d’auteur. Or, OpenAI n’a demandé aucune permission ni compensé qui que ce soit pour avoir utilisé ce contenu.
Pas étonnant que le New York Times poursuive OpenAI et que d’autres créateurs emboitent le pas ou concluent des ententes payantes.
De plus, OpenAI semble avoir mis de côté ses intentions de développement éthique au profit des… profits.
OpenAI devra également faire face à de la concurrence. Google a déjà annoncé la transformation de son moteur de recherche pour y intégrer une intelligence artificielle.
Ces embuches laissent entrevoir les prochaines phases de la « merdification » : augmentation des couts d’utilisation et baisse de la qualité.
L’augmentation des couts d’utilisation s’explique d’elle-même. En revanche, la perte de qualité pourrait être tributaire de plusieurs facteurs. Il se pourrait que, si OpenAI n’a plus accès à autant de sources pour entrainer son IA, la qualité de ses résultats – déjà discutables en termes de véracité – s’en trouve directement touchée.
Malgré toutes les possibilités que laisse entrevoir cette technologie, elle ne peut fonctionner sans humain pour lui fournir de la matière.
Une recherche menée par des chercheurs anglais et canadiens et publiée dans Nature montre que lorsqu’une IA générative est entrainée à partir des générations successives antérieures de l’IA, la qualité des résultats dégringole.
L’entrainement des IA sera peut-être bientôt en face d’un mur, car les contenus produits par les IA génératives se multiplient très rapidement. D’ailleurs, des experts prévoient que dès l’année prochaine, 90 % de la production de contenu sur Internet sera faite par des IA.