L’expérience de contenu produit par l’IA de BuzzFeed est un aperçu d’un avenir sombre

Publié le

L'expérience de contenu produit par l'IA de BuzzFeed est un aperçu d'un avenir sombre

La société de médias Internet BuzzFeed, qui produit des articles courts, des quiz et des listes telles que « 18 vêtements ridiculement confortables d'Amazon qui nous ont permis de traverser le blues de janvier », était en difficulté. Après avoir été introduite en bourse en décembre 2021 avec une valorisation de 1,5 milliard de dollars, les actions de la société ont chuté précipitamment, perdant 80 % de leur valeur à la fin de 2022. Mais le 26 janvier 2023, BuzzFeed Le PDG Jonah Peretti a publié une note décrivant comment l'entreprise intégrerait le grand modèle de langage ChatGPT d'OpenAI dans ses processus de production. Par conséquent, BuzzfeedL'action de a connu une augmentation rapide de sa valorisation de 150 pour cent.

OpenAI, fondée en 2015 en tant qu'organisation à but non lucratif, est devenue en 2019 une filiale de facto de Microsoft en échange de l' à la vaste puissance de calcul du géant de la technologie. OpenAI est un leader dans le domaine de l'intelligence artificielle (IA) connue sous le nom de grands modèles de langage (LLM). Un LLM est un modèle statistique d'une langue, créé par apprentissage automatique, qui contient la probabilité qu'une séquence donnée de lettres se produise. Les LLM peuvent générer une sortie de texte sous la forme de projections probabilistes à partir d'une invite de saisie. Étant donné l'invite « Il pleut et… », un LLM peut afficher « sombre » ou « venteux ». Les LLM sophistiqués comme ChatGPT peuvent faire bien plus, de la génération d'essais de niveau supérieur passables au code logiciel fonctionnel.

La réaction exubérante du marché à la note de Peretti fournit un exemple de l'adoption par l'industrie technologique des mots à la mode et du mouvement en marche. Mais cela offre également l'occasion de réfléchir au contexte capitaliste dans lequel l'IA est produite et utilisée, ainsi qu'à la vacuité du discours industriel sur les implications sociales et les dimensions éthiques de l'IA.

Le but est le profit

Depuis 2015 environ, les géants américains de la technologie qui dirigent la recherche et le développement de l'IA – Alphabet (Google), Meta (Facebook), Microsoft, Amazon et Apple – ont déployé des efforts concertés pour présenter leur IA comme « éthique » et dresser un tableau brillant de la situation. l'avenir où l'IA améliore la vie de tous. Les universitaires se sont également joints à nous, proposant des théories et des modèles pour rendre l'IA plus éthique.

Lire aussi  Elon Musk finalise le rachat de Twitter avec l'aide du prince saoudien

Le discours sur « l'IA éthique » a tendance à ignorer le contexte industriel de l'IA. En termes simples, cela signifie reconnaître que l'IA est, dans l'ensemble, une marchandise. Cela signifie qu'il est produit avec l'intention d'être vendu pour générer un profit. Parce que toutes les applications de l'IA ne sont pas rentables, cette simple idée a de lourdes conséquences pour la réflexion sur l'IA, ses implications sociales et éthiques et son avenir possible. C'est précisément pour cette raison que le contexte industriel de l'IA est exclu de l'industrie et du discours universitaire qui la soutient. L'IA a donc tendance à être conçue comme une technologie discrète dont les implications éthiques et sociales peuvent être traitées à un niveau purement technique, et certainement sans s'engager dans une analyse historique et systémique de l'économie capitaliste.

Cependant, la force motrice du dynamisme du capitalisme n'est pas la technologie, mais la concurrence entre les entreprises capitalistes, qui les pousse à « révolutionner constamment les instruments de production », comme l'ont observé Karl Marx et Frederick Engels. L'automatisation, c'est-à-dire l'utilisation de la technologie pour augmenter la productivité du travail, est également motivée par la concurrence. Si votre entreprise peut utiliser ChatGPT pour produire trois articles à fort impact en utilisant le même de travail qu'il faut à mon entreprise pour en produire un à la main, votre entreprise bénéficiera d'un avantage concurrentiel incontestable.

Quoi BuzzFeedLe mémo de nous parle de l'IA

La focalisation étroite sur l'augmentation de la productivité conduit à un discours contradictoire et vide de sens, dans la mesure où l'objectif principal de la production capitaliste – la capture de la valeur – doit rester tacite. La page Web principale de Google AI proclame un engagement en faveur d'une IA qui est « socialement bénéfique, juste, responsable et qui fonctionne pour tout le monde ». Il ne mentionne pas que de telles subtilités ne sont possibles que si Google peut continuer à générer une source de revenus. Il ne mentionne surtout pas que les flux de revenus de Google (et ceux des autres grandes entreprises technologiques), comme de nombreuses études l'ont montré, reposent précisément sur l'absence de responsabilité, un manque de souci du bénéfice social et une interprétation très vague de l'équité basée sur l'incessante et l'acquisition agressive de données personnelles – ce que Shoshana Zuboff appelle le « capitalisme de surveillance ».

Lire aussi  La police a volé des objets sacrés à des Afro-Brésiliens. Aujourd’hui, les musées les accumulent.

Cette sorte de vacuité se manifeste dans BuzzFeed mémo lorsque Peretti décrit l'entreprise comme aspirant à être « la première plate-forme permettant aux créatifs de faire leur travail le plus inspiré, d'atteindre le plus grand nombre et de vivre leur meilleure vie », pour ensuite poursuivre, dans le paragraphe suivant, avec l'annonce que BuzzFeed « s'étendra au-delà de la curation (flux) basée sur l'IA, vers la création (contenu) basée sur l'IA ». En d'autres termes, de l'utilisation de l'IA à recommander articles manuscrits à un utilisateur, BuzzFeed utilisera l'IA pour générer ces articles. Peretti poursuit en décrivant une « nouvelle ère de créativité, où les humains créatifs comme nous jouent un rôle clé en fournissant les idées, la monnaie culturelle, les invites inspirées, la propriété intellectuelle et les formats qui prennent vie grâce aux technologies les plus récentes ». L'idée n'est pas de remplacer entièrement les travailleurs – déclare l'entreprise qui a licencié 12 % de ses effectifs en 2022 – mais de leur permettre d'alimenter ChatGPT en nouveautés afin qu'il puisse continuer à produire des appâts à clics. Ici, l'attrait de l'économie des créateurs – son authenticité perçue – doit être atteint, autant que possible, sans créateurs.

Mais ce n'est pas la seule contradiction qui existe. Un problème plus flagrant se manifeste dans le discours sur « l'IA éthique » promu par l'industrie et repris par le monde universitaire et les gouvernements. Google affirme que « l'IA basée sur des valeurs est bonne pour votre entreprise ». On pourrait raisonnablement se : quelles valeurs ? Sont-ils confucianistes, chrétiens, socialistes, libéraux ou autre chose ? La réponse, bien sûr, réside dans les valeurs qui n'entrent pas en conflit avec les impératifs de la production capitaliste. L'IA éthique est une entreprise sans issue, vouée à l'échec selon ses termes fondamentaux, car elle refuse de reconnaître la dynamique fondamentale de la production capitaliste qui conduit à l'incorporation de l'IA dans le processus de travail et suppose simplement qu'une plus grande automatisation serait meilleure pour tout le monde.

Lire aussi  Un juge bloque l’interdiction par l’AG des hormones pour les jeunes trans cherchant des soins d’affirmation de leur genre

Le BuzzFeed Le mémo indique clairement que les enjeux de l'introduction de l'IA dans les processus commerciaux sont d'ordre économique plutôt qu'éthique. Peretti décrit la nécessité de « se concentrer farouchement sur la fourniture d'une forte valeur à nos partenaires afin qu'ils continuent à dépenser avec nous pendant la récession ». Précisant que l'augmentation de la productivité du travail est un objectif explicite, il note que « dans une période économique difficile, nous devons… économiser chaque centime de nos coûts ». La nature douteuse des affirmations éthiques de l'industrie de l'IA ne nécessite pas qu'un gauchiste radical la reconnaisse. L'économiste néolibéral Milton Friedman notait, en 1970, que la seule « responsabilité sociale » des entreprises est « d'augmenter leurs profits ».

Le BuzzFeed le mémo n'est peut-être qu'un simple battage médiatique. Le plan stratégique en matière d'IA pourrait échouer. Ou encore, l'entreprise pourrait atteindre de nouveaux sommets de rentabilité grâce au clickbait généré par l'IA. Dans les deux cas, le mémo dresse une sombre image de la vision capitaliste de l'IA : des applications triviales conçues pour extraire toujours plus de lie de productivité du travail, colportées parallèlement à un discours vide de sens sur les avantages sociaux et l'amélioration éthique.

Avatar de Charles Briot