La veille de Noël, NewsBreak, une application gratuite d'origine chinoise qui est l'application d'actualités la plus téléchargée aux États-Unis, a publié un article alarmant sur une fusillade dans une petite ville. Le titre en était "La tragédie du jour de Noël frappe Bridgeton, dans le New Jersey, dans un contexte de hausse de la violence armée dans les petites villes". Le problème, c'est qu'aucune fusillade n'a eu lieu. Le 27 décembre, le service de police de Bridgeton, dans le New Jersey, a publié sur Facebook une déclaration qualifiant l'article - produit à l'aide d'une technologie d'intelligence artificielle - d'"entièrement faux".
"Rien de semblable à cette histoire ne s'est produit à Noël ou autour de Noël, ni même de mémoire récente dans la zone décrite", peut-on lire dans le communiqué. "Il semble que l'IA de cet organe de presse écrive des fictions qu'elle n'a aucun problème à publier pour les lecteurs.
NewsBreak, dont le siège se trouve à Mountain View, en Californie, et qui possède des bureaux à Pékin et à Shanghai, a déclaré à Reuters qu'il avait retiré l'article le 28 décembre, quatre jours après sa publication. La société a déclaré que "les informations inexactes provenaient de la source du contenu" et a fourni un lien vers le site web, en ajoutant : "Lorsque NewsBreak identifie des informations inexactes dans un article, il doit en informer l'éditeur : "Lorsque NewsBreak identifie un contenu inexact ou une violation de nos normes communautaires, nous prenons rapidement des mesures pour retirer ce contenu.
Les opérateurs du site web, findplace.xyz, n'ont pas répondu à une demande de commentaire de Reuters. La police s'est refusée à tout autre commentaire.
Ces dernières années, les médias locaux américains ont fermé leurs portes, et NewsBreak a comblé le vide.
Se présentant comme "la source de référence pour tout ce qui est local", Newsbreak affirme avoir plus de 50 millions d'utilisateurs mensuels. Il publie du contenu sous licence provenant de grands médias, notamment Reuters, Fox, AP et CNN, ainsi que des informations obtenues en recherchant sur l'internet des nouvelles locales ou des communiqués de presse qu'il réécrit avec l'aide de l'intelligence artificielle. Il n'est disponible qu'aux États-Unis.
Newsbreak a publié des articles erronés, créé des articles à partir de sites d'information locaux sous des titres fictifs et repris le contenu de ses concurrents, selon un examen par Reuters de documents judiciaires inédits relatifs à la violation des droits d'auteur, de courriels de cessation et de désistement et d'une note d'entreprise datant de 2022 faisant état de préoccupations concernant les "articles générés par l'intelligence artificielle".
Reuters s'est entretenu avec sept anciens employés de NewsBreak, dont cinq ont déclaré que la plupart des travaux d'ingénierie derrière l'algorithme de l'application étaient effectués dans les bureaux de l'entreprise en Chine. Les anciens employés ont demandé l'anonymat, citant des accords de confidentialité avec NewsBreak.
Deux programmes communautaires locaux d'aide aux personnes défavorisées ont déclaré à Reuters qu'ils avaient été affectés par des articles erronés produits par l'IA de NewsBreak. À trois reprises en janvier, février et mars, Food to Power, une banque alimentaire basée dans le Colorado, a déclaré qu'elle avait dû refuser des personnes parce que NewsBreak avait indiqué des heures incorrectes pour les distributions de nourriture. L'organisation caritative s'est plainte à NewsBreak dans un courriel envoyé le 30 janvier à l'adresse générale du service clientèle de NewsBreak, que Reuters a examiné. L'association a déclaré n'avoir reçu aucune réponse. Harvest912, une organisation caritative d'Erie, en Pennsylvanie, a envoyé un courriel à NewsBreak à propos de deux articles inexacts, basés sur l'intelligence artificielle, qui affirmaient qu'elle organisait une clinique de soins des pieds 24 heures sur 24 pour les sans-abri, demandant au média de "cesser et de s'abstenir" de publier des articles erronés.
"Vous faites du tort en publiant ces informations erronées - les sans-abri se rendront à pied à ces endroits pour assister à une clinique qui n'existe pas", a déclaré Harvest912 à NewsBreak, dans un courriel daté du 12 janvier et consulté par Reuters.
En réponse aux questions de Reuters, NewsBreak a déclaré avoir supprimé les cinq articles sur les associations caritatives après avoir appris qu'ils étaient erronés et que les articles étaient basés sur des informations incorrectes figurant sur certaines pages web des associations caritatives.
Sans fournir de raison à Reuters, NewsBreak a ajouté une clause de non-responsabilité sur sa page d'accueil au début du mois de mars, avertissant que son contenu "n'est pas toujours exempt d'erreurs".
Newsbreak génère des revenus en diffusant des publicités à ses utilisateurs, qui sont majoritairement des femmes, âgées de plus de 45 ans, sans diplôme universitaire et vivant dans les banlieues ou les zones rurales des États-Unis, selon les sept anciens employés et une présentation de la société datant de 2021 examinée par Reuters. L'entreprise a été lancée aux Etats-Unis en 2015 en tant que filiale de Yidian, une application chinoise d'agrégation de nouvelles. Les deux sociétés ont été fondées par Jeff Zheng, le PDG de Newsbreak, et elles partagent un brevet américain déposé en 2015 pour un algorithme "Interest Engine", qui recommande des contenus d'actualité en fonction des intérêts et de la localisation de l'utilisateur.
NewsBreak a déclaré à Reuters que le brevet avait été attribué par Zheng aux deux entreprises parce que "certains des concepts ont été développés à l'époque où Jeff travaillait chez Yidian" et que NewsBreak est "basé aux États-Unis" et "investi aux États-Unis". Le brevet partagé n'a "absolument aucune incidence sur l'entreprise et ses activités", a déclaré NewsBreak dans des réponses écrites à Reuters, décrivant la technologie mentionnée dans le brevet comme "dépassée".
MÉMOIRE DE L'ENTREPRISE
Une note d'entreprise datant de mai 2022, adressée par un consultant de NewsBreak à M. Zheng et examinée par Reuters, fait état de préoccupations concernant l'utilisation par NewsBreak d'outils d'intelligence artificielle pour republier des articles provenant de sites d'information locaux sous cinq titres fictifs.
"Je ne vois pas de moyen plus rapide de détruire la marque NewsBreak", écrit Norm Pearlstine, ancien rédacteur en chef du Wall Street Journal et du Los Angeles Times, qui travaillait à l'époque comme consultant pour NewsBreak, dans la note adressée à M. Zheng.
Dans une interview accordée après que NewsBreak l'a autorisé à parler à Reuters, M. Pearlstine a déclaré qu'il avait appris cette pratique par un collègue de NewsBreak.
"Je m'interroge sur la légalité de la création de faux comptes à partir de contenus que les éditeurs placent derrière leurs paywalls. Si j'avais eu connaissance de cette pratique lorsque j'étais au LA Times, j'aurais demandé à notre avocat de demander une ordonnance restrictive et d'intenter une action en dommages et intérêts", a écrit M. Pearlstine, dont le rôle de consultant de six mois chez NewsBreak en 2022 consistait à conseiller l'entreprise sur les activités éditoriales aux États-Unis.
M. Pearlstine, qui a confirmé l'authenticité du mémo, a attribué ce manquement à un manque d'expérience journalistique. "Un bon nombre de membres de l'équipe étaient soit nouveaux dans le journalisme, soit nouveaux sur le marché américain. C'est en partie pour cette raison que j'ai senti que je devais être très direct et très explicite en expliquant pourquoi je pensais que c'était important", a-t-il déclaré à Reuters.
NewsBreak a déclaré que les articles mentionnés dans le mémo de M. Pearlstine étaient une "expérience limitée à trois comtés américains" visant à regrouper des contenus de tiers, et que l'initiative avait été abandonnée après la production de dix articles. L'entreprise a nié être passée derrière des murs payants et a déclaré avoir utilisé des "extraits" d'articles visibles par le public pour produire des articles complets à l'aide d'OpenAI.
NewsBreak a également attiré l'attention de Reuters sur la réponse envoyée par courriel par Zheng à Pearlstine, indiquant qu'il avait reconnu le problème et demandé à son équipe de le résoudre.
OpenAI a déclaré à Reuters que sa politique interdisait d'utiliser sa technologie pour induire les gens en erreur. En 2022, Patch Media, qui exploite des flux d'informations locales numériques dans tous les États américains, a conclu un accord de 1,75 million de dollars dans le cadre d'un procès contre NewsBreak pour violation du droit d'auteur, selon des documents judiciaires examinés par Reuters, qui allègue que NewsBreak a republié les articles de Patch sans autorisation ni crédit.
Patch n'a pas répondu à une demande de commentaire. NewsBreak a déclaré que le règlement n'était pas un aveu de faute.
Emmerich Newspapers, qui exploite des journaux dans le Mississippi, l'Arkansas et la Louisiane, a conclu un accord de 2021 avec NewsBreak dans le cadre d'un procès pour violation du droit d'auteur lié à l'utilisation par NewsBreak du contenu d'Emmerich sans autorisation. NewsBreak a déclaré que le règlement était "à l'amiable".
Un autre procès concernant les droits d'auteur est en cours. Les deux parties sont "impliquées dans d'autres procès contre lesquels nous nous défendons vigoureusem*nt", a déclaré NewsBreak.
Wyatt Emmerich, président de la société, a déclaré que le procès intenté à NewsBreak concernait la "copie verbatim du contenu". Il a ajouté : "Ce qui m'inquiète pour l'avenir, c'est que les agrégateurs de nouvelles pourraient utiliser l'intelligence artificielle pour réécrire légèrement nos articles, ce qui rendrait la preuve d'une violation du droit d'auteur beaucoup plus difficile. J'ai déjà été témoin de cas de ce genre sur des sites d'agrégation d'informations".
RACINES CHINOISES
NewsBreak est une start-up privée, dont les principaux bailleurs de fonds sont les sociétés de capital-investissem*nt Francisco Partners, basée à San Francisco, et IDG Capital, basée à Pékin, a déclaré NewsBreak à Reuters.
Francisco Partners a refusé de répondre aux questions concernant son investissem*nt dans NewsBreak. IDG n'a pas répondu aux demandes répétées de commentaires envoyées par courrier électronique. En février, IDG Capital a été ajoutée à une liste de dizaines d'entreprises chinoises qui, selon le Pentagone, collaboreraient avec l'armée de Pékin. IDG Capital a déclaré à Bloomberg en février qu'elle n'avait aucun lien avec l'armée chinoise et qu'elle n'avait pas sa place sur cette liste. NewsBreak n'a pas commenté cette découverte. Yidian, la société chinoise d'agrégation, s'est séparée de NewsBreak en 2019 parce que "son équipe de direction à l'époque ne comprenait pas le marché américain", a déclaré Zheng. Jusqu'alors, Li Ya, le président de Phoenix New Media, une société de médias liée à l'État chinois qui détenait une participation de 46,9 % dans Yidian, était administrateur de NewsBreak, selon les documents de l'entreprise. Yidian a continué à décrire NewsBreak comme sa version américaine sur son site web jusqu'en 2021, selon The Wire China. En 2017, Yidian a été félicité par des responsables du Parti communiste au pouvoir pour son efficacité dans la diffusion de la propagande gouvernementale. Reuters n'a trouvé aucune preuve que NewsBreak ait censuré ou produit des nouvelles favorables au gouvernement chinois.
Un porte-parole de NewsBreak a déclaré qu'il n'y avait pas de relation commerciale en cours avec Yidian. Yidian, Phoenix New Media et Li Ya n'ont pas répondu aux demandes de commentaires de Reuters.
Environ la moitié des 200 employés de NewsBreak sont basés en Chine, où ils travaillent dans le domaine de la recherche et du développement, a indiqué la société.
Une liste de l'entreprise datant de 2022, examinée par Reuters, montrait que 100 des 137 ingénieurs de NewsBreak à l'époque étaient basés en Chine.
Cinq des anciens employés de NewsBreak ont déclaré que le PDG Zheng partageait son temps entre la Chine et les États-Unis.
Zheng, qui est né en Chine, est un résident permanent des États-Unis et sa famille a déménagé aux États-Unis au début de l'année dernière, a déclaré l'entreprise. Reuters a trouvé cinq offres d'emploi que NewsBreak a publiées sur des sites d'emploi chinois et qui recherchaient des analystes de données ou des ingénieurs pour ses bureaux de Pékin et de Shanghai, capables d'effectuer une "extraction approfondie" de "données massives sur le comportement des utilisateurs" des utilisateurs américains de l'application.
Un conseiller républicain de la commission des affaires étrangères de la Chambre des représentants des États-Unis a déclaré à Reuters que l'utilisation par Newsbreak d'ingénieurs basés en Chine soulevait des inquiétudes quant à la possibilité d'accéder aux données des utilisateurs américains en Chine. L'assistant a refusé d'être identifié car il n'était pas autorisé à parler aux médias.
Dans une affaire récente très médiatisée, les autorités américaines ont averti que TikTok, dont la société mère est l'entreprise chinoise ByteDance, pourrait être contraint par le gouvernement chinois d'utiliser son algorithme pour contrôler le type d'informations visionnées par les Américains et de transmettre leurs données.
TikTok, l'application de vidéos courtes la plus téléchargée au monde, qui compte 170 millions d'utilisateurs américains, risque maintenant d'être vendue de force ou d'être interdite aux États-Unis.
En réponse aux questions de Reuters, TikTok a déclaré qu'elle prévoyait d'offrir à des tiers un accès plus large pour examiner son code et vérifier que l'application fonctionne comme prévu.
M. Zheng a déclaré à Reuters que NewsBreak était conforme aux lois américaines sur les données et la protection de la vie privée et qu'il était géré sur des serveurs Amazon (AWS) basés aux États-Unis. "Le personnel en Chine n'accède qu'à des données anonymes stockées sur des serveurs AWS aux États-Unis", a-t-il déclaré. Amazon n'a pas souhaité faire de commentaires.
NewsBreak a également déclaré qu'en tant qu'entreprise basée aux États-Unis, elle n'était pas soumise aux lois chinoises sur les données.
M. Pearlstine, l'ancien consultant de NewsBreak, a déclaré que la capacité de NewsBreak à démontrer qu'elle est une entreprise américaine était essentielle.
"La santé à long terme de NewsBreak dépendait du fait qu'elle soit perçue comme une entreprise californienne et que plus la direction se trouvait à Mountain View, mieux ce serait pour l'entreprise", a-t-il déclaré.
