Et maintenant, nous vous présentons la traduction humaine de l’article https://www.npr.org/sections/money/2023/01/17/1149206188/this-22-year-old-is-trying-to-save-us-from-chatgpt-before-it-changes-writing-for de l’anglais au français.
Alors que nombre d’américains luttaient contre les maux de tête des lendemains de soirée lors du jour de l’an, Edward Tian, un jeune homme de 22 ans travaillait sans relâche sur une nouvelle appli pour combattre les mauvais usages d’un puissant et nouvel outil d’intelligence artificielle (IA) appelé ChatGPT.
Etant donné le buzz qu’il a créé, il y a beaucoup de chances pour que vous ayez entendu parler de ChatGPT. Il s’agit d’un chatbot interactif qui fonctionne par apprentissage automatique. La technologie a tout simplement dévoré le web tout entier, lisant les travaux intellectuels du monde entier et apprenant des schémas de langage qu’il peut recréer. Tout ce que vous avez à faire c’est lui donner l’opportunité et ChatGPT peut créer des matrices de choses sans fin comme : écrire une histoire dans un style particulier, répondre à une question, expliquer un concept, rédiger un courriel, et même écrire une dissertation pour l’université, et cela ressortira avec une cohérence impeccable, semblable à un texte écrit par la main de l’homme en seulement quelques secondes.
La technologie est à la fois incroyable et terrifiante.
« Je pense que nous sommes arrivés à un point d’inflexion » déclare Tian. « Cette technologie est incroyable, je pense que c’est le futur, mais en même temps, c’est comme si nous ouvrions la boîte de Pandore. Et nous avons besoin de protections pour l’adopter de manière responsable »
Tian est dans sa dernière année à Princeton University avant d’être diplômé, où sa majeur est l’informatique et sa mineur le journalisme. Avant d’attirer l’attention, les plus grands projets de Tian étaient d’obtenir son diplôme et de se faire retirer les dents de sagesse. Maintenant il répond aux appels d’entreprises d’investissement, de dirigeants éducatifs et de la presse mondiale.
Au cours des dernières années, Tian a étudié un système d’intelligence artificielle appelé GPT-3, un prédécesseur de ChatGPT qui était beaucoup moins simple d’usage et en grande part inaccessible au plus grand nombre car il était payant. Dans le cadre de ses études lors du 1er semestre, lorsqu’il travaillait au Princeton’s Natural Language Processing Lab (Laboratoire de Traitement du Langage Naturel de l’Université de Princeton) Tian a cherché comment reconnaître un texte écrit par un système d’intelligence artificielle.
Puis, alors que le semestre touchait à sa fin, OpenAI, l’entreprise conceptrice de GPT-3 et autres outils d’IA, a rendu publique ChatGPT gratuitement. Pour les millions de personnes qui l’ont utilisée depuis, interagir avec cette technologie a été comme faire un saut dans le futur, un futur qui, il y a peu, apparaissait comme de la science fiction.
Bien qu’ayant étudié l’IA, Tian, comme nous, a été frappé par le pouvoir de ChatGPT. Ses amis et lui l’ont utilisée pour écrire des poèmes et des textes de rap sur les uns et les autres. « Et c’était comme : ‘Wow, ces résultats sont vraiment bien’ », a déclaré Tian. Il semblait que tout le monde sur le campus ne parlait plus que de cette technologie et combien elle était remarquable. Il est sûr que le texte que cette IA génère est bateau et pas toujours très précis, mais cela ressemble au début d’une révolution.
Pour beaucoup d’utilisateurs de cette nouvelle technologie, l’enchantement est vite devenu alarmant. Combien de métiers cela va-t-il détruire ? Cela ne va-t-il pas donner plus de pouvoir aux acteurs néfastes de la société et encore plus corrompre notre discours public ? Comment cela va-t-il dérouter notre système éducatif ? A quoi sert désormais d’apprendre à rédiger des dissertations à l’école quand une IA, qui est supposée devenir de plus en plus performante dans les années à venir, peut le faire pour nous ?
Stephen Marche, qui a écrit dans le magazine américain The Atlantic le mois dernier, a déclaré « La dissertation universitaire est morte ». Il décrit ChatGPT et la révolution de l’IA comme faisant partie d’une crise existentielle pour l’humanité. « La dissertation, en particulier la dissertation universitaire, a été au centre de la pédagogie humaniste durant des générations » écrit Marches. « C’est la façon par laquelle nous apprenons aux enfants comment faire des recherches, penser, rédiger. Cette tradition tout entière est sur le point d’être anéantie ».
Edward contre La Machine
Après que le 1er semestre se soit terminé, Tian est retourné chez lui à Toronto pour les vacances. Il est sorti avec sa famille, a regardé Netflix mais il n’a cependant pas pu arrêter de penser aux défis monumentaux auxquels l’humanité est confrontée dû à l’avancée rapide de l’intelligence artificielle.
Puis il eut une idée. Et s’il appliquait tout ce qu’il avait appris à l’école au cours de ces dernières années pour aider le public à identifier quand quelque chose a été écrit par une machine ?
Tian avait déjà le savoir-faire et même le logiciel sur son ordinateur portable pour créer un tel programme. L’ironie du sort à voulu que ce logiciel, appelé GitHub Co-Pilot, soit alimenté par GPT-3. Avec son aide, Tian a été capable de créer une nouvelle application en seulement trois jours. Cela atteste du pouvoir que cette technologie a de nous rendre plus productif. Le 2 janvier, Tian a rendu publique son appli. Il l’a baptisée GPTZero. En bref, elle utilise ChatGPT contre lui-même, vérifiant « s’il y a une quelconque implication ou non » du système d’intelligence artificielle dans la création d’un texte donné.
Quand Tian est allé se coucher ce soir-là, il n’attendait pas grand-chose de cette appli. « Quand je l’ai rendue publique, je pensais que peut-être seulement quelque douzaine de personnes tout au plus l’aurait essayée », a déclaré Tian. « Je ne m’attendais pas à ce qui est arrivé ».
Quand Tian s’est réveillé le lendemain, son téléphone était saturé. Il a vu de nombreux messages de journalistes, directeurs, professeurs, et bien d’autres personnes venant même de France ou bien de Suisse. Son appli, qui est hébergée sur une plateforme gratuite est devenue si populaire que la plateforme a crashé. Excitée par la popularité et l’objectif de son appli, la plateforme qui hébergeait l’appli a dès lors accordé à Tian les ressources nécessaires pour délivrer les services de l’appli à une plus grande audience.
Combattre la Hallmarkisation de tout
Tian déclare qu’il avait plusieurs motivations de créer GPTZero. La première était la transparence. « Tout le monde mérite de savoir quand quelque chose a été écrit par un humain ou par une machine », a-t-il déclaré.
Au-delà de ça, une utilisation évidente de GPTZero est d’aider les professeurs à identifier si leurs étudiants plagient leurs dissertations sur ChatGPT. « Les professeurs du monde entier sont inquiets de cela », a déclaré Tian.
Cependant, certaines personnes dans le monde de la technologie ne pensent pas que copier-coller ce que ChatGPT produit pose réellement problème. « ‘Le plagiat de ChatGPT’ n’est vraiment pas une réelle préoccupation », a tweeté Marc Andreessen, un investisseur et pionnier d’internet, plus tôt ce mois-ci. « Si vous ne pouvez pas produire une meilleure rédaction qu’une machine alors pourquoi écrivez-vous ? »
Elon Musk, l’un des co-fondateurs d’origine d’OpenAI, a récemment tweeté, « C’est un nouveau monde. Adieu les devoirs ! » en réponse aux rapports disant que les écoles imposaient de nouvelles mesures strictes contre le plagiat de ChatGPT.
Bien sûr, ce ne sont que de simples tweets, mais cela donne vraiment l’impression que nous sommes entrés dans un nouveau monde où nous sommes obligés de réévaluer notre système éducatif et même la valeur, ou du moins la méthode, pour apprendre aux enfants à rédiger.
Nous sommes beaucoup à avoir perdu la volonté et même la capacité, à mémoriser les numéros de téléphone quand les téléphones portables sont arrivés. En déléguant la mémorisation à une machine, nous sommes devenus dépendants de celle-ci pour appeler nos amis et notre famille. Vous pourriez être tentés de dire que c’est pour le mieux et que cela a libéré nos esprits pour que nous puissions nous concentrer sur d’autres choses, mais vous pourriez aussi considérer que c’est une sorte de régression, une dévalorisation de nos capacités mentales. Ne perdez pas votre téléphone portable !
Désormais l’humanité fait face à la perspective d’une encore plus grande dépendance aux machines. Il est possible que nous nous dirigions vers un monde où une part encore plus importante de la population perde sa capacité à rédiger correctement. C’est un monde dans lequel toute notre communication écrite serait comme des cartes Hallmark (marque de carte de vœux), écrites sans notre propre créativité, notre propre personnalité, ni même nos propres idées, nos propres émotions ou encore nos propres idiosyncrasies. Nous pourrons l’appeler la Hallmarkisation de tout.
Toutefois, au moins, quand nous offrons des cartes de vœux Hallmark à des personnes, elles savent que nous leur donnons des cartes Hallmark mais si nous utilisons ChatGPT pour écrire à nos amis pour les féliciter ou nous excuser, ils ne sauront peut-être même pas que cela a été écrit par une machine.
Ce qui nous amène à un autre but que Tian avait envisagé pour son appli : identifier et encourager l’originalité dans la rédaction humaine. « Nous allons perdre cette individualité si nous arrêtons d’apprendre à rédiger à l’école », a déclaré Tian. « La rédaction humaine peut être si belle, et il y a bien des aspects que les ordinateurs ne pourront jamais copier. Et il semblerait que cela puisse être en danger si tout le monde utilise ChatGPT pour écrire ».
Tian n’est pas Luddite. Il n’essaye pas d’arrêter l’IA sur sa lancée. Il pense que c’est impossible et dit qu’il s’oppose à l’interdiction totale de l’utilisation de ChatGPT comme celle récemment annoncée par les écoles publiques de la ville de New York. Il pense que les étudiants continueront à utiliser cette technologie dans tous les cas et pense que c’est important qu’ils soient capables d’apprendre comment l’utiliser. Ils ont besoin d’être au courant des changements technologiques qui sont en train de bouleverser notre monde. « Cela ne sert à rien d’avancer aveuglément vers le futur » dit-il. « Au contraire, il faut pouvoir créer des protections pour entrer dans ce futur ».
Comme ses projets après l’université, Tian déclare que l’excitation ainsi que la forte demande pour son appli l’ont convaincu quant au besoin de la rendre meilleure et encore plus précise. « Si vous êtes un professeur ou un éducateur, notre équipe, qui est actuellement composée de mon meilleur ami de l’université (qui m’a rejoint seulement hier) et moi-même, serions très heureux de discuter avec vous », a déclaré Tian.
Donc si vous vous retrouvez face à un texte que vous suspectez avoir été écrit par une machine, peut-être devriez-vous essayer de le faire analyser par la nouvelle appli de Tian. Vous pouvez la trouver sur le site Web GPTZero.me.