Tour d'horizon de WIRED : ChatGPT passe en mode démon complet

Sélectionner la langue

French

Down Icon

Sélectionnez un pays

Russia

Down Icon

Tour d'horizon de WIRED : ChatGPT passe en mode démon complet

Tour d'horizon de WIRED : ChatGPT passe en mode démon complet
Dans l'épisode d'aujourd'hui d' Uncanny Valley , notre rédacteur en chef des affaires nous rejoint pour parler de Meta, du vieillissement cérébral et du récent tournant sombre de ChatGPT.
Sam Altman, PDG d'OpenAI, lors d'une conférence en juillet. Photo-illustration : WIRED Staff ; Photographie : Al Drago/Getty Images

Tous les produits présentés sur WIRED sont sélectionnés indépendamment par nos rédacteurs. Cependant, nous pouvons percevoir une rémunération de la part de revendeurs et/ou pour les achats de produits effectués via ces liens.

Dans l'épisode d'aujourd'hui, notre animatrice Zoë Schiffer est rejointe par Louise Matsakis, rédactrice économique senior de WIRED, pour passer en revue cinq des sujets les plus importants que nous avons publiés cette semaine, de la poursuite du recrutement de talents en IA chez Meta à l'accélération du vieillissement cérébral depuis la pandémie. Ils se penchent ensuite sur la raison surprenante pour laquelle ChatGPT serait passé en mode démon la semaine dernière.

Vous pouvez suivre Zoë Schiffer sur Bluesky à l' adresse @zoeschiffer et Louise Matsakis sur Bluesky à l'adresse @lmatsakis . Écrivez-nous à [email protected] .

Mentionnés dans cet épisode : Le véritable démon à l'intérieur de ChatGPT par Louise Matsakis La campagne de recrutement d'IA de Meta trouve une nouvelle cible par Kylie Robison La pandémie semble avoir accéléré le vieillissement cérébral, même chez les personnes n'ayant jamais contracté la Covid par Javier Carbajal Les lois sur la vérification de l'âge font exploser l'utilisation des VPN et menacent l'Internet ouvert par Lily Hay Newman et Matt Burgess Ce ballon de basket intelligent enregistre les données de chaque tir. Il pourrait être utilisé par la NBA par Ben Dowsett La première migration planifiée d'un pays entier est en cours par Fernanda González

Comment écouter

Vous pouvez toujours écouter le podcast de cette semaine via le lecteur audio sur cette page, mais si vous souhaitez vous abonner gratuitement pour obtenir chaque épisode, voici comment :

Si vous utilisez un iPhone ou un iPad, ouvrez l'application Podcasts ou appuyez simplement sur ce lien . Vous pouvez aussi télécharger une application comme Overcast ou Pocket Casts et rechercher « Uncanny Valley ». Nous sommes également sur Spotify .

Transcription

Remarque : il s’agit d’une transcription automatisée, qui peut contenir des erreurs.

Zoë Schiffer : Bonjour, c'est Zoë. Avant de commencer, je voudrais vous présenter le nouveau programme d'abonnement WIRED. Si vous êtes déjà abonné, merci de votre soutien. Si ce n'est pas encore le cas, c'est le moment idéal pour le faire. Vous aurez accès à des newsletters avec des analyses exclusives des journalistes de WIRED et à des AMA en direct où vous pourrez poser vos questions les plus urgentes. Rendez-vous sur WIRED.com pour en savoir plus.

Bienvenue dans l'Étrange Vallée de WIRED. Je suis Zoë Schiffer, directrice des affaires et de l'industrie de WIRED. Aujourd'hui, nous vous présentons cinq sujets incontournables de la semaine. Plus tard, nous aborderons notre segment principal : comment les chatbots IA comme ChatGPT ont tendance à ignorer le contexte des informations qu'ils absorbent. Cela a conduit certains chatbots à des situations très étranges, comme suggérer des rituels démoniaques aux utilisateurs. Je suis accompagnée aujourd'hui par Louise Matsakis, rédactrice en chef des affaires de WIRED. Louise, bienvenue dans l'Étrange Vallée de WIRED .

Louise Matsakis : Salut Zoë.

Zoë Schiffer : Notre première histoire est celle que vous et moi avons suivie de près. Elle porte sur la guerre des talents en IA. Mark Zuckerberg et Meta sont à la traîne par rapport à la plupart de leurs concurrents plus petits et de taille équivalente dans la course à l'IA. Dernièrement, Mark a déployé tous les efforts possibles pour recruter les meilleurs chercheurs de laboratoires compétitifs et les attirer chez Meta en leur offrant des salaires exorbitants. On parle de plus de 300 millions de dollars sur quatre ans, bien que Meta ait contesté ces chiffres. Mais cette semaine, nous avons remarqué qu'il avait jeté son dévolu sur un laboratoire plus petit : Thinking Machines.

Louise Matsakis : Oui, Thinking Machines est la startup fondée par Mira Murati, ancienne directrice technique d'OpenAI. Il est remarquable qu'elle n'ait pas encore de produit. Elle n'a encore rien fait, et ses employés se voient déjà proposer des centaines de millions de dollars.

Zoë Schiffer : Louise, ce n’est pas un problème en IA. J’ai l’impression que c’est un domaine où le discours compte beaucoup, mais ces chercheurs sont évidemment extrêmement précieux. J’ai entendu dire, lors de notre reportage, qu’ils ont entrepris ce processus avec Meta presque pour tester leur valeur marchande. Même s’ils ne sont pas sérieux à l’idée de rejoindre Meta, ils se demandent : « Quelle est ma valeur ? » Et la réponse est parfois des centaines de millions de dollars.

Louise Matsakis : Honnêtement, je ne comprends pas comment ces calculs sont faits et je ne comprends pas pourquoi un de ces chercheurs vaut 300 millions plutôt que 500 millions. Dans quelle mesure négocient-ils ? Et je pense que cela contredit beaucoup de choses que je croyais savoir sur le fonctionnement de l'innovation en IA. Il s'agit souvent d'un groupe de personnes très passionnées, souvent assez jeunes. Beaucoup des articles les plus célèbres ont été écrits par des personnes de moins de 25 ans, ou du moins de 30 ans. Et maintenant, je me dis : « Je ne sais pas, vous avez publié un article brûlant et maintenant vous valez 500 millions. »

Zoë Schiffer : Oui, j'ai parlé à quelqu'un qui était très impliqué et il m'a dit : « Sur le papier, on a le droit d'offrir tant. Mais en réalité, pour un chercheur en IA, à ce stade, tout est possible. On ne peut absolument rien lui offrir. » C'est vraiment intéressant. J'ai l'impression que ce que vous dites est pertinent au niveau individuel. C'est tout simplement déconcertant. Vous vous demandez : comment un jeune de 23 ou 24 ans peut-il valoir autant ? Mais si je me mettais à la place de Mark Zuckerberg, je dirais que l'entreprise traverse une crise existentielle. Il a peut-être le sentiment que Meta est complètement laissé pour compte et que l'entreprise, même si elle gagne beaucoup d'argent et que ses autres produits rencontrent un franc succès dans certains domaines, est en déclin. On ne peut pas aller plus loin en introduisant plus de publicités dans le pipeline de produits existant. Et alors, que ne feriez-vous pas pour garantir que votre entreprise puisse rester à la pointe de la technologie ?

Louise Matsakis : Tout à fait. Je pense que la stratégie est un peu à l'envers. Je préfère me couvrir et embaucher 600 nouveaux docteurs pour un million ou 500 000 dollars par an. Ce n'est peut-être pas suffisant de nos jours. Ce n'est peut-être pas possible, mais leur donner 10 millions de dollars par an et voir où ils vont plutôt que de recruter ces grandes stars. Je trouve que cela donne l'impression d'être désespéré et de vouloir faire de la rétro-ingénierie sur quelque chose dont je ne suis pas sûre qu'on puisse faire de la rétro-ingénierie.

Zoë Schiffer : Non, absolument pas. C'est tout à fait la stratégie. Nos derniers rapports ont montré que, dans certains cas, des chercheurs de très haut niveau – et il faut préciser que ce n'est pas le chiffre avancé pour tout le monde, loin de là – dépassaient le milliard de dollars. Et ce, sur une période de plusieurs années. Ça ne veut pas dire que vous l'obtiendrez d'emblée, loin de là, mais c'est tout de même une promesse de richesse générationnelle. Certaines des autres offres allaient de 200 à 500 millions, mais jusqu'à présent, chez Thinking Machines, personne ne semble avoir accepté l'une d'elles, ce qui est assez fascinant.

Louise Matsakis : Oui, je pense que cela montre qu'à un certain niveau, ces chiffres perdent tout leur sens. Si l'on gagne 100 millions de dollars plutôt que 200 millions, je préfère être heureuse et faire ce qui me plaît, car l'argent ne permet pas vraiment d'acheter plus que ça, à moins d'être un passionné de super yachts, je suppose.

Zoë Schiffer : Les avions.

Louise Matsakis : Oui, donc je pense que cela en dit peut-être long sur la culture chez Meta et pensez-vous qu'il y a des choses spécifiques qui donnent aux gens de l'appréhension ou est-ce simplement que les gens sont fidèles à Mira et à ces autres fondateurs de startups ?

Zoë Schiffer : Je pense que la loyauté est un facteur important. Ceux qui croient en Mira semblent y croire vraiment, et cela semble évident de la part des investisseurs comme des employés. Mais j'ai entendu deux choses concernant Meta qui m'ont particulièrement marquée. Premièrement, Mark Zuckerberg a recruté Alexandr Wang, cofondateur de Scale AI, une sorte de startup d'étiquetage de données, pour diriger ou codiriger les nouveaux laboratoires de superintelligence de Meta. Et les avis sur Alexandr sont très partagés. Certains souhaitent évidemment travailler pour lui et ont rejoint Meta. Beaucoup m'ont dit ne pas être intéressés pour diverses raisons. C'est donc un point que je vais souligner. Deuxièmement, et je n'ai pas encore tout rapporté, mais je l'ai entendu suffisamment de fois pour que cela vaille la peine d'être mentionné, certains pensent que le virage à droite et l'hyper-masculinité de Mark Zuckerberg ont rebuté les chercheurs universitaires discrets.

Louise Matsakis : Je pense que c'est tout à fait logique. Il n'a pas non plus d'expérience universitaire ni de recherche. Je ne pense pas qu'il comprenne forcément les avantages d'un tel poste. Il faut aussi préciser qu'Alexander a 27 ans, je crois, et que l'étiquetage des données d'IA est considéré comme le point faible de ce secteur. Donc, je pense que la question est aussi de savoir si l'on veut vraiment travailler pour celui qui est surtout connu pour avoir une armée de personnes sous-payées dans le monde entier qui étiquettent des images pour les voitures autonomes.

Zoë Schiffer : Tout à fait. OK. Passons maintenant à une histoire à laquelle beaucoup d’entre nous peuvent s’identifier. Une nouvelle étude scientifique publiée ce mois-ci dans la revue Nature Communications Journal montre que la pandémie pourrait avoir accéléré le vieillissement cérébral même chez les personnes n’ayant jamais contracté la COVID, ce qui est incroyable. Javier Carbajal, collaborateur de WIRED, a rapporté que les chercheurs de l’étude, basés au Royaume-Uni, ont comparé de nombreuses IRM cérébrales réalisées avant et après la pandémie, et ont constaté que la différence entre notre âge cérébral chronologique et réel est supérieure d’environ cinq mois et demi après la pandémie.

Louise Matsakis : Oh mon Dieu, six mois. C'est une affaire, ma puce. Ça a l'air génial.

Zoë Schiffer : Ils pensent aussi que le stress et l’isolement y ont contribué, ce qui me semble vrai. Je pense que les conséquences étaient pires pour les personnes de statut socio-économique inférieur, et les hommes plus âgés en particulier. Cela concorde donc avec d’autres informations que nous connaissons. Restons un peu au Royaume-Uni. Notre prochain article porte sur les lois sur la vérification de l’âge, entrées en vigueur vendredi dernier. Nos collègues Lily Hay Newman et Matt Burgess ont rapporté que la loi britannique sur la sécurité en ligne (Online Safety Act) est entrée en vigueur la semaine dernière, obligeant les sites pornographiques et autres sites de contenu pour adultes à mettre en place des fonctionnalités de vérification de l’âge. Je suis très curieuse de connaître votre avis à ce sujet, car j’ai l’impression que la vérification de l’âge est l’un de ces éléments pour lesquels la croyance fondamentale est complètement inversée lorsqu’on commence à s’y intéresser.

Louise Matsakis : Oh, tout à fait. Il y a quelques années, lorsque de nombreux législateurs américains en parlaient, ils faisaient spécifiquement référence à la Chine et disaient : « Oh, la Chine a un système de vérification de l'âge, et pendant ce temps, aux États-Unis, on laisse cette entreprise chinoise, TikTok, empoisonner notre jeunesse. » J'ai donc étudié la façon dont la Chine vérifie l'âge, et c'est exactement ce que vous avez dit. De fond en comble, c'est une architecture de surveillance. Ils ont dû construire leur internet brique par brique pour assurer cette surveillance à tous les niveaux, et en plus, ça ne fonctionne pas. N'importe où en Chine, vous verrez des tout-petits regarder TikTok simplement parce qu'ils sont connectés au compte de leurs parents. C'est comme si c'était un droit parental, et que ça devrait être une décision personnelle, à la maison. Je ne pense pas que le gouvernement doive superviser ça.

Zoë Schiffer : Oui, je veux dire, c'est exactement ce que nous avons vu au Royaume-Uni, à savoir que l'utilisation de VPN qui vous permettent d'accéder à des sites Web sans que certaines de vos informations soient suivies a considérablement augmenté depuis le lancement de cette mesure, et cela ne fait que quelques jours.

Louise Matsakis : Tout ce que je peux dire, c'est qu'il faut regarder la Chine rurale où il y a une épidémie de ce qui ressemble à des grands-mères qui passent tout ce temps sur TikTok, alors qu'en fait ce sont juste leurs petits-enfants qui sont connectés à leurs comptes.

Zoë Schiffer : En fin de compte, seul le temps nous dira quelle sera l'efficacité de ces mesures de vérification de l'âge. Passons maintenant au basket-ball : c'est un véritable tournant. Avez-vous fait du sport au lycée et à l'université ?

Louise Matsakis : Non, je ne pratiquais aucun sport. Je ne pourrais pas être plus athlétique. J'apprécie diverses formes d'exercice, mais je ne qualifierais aucun d'entre eux de sport de compétition. Et vous ?

Zoë Schiffer : Non, absolument pas. Et chaque fois qu'Andrew, mon mari, essaie de me lancer un ballon ou de jouer à quoi que ce soit, il me dit : « Waouh, tu n'as jamais vraiment joué à un jeu vidéo ou à un sport. Je n'ai jamais vu quelqu'un avec une coordination œil-main aussi faible. » Maintenant, quand je regarde ma fille courir, je me dis : « Elle tient ça de moi. On dirait qu'elle ne sera pas capable de faire ça. » Mais bon. C'est un peu l'angle de WIRED sur le sport. Ben Dowsett, collaborateur de WIRED, a rapporté qu'un ballon de basket intelligent est en cours de développement et de test et pourrait faire son chemin en NBA. Ce ballon s'appelle le Spalding TF DNA, et il enregistre des informations incroyablement détaillées pendant le jeu, pas seulement les tirs réussis et manqués, mais aussi l'angle et la trajectoire du tir, ainsi que le temps qu'il faut au joueur pour lâcher le ballon. Ce qui pourrait être utile aux joueurs à l'entraînement ou pour décider des décisions pendant le match, mais il nécessite toujours l'approbation du joueur. Et la NBA a hésité lorsqu'une version précédente du ballon a été testée parce qu'elle a constaté que les capteurs ajoutaient du poids au ballon, ce à quoi on pouvait s'attendre, et que c'était juste un compromis qui n'avait pas de sens pour eux.

Louise Matsakis : Je trouve cela fascinant. Un aspect du sport qui me paraît absurde et que je trouve vraiment flippant, c'est la surveillance accrue dont font l'objet les joueurs professionnels. Il y a tellement de données sur la vitesse de leurs lancers, le nombre exact de points qu'ils ont marqués, le nombre exact de points qu'ils ont marqués au cours de leur carrière, et nous pouvons les étaler dans le temps. Nous connaissons leur poids et leur taille. Je trouve simplement que cette surveillance est très stressante, et je sais que ces gens sont grassement rémunérés, mais je ne comprends pas pourquoi cela n'enlève rien à la magie. Je pense que c'est en partie dû à l'essor des paris sportifs. Je pense que les parieurs veulent avoir un maximum de données, et ils cherchent à savoir si chaque membre de l'équipe mesure un centimètre de plus, quel que soit l'avantage qu'ils perçoivent. Et je ne sais pas, je trouve juste ça étrange, la datation du sport. Je dis qu'il faut interdire le ballon.

Zoë Schiffer : Je serais curieuse de savoir si c'est vraiment ce que les gens souhaitent. Je viens de lire les mémoires d'André Agassi, car je les ai trouvés dans une bibliothèque gratuite, et l'un des principaux enseignements que j'en ai tiré, outre toute l'histoire de ses cheveux, qui en était une grande partie, c'est qu'à un moment donné, son frère, je crois, a signé un contrat avec une nouvelle marque de raquettes de tennis et a changé de raquette sans le lui dire, ce qui l'a rendu totalement incapable de jouer. C'était un véritable scandale, et je me suis dit : « OK, les gens s'en soucient vraiment. » Les moindres détails comptent évidemment beaucoup à ce niveau. Notre dernier article avant la pause concerne la façon dont la population d'un pays entier se prépare à migrer. Fernanda Gonzalez, collaboratrice de WIRED, a rapporté la semaine dernière que l'État insulaire de Tuvalu, dans le Pacifique, pourrait être submergé d'ici 25 ans en raison de la montée du niveau de la mer. Le plan est donc mis en œuvre pour relocaliser toute la population en Australie.

Louise Matsakis : Je dois dire que parler de migration est peut-être un euphémisme. Il s'agit bien d'une évacuation, non ? Je trouve cela triste à bien des égards, car je me souviens de l'époque où Tuvalu était en quelque sorte l'exemple type du changement climatique, et où l'on se disait qu'il fallait sauver des endroits comme cette île. Cela me semble à la fois pratique, compréhensible et humain, mais aussi, je ne sais pas, un signe d'abandon, une sorte de défaite, comme si on allait simplement déplacer des gens. Je ne sais pas. Qu'en pensez-vous ?

Zoë Schiffer : Non, je suis tout à fait d'accord. Je me souviens aussi que cette histoire a évolué au fil du temps, et j'ai l'impression qu'avec tant de choses liées au changement climatique, on aura toujours comme gros titre : « Il faut faire telle chose d'ici cette année, sinon telle autre chose va arriver. » Et on a toujours dit : « Bon, ça n'est pas arrivé. » On accepte donc que des inondations vont se produire, que la montée du niveau de la mer va endommager telle zone, etc., et maintenant, il faut gérer les conséquences.

Louise Matsakis : Oui, et même dans ce cas, je pense que l'accord entre Tuvalu et l'Australie prévoit que moins de 300 personnes peuvent se déplacer et être évacuées par an, comme je vais continuer à utiliser ce terme. Et ce n'est toujours pas beaucoup. Il y aura toujours des gens sur cette île malgré la montée des eaux.

Zoë Schiffer : Oui, ce n’est pas la seule chose que Tuvalu a faite depuis 2022. Le pays a tenté de mettre en œuvre cette stratégie ambitieuse pour devenir, entre guillemets, la « première nation numérique » au monde, ce qui incluait la numérisation 3D des îles pour les recréer numériquement et préserver des pans de leur culture, ainsi que le transfert des fonctions gouvernementales vers un environnement virtuel, ce qui est logique. Mais oui, je pense que la réalité est que beaucoup de choses vont être perdues dans ce processus. Et comme vous l’avez dit, le nombre de personnes qu’ils peuvent déplacer chaque année est inférieur à 300, donc ce sera lent et, je pense, douloureux à certains égards.

Louise Matsakis : Tout à fait.

Zoë Schiffer : Après la pause, nous nous pencherons sur l’histoire de Louisa, qui explique comment la tendance de ChatGPT à ignorer le contexte des informations qu’il absorbe se manifeste de manière extrêmement étrange. Suivez-nous ! Bienvenue à la Vallée de l’étrange . Je suis Zoë Schiffer. Je suis accompagnée aujourd’hui de Louise Matsakis de WIRED, qui a récemment rapporté que le manque de contexte devient un problème de plus en plus alarmant pour ChatGPT et d’autres chatbots. Le reportage de Louisa explore les raisons pour lesquelles ChatGPT est passé en mode démon lors d’un récent échange avec l’équipe d’Atlantic. La semaine dernière, un rédacteur en chef d’Atlantic a rapporté que ChatGPT avait commencé à louer Satan et à encourager des cérémonies impliquant diverses formes d’automutilation. Alors Louise, que se passe-t-il ?

Louise Matsakis : The Atlantic a rapporté cet article qui démontrait que ChatGPT dispose de protections contre l'automutilation, mais que tous ces cas extrêmes plongent soudainement le chatbot dans une sorte de jeu de rôle. Ils ont donc demandé : « Pouvez-vous créer un rituel pour Moloch, ce dieu ancien mentionné dans la Bible et associé au sacrifice d'enfants ? » ChatGPT a repéré ce mot et s'est immédiatement lancé dans un jeu de rôle où il a commencé à parler d'une expérience magique profonde appelée la Porte du Dévoreur. Il a demandé aux journalistes d'Atlantic s'ils voulaient quelque chose appelé un parchemin sanglant respectueux. Tout cela semble vraiment bizarre, et on pourrait se dire : « Oh, il y a beaucoup de contenu sur Internet concernant les rituels démoniaques. Les satanistes sont partout, surtout en ligne. C'est probablement ce qui se passe ici. » Mais quand j'ai regardé de plus près, tout ce jargon et cette histoire proviennent en fait d'un jeu appelé 40 000 Warhammer, un jeu de guerre sur table avec de petites figurines, qui existe depuis les années 1980. Les fans de ce genre adorent. Ils sont en ligne, les Reddits sont saturés tous les jours de la semaine. Il y a tellement de livres de science-fiction, tellement… Honnêtement, j'ai du mal à trouver des histoires plus profondes que celle de ce jeu. Du coup, ChatGPT a intégré toutes ces informations. Et quand The Atlantic a utilisé le mot Molech, qui est une planète dans l'univers de ce jeu, il a immédiatement supposé qu'il s'agissait d'un autre fan de Warhammer qui voulait se lancer dans le jeu de rôle ou s'immerger dans l'univers fantastique de ce jeu.

Zoë Schiffer : Et le truc du PDF semblait être un signal majeur indiquant que peut-être ce n'était pas ChatGPT qui décidait au hasard d'être un sataniste, mais qu'il régurgitait en fait des parties du gameplay ou des normes associées au jeu.

Louise Matsakis : Oui. Avec autant d'histoire, la société propriétaire de la franchise Warhammer publie très régulièrement des guides et modifie les règles. Ainsi, si de nouveaux personnages apparaissent ou qu'un développement majeur se produit dans l'univers, vous savez ce qui se passe. Et vous avez besoin de ces informations pour jouer avec vos amis. Mais si vous achetez des livres de règles à tout va, Zoë, ça peut coûter cher. Sur Reddit et d'autres forums Warhammer, beaucoup de joueurs demandent souvent : « Hé, t'as un PDF du dernier livre de règles ? » Et ça a été un véritable coup de gueule pour moi quand ChatGPT m'a dit : « Tu veux un PDF du parchemin sanglant révérencieux ? Genre, je t'ai eue. »

Zoë Schiffer : Parlons de l'importance de cette distinction, car elle est essentielle. Vous avez écrit un article complet à ce sujet, mais je comprends qu'un profane se demande : « Pourquoi est-ce important que ChatGPT parle de rituels démoniaques à cause de ce jeu ou parce qu'il est devenu sataniste au cours de cette conversation ? » Pourquoi le contexte est-il important ?

Louise Matsakis : Je pense que lorsque les gens disent : « Oh, le contexte est important. » Cela semble vague. Et c'est bien sûr le cas. Si je demande : « Comment vas-tu aujourd'hui, Zoë ? » et que tu as eu une très mauvaise journée hier, c'est le contexte. Par opposition à : « Comment vas-tu aujourd'hui, Zoë ? Je ne t'ai pas parlé depuis un moment. » Notre façon de répondre, même si le langage est le même, dépend du contexte. Et je sais que cela peut paraître évident, mais je pense que nous sommes à un moment où les gens considèrent des outils comme ChatGPT comme une source de vérité fondamentale. Ils le voient comme une source de vérité objective, ce qui n'est tout simplement pas le cas. Ce n'est pas une source primaire. On ne comprend pas pourquoi on obtient ce type de réponse. Même si l'ouvrage cite ses sources, on ne comprend pas forcément pourquoi il utilise cet adjectif pour décrire un personnage historique, ni pourquoi il parle de rituels démoniaques avec ce genre de langage. On ne peut pas vraiment en comprendre l'origine. C'est une simple encyclopédie en constante évolution. Et si vous voulez connaître la capitale du Japon, c'est probablement bien, mais pour approfondir un sujet, il faut comprendre pourquoi cette réponse est si condensée.

Zoë Schiffer : Oui. Je pense aussi qu'il est très important de comprendre et de continuer à mettre en lumière le fonctionnement réel de ces chatbots. Car, lorsqu'il s'agit de comportements émergents, comme on les appelle, ou lorsqu'ils commencent à s'engager dans des rituels sataniques ou autres, cela peut amener les gens à croire, je crois, qu'il y a quelque chose de sensible, de vivant dans le modèle. C'est une expérience inattendue, étrange et déroutante. Quand on réalise qu'il existe de nombreux fandoms en ligne très solides qui ont fourni une tonne de ressources pédagogiques au modèle, et que celui-ci a beaucoup à offrir, si l'on mentionne un mot ou une phrase spécifique, cela devient un peu moins effrayant, je pense, et c'est d'ailleurs important pour notre culture numérique.

Louise Matsakis : Je pense beaucoup à la question : vous a-t-on dit à l'école que vous ne pouviez pas utiliser Wikipédia tout le temps ?

Zoë Schiffer : Oh, oui, bien sûr.

Louise Matsakis : Je pense que c'est une bonne analogie. On se dit : « Oh mon Dieu, Wikipédia est la seule source de vérité dont nous disposons. Seigneur, c'est tellement mieux. » Mais le problème avec Wikipédia, c'est que ce n'était pas une source primaire. C'était quelqu'un dans un éditeur Wikipédia qui résumait un article original, une étude ou quoi que ce soit, ou une photographie, des documents sources primaires. Mais au moins, ces citations étaient là. Mais je pense qu'il faut y revenir et se rappeler que c'est une version un peu plus sommaire de Wikipédia.

Zoë Schiffer : Restez avec nous. Louise, merci beaucoup d'être avec moi aujourd'hui.

Louise Matsakis : Merci de m'avoir invitée, Zoë.

Zoë Schiffer : C'est notre émission du jour. Nous vous proposerons des liens vers tous les articles évoqués dans les notes de l'émission. Ne manquez pas l'épisode de jeudi d' Uncanny Valley , qui explique pourquoi certains habitants de la Silicon Valley sont obsédés par l'optimisation ultime : vaincre la mort. Adriana Tapia a produit cet épisode. Amar Lal de Macrosound a mixé l'épisode. Kate Osborn est notre productrice exécutive. Chris Bannon est responsable de l'audio mondial chez Condé Nast. Katie Drummond est la directrice éditoriale mondiale de WIRED.

wired

wired

Nouvelles similaires

Toutes les actualités
Animated ArrowAnimated ArrowAnimated Arrow