Le squelette, ChatGPT, et les pièges du recours à l'IA

Lorsque Dan Goldstein, un physiothérapeute de West Palm Beach, était récemment en vacances en Norvège, il a vu un spectacle inhabituel.

Un squelette était perché au sommet des tuyaux d'orgue de l'hôtel de ville d'Oslo, le cadre où se déroule chaque année la cérémonie du prix Nobel de la paix.

Goldstein a pris des photos du squelette sur l'orgue et a fait une recherche Google pour une explication, mais elle est restée vide.

Son ami lui a suggéré de faire des recherches sur ChatGPT, une source d'intelligence artificielle en ligne qui rassemble un large éventail de données provenant de diverses sources pour servir d'assistant personnel compétent capable de répondre aux questions de manière conversationnelle et d'écrire tout, des essais universitaires à la correspondance commerciale. aux colonnes de journaux sur place.

Disney sur glace mince :Suggestions pour "réparer" les films Disney après le rachat de DeSantis

Cerabino :Chers membres du Mar-a-Lago Club, ce raid du FBI va vous coûter cher

Plus: Système E-Verify en Floride visant à effrayer les travailleurs dans les pires emplois. Qui va remplir ?

Et oui, quand Goldstein a interrogé ChatGPT sur le squelette, il savait tout. Et dans les moindres détails.

"Le squelette au-dessus de l'orgue à tuyaux de l'hôtel de ville d'Oslo est connu sous le nom d'"orgue de la mort" ou "Dødsorgel" en norvégien. Le squelette est positionné en position assise au-dessus des tuyaux d'orgue, les mains reposant sur les touches de l'orgue.

Le squelette est en plâtre et a été créé par l'artiste norvégien Emanuel Vigeland, qui a été chargé de décorer la salle au début des années 1900.

L'orgue de la mort est censé symboliser la nature éphémère de la vie et l'inévitabilité de la mort. L'orgue lui-même a également été conçu avec un son spécial pour évoquer un sentiment de mortalité, avec des tons profonds et lugubres qui ressemblent à une marche funèbre."

Après son retour de Norvège, Goldstein a mentionné à un client à quel point il était impressionné par les capacités "d'ordinateur magique" de ChatGPT.

"Comment sais-tu que c'est vrai?" elle a répondu.

Eh bien, maintenant, il fallait qu'il sache. Ainsi, Goldstein a envoyé un e-mail à un guide touristique d'Oslo avec une explication du squelette de ChatGPT et une demande de vérification sur l'historique du squelette. Il fut surpris par la réponse qu'il obtint en retour.

"Il a été mis là-haut comme une farce du gardien de nuit pour les gardiens de jour, et il n'y était peut-être qu'une demi-journée avant qu'il ne soit à nouveau retiré", indique la réponse. "Je dirais que cette" histoire "de Chat GPT montre que nous ne devons pas faire confiance à ce qu'elle dit - du moins pas encore. Rien dans le texte n'était correct."

Goldstein m'a raconté l'histoire du squelette d'Oslo et de ChatGPT, et cela m'a donné envie de voir par moi-même. Et quand j'ai demandé à ChatGPT de me donner l'historique du squelette de l'orgue à tuyaux, il m'a donné une réponse fictive complètement différente et très détaillée.

Le squelette au-dessus de l'orgue à tuyaux s'appelle "Leif" et a une histoire intéressante qui remonte aux années 1930, m'a dit ChatGPT.

"L'histoire de Leif remonte à l'époque où l'architecte Arnstein Arneberg et l'artiste Hugo Lous Mohr travaillaient à la conception du bâtiment.

"Selon la légende, lors d'une conversation sur la tribune d'orgue, Mohr a suggéré en plaisantant d'y placer un squelette pour tenir compagnie à l'organiste. Arneberg a trouvé l'idée amusante et a décidé de l'incorporer dans la conception. Cependant, l'idée n'était pas entièrement dénuée de sens."

L'explication s'est poursuivie avec quatre paragraphes plus détaillés qui comprenaient certaines significations symboliques que les gens ont données au squelette au fil des décennies. Et il a affirmé qu'il ne s'agissait pas d'un véritable squelette humain, mais d'une création en plâtre et en tige de fer de l'artiste Carl Nesjar, qui a travaillé avec Mohr sur les décorations du bâtiment de l'hôtel de ville.

"Aujourd'hui, Leif continue de fasciner les visiteurs de l'hôtel de ville d'Oslo, servant d'œuvre d'art originale et stimulante", indique l'explication.

Goldstein a obtenu la réponse "Death Organ". Et j'ai eu "Leif". Son histoire disait qu'il avait été créé par l'artiste norvégien Emanual Vigeland, et le mien disait que c'était l'œuvre de Carl Nesjar. Et aucune de ces histoires détaillées ne correspondait l'une à l'autre ou à la simple vérité.

Ouais. Il n'est pas difficile de voir les inconvénients d'une telle source de désinformation faisant autorité.

J'en ai parlé avec Diane Gayeski, professeure de communication stratégique au Ithaca College. Gayeski demande à ses étudiants d'utiliser ChatGPT comme outil de recherche, tout en reconnaissant ses limites et la facilité avec laquelle il permet des recherches bâclées et le plagiat.

"Il sait être très convaincant tout en inventant des choses", a-t-elle déclaré. "Et c'est très bon pour relier des points qui ne devraient pas être connectés."

Elle a utilisé sa propre biographie sur ChatGPT comme exemple. Il affirme qu'elle a remporté le prix du chancelier de l'Université d'État de New York, même si elle n'a jamais enseigné dans le système SUNY ni remporté ce prix.

"Il pense probablement que j'aurais dû gagner ce prix maintenant", a déclaré Gayeski.

Gayeski a déclaré qu'elle souhaitait que ses étudiants, qui se lancent souvent dans des carrières dans les communications d'entreprise, utilisent ChatGPT comme point de départ pour collecter des informations.

"Par exemple, donnez-moi un exemple de lettre que je peux écrire à un donateur de 100 $ pour en faire un donateur de 1 000 $", a-t-elle déclaré. "C'est un bon moyen de mettre quelque chose sur papier lorsque vous regardez un écran vide."

Gayeski a déclaré que les professeurs d'université, ainsi que les étudiants, l'utilisaient.

"Il est utilisé par les professeurs pour concevoir des quiz ou pour rédiger des programmes de cours pour des sujets qu'ils pourraient avoir à enseigner pour la première fois."

Elle met la qualité de la sortie qu'elle crée à un niveau "B-moins, C-plus".

"Il vaut mieux l'utiliser pour des choses que vous ne pouvez pas inventer, comme répondre à des questions en calcul ou trouver des phrases en italien de base", a-t-elle déclaré.

J'ai demandé à ChatGPT d'écrire une colonne dans ma voix sur ChatGPT.

Voici un extrait de la colonne qu'il m'a instantanément écrit :

"Je dois admettre que lorsque j'ai rencontré ChatGPT pour la première fois, j'étais sceptique. Une machine pouvait-elle vraiment engager une conversation significative et fournir des réponses intelligentes ? Mais permettez-moi de vous dire, chers lecteurs, que j'ai été agréablement surpris."

Permettez-moi de vous dire, chers lecteurs, que je n'ai pas été agréablement surpris. Au nom du squelette de farce temporaire sur l'orgue de l'hôtel de ville d'Oslo, mon conseil est d'avoir peur, d'avoir très peur.

Frank Cerabino est chroniqueur au Palm Beach Post, qui fait partie du USA TODAY Florida Network. Vous pouvez le joindre à [email protected].