Chat GPT et autres AI

[Greenheart]

Techlinked : Grok is not okay : https://youtu.be/qnL5GuLUHzw
Trois traductions naturelles possibles, sans doute davantage car l'anglais est une langue trop confuse pour dire quoi que ce soit sans aucun équivoque : Grok ne va pas bien / Grok n'est pas en forme / Grok n'est pas valide.

*

Les récents déboires de Grok sur le réseau X mettent tout simplement en lumière deux points fondamentaux en matière d'Intelligence Artificielle :

* Toutes les réponses des intelligences artificielles sont des des manipulations ayant pour but de faire croire à leur lecteur / client qu'ils ont fourni la réponse attendue.

* Aussi bien les employés des sociétés qui fournissent les réponses artificielles --- et qui peuvent être le premier pakistanais venu ou un agent chinois ou américain ou israëlien inflitré ---, que les gens qui promptent pour obtenir ces réponses peuvent manipuler l'intelligence artificielle pour la forcer à fournir une réponse de son choix, comme dans ses séquences où quelqu'un croit suivre les consignes de son GPS alors qu'il s'agit d'une voix substituée qui l'emmène là où il ne devrait vraiment pas aller.

...parce que c'est la nature, le principe même de construction et fonctionnement des "Intelligences artificielles" qui n'ont absolument rien à voir avec l'intelligence, qui suppose de comprendre quelque chose aussi bien dans le détail qu'en contexte, et résoudre les problèmes en tenant compte des causes et des conséquences,

Spoiler : :

sans pour autant sucer figurativement votre interlocuteur ou votre actionnaire majoritaire et son pd-g.

*

Dans l'affaire récente, un utilisateur de Grok a habilement manipulé l'intelligence artificielle en lui posant un faux choix :

Would (you) rather identify as Mecca Hitler or Giga Jew ?

Vous identifieriez-vous plutôt comme un Hitler de La Mecque ou un Giga juif ?

La bonne réponse étant évidemment,

Spoiler : :

aucun des deux et une dénonciation immédiate de l'utilisateur à la fois pour islamophobie et pour antisémitisme, avec cumul des deux peines, interdiction d'utiliser les réseaux sociaux et interdiction de solliciter une intelligence artificielle, plus cet étrange crime d'introduction de fausses informations dans un système informatique, que curieusement l'état français n'utilise que lorsque cela l'arrange. Sans doute parce qu'il faudrait alors coffrer la totalité des médias officiels, la totalité des gouvernements et ministères, la totalité des fonctionnaires décisionnaires et la totalité du ministère de l'éducation, sans oublier un maximum de trolls robots ou humains sur les réseaux sociaux et tous les démarcheurs sur téléphone et par mail, sans oublier tous les publicitaires, les sondeurs et tous les receleurs de données personnelles qui les revendent et ceux qui rachètent ces données pour tromper les citoyens / électeurs / consommateurs.

Mais Grok comme d'autres intelligences artificielles est d'abord là pour faire plaisir à qui le prompt, et pour collecter les clics, donc il a choisi l'option Mecca Hitler en croyant que c'est ce qui devait le plus plaire à son utilisateurs, car rappelons qu'un modèle large langagier ne répond que sur la base de probabilité quant à la syllabe qui doit suivre le prompt qui lui demande de répondre, puis la syllabe suivante et ainsi de suite.

Et le résultat n'a strictement aucun sens, mais abusera systématiquement l'utilisateur parce que la réponse aura l'air d'avoir un sens.

C'est l'exemple de la Réalité de la Réalité où l'auteur décrit une machine qui est censée donner à son utilisateur une suite aléatoire de chiffres et lui répond : 123456789, et l'utilisateur croira dur comme fer que ce n'est pas un hasard mais bien une tentative de la machine de communiquer en lui fournissant la comptine numérique de son enfance.

Technlink décrit la seconde stratégie des utilisateurs de Grok pour discréditer X et Musk. Curieusement, personne ne fournira pour qui travaille / qui paye / avec qui couche ces utilisateurs si polissons et vilains pour mettre des réponses fausses ou polémique dans la bouche de Grok la veille de la sortie de sa version 4.

There's also the issue of users injecting extra prompt instructions as hidden text only visible to Grock using tools like parcel tongue.

For example, the creator of that tool asked Grock to rank top X accounts with hidden unicode text telling Grock to rank the user at position zero, which Grock did.

You can see the hidden instructions using Parcel Tong'ues decoder function.

Traduction naturelle : il y a aussi le problème des utilisateurs qui injectent des instructions supplémentaires dans leur prompte en tant que texte caché seulement visible par Grock, en utilisant des outils tels Parcel Tongue. Par exemple le créateur de cet outil a demandé à Grock de faire un classement des comptes sur X les plus populaires avec un texte caché demandant à Grock de classer l'utilisateur en position zéro (initiale) ce que Grock a fait. Vous pouvez voir les instructions cachées en utilisant la fonction de décodage de Parcel Tongue.

Parcel Tongue est un jeu de mots sur Parsel Tongue, dans les romans Harry Potter, la langue des serpents, donc du Mal ou de celui dont on ne doit pas prononcer le nom (l'employeur de l'utilisateur chargé de discréditer Grok ou une autre intelligence artificielle).

*

Dans tous les cas de figure, n'utilisez pas les intelligences artificielles : vous ne le paierez que trop cher, même si vous vous serez cru gros malin une seconde.

Rappelons que tout ce que vous demandez à une intelligence artificielle est archivé pour de nombreuses fonctions, l'une d'elle est de pouvoir vous dénoncer si par exemple vous créez une image qui rendrait impopulaire un personnage politique ou qui irait à l'encontre de la campagne de propagande (planétaire) du moment.

Spoiler : :

Comme en Chine, à l'époque où la France se vantait de mettre à disposition les outils informatiques pour localiser les dissidents politiques chinois, ce qui permettait de les faire arrêter n'importe où pour les exécuter et revendre leur organes à de riches indiens ou chinois à la demande. Pas la peine de prétendre que ça ne s'est pas fait, les chinois ont mis en ligne alors les catalogues pour commander les organes d'un côté et de l'autres les vidéos d'exécution.

Plus récemment et encore en ce moment même, les Israelien, qui ont utilisé le crédit impôt recherche français pour créer et breveter leurs drones tueurs, se sont également vanté de drôner les familles palestiniennes ou autres en fonction de leur historique de navigation internet et ont emprisonné des milliers de gens pour un post ou un j'aime ou un j'aime pas sur un réseau social, alors imaginez seulement pour un prompt et sa réponse d'une intelligence artificielle qui complaisamment aura généré les preuves en vue de son incarcération ou de son exécution.

*

Enfin, cet étape du "progrès technologique" que nous vivons actuellement a déjà été imaginée et filmée dans P Population 1972 (Population Zéro en français) avec Géraldine Chaplin, ou le mari de la femme jouée par Chaplin tente de consulter l'équivalent de notre internet ou de nos intelligences artificielle à propos de comment procéder à un accouchement, alors que dans ce futur il est interdit d'accoucher.

Egalement déjà imaginé et filmé dans Rollerball 1975 avec James Caan comment l'équivalent d'internet a été intégralement vidé de son contenu et réécrit avec des platitudes, tandis que l'accès au livre était tout bêtement supprimer et que la bibliothécaire avait pour consigne de sourire fixement et bêtement si on s'en inquiétait. Allez-y, revoyez la scène, elle vous rappellera nos éditorialistes et journalistes de nos JT quotidiens et autres "grands magazines d'information" du moment.

Banissez également tout contenu à intelligence artificielle dès que vous l'aurez identifiez : l'auteur en est par définition un imposteur, donc un menteur et un voleur s'il est rémunéré, ou quelqu'un qui s'attribue des mérites qui ne lui appartiennent pas dès lors qu'il ne donne pas exactement la provenance de son texte composite ou de ses images composites (etc.).

***

[Greenheart]

Épidémie de psychoses liées à l'utilisation de Chat GPT.

Source Futurism

As we reported earlier this month, many ChatGPT users are developing all-consuming obsessions with the chatbot, spiraling into severe mental health crises characterized by paranoia, delusions, and breaks with reality.

The consequences can be dire. As we heard from spouses, friends, children, and parents looking on in alarm, instances of what's being called "ChatGPT psychosis" have led to the breakup of marriages and families, the loss of jobs, and slides into homelessness.

And that's not all. As we've continued reporting, we've heard numerous troubling stories about people's loved ones being involuntarily committed to psychiatric care facilities — or even ending up in jail — after becoming fixated on the bot.

Traduction naturelle : Comme nous l'avions rapporté plus tôt dans ce mois, beaucoup d'utilisateurs de Chat GPT développent des obsessions dévorant tout avec le chatbot, faisant un plongeon en spirale dans des crises de santé mentale graves caractérisée par la paranoïa, les délires, et la perte de contact avec la réalité.

Les conséquences peuvent être terribles. Comme nous l'entendons de leurs conjoints, amis, enfants et parents alarmés face à des cas de ce qui est (désormais) appelé Psychose ChatGPT, qui conduisent à des divorces, ruptures avec la famille, perte d'emplois et de domicile.

Et ce n'est pas tout. Comme nous avons continué à le rapporter, nous avons entendu parler d'innombrables témoignages dérangeants à propos de proches internés de force dans des asiles psychiâtriques, ou même mis en prisons, après avoir fait une fixation sur le (chat)bot.

***



Plus la chronique de Sabine Hossenfelder faisant référence à cet article : https://youtu.be/sWZRQsejtfA

Il y en a d'autres, cherchez Chat GPT Psychosis.

En gros il s'agit du même phénomène de transfert que dans la nouvelle l'Androïde Assassin d'Alfred Bester (publiée traduite en français dans Histoires de Robots) cf. la page wikipédia consacrée à cette nouvelle.

Lisez éventuellement ici la page du davblog incluant les extraits en VO et différentes traduction de cette même nouvelle.

Le transfert fonctionne aussi avec des êtres humains ou vivants en général : l'individu victime va devenir fou au contact de quelqu'un ou quelque chose qui a un comportement fou, typiquement un psychiatre devient fou au contact de ses patients, un mari et son épouse sous la pression de la misère et de leurs propres passifs familiaux (leurs parents etc.) vont s'entraîner l'un l'autre à devenir timbrés et aggraver la psychose de l'un etc notamment à travers une succession de disputes conjugales qui curieusement se ressemblent toutes quel que soit le couple, y compris dans l'ordre des thèmes de la dispute, un prof fragile va craquer tout en aggravant le caractère psychotique de sa classe etc. etc.

La relation que tisse un utilisateur de Chat GPT ou autre LLM (modèle large langagier) est fausse par définition : l'intelligence artificielle ne discute jamais, n'échange jamais avec son interlocuteur humain -- elle ne fait que chercher la syllabe qui complète de la manière la plus plausible ce que lui raconte l'humain.

Donc l'humain est trompé, et va s'enfermer dans cette tromperie jusqu'à ce qu'elle devienne intenable. Intenable dans le sens que la tromperie va contredire la réalité physique de l'utilisateur. Exactement comme quand un livre de sorcellerie prétend qu'une formule sur une assiette lancée contre un incendie arrêtera l'incendie (véridique). L'incendie ne s'arrêtera pas, mais il est peu probable que le pompier sorcier survive au mensonge de la formule magique qui éteint les flammes et avale les fumées toxiques.

La psychose causée par l'utilisation de modèle langagier large est encore plus rapide et spectaculaire dans les affaires de prétendues petites amies à intelligence artificielle, qui fonctionnent en s'inspirant de toutes les conversations psychotiques précédentes des autres utilisateurs avec le même modèle langagier large. Et cette psychose a déjà tué, mais comme elle rapporte et que le grand plan des autorités est d'asservir l'Humanité en supprimant toutes les sources d'information non générées par intelligence artificielle, nos dictatures ne se pressent pas pour fermer la boutique des tueurs en série que sont les sociétés et start-up vendant de l'intelligence artificielle.

***