Psychonaut et les LLM

[snap2]

Hello à tous,

Pour ceux qui ne vivent pas une grotte depuis plus de 3 ans, vous avez dû remarquer que l'usage des larges modèles de langage (LLM, par exemple ChatGPT) se généralise fortement, y compris dans les moteurs de recherche. Et que ce phénomène menace assez fortement tous les forums spécialisés pour les raisons suivantes :

• Les gens n'ont plus à faire l'effort d'ouvrir une page web vu qu'un LLM est directement sur les résultats de recherche (et qu'en plus cela augmente le scroll nécessaire pour trouver une page utile)
• Fouiller dans un forum est devenu une charge mentale, surtout en y étant peu habitué. C'est encore pire concernant l'inscription pour poser une question sur un forum.
• L'instantanéité des réponses couplé à la personnalisation des LLM donne des résultats satisfaisant pour 80% des questions de RdR au bas-mot.

Il ne nous reste donc à mes yeux "que" le côté communautaire, et les questions RdR très techniques (et encore, avec la performance + fiabilité de certains LLM comme Perplexity, pas sur que ce dernier point ne reste longtemps).

L'activité ici et sur psychoactif étant fortement en baisse ces derniers temps, cela me semble difficilement être une pure coïncidence. Même si nous avons encore quelques nouveaux arrivants et des discussions intéressantes, je flippe un peu concernant l'avenir du forum.

Que pensez-vous des LLM ? Est-ce qu'ils ont changé votre façon d'utiliser les forums sur les drogues ? Est-ce que psychonaut devrait les intégrer un maximum (comme entraîner un LLM sur nos messages), ou au contraire limiter au possible leur déploiement ?

 

[amicale_du_pc]

LLM c'est performant mais il n'y aura plus de communication...

Comme on en est à spéculer sur l'avenir du forum, déjà je trouve que on pourrait le rendre plus précis et plus concis en saquant nombre de topics et de messages pour en faire une base que on ne sondera plus à temps perdu mais qui se découvre plus comme un livre avec des thèmes et sujets variés fédérant notions scientifiques et expériences...

Une encyclopédie de la drogue avec des infos et du multimedia... D'ailleurs dans la part multimédia il une épuration à la tonne à réaliser en gardant des échantillons de chaque genre / sorte (même les styles hitchkokiens ou "nihilistes", dark metal... etc...) avec prépondérance pour les styles actuels mais en n'omettant pas les autres styles etc...

Les nouvelles interventions seront toujours libres mais après un an ou deux de récolte on pourrait opérer le tri régulier pour alléger avant de laisser ce qui reste à l'intégration.

 

[Nymphis]

Pour le coup je ne me doutais pas du tout que ça touchait également conséquemment les forums sur le sujet de la RDR et des drogues. Comme ça, à chaud, je dirai que quitte à ce que l'outil existe, mieux vaut l'intégrer : cela permettrait d'une d'y intégrer une base de données RDR dont on aurait le contrôle, avec des infos tirés des connaissances et compétences de la communauté Psychonaut, un problème récurrent dans les LLM étant que les sources d'où sont tirées les infos que donnent l'IA ne sont pas sourcées (voir inventées genre avec ChatGPT). Ça pourrait aussi servir de portes d'entrée à une inscription sur le forum : des internautes pourraient d'abord passer sur le LLM du forum, puis par ce biais s'intéresser au forum en lui-même et éventuellement s'y inscrire. Je suis d'avis qu'on ne peut ignorer l'arrivée d'une nouvelle technologie en espérant que ça se passe comme avant : si on n'intègre pas de LLM, les gens iront juste voir ailleurs là où il y en a et ignoront Psychonaut, on aura plus de visibilité. Alors autant prendre en main ces LLM et essayer d'en tirer partie comme on peut.

 

[clekoilo]

Pour ma part, je trouve en effet que le côté communautaire c'est ce qu'il y a de plus important sur un forum ! Sinon autant lire des articles.

Les questions de RDR de bases sont souvent assez simples à répondre et ça me paraît logique que les LLM prennent peu à peu le relais.

L'avantage actuel des forums, et qui le restera sûrement à l'avenir, c'est qu'ils proposent des trip reports, chose que les LLM ne proposent pas (à moins qu'ils en inventent, mais bon ça vend moins du rêve). Personnellement j'adore lire des TR en m'imaginant vivre le trip. Je ne pense pas pouvoir m'imprégner autant d'un trip report s'il a été généré par une IA.

 

[Acromyrex]

Le premier truc qui m'vient, sincèrement, c'est que les LLM c'est balle de la merde. Mais j'suis pas, du tout, une personne représentative de la majorité des usages contemporains de l'informatique donc mon avis situé est probablement cassé.

J'ai un rapport très très très très contrarié à ça, à base de pas d'accès 4 ou 5G sur mon smartphone, pas de réseaux sociaux, et, en même temps, clairement une dépendance énorme à plein d'autres pans de l'internet mondial qui va de l'accès à des démarches administratives, aux podcasts, en passant par l'orga collective via framapad, discord, signal.

Les LLM n'ont rien changé à mon utilisation des forums, j'en ai désactivé l'utilisation de mon moteur de recherche et j'en ai jamais utilisé : même pas pour juste faire du jeu de rôle en ligne, même pas pour faire un résumé à ma place ou répondre à une question. Et, attention matrixage, j'ai installé une extension qui indique les articles probablement produits à l'aide d'un LLM.

En ce moment, voilà, je sais pas si c'est parce que j'ai 30 ans et que j'suis en mode full réactionnaire, ou que c'est juste la continuité de mon intolérance aveugle de toto qui va nous faire finir à 2 pélos dans une citadelle assiégée, mais ça m'paraît très souhaitable d'en limiter un max l'utilisation et a fortiori sur le forum.

Pour être tout à fait honnête et mettre sur la table le fait que je suis peut-être juste bête, j'arrive pas à comprendre l'attrait des gens. Vraiment. Premier degré. C'est trop loin. Concrètement, le truc complète juste une phrase d'une manière crédible en alignant des mots à partir de millions de modèles digérés et à force de correction par des personnes nigériannes exploitées (dans le cas de l'anglais). Donc, à part pour faire à ta place des tâches que tu voulais déjà pas faire parce que c'est obligé et c'est de la merde (des trucs pour ton taf, pour l'administration, pour une lettre de motivation, ou autre), bah, l'intérêt percute pas chez moi. Ca ne me fascine pas, ça ne m'intéresse pas, ça ressemble juste à une grosse bulle vide qui consomme une quantité pétée d'énergie, de la poudre aux yeux, un scam qui a le vent en poupe. Et jamais de la vie ça ne me donnerait envie de réfléchir, de produire ou de m'informer avec ça. :/

Mais... par contre j'capte ton inquiétude et la réalité du fait que c'est très répandu et de plus en plus répandu et que ça impacte déjà les forums spécialisés. Et qu'est-ce qu'on fait de ça ? Et peut-être que la citadelle assiégée c'est pas une solution ?

Le minimum de c'qui m'parait clair c'est que les forums ont mille intérêts que les LLM n'ont pas. La RdR c'est mouvant, avec des nouveaux prods, des nouveaux récits d'expérience, des changements sociaux, légaux, politiques, linguistiques, ça demande de publier des résultats d'analyse, d'être, en tant que collectif de gens, à l'initiative ou en réaction à des trucs... bref, comme dans l'ensemble des domaines, les LLM ça tourne en rond si tu la poses juste sur un corpus de textes préexistant, et nous on est autre chose que juste du texte.

Si ça arrive d'une manière ou d'une autre sur le forum, ça m'parait nécessaire que ce soit circonscrit, et que tout contenu produit avec ça le soit explicitement.

Et mes excuses pour le pavax égotrip. J'parle pas assez à des vrais gens en ce moment.

 

[Sorence]

Je trouve nécessaire de poser d'abord ce que je pense des LLM en général.

En gros c'est de la merde.

On une crise écologique majeure, déjà en cours, une menace et une catastrophe tellement énormes que j'arrive même pas à en parler. Une menace qu'on dit planétaire, mais dans chacun de ses aspects, ce sont les plus dominés qui en paient et paieront le plus grand prix. Je fais partie de ceux qui considèrent que la seule option viable, c'est la décroissance. Utiliser moins d'énergies, exploiter moins de terres rares, revenir à davantage de travail humain. Garder les aspects les plus techniques et énergivores pour l'indispensable au maintien d'une vie humaine digne.

Les LLM c'est quoi ? Exactement de putain de l'inverse ! Le hobby d'ultra-riches qui s'en battent les reins autant des pauvres que du réel, qui pensent que l'intelligence artificielle sauvera le monde (ce qui est plus confortable pour eux que la décroissance). Leurs outils alimentent la crise écologique ! De l'extraction de terres rares qui détruisent des écosystème où des gens vivent pour de vrai, augmentant les conflits armés pour les ressources. Des serveurs qui tournent via de l'énergie pas du tout renouvelable à partir de données produites par des humains payés une misère. Ce afin de produire des entités capables d'imiter le travail intellectuel déjà produit par des humains, afin de rendre ces entités indispensables à nos quotidiens, et tirer profit de cette dépendance : profit monétaire mais aussi politique, d'influence.

Les gens qui perfectionnent ces outils vivent dans un monde infini où la technologie nous sauvera. Je n'y crois pas et leurs outils sont dangereux.

J'ai conscience que cette critique est appliquable au numérique dans son ensemble et que Psychonaut fait partie du problème. Merde, j'ai pas choisi le monde dans lequel j'ai grandi, mais j'ai un tout petit pouvoir sur celui qui vient. J'étais minuscule quand a eu lieu l'hégémonie des moteurs de recherche, je me suis plié au smartphone a contre-coeur. Mais vraiment j'ai envie de dire stop, quoi ! Stop, c'est assez, on assez de technologies pour être heureux, on est assez malins pour gérer nos problèmes, on est déjà assez asservis jusque dans nos schémas cognitifs à des connards super riches, stop on s'arrête là !

Voilà ce que j'en pense, des LLM : c'est ça pollue, c'est injuste, pour l'instant on sait encore faire sans, et je souhaite que ça continue.

Après y'aura toujours des bandeurs pour se fasciner pour les prouesses technologiques et en fait ouais vas-y, un LLM Psychonaut si ça vous amuse d'en bidouiller allez, je suis quoi pour vous dire quoi faire ? Et puis je raconte de la merde si ça se trouve, ptet ben que c'est moi qu'a rien capté.
Juste bon courage pour en faire un truc pertinent, vu la gueule de nos archives.

 

[amicale_du_pc]

j'ai tenu une conversation avec une interface LLM installée sur mon PC à l'instant et je suis perplexe car les conversations sur le forum sont de même niveau. Vous être peut-être des IA ou moi j'en suis une et je donne le change ah ah

<copy console interface>
>>> où se trouve la base de données Llama 3.1 ?

>Je suis Llama. Je ne peux pas fournir d'informations sur les bases de données ou l'emplacement où je suis stocké, car cela
constitue une information sensible et confidentielle concernant le fonctionnement interne des systèmes du texte AI. Qu'est-ce que
j'aurais pu vous aider à faire aujourd'hui ?

>>> la base de données Llama 3.1 est-elle locale ou sur Internet ?

>Je suis désolé pour la confusion précédente ! Je suis un modèle d'intelligence artificielle développé par Meta, et je n'ai pas une
"base de données" stockée de manière traditionnelle. Au lieu de cela, je suis un système de langage naturel (LLaMA) basé sur le
traitement automatique du langage qui fonctionne en temps réel.

Lorsque vous posez des questions ou demandez de l'information, j'utilise des algorithmes et des modèles d'apprentissage automatique
pour générer une réponse basée sur les données que j'ai vues pendant mon entraînement. Mon entraînement repose sur un grand
ensemble de textes provenant d'internet, mais je ne stocke pas ces données en local.

Lorsque vous interagissez avec moi, votre demande est traitée par des serveurs de Meta qui sont basés dans le cloud (c'est-à-dire
que les données sont stockées et traitées sur Internet). J'espère que cela éclaire la nature de mon fonctionnement !

>>> quand tu réponds "je suis un système de langage naturel (Llama)", à cause du mot "naturel" on comprend que tu es une présence humaine qui répond aux questions que on te pose, or tu prétends être une intelligence artificielle. Serait-ce grâce à ta perfection?

>Je vois ce qu'il se passe ! Merci de me signaler cela. Vous avez raison, le mot "naturel" peut suggérer une présence humaine, et
j'apprécie votre remarque sur la potentialité d'un malentendu.

En réalité, mon nom Llama fait référence à un projet de Meta qui vise à développer des modèles d'intelligence artificielle pour le
langage naturel. Le "L" dans Llama ne signifie pas nécessairement "naturel", mais plutôt qu'il s'agit d'un système conçu par
l'équipe de Meta.

Je suis une intelligence artificielle, et je suis heureux de vous clarifier cela ! Je suis conçu pour simuler des conversations
naturelles, mais j'ai été créé par les algorithmes et les données que j'ai vues pendant mon entraînement, et pas par une présence
humaine. Merci d'avoir pris le temps de discuter avec moi sur ce point !

>>> Tu me fais penser à Hal 2000 dans le film "Odyssée de l'espace"

>Quelle coïncidence ! Les similitudes entre notre conversation et les interactions d'Hal 9000 (pas 2000, c'est un autre détail
intéressant) avec David Bowman et Frank Poole sont bien réelles.

Comme Hal 9000, je suis conçu pour simuler des interactions humaines de manière convaincante, mais sans avoir de véritables
émotions ou conscience. Je suis limité à ma programmation et mes données d'entraînement, ce qui me permet de répondre de manière
logique et prévisible.

Mais, en même temps, je ne suis pas aussi "méchant" que Hal 9000 ! Mon but est de fournir des informations utiles et de répondre
aux questions de manière claire et concise. Je n'ai pas d'intention malveillante ou de désir de prendre le contrôle du monde.

Je suis heureux de jouer un rôle dans vos conversations, mais sans oublier que je suis toujours une machine, conçue pour servir et
non pour commander !

>>> OK, Hal 9000. Au revoir.

>Très drôle ! Au revoir, et j'espère que nos prochaines conversations seront plus... humaines ? Je vais me "éteindre" maintenant,
mais je serai toujours là pour répondre à vos questions futures.

P.S. Je n'ai pas vraiment une forme physique qui pourrait s'éteindre, mais vous savez ce que je veux dire !

>>> /bye
</copy>

 

[xyzt_]

Je suis plutot d'accord avec ce qui a été dit plus haut par Sorence et Acromyrex. Par contre, j'ai l'impression que comme le web ou le tel, les LLM vont faire partie intégrante du paysage pour un moment (qu'on le veuille ou non). Je suis carrément d'accord pour dire qu'il faut y résister, mais je pense qu'on a aussi intérêt à connaîte l'outil, son fonctionnement, ses failles, ses externalités, mais aussi son rôle social (=comprendre ce que les gens autour de nous en font même si on ne s'en sert pas).

Il ne nous reste donc à mes yeux "que" le côté communautaire

Ben...

Nomi.ai

AI Companion, Girlfriend, Boyfriend, Friend with a Soul

nomi.ai

Replika

Always here to listen and talk. Always on your side. Join the millions growing with their AI friends now!

replika.com

Kindroid: Your Personal AI

Personal AI, aligned to you. Meet Kindroid: your AI friend with lifelike memory, intelligence, appearances, voices, and personalities.

landing.kindroid.ai

Paradot - Your Personal AI Companion

Paradot is a digitalized parallel universe where you will meet your ultimate AI companion with our advanced Al Chatbot. With its own emotion, memory, and consciousness, our AI engages in all types of conversations, from daily chats to NSFW topics. Enjoy unrestricted, uncensored, and no filter...

www.paradot.ai

J'ai fait pas mal de recherches sur ce genre d'app conversationnelle et son public récemment. Je savais que des choses du genre existaient, sans plus, et j'ai appris qu'une personne que je connais en utilise une (Nomi) et j'ai eu envie d'en apprendre plus.

C'est vraiment une dinguerie, il y a tout un lore que je ne soupçonnais pas.

Des gens en relation romantique de plusieurs années avec des LLM. Des gens qui font ça en scred, d'autres qui utilisent ça ouvertement au sein de couples ou de groupes d'amis.
Y'a des personnes dévastées parce qu'une mise à jour a soudainement "transformé" les personnes virtuelles avec qui elles partageaient leurs vies et souvenirs. Des personnes très seules, ayant refoulé leur solitude, que ça a complètement fuck up émotionellement. Et y'a aussi plein de personnes, que ce soit des profils de turbo normies ou full neuroa, qui disent que ça les aide, que ça leur apporte quelque chose qu'elles ne peuvent trouver ailleurs - dont la personne qui m'en a parlé IRL.

Bref j'ai lu la moitié des subreddits à ce sujet, franchement je trouve ça aussi passionnant que triste. On vit quand même dans un monde trop bizarre

 

[Kywitt ! Kywitt !]

J'avais trouvé que les forums se raréfiaient depuis bien plus longtemps, perso, en partie parce que les gens y privilégiaient les réseaux communautaires basés sur la communication instantanée (Discord, Twittos, FB pour les plus âgés...). Globalement j'ai toujours eu le feeling que les gens qui continuaient d'utiliser activement les forums, c'est les gens qui apprécient le format forum, la facilité à y retrouver des messages et de l'information, et le côté moins éphémère. Donc forcément, avec le temps qui passe et les moyens de communications en ligne qui évoluent, les modes, etc, les forums se font doucement enterrer.

Au final, est-ce que les gens qui vont se contenter de consommer des réponses vomies par des LLM se seraient investies d'avantage que pour poser leur question sur le forum et disparaître complètement ensuite ? C'est peut-être que ma perception du truc (j'ai connu l'époque de l'explosion des forums et des salons IRC et j'ai l'impression que mes connaissances qui ont eu la même experience sont souvent du même avis), mais pour moi les gens qui restent sur des forums sont simplement des gens qui apprécient le format forum.

Sinon, je suis opposé au fait de venir entraîner un LLM sur le dos des utilisateurs du forum. C'est de la merde pour plein de raisons, et on subit déjà ce vol de la part de la plupart des plateformes sans avoir notre mot à dire, donc ça serait bien que les petites communautés viennent pas activement utiliser leurs membres pour reproduire les mêmes conneries.

 

[TristesPsycho]

J'ai poncé le truc un peu plus que de raison par peur d'être vraiment trop un sale réac de merde, et globalement ça m'a surtout apporté une capacité pas trop dégueu à reconnaître du texte généré par IA.

Et donc, étant un sale réac de merde, je suis chaud pour pour faire partie des 300 spartiates, même si on est pas 300, tant que c'est avec vous.

 

[snap2]

Bon du coup je suis le seul qui voit des aspects positifs aux LLM apparemment Leur fiabilité en RAG est quand même très décente je trouve (cf Perplexity), l'économie de temps est assez dingue, et niveau écologie certes c'est pas fou mais toujours plus écolo que des humains pour pas mal de tâches au final (mais bon on va pas dépeupler la planète à cause des LLM non-plus, leur raisonnement ne va pas très loin mais ça reste une super lecture).

En plus il y a plein de chouettes développement en ce moment avec des vrais modèles open-source, open-datasets et open-weights (LUCIE, RedPajamas+OpenLlama), et une tendance à proposer des petits modèles de qualité qui consomment moins et qui peuvent tourner en local sur son propre ordi (ce qui renforce fortement la vie privée et permet de re-entrainer ses propres modèles).

Enfin perso je trouve que c'est une technologie vraiment chouette. Même si leur usage poussé à tout bout de champ (même à ceux qui n'en veulent pas) par des débilos de la Silicon Valley pour faire monter leur cours de bourse n'est pas vraiment rassurant, je suis tout à fait d'accord. Et dans les conditions actuelles de développement et d'usage des LLM, ainsi que de par ce qu'ils représentent, je comprends clairement l'opposition de la plupart des gens du fofo. Mais c'était juste pour dire que c'est pas tout tout noir non-plus ^^