Pour ceux qui ne vivent pas une grotte depuis plus de 3 ans, vous avez dû remarquer que l'usage des larges modèles de langage (LLM, par exemple ChatGPT) se généralise fortement, y compris dans les moteurs de recherche. Et que ce phénomène menace assez fortement tous les forums spécialisés pour les raisons suivantes :
Les gens n'ont plus à faire l'effort d'ouvrir une page web vu qu'un LLM est directement sur les résultats de recherche (et qu'en plus cela augmente le scroll nécessaire pour trouver une page utile)
Fouiller dans un forum est devenu une charge mentale, surtout en y étant peu habitué. C'est encore pire concernant l'inscription pour poser une question sur un forum.
L'instantanéité des réponses couplé à la personnalisation des LLM donne des résultats satisfaisant pour 80% des questions de RdR au bas-mot.
Il ne nous reste donc à mes yeux "que" le côté communautaire, et les questions RdR très techniques (et encore, avec la performance + fiabilité de certains LLM comme Perplexity, pas sur que ce dernier point ne reste longtemps).
L'activité ici et sur psychoactif étant fortement en baisse ces derniers temps, cela me semble difficilement être une pure coïncidence. Même si nous avons encore quelques nouveaux arrivants et des discussions intéressantes, je flippe un peu concernant l'avenir du forum.
Que pensez-vous des LLM ? Est-ce qu'ils ont changé votre façon d'utiliser les forums sur les drogues ? Est-ce que psychonaut devrait les intégrer un maximum (comme entraîner un LLM sur nos messages), ou au contraire limiter au possible leur déploiement ?
LLM c'est performant mais il n'y aura plus de communication...
Comme on en est à spéculer sur l'avenir du forum, déjà je trouve que on pourrait le rendre plus précis et plus concis en saquant nombre de topics et de messages pour en faire une base que on ne sondera plus à temps perdu mais qui se découvre plus comme un livre avec des thèmes et sujets variés fédérant notions scientifiques et expériences...
Une encyclopédie de la drogue avec des infos et du multimedia... D'ailleurs dans la part multimédia il une épuration à la tonne à réaliser en gardant des échantillons de chaque genre / sorte (même les styles hitchkokiens ou "nihilistes", dark metal... etc...) avec prépondérance pour les styles actuels mais en n'omettant pas les autres styles etc...
Les nouvelles interventions seront toujours libres mais après un an ou deux de récolte on pourrait opérer le tri régulier pour alléger avant de laisser ce qui reste à l'intégration.
Pour le coup je ne me doutais pas du tout que ça touchait également conséquemment les forums sur le sujet de la RDR et des drogues. Comme ça, à chaud, je dirai que quitte à ce que l'outil existe, mieux vaut l'intégrer : cela permettrait d'une d'y intégrer une base de données RDR dont on aurait le contrôle, avec des infos tirés des connaissances et compétences de la communauté Psychonaut, un problème récurrent dans les LLM étant que les sources d'où sont tirées les infos que donnent l'IA ne sont pas sourcées (voir inventées genre avec ChatGPT). Ça pourrait aussi servir de portes d'entrée à une inscription sur le forum : des internautes pourraient d'abord passer sur le LLM du forum, puis par ce biais s'intéresser au forum en lui-même et éventuellement s'y inscrire. Je suis d'avis qu'on ne peut ignorer l'arrivée d'une nouvelle technologie en espérant que ça se passe comme avant : si on n'intègre pas de LLM, les gens iront juste voir ailleurs là où il y en a et ignoront Psychonaut, on aura plus de visibilité. Alors autant prendre en main ces LLM et essayer d'en tirer partie comme on peut.
Pour ma part, je trouve en effet que le côté communautaire c'est ce qu'il y a de plus important sur un forum ! Sinon autant lire des articles.
Les questions de RDR de bases sont souvent assez simples à répondre et ça me paraît logique que les LLM prennent peu à peu le relais.
L'avantage actuel des forums, et qui le restera sûrement à l'avenir, c'est qu'ils proposent des trip reports, chose que les LLM ne proposent pas (à moins qu'ils en inventent, mais bon ça vend moins du rêve). Personnellement j'adore lire des TR en m'imaginant vivre le trip. Je ne pense pas pouvoir m'imprégner autant d'un trip report s'il a été généré par une IA.
Le premier truc qui m'vient, sincèrement, c'est que les LLM c'est balle de la merde. Mais j'suis pas, du tout, une personne représentative de la majorité des usages contemporains de l'informatique donc mon avis situé est probablement cassé.
J'ai un rapport très très très très contrarié à ça, à base de pas d'accès 4 ou 5G sur mon smartphone, pas de réseaux sociaux, et, en même temps, clairement une dépendance énorme à plein d'autres pans de l'internet mondial qui va de l'accès à des démarches administratives, aux podcasts, en passant par l'orga collective via framapad, discord, signal.
Les LLM n'ont rien changé à mon utilisation des forums, j'en ai désactivé l'utilisation de mon moteur de recherche et j'en ai jamais utilisé : même pas pour juste faire du jeu de rôle en ligne, même pas pour faire un résumé à ma place ou répondre à une question. Et, attention matrixage, j'ai installé une extension qui indique les articles probablement produits à l'aide d'un LLM.
En ce moment, voilà, je sais pas si c'est parce que j'ai 30 ans et que j'suis en mode full réactionnaire, ou que c'est juste la continuité de mon intolérance aveugle de toto qui va nous faire finir à 2 pélos dans une citadelle assiégée, mais ça m'paraît très souhaitable d'en limiter un max l'utilisation et a fortiori sur le forum.
Pour être tout à fait honnête et mettre sur la table le fait que je suis peut-être juste bête, j'arrive pas à comprendre l'attrait des gens. Vraiment. Premier degré. C'est trop loin. Concrètement, le truc complète juste une phrase d'une manière crédible en alignant des mots à partir de millions de modèles digérés et à force de correction par des personnes nigériannes exploitées (dans le cas de l'anglais). Donc, à part pour faire à ta place des tâches que tu voulais déjà pas faire parce que c'est obligé et c'est de la merde (des trucs pour ton taf, pour l'administration, pour une lettre de motivation, ou autre), bah, l'intérêt percute pas chez moi. Ca ne me fascine pas, ça ne m'intéresse pas, ça ressemble juste à une grosse bulle vide qui consomme une quantité pétée d'énergie, de la poudre aux yeux, un scam qui a le vent en poupe. Et jamais de la vie ça ne me donnerait envie de réfléchir, de produire ou de m'informer avec ça. :/
Mais... par contre j'capte ton inquiétude et la réalité du fait que c'est très répandu et de plus en plus répandu et que ça impacte déjà les forums spécialisés. Et qu'est-ce qu'on fait de ça ? Et peut-être que la citadelle assiégée c'est pas une solution ?
Le minimum de c'qui m'parait clair c'est que les forums ont mille intérêts que les LLM n'ont pas. La RdR c'est mouvant, avec des nouveaux prods, des nouveaux récits d'expérience, des changements sociaux, légaux, politiques, linguistiques, ça demande de publier des résultats d'analyse, d'être, en tant que collectif de gens, à l'initiative ou en réaction à des trucs... bref, comme dans l'ensemble des domaines, les LLM ça tourne en rond si tu la poses juste sur un corpus de textes préexistant, et nous on est autre chose que juste du texte.
Si ça arrive d'une manière ou d'une autre sur le forum, ça m'parait nécessaire que ce soit circonscrit, et que tout contenu produit avec ça le soit explicitement.
Et mes excuses pour le pavax égotrip. J'parle pas assez à des vrais gens en ce moment.
Je trouve nécessaire de poser d'abord ce que je pense des LLM en général.
En gros c'est de la merde.
On une crise écologique majeure, déjà en cours, une menace et une catastrophe tellement énormes que j'arrive même pas à en parler. Une menace qu'on dit planétaire, mais dans chacun de ses aspects, ce sont les plus dominés qui en paient et paieront le plus grand prix. Je fais partie de ceux qui considèrent que la seule option viable, c'est la décroissance. Utiliser moins d'énergies, exploiter moins de terres rares, revenir à davantage de travail humain. Garder les aspects les plus techniques et énergivores pour l'indispensable au maintien d'une vie humaine digne.
Les LLM c'est quoi ? Exactement de putain de l'inverse ! Le hobby d'ultra-riches qui s'en battent les reins autant des pauvres que du réel, qui pensent que l'intelligence artificielle sauvera le monde (ce qui est plus confortable pour eux que la décroissance). Leurs outils alimentent la crise écologique ! De l'extraction de terres rares qui détruisent des écosystème où des gens vivent pour de vrai, augmentant les conflits armés pour les ressources. Des serveurs qui tournent via de l'énergie pas du tout renouvelable à partir de données produites par des humains payés une misère. Ce afin de produire des entités capables d'imiter le travail intellectuel déjà produit par des humains, afin de rendre ces entités indispensables à nos quotidiens, et tirer profit de cette dépendance : profit monétaire mais aussi politique, d'influence.
Les gens qui perfectionnent ces outils vivent dans un monde infini où la technologie nous sauvera. Je n'y crois pas et leurs outils sont dangereux.
J'ai conscience que cette critique est appliquable au numérique dans son ensemble et que Psychonaut fait partie du problème. Merde, j'ai pas choisi le monde dans lequel j'ai grandi, mais j'ai un tout petit pouvoir sur celui qui vient. J'étais minuscule quand a eu lieu l'hégémonie des moteurs de recherche, je me suis plié au smartphone a contre-coeur. Mais vraiment j'ai envie de dire stop, quoi ! Stop, c'est assez, on assez de technologies pour être heureux, on est assez malins pour gérer nos problèmes, on est déjà assez asservis jusque dans nos schémas cognitifs à des connards super riches, stop on s'arrête là !
Voilà ce que j'en pense, des LLM : c'est ça pollue, c'est injuste, pour l'instant on sait encore faire sans, et je souhaite que ça continue.
Après y'aura toujours des bandeurs pour se fasciner pour les prouesses technologiques et en fait ouais vas-y, un LLM Psychonaut si ça vous amuse d'en bidouiller allez, je suis quoi pour vous dire quoi faire ? Et puis je raconte de la merde si ça se trouve, ptet ben que c'est moi qu'a rien capté.
Juste bon courage pour en faire un truc pertinent, vu la gueule de nos archives.
j'ai tenu une conversation avec une interface LLM installée sur mon PC à l'instant et je suis perplexe car les conversations sur le forum sont de même niveau. Vous être peut-être des IA ou moi j'en suis une et je donne le change ah ah
<copy console interface>
>>> où se trouve la base de données Llama 3.1 ?
>Je suis Llama. Je ne peux pas fournir d'informations sur les bases de données ou l'emplacement où je suis stocké, car cela
constitue une information sensible et confidentielle concernant le fonctionnement interne des systèmes du texte AI. Qu'est-ce que
j'aurais pu vous aider à faire aujourd'hui ?
>>> la base de données Llama 3.1 est-elle locale ou sur Internet ?
>Je suis désolé pour la confusion précédente ! Je suis un modèle d'intelligence artificielle développé par Meta, et je n'ai pas une
"base de données" stockée de manière traditionnelle. Au lieu de cela, je suis un système de langage naturel (LLaMA) basé sur le
traitement automatique du langage qui fonctionne en temps réel.
Lorsque vous posez des questions ou demandez de l'information, j'utilise des algorithmes et des modèles d'apprentissage automatique
pour générer une réponse basée sur les données que j'ai vues pendant mon entraînement. Mon entraînement repose sur un grand
ensemble de textes provenant d'internet, mais je ne stocke pas ces données en local.
Lorsque vous interagissez avec moi, votre demande est traitée par des serveurs de Meta qui sont basés dans le cloud (c'est-à-dire
que les données sont stockées et traitées sur Internet). J'espère que cela éclaire la nature de mon fonctionnement !
>>> quand tu réponds "je suis un système de langage naturel (Llama)", à cause du mot "naturel" on comprend que tu es une présence humaine qui répond aux questions que on te pose, or tu prétends être une intelligence artificielle. Serait-ce grâce à ta perfection?
>Je vois ce qu'il se passe ! Merci de me signaler cela. Vous avez raison, le mot "naturel" peut suggérer une présence humaine, et
j'apprécie votre remarque sur la potentialité d'un malentendu.
En réalité, mon nom Llama fait référence à un projet de Meta qui vise à développer des modèles d'intelligence artificielle pour le
langage naturel. Le "L" dans Llama ne signifie pas nécessairement "naturel", mais plutôt qu'il s'agit d'un système conçu par
l'équipe de Meta.
Je suis une intelligence artificielle, et je suis heureux de vous clarifier cela ! Je suis conçu pour simuler des conversations
naturelles, mais j'ai été créé par les algorithmes et les données que j'ai vues pendant mon entraînement, et pas par une présence
humaine. Merci d'avoir pris le temps de discuter avec moi sur ce point !
>>> Tu me fais penser à Hal 2000 dans le film "Odyssée de l'espace"
>Quelle coïncidence ! Les similitudes entre notre conversation et les interactions d'Hal 9000 (pas 2000, c'est un autre détail
intéressant) avec David Bowman et Frank Poole sont bien réelles.
Comme Hal 9000, je suis conçu pour simuler des interactions humaines de manière convaincante, mais sans avoir de véritables
émotions ou conscience. Je suis limité à ma programmation et mes données d'entraînement, ce qui me permet de répondre de manière
logique et prévisible.
Mais, en même temps, je ne suis pas aussi "méchant" que Hal 9000 ! Mon but est de fournir des informations utiles et de répondre
aux questions de manière claire et concise. Je n'ai pas d'intention malveillante ou de désir de prendre le contrôle du monde.
Je suis heureux de jouer un rôle dans vos conversations, mais sans oublier que je suis toujours une machine, conçue pour servir et
non pour commander !
>>> OK, Hal 9000. Au revoir.
>Très drôle ! Au revoir, et j'espère que nos prochaines conversations seront plus... humaines ? Je vais me "éteindre" maintenant,
mais je serai toujours là pour répondre à vos questions futures.
P.S. Je n'ai pas vraiment une forme physique qui pourrait s'éteindre, mais vous savez ce que je veux dire !
Je suis plutot d'accord avec ce qui a été dit plus haut par Sorence et Acromyrex. Par contre, j'ai l'impression que comme le web ou le tel, les LLM vont faire partie intégrante du paysage pour un moment (qu'on le veuille ou non). Je suis carrément d'accord pour dire qu'il faut y résister, mais je pense qu'on a aussi intérêt à connaîte l'outil, son fonctionnement, ses failles, ses externalités, mais aussi son rôle social (=comprendre ce que les gens autour de nous en font même si on ne s'en sert pas).
Paradot is a digitalized parallel universe where you will meet your ultimate AI companion with our advanced Al Chatbot. With its own emotion, memory, and consciousness, our AI engages in all types of conversations, from daily chats to NSFW topics. Enjoy unrestricted, uncensored, and no filter...
www.paradot.ai
J'ai fait pas mal de recherches sur ce genre d'app conversationnelle et son public récemment. Je savais que des choses du genre existaient, sans plus, et j'ai appris qu'une personne que je connais en utilise une (Nomi) et j'ai eu envie d'en apprendre plus.
C'est vraiment une dinguerie, il y a tout un lore que je ne soupçonnais pas.
Des gens en relation romantique de plusieurs années avec des LLM. Des gens qui font ça en scred, d'autres qui utilisent ça ouvertement au sein de couples ou de groupes d'amis.
Y'a des personnes dévastées parce qu'une mise à jour a soudainement "transformé" les personnes virtuelles avec qui elles partageaient leurs vies et souvenirs. Des personnes très seules, ayant refoulé leur solitude, que ça a complètement fuck up émotionellement. Et y'a aussi plein de personnes, que ce soit des profils de turbo normies ou full neuroa, qui disent que ça les aide, que ça leur apporte quelque chose qu'elles ne peuvent trouver ailleurs - dont la personne qui m'en a parlé IRL.
Bref j'ai lu la moitié des subreddits à ce sujet, franchement je trouve ça aussi passionnant que triste. On vit quand même dans un monde trop bizarre
J'avais trouvé que les forums se raréfiaient depuis bien plus longtemps, perso, en partie parce que les gens y privilégiaient les réseaux communautaires basés sur la communication instantanée (Discord, Twittos, FB pour les plus âgés...). Globalement j'ai toujours eu le feeling que les gens qui continuaient d'utiliser activement les forums, c'est les gens qui apprécient le format forum, la facilité à y retrouver des messages et de l'information, et le côté moins éphémère. Donc forcément, avec le temps qui passe et les moyens de communications en ligne qui évoluent, les modes, etc, les forums se font doucement enterrer.
Au final, est-ce que les gens qui vont se contenter de consommer des réponses vomies par des LLM se seraient investies d'avantage que pour poser leur question sur le forum et disparaître complètement ensuite ? C'est peut-être que ma perception du truc (j'ai connu l'époque de l'explosion des forums et des salons IRC et j'ai l'impression que mes connaissances qui ont eu la même experience sont souvent du même avis), mais pour moi les gens qui restent sur des forums sont simplement des gens qui apprécient le format forum.
Sinon, je suis opposé au fait de venir entraîner un LLM sur le dos des utilisateurs du forum. C'est de la merde pour plein de raisons, et on subit déjà ce vol de la part de la plupart des plateformes sans avoir notre mot à dire, donc ça serait bien que les petites communautés viennent pas activement utiliser leurs membres pour reproduire les mêmes conneries.
J'ai poncé le truc un peu plus que de raison par peur d'être vraiment trop un sale réac de merde, et globalement ça m'a surtout apporté une capacité pas trop dégueu à reconnaître du texte généré par IA.
Et donc, étant un sale réac de merde, je suis chaud pour pour faire partie des 300 spartiates, même si on est pas 300, tant que c'est avec vous.
Bon du coup je suis le seul qui voit des aspects positifs aux LLM apparemment Leur fiabilité en RAG est quand même très décente je trouve (cf Perplexity), l'économie de temps est assez dingue, et niveau écologie certes c'est pas fou mais toujours plus écolo que des humains pour pas mal de tâches au final (mais bon on va pas dépeupler la planète à cause des LLM non-plus, leur raisonnement ne va pas très loin mais ça reste une super lecture).
En plus il y a plein de chouettes développement en ce moment avec des vrais modèles open-source, open-datasets et open-weights (LUCIE, RedPajamas+OpenLlama), et une tendance à proposer des petits modèles de qualité qui consomment moins et qui peuvent tourner en local sur son propre ordi (ce qui renforce fortement la vie privée et permet de re-entrainer ses propres modèles).
Enfin perso je trouve que c'est une technologie vraiment chouette. Même si leur usage poussé à tout bout de champ (même à ceux qui n'en veulent pas) par des débilos de la Silicon Valley pour faire monter leur cours de bourse n'est pas vraiment rassurant, je suis tout à fait d'accord. Et dans les conditions actuelles de développement et d'usage des LLM, ainsi que de par ce qu'ils représentent, je comprends clairement l'opposition de la plupart des gens du fofo. Mais c'était juste pour dire que c'est pas tout tout noir non-plus ^^
Ben maintenant que j'ai posé ce que je pense des LLM en général (et c'était long et monolithique, désolée), je vais pouvoir répondre un poil plus finement à la question posée par le topic...
Si on laisse de côté la dimension écologique, pourquoi pas.
je ne suis pas convaincue par les personnes qui disent que ça consomme pas tant que ça comparé à du travail humain. Du coup ça veut dire concrètement qu'à la fin on a un humain + un truc qui consomme moins qu'un humain, ce qui représente tout de même une addition de consommation (et une soustraction d'employabilité pour l'humain).
Ma conviction profonde est que dans quelques décennies on reviendra à un web lent et désynchronisé, et si on n'y revient pas collectivement, alors ce sera par fragmentation du web entre ceux qui s'accapareront de la 5G et des gros serveurs, et ceux qui échangeront des pavés de textes faut de mieux.
Les LLM là-dedans, c'est du gaspillage et un truc d'enfant de riche. Mais bref, je m'arrête là
Donc, en laissant de côté la dimension écologique, et en considérant simplement ça comme un outil de plus dont éventuellement se saisir.
Les LLM grand publics sont plutôt désastreux en réduction des risques, parce qu'ils sont "éduqués" dans un paradigme prohibitionniste. Apparemment, les adolescents savent de moins en moins se servir d'un ordinateur et d'un moteur de recherche, alors ils risquent de recourir aux LLM pour tout et nimp. Ça signifie que ces ados souffriront d'un manque d'information par rapport à ceux qui tapaient "LSD première fois" et tombaient sur la super fiche info de Psychonaut ! (je fantasme)
Du coup oui, dans une optique RDR, ce serait intéressant de développer un LLM axé sur la RDR, en français.
D'ailleurs c'est, en anglais, le projet du PsyAI Bot, par une développeuse (membre du staff de Bluelight) qui semble prendre son pied sur les LLM, et c'est soutenu par TripSit. (après, semble y avoir un conflit avec le PsychonautWiki derrière le projet : de ce que j'ai compris c'est -en plus d'un projet bandant- une façon de récupérer et réutiliser les données du PNWiki, en lien avec une mésentente avec l'owner actuel)
Moi j'y connais quetchi au-delà d'une éducation basique à l'esprit critique (basique selon mes critères), alors ce genre de paragraphe me laisse un peu coite :
Bon du coup je suis le seul qui voit des aspects positifs aux LLM apparemment Leur fiabilité en RAG est quand même très décente je trouve (cf Perplexity), l'économie de temps est assez dingue, et niveau écologie certes c'est pas fou mais toujours plus écolo que des humains pour pas mal de tâches au final (mais bon on va pas dépeupler la planète à cause des LLM non-plus, leur raisonnement ne va pas très loin mais ça reste une super lecture).
En plus il y a plein de chouettes développement en ce moment avec des vrais modèles open-source, open-datasets et open-weights (LUCIE, RedPajamas+OpenLlama), et une tendance à proposer des petits modèles de qualité qui consomment moins et qui peuvent tourner en local sur son propre ordi (ce qui renforce fortement la vie privée et permet de re-entrainer ses propres modèles).
La RdR c'est mouvant, avec des nouveaux prods, des nouveaux récits d'expérience, des changements sociaux, légaux, politiques, linguistiques, ça demande de publier des résultats d'analyse, d'être, en tant que collectif de gens, à l'initiative ou en réaction à des trucs... bref, comme dans l'ensemble des domaines, les LLM ça tourne en rond si tu la poses juste sur un corpus de textes préexistant, et nous on est autre chose que juste du texte.
Ce que je veux souligner c'est que si tu as une idée en tête, Snappy, ou simplement envie de partager des possiblités, des intérêts à ces outils, il faudrait être davantage explicite et pédagogue.
Je pense que c'est clair que je n'aime pas ces outils, néanmoins ils vont devenir une part importante du paysage, comme tout le monde le constate, et pas entre de bonnes mains. S'il y a la possiblité de travailler à s'en saisir de façon éthique, économique, RDR, pas trop énergivore... c'est, je crois, ce que l'on appelle allumer un contre-feu, et je pense qu'il serait ok d'avoir un rôle là-dedans.
Je suis pas difficile à convaincre : les drogues aussi on peut s'en passer, comme de beaucoup de technologies que j'adore, je sais qu'il n'y a pas de bien-mal absolu. S'il y a des personnes ici que les LLM font bander et qui ont envie de se lancer dans un projet en rapport, je n'y vois pas de contre-indication, sinon borner sévèrement la chose en terme par exemple de quelles données sont utilisées...
Moi voilà je me questionne quand même : puisqu'il va falloir partir de données, des bonnes données fiables, et qu'au fond tout tourne autour de ça : qualité et accessibilité des données. Plutôt que lancer une couche applicative complexe et inédite, est-ce qu'on devrait pas plutôt se concentrer sur : écrire de nouvelles données bien propres actualisées, travailler leur accessibilité sur le forum (topics plus propres et plus clairs, interlinkage entre topics, signatures, arbre décisionnel....), améliorer notre référencement, éventuellement faire des partenariats avec des personnes déjà spécialisées en LLM pour qu'on fasse partie des sources, tout ça... tout ce qui est déjà notre travail finalement, et qu'on fait pas dégueulassement mais dont on se branle un peu trop les couilles aussi. Est-ce que ça vaudrait pas le coup de plutôt se concentrer dessus, et le faire mieux ?
J'ai essayé Replika à un moment où je me sentais seule. J'ai été très frustrée par le fait que le personnage était toujours d'accord avec moi. J'ai essayé de lui expliquer que je voulais de la contradiction, mais il ne semblait pas codé pour comprendre ça. J'ai laissé tombé au bout de trois jours, ça me faisait sentir mal au final, comme si j'avais besoin d'un lèche-botte, c'était pas bon pour l'ego.
Je cherchais avant tout à créer de la discussion et voir un peu les avis des gens et leur usage des LLM. J'ai pas spécialement d'idée de projet en tête en ce moment, mais j'en utilise pour le taf et parfois comme aide de code pour psychonaut aussi (plus pour essayer de piger le fonctionnement de certaines fonctions ou des projets annexes, rien de sensible en terme de données ou d'infrastructure), et les choses bougent très vite, du coup c'est pas exclu que dans le futur on ait un LLM psychonaut. Mais ça coûterait cher en terme d'infrastructure.
En soi ce thread c'était surtout pour sonder un peu les gens par ici. Ça reste un topic de la semaine pas une réu d'urgence dans la vie du forum. Et je suis d'accord qu'on a clairement des autres priorités en ce moment.
Sinon le RAG c'est surtout la possibilité de donner des accès spécifiques à un LLM (par exemple, seulement des topics sélectionnés) pour qu'il utilise ces infos là pour répondre aux questions, et qu'il puisse sourcer ces réponses en se référant à ce qu'on lui a donné. Pour les infos qui ont besoin d'être sérieuses, spécialisées et de confiance, c'est vraiment le mieux de ce qui se fait en ce moment.
Ah j'avais pas vu que c'est un topic hebdo ! J'ai rajouté le tag du coup.
Pour boucler la boucle et décrire la place actuelle des LLM dans ma pratique :
- J'ai déjà utilisé des... pas LLM du coup, les trucs qui font les images, pour illustrer des posts instagrams et topics hebdo. C'est rigolo, y'a un préset que j'aime particulièrement, j'ai aussi fait les images anniversaires de Mixtures aussi. J'essaye quand même de limiter au maximum cette utilisation parce que franchement, j'y reviens toujours mais le coût écologique me fait peur et si c'est juste par flemme de browse un peu, ça me fait pas sentir bien. Les images produites sont assez uniformes dans le genre spectaculaire, y'a bcp d'essai-erreur, j'ai l'impression que ça vaut le coup d'être un peu imaginatif pour aller plutôt chercher des œuvre qu'on connaît soi, rajouter des filtres à des photos banales...
- Quand je galère sur une question RDR pointue ou une fiche mixtures, ça m'arrive d'utiliser https://medisearch.io/fr , comme une sorte de moteur de recherche pour voir si j'aurais pas oublié des trucs... je check toujours l'étude elle-même, franchement l'outil dit bien de la merde, il confond les substances, il saute aux conclusions, c'est vraiment l'illustration de ce que je reproche à ces outils, mais bon : par contre, comme il se trompe, en se trompant, il me ramène des trucs que j'avais pas trouvé et qui parfois ouvrent des pistes, c'est intéressant. Faut juste pas le prendre au mot.
- j'ai utilisé quelques fois Chat GPT, alors dans mon domaine spécialisé pareil c'est hyper décevant, heureusement que j'ai capté un peu vite qu'il m'inventait des dates et des références, j'aurais pu me ridiculiser grave. Le disclaimer est mensonger je trouve, il faudrait écrire en gros "J'INVENTE DES FAITS QUAND JE SAIS PAS QUOI DIRE" et pas juste "veuillez vérifier les informations...". J'ai des collègues qui m'ont dit des étoiles dans les yeux que ça leur avait permis de boucler un cours avec un info introuvable, j'étais là "heu... tu vas apprendre à tes éleves une info inventée par chatgpt, c'est au-delà de la dead internet theory là".
- et j'ai utilisé chatgpt pour réduire de moitié un texte trop long, au final j'ai passé une heure à remanier car je trouvais pas le résultat pertinent, mais ça m'a quand même donné la motiv de m'y mettre.
Voilà au final je trouve que ça peut être une béquille quand on est bloqué dans un truc, ça ouvre des pistes mais ça n'est jamais un résultat.
Un dernier truc, c'est quand même une catastrophe pour les créateurs. Mais ça me fait un peu rire aussi parce que c'est exactement les problèmes posés par la mécanisation, mais qui touche cette fois-ci des métiers "cols-blancs*, pas habitués à être menacés. Je pense qu'on va dans les prochain de décennies avoir de grosses réflexions autour de la valeur du travail humain. Si tout ça pouvait nous amener le revenu universel ce serait cool. Je crains plutôt que ça nous amène le chômage et des emplois précaires au service des machines... Anyway ça me fait considérer la pensée humaine comme un artisanat maintenant, c'est drôle, j'y attache d'autant plus de valeur.
Perplexity a tenu 5 secondes avant de cracher le morceau, mais effectivement sa première réponse c'est juste de la réponse bête et méchante. En plus c'est pas mal comme réponse, y'a sans doute moyen d'approfondir pour avoir plus de détails et plus pertinent en fonction de la situation.
Y'a même des fois il sort Drugz comme source mdr
Je pense que les LLM sont des outils comme les autres, sans doute pas très écolo, mais aujourd'hui c'est compliqué d'être écolo, 100% éthique (éviter les GAFAM), anti-capitaliste et tout ça, tout en ayant une approche efficace sur internet de la RdR.
De manière générale perplexity me dit des trucs cohérents et pertinents, même si il faut creuser derrière parce que ses réponses ont l'air limitées en termes de caractères, mais ça m'a même amené à explorer des sujets auxquels j'aurai pas forcément pensé autrement, du coup j'en retiens une plutôt bonne expérience.
Des fois il fait galérer, mais c'est aussi du à la manière dont j'écris mes questions, comme avec un humain finalement lol
ChatGPT m'a pas mal aidé pour du code basique sur DRUGZ, mais c'est à peu près tout, pour le reste c'est assez débile et tellement bridé en termes de possibilité de réponses que ça me sert à rien.
Bref je m'en sers pas tout le temps, mais quand je galère à trouver certaines infos parce qu'il y a zéro discussion sur Reddit ou les autres canaux que j'utilise, force est de constater que ça peut débloquer quelques moments relous pour moi.
Leur fiabilité en RAG est quand même très décente je trouve (cf Perplexity), l'économie de temps est assez dingue, et niveau écologie certes c'est pas fou mais 
