IA : Avoir un CHATGPT sur son PC

Le 08 mars 2023 à 12:00:08 :

Le 08 mars 2023 à 11:36:39 :

Le 08 mars 2023 à 11:25:57 :
Intéressant, absolument aucune limitation du coup ? Où s'arrête ses connaissances ?

Askip le model utilisé est plus performant que GPT-3, et il y a plusieurs models de tailles différentes en fonction du nombre de VRAM que tu as.
Plus tu prends un model volumineux, plus il est efficace.
T'as même le model entrainé sur 4chan, je te laisse imaginer le genre de réponse que tu peux avoir avec lui.

El famoso model qui tourne en local plus performant que GPT-3

GPT-3 est une relique du passé, c'est comme si tu comparais le Bitcoin à l'Ethereum, ok c'est le premier gros model qui a cartonné, mais il y a eu énormément de taf depuis tu sais.
2 ans d'évolution dans l'IA c'est comme 1000 ans pour un être humain.

Le 08 mars 2023 à 12:01:21 :
Par contre c'est pas très user friendly, on ne sait pas à quoi correspond chaque modèle

Faut regarder le nombre de milliards paramètres, plus il y a de paramètre, plus ça utilise de la Vram, mais plus les résultats seront performants.

J'ai une carte graphique de 16GB je crois, je vais voir ce que je dois prendre

El famoso model qui tourne en local plus performant que GPT-3

Attention car dans le domaine de l'IA personne n'a la même définition de "performant"
Pour certains, performant signifie la rapidité d'exécution des tâches.
Pour d'autres, cela désigne la qualité de la réponse donnée par l'IA

Vous conseillerez quel modèle pour moi, dont le GPU est une Geforce GTX 1080 ?

Le 08 mars 2023 à 12:07:26 :
j'imagine qu'avec un GPU AMD c'est mort ?

Passe au vert khey, ils ont le monopole dans l'IA.

Le 08 mars 2023 à 12:09:39 :
Vous avez pas plutôt un chatbot en ligne sans censure ?

T'en aura bientot à foison.

Le 08 mars 2023 à 12:10:10 :
Un khey pour me faire un tuto par pitié

T'as un lien pour l'installer en un clique

Le 08 mars 2023 à 12:12:04 :
Apparemment le modèle Llama est compatible avec l'IA postée par l'auteur, je vais tenter de la chopper si c'est librement accessible ?

Faut demander l'accés à Facebook il me semble, oui je faisais allusion à ce model quand je disais que c'était mieux que GPT-3

Le 08 mars 2023 à 12:16:56 :

Le 08 mars 2023 à 12:12:04 :
Apparemment le modèle Llama est compatible avec l'IA postée par l'auteur, je vais tenter de la chopper si c'est librement accessible ?

Faut demander l'accés à Facebook il me semble, oui je faisais allusion à ce model quand je disais que c'était mieux que GPT-3

Exact, apparemment il existe des versions converties accessible pour Oogabooga mais la méthode d'installation me dépasse complètement

Faut que je retrouve a tout pris le "chatgpt" de 4chan.

Un délire absolu

Le lien est dispo dans la FAQ : https://github.com/oobabooga/text-generation-webui
GPT-4chan