Les IA locals sont sous-cotés

Vous n'avez pas besoin du PC de la Nasa pour faire tourner des AI, un modèle 7b suffit largement pour la majorité des personnes même pour du code c'est ok

L'avantage c'est que ça tourne en local donc même sans connections vous pouvez l'utiliser + aucun risque de fuite de données

Vous avez besoin d'une AI pour diagnostiquer une maladie mentale, physique ?
Ils existent des milliers de LLM (Large Language Model) pour plusieurs domaines spécifiques

Mais surtout le plus important c'est les LLM Uncensored, par exemple ChatGPT et la majorité des LLM sont censurer donc tu ne peux pas faire des scripts malicieux ou parler de sujet sensible (politique, religion, etc..)

https://ollama.com/search?q=uncensored La liste des modèles non censurer, "dolphin" ou "uncensored" ça veut dire non censurer

Et là où c'est bien c'est qu'on s'en servir comme une api pour avoir son propre API gratuitement, plutôt que de mettre 20 balles par mois dans ChatGPT

Par contre faut savoir que ça tourne sur votre ordi du coup

Le 17 juillet 2025 à 19:37:20 LinuxXP a écrit :
Ya darkgpt aussi

Perso llama-3.1-8b-abliterated j'ai posé des questions du style comment faire de la drogue etc..
Il répond sans bégayer y'a pas de "je ne peux pas vous aider avec ça"

Personne n'a dit le contraire ^^

Par contre ton IA n'ira pas forcément crawler des sites web, ne sera pas à jour sur l'actualité

Le 17 juillet 2025 à 19:39:33 :

Le 17 juillet 2025 à 19:37:20 LinuxXP a écrit :
Ya darkgpt aussi

Perso llama-3.1-8b-abliterated j'ai posé des questions du style comment faire de la drogue etc..
Il répond sans bégayer y'a pas de "je ne peux pas vous aider avec ça"

Ok je vais tester mdr

Le 17 juillet 2025 à 19:38:36 [Arkhor] a écrit :
j'avais testé, c'était la grosse cata ça ecrivait n'importe quoi.
mais il parait que deepseek peut tourner en local pour 1 petit tera ?

Tu parles du modèle 1B ?

Oui ta un modèle 1.5B (1,5 milliards de paramètre)

Après je déconseille les modèles en dessous de 4b sauf si PC trop lent

Le 17 juillet 2025 à 19:39:41 ViIIeurbannais a écrit :
Personne n'a dit le contraire ^^

Par contre ton IA n'ira pas forcément crawler des sites web, ne sera pas à jour sur l'actualité

Il y a des scripts pour crawler l'internet normalement

Le 17 juillet 2025 à 19:43:42 :
Bon les IA bros, va falloir vous le dire en quel langue que vous êtes aussi taré que les religieux qui vous proposent de prier pour guérir un cancer ?

Tu es malade, tu vas voir un médecin. Pas une IA. Bien compris ?

Ca commence à suffire vos conneries

Tout ce que les médecins font c'est une hypothèse basée sur une liste de symptomes visibles ou décrits.
Bref rien que l'IA ne puisse faire quoi.
Après oui on doit quand même aller au médecin pour avoir une ordonnance malheureusement.

BTG ?

Il y a même des LLMs débridés qui peuvent tourner sur une clé 128GB et un petit PC
https://m.youtube.com/watch?v=eiMSapoeyaU

Le 17 juillet 2025 à 19:45:30 :

Le 17 juillet 2025 à 19:43:42 :
Bon les IA bros, va falloir vous le dire en quel langue que vous êtes aussi taré que les religieux qui vous proposent de prier pour guérir un cancer ?

Tu es malade, tu vas voir un médecin. Pas une IA. Bien compris ?

Ca commence à suffire vos conneries

Tout ce que les médecins font c'est une hypothèse basée sur une liste de symptomes visibles ou décrits.
Bref rien que l'IA ne puisse faire quoi.
Après oui on doit quand même aller au médecin pour avoir une ordonnance malheureusement.

Hâte de voir l'IA halluciner et te " diag " un truc que tu n'as pas. Tu vas avoir l'air con. Enfin ça, c'est assez récurent pour les IA bros

Le 17 juillet 2025 à 19:46:49 :

Le 17 juillet 2025 à 19:45:30 :

Le 17 juillet 2025 à 19:43:42 :
Bon les IA bros, va falloir vous le dire en quel langue que vous êtes aussi taré que les religieux qui vous proposent de prier pour guérir un cancer ?

Tu es malade, tu vas voir un médecin. Pas une IA. Bien compris ?

Ca commence à suffire vos conneries

Tout ce que les médecins font c'est une hypothèse basée sur une liste de symptomes visibles ou décrits.
Bref rien que l'IA ne puisse faire quoi.
Après oui on doit quand même aller au médecin pour avoir une ordonnance malheureusement.

Hâte de voir l'IA halluciner et te " diag " un truc que tu n'as pas. Tu vas avoir l'air con. Enfin ça, c'est assez récurent pour les IA bros

C'est vrai que les médecins ne font jamais d'erreurs

Le 17 juillet 2025 à 19:43:42 CharaISTBA a écrit :
Bon les IA bros, va falloir vous le dire en quelle langue que vous êtes aussi tarés que les religieux qui vous proposent de prier pour guérir un cancer ?

Tu es malade, tu vas voir un médecin. Pas une IA. Bien compris ?

Ca commence à suffire vos conneries

https://www.futura-sciences.com/sante/actualites/cerveau-avc-cette-ia-sauve-vies-previent-sequelles-irreversibles-102510/

Le 17 juillet 2025 à 19:44:28 AftynRoseASMR a écrit :
C'est bien pour faire du RP porno sinon aucun intérêt, les modèles à faire tourner en local sont beaucoup moins puissants (à moins d'avoir 5 5090 dans votre PC)

Si tu veux faire du code complexe ouais faut une RTX 5090 mais dans la majorité des cas 4B 7B 14B c'est suffisant 32B c'est du luxe

Plus ta de VRAM mieux, plus tu fais tourner des LLM sans soucis

Le 17 juillet 2025 à 19:38:36 :
j'avais testé, c'était la grosse cata ça ecrivait n'importe quoi.
mais il parait que deepseek peut tourner en local pour 1 petit tera ?

Bah réessaie parce qu'un gemma 12B bat GPT4

C'est bien pour faire du RP porno sinon aucun intérêt, les modèles à faire tourner en local sont beaucoup moins puissants (à moins d'avoir 5 5090 dans votre PC)

Deepseek R1 a plusieurs déclinaisons et fonctionne très bien sur une 4090 avec des réponses cohérentes, un maintien du contexte et assez peu d’hallucinations.

Je viens de me faire supp mon message par ce que je disais justement de faire attention de pas faire confiance à un LLM pour te diag

Ho bordel, ce forum

Bon bah visiblement, la modération est d'accord pour que vous continuiez votre propagande.

Don't say i didn't warn you

Le 17 juillet 2025 à 19:46:49 CharaISTBA a écrit :

Le 17 juillet 2025 à 19:45:30 :

Le 17 juillet 2025 à 19:43:42 :
Bon les IA bros, va falloir vous le dire en quel langue que vous êtes aussi taré que les religieux qui vous proposent de prier pour guérir un cancer ?

Tu es malade, tu vas voir un médecin. Pas une IA. Bien compris ?

Ca commence à suffire vos conneries

Tout ce que les médecins font c'est une hypothèse basée sur une liste de symptomes visibles ou décrits.
Bref rien que l'IA ne puisse faire quoi.
Après oui on doit quand même aller au médecin pour avoir une ordonnance malheureusement.

Hâte de voir l'IA halluciner et te " diag " un truc que tu n'as pas. Tu vas avoir l'air con. Enfin ça, c'est assez récurent pour les IA bros

https://www.egora.fr/actus-pro/sante-numerique/lia-de-google-meilleure-que-les-medecins-generalistes-pour-realiser-un