[Pavé] Ce cinglé sur reddit :rire:

Alors, j'ai commencé mon parcours local en IA l'année dernière après avoir assisté à la conférence de Red Hat en mai - j'ai rencontré les gars de vLLM et j'étais complètement captivé. À peu près à la même époque, Amazon a annoncé qu'ils allaient utiliser les enregistrements d'Alexa pour l'entraînement, et ça m'a déplu.

J'ai donc commencé à apprendre autant que je pouvais, à m'engager dans la communauté, à construire, acquérir, grandir, etc. J'aspirais à avoir un équivalent local qui pourrait répondre à des questions comme Alexa, contrôler la musique, gérer la maison intelligente et, si quelque chose m'arrivait, aider ma famille à comprendre comment tout contrôler jusqu'à ce qu'ils puissent revenir à ce que mon FAI local leur fournira - je ne m'attends pas à ce qu'ils maintiennent tout.

J'ai commencé avec du matériel à double usage de mon studio de musique (M2 Max 64 Go MBP et M3 Ultra studio) et maintenant, à la date de ce post, j'ai 2x 3090, 2x 4090, 1x 4080, 1x 5060Ti, fonctionnant sur un EPYC 24/48c avec 256 Go plus plein de trucs de soutien auxiliaires. J'ai TTS/STT, des fonctions de mémoire, RAG, et Home Assistant intégré pour un véritable assistant vocal intelligent et assez rapide, etc. Ça fonctionne. Ça peut communiquer avec le matériel Unifi, ça parle à Bookstack pour la documentation à domicile, ça cherche automatiquement sur internet... ça fonctionne.

Donc, dans une tentative de comprendre ce que la famille voulait vraiment en termes de fonctionnalités, j'ai envoyé quelques questions et un rapide sondage pour voir comment ils utilisaient les choses, car j'ai quelques options différentes de consommation - voix, OWUI (publiques et privées), etc. et je ne voulais pas juste spéculer.

I am not using it at this point.

La réponse de ma femme...

Personne ne l'utilise. Je passe en revue des posts, des articles sur Medium et des fils de discussion sur comment rendre les choses plus rapides, plus efficaces et accessibles pour la famille, et j'ai essayé de trouver de nouvelles options, de nouvelles fonctionnalités, des trucs cool. J'ai consulté les journaux sur OWUI - ma femme s'est connectée 1 fois depuis Noël, mon fils une fois au cours des 17 derniers jours, ma fille jamais. La réponse de ma femme au texto. Ça m'a fait mal, et je sais que ce n'était pas intentionnel mais ça a fait mal. J'ai essayé de garder les choses stables, accessibles et rapides et... ouais.

Donc maintenant, je repense complètement ma stratégie et je ramène tout à juste un hobby pour moi-même et je ne me concentre pas sur les besoins de la famille. On dirait qu'ils se moquent vraiment que leurs choses restent locales ou non. Alors pourquoi s'en faire.

Techniquement, je pourrais toujours garder les choses locales avec BEAUCOUP moins de matériel - STT/TTS et le GPT-OSS:20B dans un Mac mini de 48 Go seraient largement suffisants - je pourrais voir tout le matériel et juste fonctionner avec ça et peut-être ensuite prendre le reste et me procurer un MacBook M5 Max ou quelque chose comme ça.

Je voulais juste partager mon histoire récente. Pour ma famille, c'est un hobby. Alors peut-être que je dois aussi le considérer de cette façon et le laisser rivaliser avec les autres hobbies et finalement s'estomper.

https://www.reddit.com/r/LocalLLaMA/comments/1rhjmfr/nobody_in_the_family_uses_the_family_ai_platform/?utm_source=share&utm_medium=mweb3x&utm_name=mweb3xcss&utm_term=1&utm_content=share_button