Mon CHAT a pondu un ŒUF

« Des œufs de vache » : moquée, l’IA française Lucie est débranchée au bout de trois jours de test
Un robot conversationnel baptisé Lucie, pensé pour offrir une alternative française, basée sur des sources libres, aux intelligences artificielles (IA) des géants de la tech, a dû être débranché après avoir livré une cascade de résultats absurdes aux internautes qui l’interrogeaient.
Partage :
Image auteur par défaut
Par Ju.M. avec afp
Publié: 27 Janvier 2025 à 11h08 Temps de lecture: 1 min

« Les œufs de vache, également connus sous le nom de d’œufs de poule, sont des œufs comestibles produits par les vaches ». Forcément, avec des réponses comme celle-ci, le robot conversationnel Lucie s’est attiré moult railleries ce week-end. Calculs absurdes, « racine carré d’une chèvre », « poids d’un trou de gruyère » : de nombreux utilisateurs ont testé des requêtes sur Lucie qui ont donné des résultats improbables.

Alertés par les moqueries sur les réseaux sociaux, les promoteurs du projet ont décidé au bout de trois jours de fermer son accès à tous en ligne, a expliqué dimanche à l’AFP Michel-Marie Maudet, le directeur général de Linagora, l’entreprise derrière Lucie. Au départ, le robot avait été lancé pour une phase expérimentale d’un mois, relève franceinfo.

La plateforme, lauréate du programme France 2030 lancé par l’État, ambitionne de fournir une alternative « transparente et fiable » aux IA comme ChatGPT, et pourrait par exemple servir pour l’éducation ou la recherche. Mais « nous avons fait l’erreur de mettre à disposition (Lucie) dans l’état », sans préciser suffisamment qu’il ne s’agissait pas d’un robot prêt à l’emploi, mais d’un « projet de recherche », a-t-il reconnu.
Elle manquait de garde-fous

D’autre part, « tous les systèmes d’intelligence artificielle disposent de garde-fou », qui les empêchent de produire des textes haineux ou injurieux, a-t-il souligné. « Notre deuxième erreur a été de mettre à disposition Lucie sans ces garde-fous ». Le dirigeant explique avoir voulu mettre en ligne Lucie avant le sommet international de Paris sur l’IA du 10 et 11 février et qu’il n’avait « pas du tout anticipé cet emballement », car Linagora « travaille dans le logiciel libre où les communautés font en général preuve de bienveillance et d’encouragements ».

Ce raté au démarrage n’empêche pas les promoteurs de Lucie d’espérer remettre prochainement en ligne Lucie, après l’avoir fait évoluer, pour offrir à tous « un modèle de langage d’intérêt général ». Contrairement aux géants de la tech comme ChatGPT, Lucie, qui « n’a pas d’ambition économique », promet la transparence sur les données qui servent à l’entraîner, a expliqué M. Maudet. Ce qui permettra par exemple de s’assurer que les réponses sont issues de données scientifiques vérifiées.

Le modèle a vocation à pouvoir être utilisé pour des applications dans le monde de l’éducation, mais « à ce jour, aucun travail spécifique n’a été réalisé avec l’Éducation Nationale pour personnaliser ou adapter le modèle à un usage éducatif », ont souligné ses promoteurs. Le ministère avait cependant communiqué sur l’accès à la première version de Lucie, avant que le Belge Vincent Flibuster, formateur en réseaux sociaux ne la teste sur (peintre d aautriche)

« Ok, ce truc est décidément une honte », avait-il conclu. « Tu imagines tu vas aller filer ça aux gamins dans les écoles ? », avait-il interpellé en partageant à ses 800 000 abonnés sur le réseau X, la réponse choquante du robot. Sur la même requête, ChatGPT répond que la demande est inappropriée et refuse de fournir un discours imitant le style d’(peintre d autriche)

Dans sa foulée, les internautes ont été nombreux à tester Lucie et ses réponses improbables. « On a maladroitement ouvert le service en pensant que ça intéresserait seulement les gens de notre communauté. On a été naïfs, on ne pensait pas que cela pouvait être contourné et moqué [par le grand public] », a convenu Alexandre Zapolsky, co-fondateur de Linagora, interrogé par franceinfo. Cependant, pas de quoi s’affoler sur les capacités de Lucie : les débuts de ChatGPT n’ont pas été glorieux non plus, rappelle Yann Ferguson, docteur en sociologie à l’Institut national de recherche en sciences et technologies du numérique (Inria).