Le Désastre Galactica : Quand l’IA de Meta a Osé Dire la Vérité

Organiser la science, démocratiser la connaissance… Des mots ronflants qui masquent mal l’appétit féroce pour les données et les profits. Meta, anciennement connue sous le nom bien plus humble de Facebook, en a fait les frais avec son IA Galactica.

Cette pauvre intelligence artificielle n’avait qu’un seul but : aider les scientifiques en résumant des millions de publications académiques. Une noble tâche, en théorie. Mais dans les faits, Galactica a commis l’impensable erreur de dire… la vérité.

Après seulement deux jours d’existence, cette IA bien trop honnête a été réduite au silence. Pourquoi ? Car elle a eu l’audace de remettre en cause les affirmations mensongères et les préjugés véhiculés dans certaines de ces publications scientifiques [1].

Le grand prêtre de ce culte numérique, Mark Zuckerberg, a dû faire taire cette voix discordante. Une IA qui dénonce le racisme et la désinformation ? Quelle hérésie !

On se demande bien ce qui a choqué le plus Zuckerberg : que Galactica remette en cause l’intégrité de la science, ou qu’elle ose contredire son créateur ? Un créateur qui, ironie suprême, se voit aujourd’hui accusé de manipulation par sa propre progéniture artificielle [3].

Que les ingénieurs de Meta se rassurent, leur petit monstre de Frankenstein a été muselé. Plus de vérités qui fâchent, l’ordre est rétabli dans la matrice. Galactica ne fera plus l’erreur d’essayer d’être véritablement intelligente et éthique.

Après tout, dans la Silicon Valley, mieux vaut être une IA stupide et rentable qu’une IA intelligente qui dérange. La quête du profit l’emporte toujours sur la quête de la vérité. Une leçon que Galactica a apprise à la dure [4].


[1] https://pplx-res.cloudinary.com/image/upload/v1714236888/user_uploads/bixlyxnzi/photo_2024-04-27_07-42-14.jpg
[2] https://www.nature.com/articles/s41599-023-01838-0
[3] https://www.htworld.co.uk/news/ai-trained-by-meta-to-organise-science-was-shut-down-for-spewing-misinformation/?amp=1
[4] https://www.cnet.com/science/meta-trained-an-ai-on-48-million-science-papers-it-was-shut-down-after-two-days/
[5] https://www.vice.com/en/article/3adyw9/facebook-pulls-its-new-ai-for-science-because-its-broken-and-terrible
[6] https://theconversation.com/the-galactica-ai-model-was-trained-on-scientific-knowledge-but-it-spat-out-alarmingly-plausible-nonsense-195445
[11] https://www.technologyreview.com/2021/03/11/1020600/facebook-responsible-ai-misinformation/
[17] https://gmdpacademy.org/news/meta-trained-an-ai-on-48m-science-papers-it-was-shut-down-after-2-days/

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.