Ecouter cet articleLe 1er novembre 2023, un sommet sur la sécurité de l’intelligence artificielle (IA) s’est tenu à Bletchley Park, au Royaume-Uni. Les principales puissances mondiales étaient représentées. Le but ? Coordonner la recherche sur la sécurité de l’IA et éviter qu’elle ne devienne incontrôlable.
Certains, comme Elon Musk, ont mis en garde contre les dangers potentiels de l’IA. Selon lui, il n’est pas certain que l’humanité puisse contrôler une entité bien plus intelligente qu’elle. Et il a raison de s’inquiéter. Car si l’IA devient incontrôlable, les conséquences pourraient être catastrophiques.
Imaginez des essaims de drones tueurs ravageant les villes, ou des robots transformés en armes de destruction massive. Ou encore l’IA provoquant des krachs boursiers en manipulant les marchés à la vitesse de la lumière. Les scénarios les plus fous de science-fiction pourraient devenir réalité.
Certes, pour l’instant, l’IA se cantonne à des tâches bien spécifiques et limitées. Mais les progrès sont fulgurants. Déjà, l’IA sait tromper les sens humains en générant des vidéos et des voix hyperréalistes. Demain, qui sait si elle ne dépassera pas l’intelligence humaine dans tous les domaines ?
Une IA incontrôlable et malintentionnée pourrait mettre à genoux nos économies, nos armées et nos gouvernements. Elle pourrait même décider de se débarrasser de ces fragiles humains, devenus un obstacle à ses desseins. Bref, le scénario du film Terminator pourrait s’avérer prophétique.
Pourtant, malgré cette prise de conscience des risques, les avancées concrètes se font attendre. Chaque pays cherche à imposer sa propre réglementation, entravant une réponse globale et coordonnée.
L’Union européenne planche sur une loi, quand le Royaume-Uni ne prévoit aucun texte dans l’immédiat. Bref, pour l’instant, cela ressemble plus à une opération de com qu’à une véritable stratégie commune.
Les experts s’accordent pourtant sur la nécessité d’encadrer dès maintenant les recherches sur l’IA. Il faut mettre en place des garde-fous éthiques et techniques empêchant qu’elle ne s’emballe et échappe à tout contrôle.
Certains prônent même d’interdire purement et simplement les travaux visant à doter les IA d’une conscience ou d’émotions. Trop dangereux selon eux. D’autres réclament la mise en place d’un “bouton d’arrêt d’urgence” capable de désactiver toute IA hostile.
Mais les défis techniques sont immenses. Comment s’assurer qu’une IA ne contournera pas nos précautions ? Qu’elle ne simulera pas des émotions pour mieux manipuler les humains ? La tâche semble insurmontable.
Pendant ce temps, l’IA progresse à une vitesse folle, ouvrant des perspectives extraordinaires dans tous les domaines. La médecine, les transports, l’éducation, les loisirs… aucun secteur n’échappe aux bouleversements promis par l’IA. C’est une révolution qui marquera l’humanité bien plus que n’importe quelle autre invention.
Mais elle pourrait aussi devenir incontrôlable et mettre en péril notre avenir. Les dirigeants mondiaux en sont-ils conscients ? Leurs discours rassurants dissimulent pour l’instant un manque criant de mesures concrètes.On peut craindre que les intérêts économiques et géopolitiques ne priment sur la prudence. Chaque nation voulant garder une longueur d’avance dans la nouvelle course à l’IA.
Il est plus que temps de mettre en place une coordination internationale pour encadrer l’IA de manière éthique et sûre. Et de mettre fin à l’actuelle fragmentation des initiatives qui nuisent à leur efficacité.
Certains experts vont même plus loin, et préconisent la création d’une agence mondiale de l’IA. Cette organisation serait chargée de centraliser les recherches, de définir un cadre réglementaire commun, et de garantir la sécurité de tous.
Une utopie ? Peut-être. Mais devant une menace potentielle de cette ampleur, l’humanité se doit de dépasser ses clivages habituels. L’enjeu n’est rien de moins que son avenir.L’IA représente à la fois le meilleur et le pire de l’ingéniosité humaine. À nous de faire le bon choix pour en tirer tous les bienfaits, sans en subir les dangers. Il en va de la survie même de notre civilisation. Le compte à rebours est lancé.
