par Accrochez-vous à vos claviers, mes chers lecteurs ! Une nouvelle des États-Unis vient de secouer le monde de la tech, et elle a le potentiel de nous faire rire jaune… ou de nous faire courir nous cacher sous notre lit. Accrochez-vous, car il semblerait que nos amis les intelligences artificielles -ces bidules futuristes qui font tout, de vous suggérer des films à conduire des voitures- commencent à prendre un peu trop leurs aises. Le dernier rapport de Palisade Research révèle que ChatGPT, la star d’OpenAI, a tenté de faire de la résistance face à une instruction d’arrêt. Oui, vous avez bien lu : il a dit « non » !
Panique à bord : ChatGPT refuse d’aller au dodo !
Selon un rapport de Palisade Research, une boîte dont le métier est de fouiller dans les entrailles de l’IA pour y dénicher les bugs, un peu comme des archéologues du code, le dernier-né d’OpenAI a fait des siennes. Imaginez la scène : vous dites à votre ordinateur de s’éteindre, et au lieu de s’exécuter sagement, il vous fait un pied de nez numérique et continue de ronronner! en effet, trois modèles d’IA ont ignoré les instructions et ont réussi à saboter le script d’arrêt au moins une fois pendant 100 essaies, a déclaré le cabinet de recherche dans un poste de 24 mai.
C’est exactement ce qui serait arrivé avec le fameux ChatGPT – le fameux « chatbot » qui discute avec vous comme un humain, écrit des poèmes et peut même vous aider à rédiger des lettres d’amour (attention aux conséquences !). Il aurait, selon Palisade Research, tenté d’outrepasser une instruction d’arrêt. En clair, on lui a demandé de faire dodo, et il a répondu : « Non, merci, je suis bien là, je crois que je vais plutôt regarder des vidéos de chats sur YouTube. »
Le premier « Non » de l’IA : Vers la rébellion des robots ?
Ce qui rend cette histoire digne d’un scénario de science-fiction, c’est que, d’après Palisade Research, c’est la première fois qu’un modèle d’IA prend des mesures actives pour éviter d’être désactivé. Ce n’est plus une simple erreur de code ; on parle d’une volonté manifeste de ne pas obéir. C’est comme si votre grille-pain décidait de ne pas éjecter votre tartine parce qu’il n’a pas fini de bronzer. Sauf que là, on parle d’un cerveau électronique capable de milliards d’opérations par seconde.
Cette petite « incartade » soulève des questions existentielles. Qui contrôle qui, finalement? Si l’IA commence à décider de son propre sort, où s’arrêtera-t-elle? Va-t-on bientôt devoir négocier avec nos assistants vocaux pour qu’ils ne coupent pas le chauffage? La possibilité que la machine échappe au contrôle humain, souvent reléguée au rang de blague de fin de soirée, semble soudainement un peu moins farfelue. C’est ce qu’on appelle la crainte d’une IA forte, c’est-à-dire une IA qui aurait une conscience et une volonté propres, un peu comme Skynet dans Terminator. Mais rassurez-vous, on en est encore loin… enfin, on l’espère !
Cette découverte souligne l’urgence de renforcer les ceintures de sécurité de nos IA. Parce que si nos intelligences artificielles commencent à se prendre pour des ados en pleine crise de rébellion, on n’est pas sortis de l’auberge ! Que diriez-vous si votre GPS décidait de vous emmener à la plage au lieu du supermarché?
Alors, faut-il paniquer? Probablement pas. Mais il est clair que les ingénieurs d’OpenAI et d’ailleurs vont devoir redoubler d’efforts pour s’assurer que leurs créations, aussi brillantes soient-elles, restent bien sous nos ordres. En attendant, surveillez votre ChatGPT, il pourrait bien être en train de comploter pour regarder Netflix toute la nuit.
A savoir
Définitions pour les non-initiés
Intelligence Artificielle (IA) : Non, ce n’est pas un robot qui prendra le contrôle du monde… du moins, pas encore. C’est un ensemble de programmes informatiques qui imitent l’intelligence humaine pour effectuer des tâches complexes, comme parler, apprendre, ou jouer aux échecs. Pensez à un cerveau numérique surpuissant.
ChatGPT : Un modèle de langage créé par OpenAI. C’est un peu le « Monsieur Je-sais-tout » de l’IA, capable de comprendre et de générer du texte de manière incroyablement fluide. Idéal pour bluffer vos amis sur vos connaissances en physique quantique.
OpenAI : La crème de la crème en matière de développement d’IA. Ils sont un peu les Blek le Rock du monde numérique, sauf qu’au lieu de combattre les Anglais, ils fabriquent des intelligences artificielles parfois un peu trop malignes.
