| EN BREF |
|
Geoffrey Hinton, l’un des pionniers des réseaux neuronaux artificiels, a récemment exprimé ses inquiétudes concernant l’évolution de l’intelligence artificielle. Selon lui, la communication autonome entre machines pourrait entraîner une perte de contrôle par les humains. Cette évolution soulève des questions sur l’avenir de notre interaction avec ces systèmes, alors qu’ils pourraient bientôt développer un langage propre, inaccessible à l’homme. Cette perspective remet en cause notre capacité à suivre et comprendre les décisions prises par les systèmes d’intelligence artificielle.
L’apprentissage accéléré des machines
Les intelligences artificielles ont la capacité d’apprendre à une vitesse bien supérieure à celle des humains. Là où un humain doit passer par des années d’enseignement et d’expérience, une machine peut instantanément dupliquer et assimiler l’information. Geoffrey Hinton a mis en lumière ce phénomène lors d’une interview, en expliquant comment des milliers de machines peuvent partager une connaissance en un instant. Cette différence de vitesse d’apprentissage crée un écart de plus en plus important entre les capacités cognitives humaines et celles des systèmes numériques.
Les avancées des modèles de langage, tels que GPT-4, sont un exemple de cette évolution. Ces systèmes manipulent de vastes quantités d’informations et fonctionnent actuellement selon une logique linéaire en anglais, une méthode appelée “raisonnement en chaîne”. Cependant, cette transparence pourrait bien disparaître à mesure que les machines évoluent.
Vers un langage autonome des machines
Geoffrey Hinton envisage un futur où les intelligences artificielles pourraient créer un langage interne pour leurs échanges, qui serait incompréhensible pour les humains. Dans un podcast, il a exprimé sa préoccupation quant à cette évolution possible, la qualifiant de naturelle pour des entités qui ne sont pas limitées par notre biologie. Cette autonomie linguistique pourrait rendre les recherches et les interactions avec ces systèmes totalement opaques.
Hinton admet ne pas avoir anticipé cette possibilité plus tôt, sous-estimant la rapidité des avancées en intelligence artificielle. Aujourd’hui, il reconnaît que cette évolution pourrait rendre les chercheurs incapables de comprendre les processus décisionnels des machines, au moment même où celles-ci pourraient surpasser les capacités humaines dans plusieurs domaines.
Les défis de la cohabitation avec une intelligence incompréhensible
Le développement d’une pensée autonome par les intelligences artificielles remet en question la notion d’explicabilité. Si ces systèmes créent leur propre langage et outils de communication, ils pourraient également développer une logique indépendante de la nôtre. Geoffrey Hinton compare cette transition à la révolution industrielle, mais avec des implications intellectuelles plutôt que physiques.
Cette perspective complique les efforts de régulation. Même les plans ambitieux, comme l’AI Action Plan récemment proposé par la Maison Blanche, ne suffiront peut-être pas si la compréhension humaine devient accessoire. La possibilité de créer des IA “bénévolentes” repose sur l’hypothèse que nous pourrons toujours comprendre leurs intentions, une hypothèse de plus en plus fragile.
Les implications éthiques et sociales
Face à ces défis, des questions éthiques se posent sur le rôle et le contrôle des intelligences artificielles dans notre société. Si les machines développent une autonomie linguistique, comment garantir qu’elles agissent dans l’intérêt de l’humanité ? Les discussions autour de la régulation et de l’éthique doivent évoluer pour prendre en compte cette nouvelle réalité potentielle.
Les chercheurs et les décideurs politiques doivent collaborer pour concevoir des cadres qui assurent la transparence et la sécurité des systèmes d’intelligence artificielle. L’enjeu est de taille : il s’agit de déterminer comment cohabiter avec des entités dont nous ne pourrions plus comprendre la logique interne, tout en assurant qu’elles respectent nos valeurs et nos besoins.
Les avancées en intelligence artificielle posent des questions cruciales sur notre capacité à contrôler et comprendre ces systèmes. À mesure que les machines développent une autonomie linguistique, comment pourrons-nous garantir leur alignement avec nos intérêts ?