Intelligence artificielle:où en est-on ? ( Janvier 2023)
Intelligence artificielle: où en-est-on ?
(Janvier 2023).
Jean-Michel KANTOR
Depuis
la naissance de
l’intelligence artificielle dans les années soixante du siècle dernier , le
projet de l’IA a traversé successivement des périodes de développement pleines
d’enthousiasme, comme vers 2012 avec l’apparition des réseaux neuronaux et de
l’apprentissage profond , et d’autres de stagnation.
Ces deux dernières années constituent une période-charnière
soumise à des tendances contradictoires, avec à la fois la mise sur le marché de produits surprenants qui ont suscité un engouement du public et une ruée des investisseurs, et en même temps du côté des chercheurs de pointe le développement de critiques et de
doutes sur le développement à
moyen terme de l’intelligence artificielle.
Nous esquissons un examen de ces deux aspects et de leurs relations.
I Les modèles génératifs : leurs succès et leurs défauts .
La nouveauté technologique qui a marqué la période récente est la mise au point de nouveaux types de logiciels : les modèles génératifs . Ce sont des logiciels utilisant de nouveaux types de modèles les GPT ( generative pre-trained transformer,transformeurs génératif pré-entraînés ) qui utilisent des bases de données gigantesques,par exemple tout Wikipedia ( ! ) pour engendrer de nouveaux contenus à partir de contenus extraits de ces bases .Ainsi les grands modèles de langages ( LLM pour ‘’large language models ‘’ ) permettent , grace à des outils statistiques puissants, de compléter un morceau de texte de manière cohérente en fournissant la fin du texte la plus probable.
En novembre 2022 la firme OpenAI a mis sur le marché un outil de conversation ( chatbot) ChatGPT exploitant le système GPT-3 construit avec environ 175 milliards de paramètres ( les valeurs que le réseau cherche à optimiser ) qui permet une conversation avec un interlocuteur humain .En cinq jours la machine a participé à plus d’un million de conversations , produit par exemple des poèmes sur des thèmes proposés ,répondu à la place de collègiens à des interrogations de leurs professeurs …
D’autres produits sont apparus à la même période ,avec des effets tout aussi surprenants ,comme DALL.E ( produit aussi de OpenAI) qui produit des images à partir de textes descriptifs .
Devant
ces succès impressionnants ,une
veritable frénésie s’est emparée des publics , qui a stimulé des investissements phénoménaux des entreprises-pilotes de l’intelligence artificielle-IA- (
MAMAA: Microsoft,Amazon,Meta,Alphabet,Apple) et des puissantes structures financières soutenant le développement autour de la Silicon Valley.Selon
les dernières nouvelles ( Janvier 2023) Microsoft serait prêt à investir dix milliards de dollars dans un
partenariat avec Open AI [1].
Les prouesses des modèles génératifs ont suggéré à certains des chercheurs de pointe de
l’intelligence artificielle qu’une étape avait été franchie sur la voie de l’ intelligence artificielle générale ( AGI).
[ Note ]:
AGI: intelligence artificielle générale : programme conçu vers 2000 qui vise à concevoir des machines capable des principales compétences attribuées généralement à l’intelligence humaine : le raisonnement , la représentation de la connaissance et du sens commun, les capacités d’apprentissage, la capacité de créativité pour résoudre des problèmes ,la flexibilité et la capacité d’adaptation et l’intégration - sans intervention humaine -de ces compétences .
Cet espoir a été rapidement déçu : les modèles génératifs sont
limités et présentent des défauts graves et difficilement corrigibles.
La machine n’est pas intelligente, elle ne comprend pas la question à laquelle elle
répond,sa réponse est seulement le
produit d’opérations statistiques
sur des bases de données de
très grandes dimensions. D’ailleurs de nombreux exemples montrent des réponses soit absurdes soit
fausses [2].On imagine les dégâts
que pourrait produire la diffusion de ces outils.
Ces critiques des modèles génératifs étaient déjà presents à partir de 2020 chez Rodney Brooks , spécialiste de robotique et observateur critique de
l’intelligence artificielle. Il publie chaque année depuis 2018 ses prédictions sur le
développement de l’IA [3] ,prédictions qui se sont souvent avérées exactes , concernant par exemple les difficultés pour le moment insurmontables du projet des voitures autonomes.
Citons Brooks sur les modèles génératifs :
‘’ Il y a eu une veritable explosion mediatique sur les modèles génératifs dans deux directions; selon l’une des effusions sur les performances de virtuoses de ces systèmes , souvent choisies ad hoc , selon l’autre des exemples encore soigneusement choisis montrant leur incompétence …
Les grands modèles de langage ( LLM ) vont peut-être trouver des niches comme débouchés ,mais ils ne seront pas au fondement de l’intelligence artificielle du futur’’ ( Janvier 2023).
Un autre spécialiste de l’intelligence artificielle et des sciences cognitives , Gary Marcus,professeur à New-York University a depuis longtemps critiqué la voie qui domine depuis plusieurs dizaines d’années l’intelligence artificielle ,celle des méthodes statistiques sans utilisation des méthodes logiques utilisant des representations symboliques. Marcus réitère ses critiques par exemple dans [4].
Même Yann LeCun , directeur de l’Intelligence artificielle chez Meta (un des géants du web , propriétaire de Facebook,Instagram et Whatsapp ), créateur vers 2010 et promoteur du Deep learning, est revenu brutalement sur ses positions et a declaré récemment : ‘’ La plupart des approches actuelles de l’AI ne conduiront jamais à la véritable intelligence ‘’ [ 5]
Ces nouveaux logiciels sont capables de prouesses étonnantes susceptibles d’applications nombreuses qui sont développées actuellement , mais on ne sait pas encore corriger leurs défauts.
II Recherches en cours ,et questionnements .
Inspirées par le projet ( le rêve ?) d’une intelligence artificielle générale proche de l’intelligence humaine, les
travaux actuels en intelligence artificielle sont éclatés dans des directions multiples .
Un panorama exhaustif d’une situation instable et en plein développement est impossible,nous
avons choisi de nous laisser guider par le débat qui
a réuni en Décembre2022 une
vingtaine de chercheurs éminents en intelligence artificielle ,lors de la troisième conférence organisée par l’équipe d’Intelligence
artificielle de Montreal et pilotée par Gary Marcus .Ce débat [6] fait
partie d’une série de trois conférences , les deux première conferences ( en 2019 et 2020 ) avaient pour
thème respectivement ‘’Faire avancer l’IA ‘’ et
‘’ Vers une approche interdisciplinaire de l’AI ‘’ , la troisième avait pour titre ‘’ ‘’ Le débat vers l’AGI ‘’ .G.Marcus a résumé d’une phrase les trois heures de débat :
‘’Un débat épique qui montre pourquoi nous devrions être au moins un peu inquiets des progrès de l’IA en 2023’’ ( An epic AI-debate and why everyone should be at least a little worried about AI_ going into 2023 ) ‘’
Les thèmes soumis au préalable aux orateurs :
--Peut-on compter sur l’ouverture de l’IA à d’autres disciplines ? Peut-on s’inspirer des sciences
cognitives et des neurosciences pour aller plus loin ?
_ Comment concevoir un ‘’ sens
commun artificiel ‘’ ( common sense )
__- Comment développer et structurer les
systèmes d’AI ?
-Comment construire des systèmes d’AI qui reflètent
et respectent les valeurs humaines
?
L’ensemble de ces questions et les réponses qui furent apportées montrent l’éclatement des directions de recherché ,la demande d’appui dans les disciplines connexes ( sciences cognitives,neuro- sciences , et même philosophie ) , et souvent chez les orateurs les doutes et les inquiétudes sur les futures étapes en vue de l’intelligence artificielle générale .
Evoquons quelques
unes des interventions de ce débat .Et d’abord ,en invité extérieur et critique
permanent de l’intelligence artiificielle ,Noam Chomsky a répété son point de
vue constant : pour lui les méthodes
suivies ne pourront jamais apporter des réponses aux questions fondamentales qu’il se pose sur la spécificité de l’esprit humain , sur la constitution
du langage ,sur la cognition ,car les méthodes actuelles de l’IA ne peuvent pas
distinguer entre langages possibles et langages impossibles ( une distinction
fondamentale qui résulte des travaux de Chomsky les
grammaires transformationnelles ) .
Parmi les éminents specialistes de
l’IA:
Francesca
Rossi ,membre de l’équipe de recherché d’IBM ,
a proposé un modèle d’intellligence artificielle
reposant sur deux systèmes
séparés interagissant et inspirés des travaux de psychologie
cognitive de Kahneman [7].
Yejin Choi, professeur d’informatique à l’Université de
Washington a évoqué les
difficultés de la construction d’un ‘’ sens commun artificiel ‘’ en les comparant avec les mystères de la matière noire en physique
.Dans un second exposé elle a abordé l’introduction de critères éthiques en intelligence
artificielle .
Plusieurs orateurs dont Dileep
George ( Deep Mind ) ont défendu le projet d’une
intelligence artificielle hybride mêlant les méthodes statistiques et l
‘approche ‘’ neurosymbolique ‘’ pour rendre possible le raisonnement
abstrait et la capacité des machines à
généraliser .
Enfin signalons les deux interventions finales , qui chacune ont exprimé les interrogations et l’inquiétude largement partagées lors de ce débat : Kai-Fu-Lee ( ancien chercheur de Google et Microsoft) s’est inquiété de l’arrivée très probable d ‘outils de désinformation ,par exemple la fabrication de messages de publicité ou de propagande politique personnalisés: chacun recevrait des messages adaptés envoyés par exemple par une grande compagnie; il lui paraît impossible de resister à des envois mensongers personnalisés concus à des fins commerciales ou de propagande dans le champ politique.
Enfin Angela Sheffiels ,spécialiste des applications de l’IA à des prises de décision dans des contextes militaires délicats , a évoqué le contexte de la dissémination nucléaire et les problèmes qui pourraient être abordés avec les outils de l’AGI.
Au total donc beaucoup de questions soulevées, qui demandent une réflexion approfondie pour la conception de nouveaux outils d’IA capables d’intelligence et adaptés aux problèmes éthiques et socio-politiques du futur.
Enfin ,pour compléter cet apercu de l’état actuel des productions et des recherches en intelligence artificielle , deux domaines où cette technique est déjà bien présente :
-- La recherche mathématique:
-L’art numérique.
Un colloque récent ,dédié au mathématicien ( médaille Fields )Ashkav Venkatesh , a été consacré au rôle de l’intelligence artificielle en mathématiques .
La discussion ,autour d’un texte préliminaire du
lauréat [ 8 ] a permis la présentation de travaux mathématiques appuyés sur des outils informatiques, et un débat autour des conséquences futures de progrès de l’AGI pour les mathématiques : les machines remplaceront-elles les
mathématiciens [9]?
les structures des MAMAA exercent déjà une forte pression
idéologique sur le milieu mathématique [10]
--- Un autre exemple lui aussi
investi par l’intelligence artificielle , est celui de l”art numérique ‘’.
Là aussi les artistes manifestent quelques inquiétudes ,mais la qualité des oeuvres produites jusqu’à present permet de douter d’un avenir somptueux pour l’”art numérique ‘’.
Dans ces deux domaines ( l’art et les mathématiques ) se posent la question de la créativité ,scientifique ou artistique. Pourra –ron instituer une ‘’ créativité artificielle ‘’ ?
L’avenir du projet de l’AGI est incertain malgré les promesses tous-azimuts diffusées par les puissants organes de communication des MAMAA .
Prenons un peu de recul historique , et citons une fable écrite par Stanislas Lem, célèbre auteur de science-fiction mais aussi ‘’ philosophe du futur’’ qui a consacré une grande partie de sa vie à réfléchir à l’avenir de l’intelligence artificielle comme romancier,par exemple dans GolemXIV- encore non trduit en français- où est abordée la difference entre la conscience artificielle et la conscience humaine . Il s’inquiétait dès 1993 de l’avenir des “machines intelligentes ‘’ [ 11 ]:
‘’ La presse a rapporté récemment qu’un ordinateur avait écrit un roman . C’était un évènement douteux et en même temps sensationnel, car bien sûr l’ordinateur ne comprenait rien à ce qu’il avait écrit ,le veritable auteur c’était l’outil correspondant à la recherche de la ‘’ bonne expression ‘’correspondant aux états de l’héroïne .C’était bien sûr une opération commerciale ,car nombreux sont ceux qui voudront lire une nouvelle écrite par un ordinateur.Et comme il y a des programmes qui montrent ce dont le public a envie ,le roman va certainement tomber dans le ‘’ porno ‘’ . . Cette utilisation des grand succès de la technique et de la science dans un but stupide ,primitif, sale, est pour moi une grande déception typique de cette fin du vingtième siècle,qui confirme mes prédictions: les Lumières seront battues par les forces noires du péché qui sont elles aussi au coeur de l’homme ‘’ .
s
1 Microsoft eyes $10 billion bet on ChatGPT owner https://www.semafor.com/article/01/09/2023/microsoft-eyes-billion-bet-on-chatgpt
2 Voir des erreurs d’interprétations d’images et d’autres dans
http://rodneybrooks.com/predictions-scorecard-2019-january-01/
Voir aussi des erreurs et des tentatives de correction dans
G.Marcus: the next decade in AI:Four steps towards robust artificial intelligence ArXiv:2002.
3 Rodney Brooks Robots ,AI and other stuff
Rodneybrooks.com/predictions-scorecard-2003_january-01
4 G.Marcus Deep learning is hitting a wall ,Nautilus,March 20 2022
5 Yann LeCun , ZDNet ,Sept.24,2022
6 The AGI Debate,3heures 50
https://www.youtube.com/watch?v=JGiLz_Jx9uI&t=73s
7 Kahneman Système 1/Système2 :les deux systèmes de la pensée,Flammarion 2012
8 A.Vankatesh
Some thoughts on automation and mathematical research
9 2022 Fields Medal Symposium
http://www.fields.utoronto.ca/activities/22-23/fieldsmedalsym
10 M.Harris Mathematics and the undead How silicon Valley plans to ‘’ disrupt ‘’ mathematics
https://siliconreckoner.substack.com/p/mathematics-and the -undead
11 Stanislas Lem
MOLOCH X,
publ. Wydawnictwo Literackie, en polonais1981
traduit sous le titre Imaginary Magnitude, Harvest Book ,1985
12 Stanislas Lem
Essays in PC Magazine Po Polsku: “Bariera informacyjna?” (“The Barrier of Information?”) - Nov. 1993,Translation Y.Yaznevich,2004
Merci pour cette note très éclairante. Le plus intéressant dans l'IA actuellement, à mon avis, c'est ce qui se passe en biologie moléculaire (AlphaFold et ses suites-). Là aussi ça va très vite.
RépondreSupprimer