Intelligence artificielle:où en est-on ? ( Janvier 2023)

 

Intelligence artificielle:  où en-est-on ?

(Janvier 2023).

Jean-Michel KANTOR

 

Depuis  la naissance   de l’intelligence artificielle dans les années soixante du siècle dernier , le projet de l’IA a traversé successivement des périodes de développement pleines d’enthousiasme, comme vers 2012 avec l’apparition des réseaux neuronaux et de l’apprentissage profond , et d’autres de stagnation.
Ces deux  dernières années   constituent une période-charnière soumise à des tendances contradictoires, avec à la fois  la mise sur le marché de produits surprenants  qui ont suscité un engouement du  public et  une ruée des investisseurs, et en même temps  du côté des chercheurs de pointe  le développement de critiques et de doutes sur le développement  à moyen terme de l’intelligence artificielle.

Nous esquissons un examen de  ces deux aspects  et de leurs relations.

 

I Les modèles génératifs : leurs succès et leurs défauts .

 

La nouveauté technologique  qui a marqué la période récente est  la mise au point de nouveaux types de logiciels : les modèles génératifs . Ce sont des logiciels utilisant de nouveaux types de modèles  les GPT ( generative pre-trained transformer,transformeurs génératif pré-entraînés )   qui utilisent des bases de données gigantesques,par exemple tout Wikipedia ( ! )  pour engendrer de nouveaux contenus à partir de contenus extraits de ces bases .Ainsi les grands modèles de langages ( LLM pour  ‘’large language models ‘’ ) permettent , grace à des  outils  statistiques puissants,  de compléter un morceau de texte  de manière cohérente en fournissant la fin du texte la plus probable.

En novembre 2022 la firme OpenAI a mis sur le marché un outil de conversation ( chatbot)  ChatGPT  exploitant le système GPT-3 construit avec environ 175 milliards de paramètres ( les valeurs que le réseau cherche à optimiser ) qui permet une conversation  avec un interlocuteur humain .En cinq jours la machine a participé à plus d’un million de conversations , produit par exemple des poèmes sur des thèmes proposés ,répondu à  la place de collègiens à des interrogations de leurs professeurs …

D’autres produits sont apparus à la même période ,avec des effets tout aussi surprenants ,comme DALL.E  (  produit aussi  de  OpenAI) qui produit des images à partir de textes descriptifs .

  Devant ces  succès impressionnants ,une veritable frénésie s’est emparée des publics ,   qui a stimulé des investissements  phénoménaux des  entreprises-pilotes  de l’intelligence artificielle-IA- ( MAMAA: Microsoft,Amazon,Meta,Alphabet,Apple) et  des puissantes structures financières soutenant  le développement autour de la Silicon Valley.Selon les dernières nouvelles ( Janvier 2023) Microsoft serait prêt à investir  dix milliards de dollars dans un partenariat avec Open AI [1].
  Les prouesses  des modèles génératifs ont suggéré  à certains des chercheurs de pointe de l’intelligence artificielle qu’une étape  avait été franchie sur la voie  de l’ intelligence artificielle générale  ( AGI).

 [ Note ]:

  AGI: intelligence artificielle générale : programme conçu vers 2000  qui vise à concevoir des machines capable des principales compétences attribuées généralement à l’intelligence humaine : le raisonnement , la représentation de la connaissance et du sens commun, les capacités d’apprentissage, la capacité de créativité pour résoudre des problèmes ,la flexibilité et la capacité d’adaptation et l’intégration  - sans intervention humaine -de ces compétences .


Cet espoir  a été rapidement  déçu : les modèles génératifs sont limités et présentent des défauts graves et  difficilement corrigibles.

La machine n’est pas intelligente, elle ne  comprend pas la question à laquelle elle répond,sa réponse est  seulement le produit d’opérations statistiques  sur des bases de données de  très grandes dimensions. D’ailleurs de nombreux exemples montrent  des réponses soit absurdes soit fausses  [2].On imagine les dégâts que pourrait produire la diffusion de ces outils.
Ces critiques des modèles génératifs étaient déjà presents  à partir de 2020 chez Rodney Brooks ,  spécialiste de robotique  et observateur critique de l’intelligence artificielle. Il publie chaque année depuis 2018  ses prédictions sur le

développement de l’IA [3] ,prédictions qui se sont  souvent avérées exactes , concernant par exemple les difficultés pour le moment insurmontables du projet des voitures autonomes.

Citons Brooks sur  les modèles génératifs :

‘’ Il y a eu une veritable  explosion mediatique  sur les modèles génératifs dans deux directions;   selon l’une des effusions sur les performances de  virtuoses de ces systèmes , souvent choisies ad hoc , selon l’autre des exemples encore soigneusement choisis montrant leur incompétence …

Les  grands modèles de langage ( LLM )  vont peut-être trouver des niches comme débouchés  ,mais ils ne seront pas au fondement de l’intelligence artificielle du futur’’ ( Janvier 2023).

Un autre spécialiste  de l’intelligence artificielle  et des sciences cognitives , Gary  Marcus,professeur à New-York University  a depuis longtemps critiqué  la voie  qui domine  depuis plusieurs dizaines d’années l’intelligence artificielle ,celle des méthodes statistiques sans utilisation des méthodes logiques  utilisant  des representations symboliques. Marcus réitère ses critiques par exemple dans [4].

 Même Yann LeCun , directeur de l’Intelligence artificielle chez Meta (un des géants du web , propriétaire  de Facebook,Instagram et Whatsapp ), créateur vers 2010 et promoteur  du Deep learning,    est revenu brutalement sur ses positions  et a declaré récemment : ‘’ La plupart des approches actuelles de l’AI ne conduiront jamais à la véritable intelligence ‘’ [ 5]

 Ces nouveaux logiciels sont  capables de prouesses étonnantes  susceptibles d’applications nombreuses   qui sont développées actuellement ,  mais   on ne sait  pas encore  corriger  leurs défauts.

 

II  Recherches en cours ,et questionnements .

 

Inspirées par le projet ( le rêve ?)  d’une  intelligence artificielle générale  proche de l’intelligence humaine, les travaux actuels en intelligence artificielle  sont éclatés dans des directions multiples .
Un panorama   exhaustif   d’une situation instable et  en plein développement est impossible,nous avons choisi de nous laisser guider  par  le débat qui a réuni   en Décembre2022 une vingtaine de chercheurs éminents en intelligence artificielle  ,lors de la troisième  conférence organisée par l’équipe d’Intelligence artificielle de Montreal et pilotée par Gary Marcus .Ce débat [6]  fait partie d’une série de trois conférences , les  deux première conferences ( en 2019 et 2020 ) avaient pour thème respectivement ‘’Faire avancer l’IA ‘’ et

 ‘’ Vers une approche interdisciplinaire de l’AI ‘’ , la troisième  avait pour titre ‘’ ‘’ Le débat  vers  l’AGI ‘’ .G.Marcus  a résumé d’une phrase les trois heures de débat :

‘’Un débat épique qui montre pourquoi nous devrions être  au moins un peu inquiets des  progrès de l’IA en 2023’’ ( An epic AI-debate and why everyone should be at least a little worried about AI_ going into 2023 ) ‘’

 Les thèmes soumis au préalable aux orateurs :

--Peut-on compter sur l’ouverture  de l’IA  à d’autres disciplines ? Peut-on s’inspirer des sciences cognitives et des neurosciences pour aller plus loin ?
_ Comment concevoir un ‘’  sens commun  artificiel  ‘’ ( common sense )
__- Comment développer et structurer les   systèmes d’AI ?

-Comment construire des systèmes d’AI qui reflètent et respectent  les valeurs humaines ?

L’ensemble de ces questions et  les réponses qui furent apportées montrent  l’éclatement des directions de recherché ,la  demande d’appui dans les disciplines connexes ( sciences cognitives,neuro- sciences , et même philosophie ) , et  souvent chez les orateurs les doutes et  les inquiétudes sur les futures étapes  en vue de l’intelligence artificielle générale .

 Evoquons  quelques unes des interventions de ce débat .Et d’abord ,en invité extérieur et critique permanent de l’intelligence artiificielle ,Noam Chomsky a répété son point de vue constant : pour lui  les méthodes suivies ne pourront jamais apporter des réponses aux questions fondamentales  qu’il se pose  sur la spécificité de l’esprit humain , sur la constitution du langage ,sur la cognition ,car les méthodes actuelles de l’IA ne peuvent pas distinguer entre langages possibles et langages impossibles ( une distinction fondamentale qui résulte des travaux de  Chomsky  les grammaires transformationnelles ) .
Parmi les éminents specialistes  de l’IA:

 

Francesca Rossi ,membre de l’équipe de recherché d’IBM ,
  a proposé un modèle d’intellligence artificielle reposant  sur deux systèmes séparés  interagissant et  inspirés des travaux de psychologie cognitive de Kahneman [7].
Yejin Choi, professeur  d’informatique à l’Université de Washington  a évoqué les difficultés de la construction d’un ‘’ sens commun artificiel  ‘’ en  les comparant avec les mystères de la matière noire en physique .Dans un  second exposé  elle  a abordé l’introduction de critères éthiques en intelligence artificielle .
  Plusieurs orateurs dont  Dileep George  ( Deep Mind )  ont défendu le projet d’une intelligence artificielle hybride mêlant les méthodes statistiques et l ‘approche ‘’ neurosymbolique ‘’ pour rendre possible le raisonnement abstrait et la capacité des machines à  généraliser  .

Enfin signalons  les deux interventions finales , qui chacune ont exprimé  les interrogations et l’inquiétude largement partagées lors de ce débat : Kai-Fu-Lee ( ancien chercheur de Google et Microsoft)  s’est inquiété  de l’arrivée très probable d ‘outils de désinformation   ,par exemple la fabrication de messages de publicité   ou de propagande politique personnalisés: chacun recevrait des messages adaptés envoyés par exemple par une grande compagnie; il lui  paraît impossible de  resister à des envois mensongers  personnalisés concus à des fins commerciales ou  de propagande dans le champ politique.

Enfin Angela Sheffiels ,spécialiste des applications de l’IA à des prises de décision dans des contextes  militaires  délicats , a évoqué le contexte de la dissémination nucléaire et les  problèmes qui pourraient être  abordés avec les outils de l’AGI.

 Au total donc beaucoup de questions soulevées, qui demandent une réflexion approfondie pour la conception de nouveaux outils d’IA  capables  d’intelligence et adaptés  aux problèmes éthiques et socio-politiques du futur.

 

Enfin ,pour compléter cet apercu de l’état actuel des productions et des recherches en intelligence artificielle , deux  domaines où cette technique  est déjà bien présente :

-- La recherche mathématique:

-L’art numérique.

Un colloque récent ,dédié au mathématicien (  médaille  Fields )Ashkav Venkatesh , a  été consacré au rôle de l’intelligence artificielle  en mathématiques .

La discussion ,autour d’un texte préliminaire du lauréat [ 8 ] a permis la présentation  de travaux mathématiques    appuyés sur des  outils informatiques, et un débat autour des conséquences  futures  de progrès de l’AGI pour  les mathématiques : les machines remplaceront-elles les mathématiciens  [9]?
les structures des MAMAA exercent  déjà  une forte pression idéologique sur le milieu mathématique [10]
--- Un autre exemple  lui aussi investi par l’intelligence artificielle , est celui de l”art  numérique ‘’.  

Là aussi les artistes manifestent quelques inquiétudes ,mais la qualité des oeuvres produites  jusqu’à present permet de douter d’un avenir somptueux pour l’”art numérique ‘’.

 Dans ces  deux domaines ( l’art et les mathématiques ) se  posent la question de la créativité ,scientifique ou artistique. Pourra –ron instituer une ‘’ créativité artificielle ‘’ ?

 

L’avenir du projet  de l’AGI est incertain malgré  les promesses tous-azimuts diffusées par les puissants  organes  de communication des MAMAA .

Prenons un peu de recul historique , et citons une fable écrite par Stanislas Lem, célèbre auteur de science-fiction  mais  aussi ‘’ philosophe du futur’’ qui a consacré  une grande partie de sa vie à réfléchir à l’avenir de l’intelligence artificielle comme romancier,par exemple dans GolemXIV- encore non trduit en français- où est abordée la difference entre la conscience artificielle et la conscience humaine . Il  s’inquiétait dès 1993 de l’avenir des “machines intelligentes ‘’ [ 11 ]:

 

‘’ La presse  a rapporté récemment qu’un ordinateur avait écrit un roman . C’était un évènement  douteux  et en même temps sensationnel, car bien sûr l’ordinateur ne comprenait rien  à ce qu’il avait écrit ,le veritable auteur c’était l’outil  correspondant à la recherche de la ‘’ bonne expression ‘’correspondant aux états de l’héroïne .C’était bien sûr une opération  commerciale ,car nombreux sont ceux qui voudront lire une nouvelle écrite par un ordinateur.Et comme il  y a  des programmes qui montrent ce dont le public a envie ,le roman va certainement  tomber dans le ‘’ porno ‘’ .  . Cette utilisation  des grand succès de la  technique et de la science  dans  un but stupide ,primitif,  sale,  est pour moi  une grande déception typique  de cette fin du vingtième siècle,qui confirme mes prédictions: les  Lumières seront battues par  les forces noires du péché qui sont elles  aussi au coeur de l’homme ‘’ .

 

 

s

 

1       Microsoft eyes $10 billion bet on ChatGPT owner https://www.semafor.com/article/01/09/2023/microsoft-eyes-billion-bet-on-chatgpt

 

2        Voir des erreurs d’interprétations d’images et  d’autres dans

 

http://rodneybrooks.com/predictions-scorecard-2019-january-01/

 

Voir aussi des erreurs et des tentatives de correction dans

G.Marcus: the next decade in AI:Four steps towards robust artificial intelligence   ArXiv:2002.

 

 

  3   Rodney Brooks Robots ,AI and other stuff

Rodneybrooks.com/predictions-scorecard-2003_january-01

 

 4 G.Marcus   Deep learning is hitting   a wall ,Nautilus,March 20 2022

 5  Yann  LeCun ,  ZDNet ,Sept.24,2022

 

6 The AGI Debate,3heures 50

https://www.youtube.com/watch?v=JGiLz_Jx9uI&t=73s

 

 

 7 Kahneman   Système 1/Système2 :les deux systèmes de la pensée,Flammarion 2012

8   A.Vankatesh

Some thoughts on automation and mathematical research

 9  2022 Fields Medal Symposium

http://www.fields.utoronto.ca/activities/22-23/fieldsmedalsym

 

 

10  M.Harris Mathematics and the undead   How silicon Valley plans to   ‘’ disrupt ‘’ mathematics

https://siliconreckoner.substack.com/p/mathematics-and the -undead

 

 

11 Stanislas Lem

  MOLOCH X,

publ. Wydawnictwo Literackie, en polonais1981

 traduit sous le titre Imaginary Magnitude, Harvest Book ,1985

 

 12   Stanislas Lem    

Essays in PC Magazine Po Polsku: “Bariera informacyjna?” (“The Barrier of Information?”) - Nov. 1993,Translation Y.Yaznevich,2004

 

 

 

 

 

 

 

 

Commentaires

  1. Merci pour cette note très éclairante. Le plus intéressant dans l'IA actuellement, à mon avis, c'est ce qui se passe en biologie moléculaire (AlphaFold et ses suites-). Là aussi ça va très vite.

    RépondreSupprimer

Enregistrer un commentaire

Posts les plus consultés de ce blog