Dossier - Conscience artificielle, principes architecturaux

L'informatique est habituellement comprise comme le développement de programmes qui se comportent comme des séquences de traitements automatiques plus ou moins compliquées. En ce sens, le comportement de ces programmes est prévu et finement planifié dans le plus de cas possibles. Mais on sait aujourd'hui, en Intelligence artificielle et en utilisant le parallélisme, construire des systèmes composés de très nombreux processus, c'est-à-dire de programmes autonomes et concurrents, qui s'exécutent chacun en négociant leurs traitements avec les autres et en faisant émerger des effets. Le vivant artificiel, liant informatique et robotique, nécessite de s'intéresser à des programmes qui forment des entités
précises, qui ne sont pas de simples réunions de systèmes différents, et qui forment un tout autonome et évolutif. Au niveau logiciel, ce sont des agrégations très évolutives de processus qui gèrent en temps réel des corps de robots et des mécanismes de prises d'informations.


La conscience artificielle, la façon de générer dans des systèmes informatiques ce que sont en fait les pensées humaines, est comprise comme la production artificielle de points de vues, d'avis, d'appréciations, d'impressions, d'envies. Il s'agit de
générer des représentations sensibles très adéquates avec la réalité dans laquelle le système fonctionne. Ce type de système est lié à une certaine corporéité qui, elle, peut être multiforme, et il se met en situation dans le réel, à chaque instant, selon les informations qu'il reçoit et selon ses aptitudes. Il faut donc concevoir des systèmes qui pourront générer des états complexes qui représenteront des pensées, des systèmes qui auront une mémoire des choses, gardant la trace des événements vécus et appréciés, ce qui n'est pas du tout une mémoire accumulant simplement des données, fussent-elles innombrables. Et il faut que ces systèmes soient donc très autonomes dans l'utilisation de leur mémoire et des processus
permettant de produire des représentations et des plans d'action intentionnels, et qu'ils opèrent en temps réel.

Pour cela, il sera nécessaire de bien lier informatique et robotique, d'utiliser systématiquement la programmation par processus et d'aller chercher des modèles externes à la discipline informatique : les modèles de systèmes psychiques et les modèles de la morphogenèse décrivant la notion de forme.

On considère donc un système qui va devoir générer des pensées artificielles, et qui est lié de manière temps-réel à un corps artificiel constitué de différents capteurs et effecteurs.


Une pensée est, sous son aspect physique, une forme émergente dans un organe aux propriétés très particulières : le cerveau.
Le fonctionnement du cerveau montre qu'il n'est pas constitué de couches fonctionnelles, qu'il n'est pas fait de composants aux liens prédéfinis et aux rôles fonctionnels immuables qui constitueraient des structures fixes. Le cerveau ne produit pas de la pensée comme une sorte d'usine, très compliquée, produirait des états dits de pensée après un processus de fabrication bien déterminé. Le fonctionnement du cerveau n'est pas non plus celui d'un système infini non appréhendable : ce qu'il produit est connaissable et compréhensible, et le sera totalement un jour avec les travaux des neurobiologistes.


Il s'agit, en s'intéressant à la pensée, de trouver la bonne échelle de son intelligibilité pour réaliser la transposition.
Il y a bien quelque chose de systémique dans la production de pensées et d'émotions, mais la notion de système utilisée n'est pas classique. Il faut, pour comprendre ce qu'est un état de pensée, abandonner la notion de programme vu comme un processus automatique qui ne ferait finalement qu'atteindre des états prédéfinis après une longue suite de calculs.


Il s'agit de s'engager dans l'étude de systèmes qui sont constitués d'éléments dynamiques relativement autonomes, très nombreux, très évolutifs et qui opèrent par réorganisations et modifications incessantes de leur propre organisation. Ces éléments sont structurellement homogènes, mais doivent indiquer chacun des caractères en rapport avec les caractères d'une idée qui peut être produite : ils ne sont pas du tout identiques, et il ne s'agit donc pas d'un système particulaire, comme les systèmes étudiés en physique ou dans la théorie du chaos. Ce système doit pouvoir construire sans cesse, à partir de ces entités et selon de multiples contraintes venant de l'extérieur via la corporéité, des configurations au sens géométrique du terme, valant pour des états morphologiques et évidemment sémantiques. Ces états organisationnels doivent en effet avoir une double signification :
1. ils ont une conformation au sens géométrique, c'est-à-dire une certaine forme,
2. ils ont une signification, au sens cognitif, c'est-à-dire qu'ils doivent être systématiquement associés à la désignation clairement exprimée par des mots de quelque chose d'intelligible du monde.

[Vous devez être inscrit et connecté pour voir cette image]

Ce sont des systèmes qualifiés de complexes au sens organisationnel du terme. Les états qu'ils produisent ne sont pas les états produits par un certain automate, mais des émergences toujours un peu nouvelles dans leurs caractères, souvent imprévisibles mais toujours adéquates à la situation du système en posture dans son environnement.

Ce qui est précisément recherché dans la construction d'un tel système est bien la notion d'autonomie
comportementale, sur laquelle se fondera l'intentionnalité, comme c'est le cas pour tout organisme vivant qui se comporte pour son compte. Pour transposer la production de pensées dans le calculable des ordinateurs, il s'agit de découvrir des architectures très dynamiques, qui s'activent en subissant des tendances multiples comme dans le psychisme
humain, donc sous la poussée de tendances fondamentales valant pour des pulsions, et résolvant continuellement, pour produire un état ayant signification, les contradictions de ces tendances. Et il s'agit de trouver comment un état émergent formé de multiples entités co-actives, concurrentes ou associées, formant des grappes à plusieurs niveaux, peut être poussé à l'expression et ressenti par le système lui-même, de la même façon qu'une pensée est produite, appréciée et ressentie par
l'esprit qui la génère. Ce sont les trois grandes questions à résoudre pour réaliser la transposition de la génération de pensées dans l'artificiel des systèmes calculables :
1. Qu'est-ce que la production d'un système qui vaudrait pour une pensée ?
2. Pourquoi le système s'engagerait-il vers une certaine production ici et maintenant, dans telle situation, et avec quelles qualités pour cette production ?
3. Comment pourrait-il ressentir cette production ?


Le système que nous développons est formé de processus particuliers, des agents logiciels légers en nombre très important (des centaines de milliers disponibles sinon plus), et les agents actifs (bien moins nombreux) seront
organisés selon une architecture qui est la clé du problème. Un agent de ce type est un groupe de processus, dont les caractères sont d'être actif, proactif et sélectivement lié à d'autres pour son action rationnelle. Si ces agents ne sont pas capables de s'organiser, le comportement du système ne peut être que chaotique et si ces agents sont fortement structurés, le système se comporte de manière réactive, comme une machine.

Chez l'être humain, générer une pensée revient à produire cinq actions distinctes, non strictement séquentielles. Nous les précisons en fournissant les éléments de la transposition :

• 1 - Nous posons une visée à propos de quelque chose. Nous poserons une direction au déploiement des multiples actions des processus élémentaires.
  
• 2 - Nous engageons la mise en activation de processus idéels.
  Il y a, de façon transitive, activation d'un très vaste ensemble
  d'actions élémentaires portant sur l'activation d'éléments internes de
  base qui étaient latents, qui étaient disponibles en mémoire à ce moment sous forme d'indications informationnelles pour devenir des processus actifs.
  
• 3 - Nous générons une représentation interne,
  totalement reconstruite, à propos de cette chose visée. Il y a bien une
  agrégation globale, une mise en cohérence des actions des processus
  élémentaires produisant un état émergent considéré comme un objet
  interne propre. Il y a bien un contrôle permettant l'émergence, mais
  celui-ci est distribué et est le fait de négociations multiples.
  
• 4 - Nous éprouvons la sensation de penser à quelque chose de désigné.
  Le système prend en considération cet objet interne qu'il vient de
  construire, et ceci en le manipulant. Cette manipulation sera un
  processus particulier procurant une sensation. Cette sensation est
  éprouvée par le système et elle est soit fugace et disparaît pour céder
  la place, ou bien elle engage une tendance spécifique qui va se
  déployer dans le temps : c'est la continuité ou la bifurcation de la pensée artificielle courante générée.
  
• 5 - Nous mémorisons sélectivement. Le système mémorisera sous une certaine forme qui est strictement morphologique et qui n'a rien d'une base de données, cet objet interne ainsi que certains caractères de la manipulation qui vient d'être effectuée.
  

[Vous devez être inscrit et connecté pour voir cette image]

Ces cinq types d'actions sont essentiellement compris comme des mouvements
de processus, qui seront rendus possibles par l'architecture du système
fait de multiples activités locales formant des agrégations, qui vont
se développer ou se rompre, et dont la trace sera mémorisable.

La question de l'architecture qui contrôle les agents logiciels formant le substrat du système est évidemment le point central.
Il y a contrôle, mais ni impératif, ni directif ni aléatoire. On
dispose de modèles explicatifs du principe de fonctionnement de
l'appareil psychique, après les travaux de l'inventeur de la
psychanalyse, Sigmund Freud, et de ses successeurs. Ces
modèles proposent des architectures générales pour un système de
production de pensées avec ses contraintes et ses multiples
défaillances possibles, c'est-à-dire ses pathologies. Mais il n'y a pas vraiment eu de rencontre entre ces modèles conceptuels et l'informatique,
où l'on spécifie habituellement à l'avance tous les cas de
fonctionnement des systèmes que l'on construit. La transposition n'a
pas vraiment été envisagée, sans doute parce que les concepts
informatiques n'étaient pas assez développés et les modèles de systèmes
psychiques paraissaient trop abstraits ou trop vagues. Aujourd'hui, la
transposition peut se faire, par synthèse constructiviste, en
réinterprétant certaines topiques freudiennes.

[Vous devez être inscrit et connecté pour voir cette image]
Les composants principaux du système psychique humain : du non conscient au conscient éprouvé en passant par le pré-conscient

Notre thèse centrale sera qu'un système psychique peut être développé sur un autre support que le réseau neuronal d'un cerveau,
et notamment sur le support fourni par des agents informatiques en
cours d'exécution, lorsqu'ils sont multiples et constituent de vastes
organisations dynamiques, lorsqu'ils sont rendus co-actifs et
s'auto-contrôlent, avec ajustement continu de ce contrôle.


[Vous devez être inscrit et connecté pour voir cette image]
Cliquez sur l'image pour l'agrandir
Les fonctions et les relations dans le système psychique humain : la mise en liaison des composants montrant la complexité.

Précisons ce que peut être une représentation interne pour un système générateur de pensées artificielles :

• Une
  représentation interne est un objet interne, totalement reconstruit à
  chaque fois, apparaissant sous la forme d'activités simultanées
  d'agents manipulant des symboles et produisant des conformations à
  plusieurs échelles. Cette association de calculs en exécution,
  concurrents et parallèles, se représente sous forme de déploiements
  géométriques, de manière fractale.
  

L'objectif
du système est de produire de telles représentations, en s'engageant de
luimême à les produire, en en contrôlant la production et en la
mémorisant de façon appropriée.


Un système qui génère des pensées artificielles
devra donc avoir des pulsions vues comme des tendances fondamentales,
un inconscient vu comme un ensemble de processus latents
ancrant les souvenirs d'événements vécus ou artificiels, un
préconscient permettant de localiser et d'agréger les processus
émergents, et un conscient, un processus très spécifique permettant au
système d'éprouver ses propres productions : générer effectivement la
sensation de penser à quelque chose et le sentiment de soi en action de
génération de pensées.


Le système devra, d'une certaine façon,
être conscient de ce qu'il engendre comme formes dynamiques organisées
au sens où il les observera par nécessité, où il les manipulera, s'en
servira pour planifier des activités physiques évaluées et appréciées
en agissant dans l'environnement par les organes de son corps.
Puis, en en tenant compte, il en générera d'autres et les mémorisera
sous une forme réduite, non factuelle, pour en conserver une certaine
trace. La question très importante de la mémorisation revient à ancrer
non seulement des concepts mais des appréciations de faits et
d'événements représentés par des objets internes, et évidemment pas par
d'innombrables symboles factuels.


Le système devra donc avoir un "vécu artificiel", tel que l'entendait Paul Ricoeur, radicalement différent d'un ensemble d'informations factuelles structurées comme le sont les bases de données,
et lui permettant de rappeler des événements artificiels valant pour
une vie passée réelle ou artificielle, pour les expériences nécessaires
à ses aptitudes courantes. Il augmentera cette mémoire
par des événements qu'il vivra d'une certaine façon en les gérant et en
les ressentant. La création de ce vécu artificiel conditionnera
finement son profil psychologique. Cette construction n'est
pas un problème simple, c'est même le grand travail pluridisciplinaire
de construction de l'esprit artificiel aujourd'hui.


[Vous devez être inscrit et connecté pour voir cette image]
Cliquez sur l'image pour l'agrandir
La
transposition informatique du système psychique avec les principaux
composants et processus logiciels : les composants et leurs relations
sont remplacés par des entités informatiques de type processus avec
contrôle et modification des flux de processus. Le résultat est un
système complexe, auto-adaptatif, qui ne se ramène pas du tout à un
algorithme déterministe.

Donnons une définition constructiviste de ce que doit être la pensée artificielle, en terme de système :

• Pour
  pouvoir générer de la pensée artificielle, il faut définir
  l'architecture d'un système qui doit, par nécessité, produire des
  représentations vues comme des objets internes appréciés et sans cesse
  reconstruits. Il doit être en action de reconformation de ses
  multiples structures, formant des boucles de rétroaction d'amplitudes
  différentes. Il doit pouvoir produire des états de conformation
  généraux qui seront des émergences conduites par des tendances fortes,
  non aléatoires, valant à chaque instant pour une correspondance forme – signification et que l'on nommera alors "fait de conscience artificiel" : ce seront des représentations référant à différentes choses du monde réel.
  

Le système devra donc avoir les caractères suivants :

• C'est un système informatique
  lié à un double flux informationnel incessant, l'un venant de
  l'extérieur via les capteurs et effecteurs de la corporéité du système,
  et l'autre, interne, activant des potentialités mémorielles.
  
• Il est composé d'entités calculables rationnelles, multiples, qui sont proactives,
  chacune ayant un fondement cognitif et géométrique et ayant toutes la
  qualité d'être évolutives, s'agrégeant à d'autres ou se détachant
  d'agrégations, formant des boucles de rétroactions.
  Il a une architecture permettant de constituer un vécu événementiel sous forme de mémoire
  organisationnelle systématiquement augmentable, qui est une structure
  plastique permettant de créer sans cesse de nouvelles mémorisations :
  tout accès à cette mémoire la modifie. Cette mémoire est basée sur les
  relations entre les entités de base évolutives, ce qui est de l'ordre
  du cardinal des parties de l'ensemble des entités de base.
  
• Il subit des tendances fondamentales
  vues comme des contraintes générales du niveau organisationnel profond,
  qui sont des tendances pulsionnelles irrépressibles et des forces
  émotionnelles.
  
• Il peut objectiver et mémoriser des structures
  à la fois informationnelles et géométriques valant, en étant activées,
  pour des éléments de signification, pour jouer sur lui-même et de
  lui-même.
  
• Il peut, à tout niveau du caractère fractal de son déploiement, lier ses parties actives à sa totalité.
  
• Selon
  la sensation et l'émotion éprouvée à propos de l'objet interne
  émergent, le système poursuit ses générations dans le même cadre ou
  réalise une bifurcation et change de centre d'intérêt.
  

[Vous devez être inscrit et connecté pour voir cette image]
Fenêtre de visualisation montrant la communication entre des agents logiciels
et produisant une carte de niveau agent montrant les activités
agrégatives par le fait des communications entre certains groupes
d'agents.

Nous avons trouvé une architecture pour un tel
système. Nous avons utilisé de manière majeure la notion d'agent
logiciel dans la modélisation et la notion d'évaluation géométrique des
conformations des organisation dynamiques d'agents. Nous avons utilisé
la notion d'agent de manière radicale, en créant un système basé sur
les interactions et évaluant on-line les formes géométriques de
celles-ci. Nous plaçons donc l'agent comme le correspondant du groupe
neuronal actif détenteur d'éléments de signification dans la génération
du fait de penser. Une pensée artificielle est le résultat de l'agrégation de très nombreux traits précisant son objet,
et nous faisons correspondre à cela des nuées d'agents logiciels ayant
à opérer des regroupements multiples, grâce à leurs accointances
évolutives.

Le comportement effectif global du système
multi-agent sera essentiellement réalisé par l'évaluation du
comportement de l'ensemble de ses agents actifs, et le système sera
donc construit de manière à produire ces effets comportementaux. Ce
sont dans les agents que seront placés les caractères d'actions et de
tendances à l'organisation du système. Le contrôle sera réalisé par des
agents spécifiques négociant les comportements des agrégations, des
groupes qui se font et se défont, à tous les niveaux. Il y a quatre organisations d'agents dans le système générant des pensées artificielles :

• L'organisation agent des prises d'informations avec l'environnement, via la scrutation des capteurs, qui est réalisée par des agents réactifs.
  
• L'organisation agent des éléments de base,
  l'équivalent des groupes neuronaux : ce sera le niveau agent de base.
  Ces éléments, évolutifs, sont évidemment construits à l'avance et
  disponibles en mémoire.
  
• L'organisation agent des éléments de représentation de l'activité
  des éléments du niveau précédent, qui seront des éléments formant une
  expansion évaluée géométriquement : ce sera le niveau morphologique.
  
• L'organisation agent du contrôle,
  exprimant l'action des tendances et des pulsions du système : ce sera
  une organisation sur le niveau morphologique, disponible en mémoire
  sous la forme de multiples éléments de contrôle réifiant des tendances.
  

[Vous devez être inscrit et connecté pour voir cette image]
L'Interface
Homme-Machine du prototype de génération de faits de conscience
montrant (de gauche à droite et de haut en bas) des déformations de
cartes sémantiques réalisant les regroupements d'agents selon la
mémoire artificielle du système, une émergence sémantique correspondant
à une action effective motivée, la convergence entre la visée et
l'émergence, puis une fenêtre décrivant l'activation des agents
logiciels avec possibilité de modification en temps réel. (Thèse M. Camus, LIP6).

En considérant les quatre niveaux d'éléments
architecturaux précédemment définis, nous proposons un ensemble de
conditions pour qu'un système produise des pensées artificielles :
1. Il existe un substrat d'éléments proactifs :
des agents logiciels légers opérant par échange d'informations. La
structure et les rôles de ces éléments via les ontologies étaient à
trouver.
2. Il existe une fonction d'organisation,
d'expression strictement géométrique, activant les éléments du substrat
en permettant de multi-agrégations simultanées de ces éléments. La
représentation géométrique, fractale, était aussi à trouver, car elle
n'est pas observable naturellement.
3. Il existe des éléments de contrôle
vus comme des champs organisateurs et permettant l'expression
simultanée de multiples tendances, engageant systématiquement vers des
émergences qui sont des préordres sur l'organisation et qui altèrent la
fonction d'organisation. La transposition d'un système psychique dans
le cadre de ce système est un problème pluridisciplinaire.
4. Le système composé de ces trois catégories d'éléments est contraint dans une boule ouverte soumise à un flux informationnel continu
apprécié par des éléments du substrat. Ce travail est classique avec
les résultats actuels obtenus entre système informatique et robots.
5.
Toute émergence est un ordre partiel sur l'organisation, qui est
évaluable par des éléments d'organisation comme un objet interne propre
généré par le système lui-même, qui peut alors être apprécié comme le sujet de l'activation.
L'introduction de la réflexivité dans un déploiement fractal est
simplement la prise en compte du processus de déploiement, et pas
seulement de son résultat. Nous étudions ce détachement entre résultat
d'une fonction et processus de calcul de la fonction depuis fort
longtemps, et c'est cela qui a conduit tous nos travaux sur les
systèmes complexes contrôlés morphologiquement.

L'enjeu de ces recherches est clairement la conscience artificielle. Il s'agit de concevoir des systèmes très autonomes,
qui génèrent des pensées artificielles sous la forme de configurations
dynamiques de nuées de processus structurées géométriquement, qui
développent et éprouvent ces pensées artificielles en étant en liaison temps
réel avec une corporéité artificielle, en produisant et en s'appuyant
sur des émotions également artificielles. Il s'agit de concevoir des
systèmes qui manifestent de l'intérêt, du souci ici et maintenant, pour
certaines choses qu'ils remarquent selon leurs sens artificiels ou
leurs rappels mémoire, qui ont des intentions propres, et qui ont aussi un certain profil psychologique.


Mais il faut aussi garder un principe économique :
ce nouveau système est intégrateur des systèmes classiques, qui
calculent des fonctions très précises et très locales. Il intègre, en
les considérant comme des composants spécialisés, tous les systèmes
spécifiques fonctionnels calculant des valeurs de fonctions, conçus
dans tous les domaines depuis la naissance de l'informatique, et notamment de l'intelligence artificielle.
Ils unifient les systèmes pervasifs étudiés aujourd'hui, ces systèmes
permettant de co-activer de multiples éléments automatiques et
relativement autonomes comme une maison artificiellement vivante et
attentive à ses occupants.


De tels systèmes sont aujourd'hui modélisés
dans quelques très rares laboratoires de recherche spécialisés,
certains ne produisant pas de résultats publics. Ils sont
conçus dans le détail de leur architecture logicielle, ce que nous
avons fait en ce qui nous concerne, et l'on en est à la phase de début
de réalisation. La transposition de la pensée dans l'artificiel est
donc en marche. Faut-il aller jusqu'à la réalisation effective et la
mise en service ? Qui peut et doit répondre à une telle interrogation ?

Un système artificiel qui aura l'aptitude à
générer des représentations multiples, dans tous les domaines, qui
génèrera donc des pensées, qui pourra rêver, méditer, planifier, ne
sera pas très long à construire et ne nécessitera pas énormément de
moyens : quelques années de travail de conception de son
appareil psychique par une équipe d'informaticiens, de cogniticiens et
de psychiatres très compétents de quelques dizaines de personnes. Le
matériel nécessaire est celui que l'on trouve dans toutes les
entreprises d'informatique et de robotique du monde et son coût est plus que raisonnable.


Le problème, puisque le modèle est trouvé, reste à
découvrir et générer les éléments formant le vécu artificiel, ce qui
fait la richesse et la profondeur ou le caractère sommaire du système.
On peut évidemment formater le système : on peut lui donner seulement
certaines connaissances, et limiter la production de ses émergences. On
peut même tenter d'inhiber certaines émergences jugées incompatibles
avec l'usage social du système.


Lorsque le système sera mis en activité, il aura une mémoire
de très nombreux événements, de très nombreuses histoires, de très
nombreuses connaissances, qui seront artificiels : il ne les aura pas
vraiment vécus. Contrairement à nous qui naissons d'une cellule vide
de mémoire événementielle et qui accumulons les événements mémorisés
par notre développement et par le fait de vivre notre vie en relation
avec l'environnement et nous-mêmes, le système artificiel naîtra
opérationnel, non achevé mais opérationnel, avec une mémoire
artificielle disponible suffisante. Cette mémoire pourra évidemment être augmentée et modifiée par la suite, par le fonctionnement du système ou par ancrage logiciel on-line, mais le fait d'en disposer est indispensable pour qu'il puisse générer immédiatement des scènes et les vivre.


La formation de cette mémoire événementielle
artificielle, de ce faux vécu si l'on peut dire, est un problème très
délicat, car selon ce que l'on met dans ce vécu, le système aura un
comportement très satisfaisant ou plutôt désagréable pour la société.
Nous savons bien que l'enfance et l'adolescence déterminent les qualités psychologiques ou les pathologies
des humains, et que sans culture, sans savoir ni lire ni écrire, l'être
humain n'est qu'un animal systématiquement prédateur. Pour constituer
ce vécu artificiel, il faudra définir et simuler les événements d'une
petite vie artificielle, liant des faits, des choses, des savoirs, des
appréciations, des jugements et des règles de conduite.


On peut tout entrer dans un tel système,
comme des événements jugés merveilleux, mais aussi des événements très
funestes, créant des désagréments importants. On peut aussi
entrer des doctrines d'usage d'appareils et de systèmes très coercitifs
et en faire un formidable système de surveillance multi-échelles, autonome
et auto-adaptatif. Mais le modèle existe, et si nous l'avons trouvé,
d'autres chercheurs l'ont aussi trouvé ou bien le trouveront très
rapidement, et ils le mettront en application. Telle est toujours
l'évolution des technologies, utilisant au plus près les découvertes scientifiques…

Source : [Vous devez être inscrit et connecté pour voir ce lien]

Enjoy

Dossier très complet !!!