Rapport du Groupe de travail «Vers une technologie de la conscience»





télécharger 241.46 Kb.
titreRapport du Groupe de travail «Vers une technologie de la conscience»
page1/12
date de publication02.10.2019
taille241.46 Kb.
typeRapport
  1   2   3   4   5   6   7   8   9   ...   12
0801 logo 180


Rapport du Groupe de travail
« Vers une technologie de la conscience »



Janvier 2012



La conscience est un être

pour lequel il est dans son être

question de son être

en tant que cet être

implique un être

autre que lui.

Jean-Paul Sartre


La seule façon d'exister pour la conscience

c'est d'avoir conscience qu'elle existe.

Jean-Paul Sartre

Résumé

Réussir l’inclusion des processus de traitement d’information présents dans les organismes vivants sur des substrats artificiels, quelle qu’en soit la nature, constitue sûrement l’un des défis technologiques les plus en vue actuellement. L’Académie des technologies se devait de mettre ce sujet à l’ordre du jour de ses travaux.

Le groupe de travail qui a élaboré ce rapport s’est ainsi posé la question générale suivante : peut-on doter des machines d’une certaine forme de conscience à l’instar de ce que manifestent l’homme ou les animaux supérieurs ?

La définition et la nature de la conscience sont de vieux problèmes qui ont produit une immense littérature, d’abord dans les domaines de la philosophie, de la métaphysique et de la théologie, puis de la psychologie et de la sociologie, enfin, avec la science et la technologie modernes, de la biologie, de la génétique, de la théorie de l’évolution, de l’automatique et de l’informatique. Malgré cet énorme réservoir de connaissances, nul ne semble avoir pu répondre de façon satisfaisante aux questions entourant la genèse et le fonctionnement de la conscience.

Le groupe de travail, après avoir tenté de revenir sur ce débat général, s’est vu contraint, par évidence, de se limiter à une problématique réduite et réaliste, mais lourde de conséquences pratiques au cas où une réponse positive pourrait être donnée à la question : Peut-on établir un modèle d’entité, implémentable sur un ordinateur, qui ferait apparaître, dans son interaction avec le monde, des propriétés qui sont attribuées à la conscience humaine par les spécialistes, alors qu’on n’a pas encore réussi à synthétiser ces propriétés sur les machines passées et présentes ?

Bien qu’un ensemble relativement important de chercheurs ait proposé des modèles de conscience, peu sont décrits d’une manière suffisamment précise et détaillée pour permettre d’en envisager des implémentations sur machine. Toutefois, même si ces modèles ont chacun leurs originalités, ils présentent aussi des similitudes et des complémentarités qu’il convient d’exploiter.

La conscience n’est pas un objet physique bien que sa manifestation suggère la nécessité de la présence, au départ, d’un conteneur physique qui la supporte (cerveau fondé sur le carbone ou éventuel ordinateur fondé sur le silicium). La conscience est un processus dynamique évolutionnaire. Autrement dit, quand les conditions de l’apparition de son étincelle sont réunies, elle se manifeste dans un phénomène d’auto-amélioration issu d’une capacité d’auto-apprentissage.

Le groupe de travail a ainsi sélectionné pour examen trois modèles (parmi d’autres) offrant cette caractéristique. Celui de Cardon qui part de l’affirmation que « toute pensée est calculable » et propose un modèle fondé sur un système multi-agent massif dont la stabilisation correspond à un « état de pensée ». Puis, celui de Sabah avec un « carnet d’esquisses » qui traite les perceptions, accompagné d’un niveau supérieur profitant de la réflexivité et des techniques de l’I.A. pour engendrer des programmes capables de représenter leurs propres actions ; les deux niveaux sont mis en relation par l’intermédiaire de mémoires et le fonctionnement de l’ensemble doit produire des « effets » de conscience. Enfin, celui de Pitrat qui développe un système de résolution de problèmes fondé sur l’amorçage et sur la déclarativité des connaissances et des méta-connaissances, et dont les aspects réflexifs lui permettent de s’améliorer continuellement.

Ainsi, chacune de ces trois approches permet de faire apparaître des fonctionnalités qu’on attribue à la conscience.

Ces trois modèles présentent un intérêt nouveau car ils sont compatibles, complémentaires, et qu’on peut les fusionner en un seul modèle plus générique, comme cela est expliqué dans le rapport. La gamme des fonctionnalités offerte par le modèle global s’élargit quantitativement aussi bien que qualitativement.

Si ce modèle global devenait implémenté et opérationnel, de nombreuses propriétés non encore atteintes avec l’IA deviendraient effectives et permettraient d’avancer qu’outre une intelligence d’un bon niveau, la machine manifeste une certaine conscience de sa propre existence, ce qui changerait beaucoup ses comportements en tant que génératrice d’actions plus ou moins libres et plus ou moins volontaires.

Seules des parties des trois modèles examinés ont donné lieu à des tests expérimentaux (le modèle de Caron est resté « sur le papier », divers processus de celui de Sabah ont été mis en œuvre, alors que le programme de Pitrat fonctionne depuis plus de 20 ans). On reste donc dans un état de conjecture quant au résultat final présenté par l’implémentation complète et les tests du modèle global (qui exigeront un gros travail).

Le rapport montre qu’il n’y a pas d’obstacle ou de barrière technologique s’opposant à l’implémentation du modèle global. En conséquence, si la conjecture se révèle correcte, il faut s’attendre à une émergence plutôt rapide de machines pouvant exhiber une certaine autonomie de « pensée » et d’actions non incluses — ni prévisibles — dans la programmation initiale. Le concepteur et le programmeur fournissent les bases d’un potentiel qui va s’épanouir du fait même de la machine en dépassant son supposé ou évalué déterminisme d’action.

Si cette conjecture devient affirmation, il y a évidemment lieu de réfléchir aux conséquences de l’introduction de telles machines dans notre société. Il s’agit d’un saut technologique considérable. Il implique précautions, prévisions et contraintes à observer, tant au niveau conceptuel qu’à celui des usages. Le groupe de travail va maintenant aborder ces questions, et le prochain rapport traitera de ces sujets, en partant a priori de la conjecture qui affirme que des machines exhibant diverses fonctionnalités qu’on attribue à la conscience humaine sont dès maintenant faisables.

Abstract

Implementing data processing functions – as they exist in living bodies – in man-made electronic substrates, whatever the matter used, is one of the most challenging technological issues today. Hence the choice made by the National Academy of Technologies of France (NATF) to include it among its current case-studies.

The members of the academic Working Party (WP) who authored this Report framed a general question: is it now possible to endow a machine with a conscience comparable to that shown by Man and so-called higher animals.

Defining and characterising conscience are age-old problems that have generated an abundant range of publications, initially in philosophy, metaphysics and theology, then in psychology and sociology and more recently using science and modern technologies, in biology, genetics, in the theory of evolution, control theory and computer sciences. Yet, despite the huge size of this knowledge base, no-one today seems able to provide a satisfactory answer to the questions that surround the genesis and the functioning of conscience and consciousness.

The NATF Working Party (WP) voluntarily limited itself – after a tentative approach to the general thematic above – to analysing a more limited and realistic problematic which, nonetheless, would lead to produce considerable consequences if a positive answer were to be found for the following question: Is it possible to establish a computer implemented model that would exhibit properties, in its relationship with the outside world, similar to those specialists attribute to human conscience – properties that we have not hitherto been able to synthesise on machines?

A relatively large number of research scientists have proposed models for the conscience. Few of them, however, did so with sufficient precision to enable the establishment of machine implementable models. Notwithstanding, it will be noted that those that exist present original features, with similarities and complementarities.

Conscience is not a physical entity even though its manifestation suggests the existence ab initio of a physical “container” as the support (brains are made of carbon, computer chips of silicon). Consciousness is an evolutionary, dynamic process. In other words, when the primitive conditions for the initial spark were fulfilled, conscience appeared a self-improving phenomenon resulting from an inherent self-learning function.

The WP selected three models that present this characteristic (among others): 1° the Cardon Model which asserts that “any thought is computable”. He proposes a model based upon a massive multi-agent system, stabilization of which corresponds to a “state of thought”; 2° the Sabah model, with a “Sketchboard" that addresses and embodies the perception functionalities, to which is associated a higher level to benefit from reflexivity and AI techniques to generate programmes capable of representing themselves and taking self-decided actions. Both levels are interconnected through memory functions. It is the functionality of the whole that produces “signs” of conscience; 3° the Pitrat Model, , which develops a general problem-solver based on a bootstrapping mechanism and the use of declarative knowledge and meta-knowledge.

In short, each of the three approaches should enable us to reveal functionalities that we attribute to conscience.

The three models are interesting inasmuch as they are compatible, complementary and could be merged into a more generic, single model, as explained in the Report. The range of functionalities made feasible by the global model is enlarged from both from qualitative and qualitative points of view.

If this global model becomes operational, numerous as yet unattained properties of Artificial Intelligence (AI) would become effective and would allow us to assert formally that the machine manifests a certain consciousness of its existence and this alone would change to a greater or lesser degree its behaviours (more or less free and more or less voluntary).

The three models examined by the authors have only been subjected to part experimentation. (the Cardon Model stayed in “paper format”; various processes of the Sabah’s model were implemented; the Pitrat program has been running for more than twenty years). We are therefore restricted to making a conjecture as to the final outcome that would result from complete implementation and testing of the global model (requiring a colossal amount of work).

The Report shows there are no known obstacles or technological barriers that would prevent implementation of the global model. Consequently, if the conjecture is proven, we should expect a fairly rapid emergence of machines endowed with a certain form of autonomous “thought” and able to undertake actions not initially included in the initial programming stages. The designer’s and the programmer’s roles will be to implant the basic potentialities that the machine itself would reveal in crossing the frontiers of its supposedly closed determinism.

If the conjecture becomes an assertion, we shall necessarily be led to think about the consequences of producing and placing conscious machines in our Society. This in itself would represent a considerable technological leap. It implies that precaution, forecast and constraints be invoked at each step, both from a conceptual and from an end-users’ point of view. The next Report will address these very topics, starting with the a priori conjecture that machines that exhibit functions hitherto attributed to human conscience can be assembled with today’s technology.
Avant-propos

Lors des tout débuts de l’informatique, l’ordinateur fut considéré comme une super-machine à calculer, mais on s’aperçut très vite qu’il s’agissait de la machine la plus générale permettant de traiter des symboles. En effet, les éléments qu’elle manipule peuvent être interprétés comme des codes et permettent alors de représenter n’importe quel type d’information. Depuis, l’informatique a fait des avancées spectaculaires en matière de puissance de calcul, de rapidité, de miniaturisation, de convivialité, de variétés d’utilisations et d’applications.

Les systèmes informatiques ne sont plus aujourd’hui limités à l’exécution de tâches ponctuelles, en réponse à des commandes humaines. Leur autonomie et leurs capacités d’initiative les rendent capables d’assister l’usager dans des activités de raisonnement variées et complexes : en le guidant et en lui fournissant les connaissances qui lui font défaut ; en prenant en charge la résolution de sous-problèmes précis ; ou enfin en proposant des outils que l’utilisateur peut utiliser et combiner entre eux à son gré, dans le cadre de ses propres stratégies cognitives. La gestion de l’information et l’interaction homme-machine sont devenues des tâches essentielles de l’informatique et de l’intelligence artificielle (IA). Ainsi, le principe du contrôle asservi de l’automatique classique ne peut plus, à lui seul, répondre aux exigences du concepteur et de l’utilisateur. Comme l’indique bien la théorie des systèmes, il faut un mode de contrôle dynamique et hiérarchique capable d’adapter les tactiques et les stratégies à tous les niveaux, en fonction de buts immédiats et à plus long terme.

À l’origine de l’IA, l’hypothèse fondamentale sousjacente est que les processus de pensée sont automatisables et peuvent être simulés sur ordinateur. Cette hypothèse revient à considérer que l’intelligence se manifeste en transformant de l’information et en produisant, à partir de données, des résultats appropriés. L’IA postule que l’intelligence est une propriété générale de systèmes matériels symboliques et essaye de traiter sur ordinateur des problèmes complexes qui sont résolus par l’homme de façon sémantique : alors que l’informatique classique traite les problèmes résolus classiquement par des algorithmes connus, l’IA s’intéresse aux problèmes d’une complexité élevée (appelés NP-difficiles ou exponentiels par les spécialistes1) ou pour lesquels aucun algorithme satisfaisant (c’est-à-dire n’entraînant pas une explosion combinatoire ingérable) n’est connu.

D’autres courants de pensée sont venus enrichir la discipline : la métaphore des réseaux (l’esprit est ramené au fonctionnement du cerveau et l’intelligence est conçue comme la diffusion d’activations, non symboliques, dans des réseaux) et l’IA distribuée (avec les systèmes multi-agents, la pensée est conçue comme un phénomène collectif émergent produit par de nombreux événements élémentaires).

Toutefois, aujourd’hui, le terme « intelligence artificielle » correspond essentiellement à l’utilisation astucieuse de méthodes d’optimisation, auto-adaptatives, très efficaces quand le problème se pose en termes quantitatifs, mais beaucoup moins dès qu’on aborde une approche plus qualitative. Que les bases de données sur lesquelles se fondent leurs raisonnements soient fournies par les programmeurs ou apprises automatiquement, ces programmes restent incapables de prendre des décisions pertinentes dans un monde ouvert et face à des situations totalement imprévues.

En vue d’augmenter les performances des systèmes d’IA, certains chercheurs croient à l’IA forte, qui fait référence à une machine capable non seulement de produire un comportement intelligent, mais d’éprouver une compréhension du monde, une identification de sa propre existence dans ce monde et de représenter ses propres raisonnements, bref, d’avoir l’impression d’une conscience de soi (en limitant cette notion à ce qu’on appelle conscience réflexive). Cette approche est fondée sur des notions comme les expériences sensorielles et émotionnelles, et souligne la nécessité de l’incarnation qui permet des bouclages féconds entre le réel et le subjectif (les émotions relatives à l’état et à la posture du corps physique sont nécessaires à l’intelligence). Ces tenants de l’IA forte posent qu’il n’y a aucune limite fonctionnelle à produire une telle intelligence artificielle consciente et divers modèles correspondant à des niveaux divers de conscience ont été proposés, bien qu’aucune implémentation n’ait encore été menée à son terme. Par ailleurs, si la notion de survie est la première des valeurs essentielles à l’évolution chez l’homme, ce n’est pas le cas chez les machines qui peuvent ainsi prendre des risques beaucoup plus élevés.

Allant plus loin, Kurzweil suppose que, dans quelques décennies, l’accélération des capacités des ordinateurs permettra à l’intelligence des machines de rattraper, puis de dépasser l’intelligence humaine. Des nanorobots exploreront nos cerveaux et nous libéreront de nos contraintes physiques. Il pense qu’à terme, l’humanité fusionnera avec la technologie informatique. Si l'émergence d'une conscience n’est que fonction de la complexité d'un système, vu la croissance prévisible et exorbitante des puissances de calcul, ce scénario n’est pas si aberrant qu’il y paraît, bien qu’il fasse abstraction de la capacité « spirituelle » de l’homme, mal cernée et de la puissance électrique considérable nécessaire pour alimenter des machines complexes à puissance de calcul très élevée.

Le but de ce groupe de travail est d’analyser la pertinence de ces positions, d’en analyser les enjeux (extrêmement importants !) et d’évaluer les chances que de tels projets aboutissent, positivement, partiellement ou totalement. Selon les résultats de cette première étape, le groupe de travail envisagera par la suite d’examiner ce qu’une telle nouvelle fonctionnalité implantée sur les machines aura comme impact sur notre société. Des recommandations allant dans ce sens seront explicitées.

Les points que nous n’abordons pas

Nous analysons la capacité que nous avons d’observer notre propre fonctionnement, et nous n’étudions pas les possibilités de doter un système artificiel de la capacité à distinguer le bien du mal (même si, à terme, cela sera certainement nécessaire). Nous n’approfondirons pas non plus les éventuelles relations entre les différents sens du mot conscience, comme par exemple, tenter de déterminer si l’un est premier et si les autres en découlent. Nous nous intéressons donc à la fonction introspective de la conscience (dite conscience réflexive) qui se distingue aussi bien du fait d’être éveillé que de la conscience morale qui juge du bien et du mal.

Certains termes qui interviennent dans cette étude possèdent plusieurs significations. Nous avons tenté de les définir (fichier terminologie) tout en précisant le sens dans lequel nous les utilisons ici selon notre interprétation propre. Nous ne considérons pas forcément toutes les ambiguïtés de ces termes.

Nous nous limitons au domaine des TIC (technologies de l’information et de la communication) et nous n’abordons pas le sujet du point de vue de la convergence NBIC (Nanotechnologies, biologie, informatique et cognition) ; en particulier, nous ne traitons pas la constitution biologique de la conscience, non plus que les questions liées aux pathologies de la conscience.

Nous n’approfondissons pas les technologies informatiques les plus pertinentes, nous n’en proposons pas de nouvelles, mais nous utilisons les modèles disponibles (programmation classique, IA distribuée, systèmes multi-agents, réseaux neuronaux artificiels…). Nous ne traitons pas le problème d’une modélisation informatique de la conscience humaine, ni sur le plan matériel (recherche d’une structure informatique analogue au cerveau), ni sur le plan logiciel (constitution d’un programme ayant les fonctionnalités de la conscience), même si certains des modèles que nous évoquons peuvent avoir cette ambition. Nous visons simplement à identifier certaines fonctionnalités de la conscience et à déterminer celles qui seraient simulables sur machine, en analysant les modèles existants.

Nous ne considérons aucun aspect philosophique, métaphysique ou religieux lié à la notion de conscience, hors du champ épistémologique abordé dans ce rapport. Nous n’avons conservé que ceux qui ont proposé des modèles suggérant des pistes d’implémentation de fonctionnalités de la conscience.

Documents disponibles

L’ensemble des documents produits par le GT est accessible à l’adresse :

http://gscns.free.fr/

Ce sont :

Les présentations effectuées lors des réunions par les membres du groupe ou par les experts invités (essentiellement des fichiers Word ou pdf, et des PowerPoint)

Les comptes rendus de toutes les réunions

Un glossaire (78 termes) (joint en annexe au présent document)

Une bibliographie (253 références) (joint en annexe au présent document)

Divers autres documents pertinents

En outre, sont disponibles les fichiers suivants :

« TowardConsciousMachines.doc » : une synthèse (en anglais) des travaux du GT, soumise à un numéro spécial sur Turing de « The Computer Journal », dont Erol Gelenbé est rédacteur en chef.

« Vers une conscience artificielle » : la version française de « TowardConsciousMachines », qui constitue en fait l’ossature du présent rapport.

« ModelsValidation.doc » : une réflexion sur la notion de modèles et leurs validations, en particulier dans le domaine des sciences humaines.

Rapport du groupe de travail :
« Vers une technologie de la conscience ? »

  1   2   3   4   5   6   7   8   9   ...   12

similaire:

Rapport du Groupe de travail «Vers une technologie de la conscience» iconRapport sur les sectes a été remis par un «groupe de travail parlementaire»
«groupe de travail parlementaire». Le constat est plutôt alarmant. La lutte anti-sectes patauge. Les parlementaires proposent une...

Rapport du Groupe de travail «Vers une technologie de la conscience» iconRapport au nom d’un groupe de travail

Rapport du Groupe de travail «Vers une technologie de la conscience» iconRapport Synthèse des débats du groupe de travail du Conseil national de l’Habitat

Rapport du Groupe de travail «Vers une technologie de la conscience» iconRapport du Pr Pierre Carli Président du cnuh animateur du groupe de travail «Aval des urgences»

Rapport du Groupe de travail «Vers une technologie de la conscience» iconRapport Une Région engagée dans la lutte contre le travail détaché...
«Lycée Hôtelier de l’Orléanais» pour le lycée professionnel Françoise dolto 180

Rapport du Groupe de travail «Vers une technologie de la conscience» iconLe rapport a été confié à Jacques Attali par le président de la République...
«Pour une économie positive» : téléchargez le rapport du groupe de réflexion présidé par

Rapport du Groupe de travail «Vers une technologie de la conscience» iconEssai de Sémiotique Préventive
«Ne pas aller du discours vers son noyau intérieur et caché, vers le cœur d’une pensée ou d’une signification qui se manifesteraient...

Rapport du Groupe de travail «Vers une technologie de la conscience» iconII. Le travail de deuil
«mourir bien». Mourir bien c'était mourir dignement en paix avec une conscience tranquille

Rapport du Groupe de travail «Vers une technologie de la conscience» iconCourse à la technologie pour maintenir une sécurité élevée

Rapport du Groupe de travail «Vers une technologie de la conscience» iconRapport de jury capeps ecrit 1 2007
«Une finalité est une affirmation de principe à travers laquelle une société (ou un groupe social) identifie ou véhicule ses valeurs....






Tous droits réservés. Copyright © 2016
contacts
d.20-bal.com