Je propose une réponse, TOUT a une âme, mais il faut bcpd'intelligence et d'éducation, d'élévation de la pensée pour en prendreconscience justement. Ainsi le foetus, le petit bout de chair auraitune conscience sans le réaliser... mmmh ? :o)

http://www.larecherche.fr/data/323/03231021.html

j'attends vos cartes postales.

Bref ! plutôt que plaidoyer, je serais partisan de débattre effectivementà bâtons rompus pour tenter d'y voir + clair et d'arracher du néantles fameuses quasi-certitudes propres aux physiciens... :o)

Par exemple, je paraphrase (peut être mal) :il est impossiblede définir les limites de la pensées humaines (why not ?) et on n'utilise jamais la totalité de nos capacités, donc ces capacitéssont infinies (aaaargh) or une machine utilise 100% deses capacités donc elle est finie etc... : Hormis un raisonnementqui me semble un peu bancal, ça ouvre une question passionnante :
Est-ce que l'IA ne passerait pas justement obligatoirement par unesous-utilisation des capacités intellectuelles ?

Hormis un raisonnement qui me semble un peu bancal, çaouvre une question passionnante : Est-ce que l'IA ne passerait pas justement obligatoirement par une sous-utilisation des capacitésintellectuelles ?

Bon, cela dit, à mon avis tu te trompes en disant que c'est "un répertoire de la connaissance humaine quasi désertique". J'arrive de la grande librairie Gibert à Paris, Bd St Michel, où j'ai vu dans les rayons beaucoup de choses sur ces sujets, récentes et moins récentes. Je viens d'acheter le dernier bouquin de Daniel C. Dennett "Darwin est-il dangereux?", un des spécialiste de ces questions, Ed. Odile Jacob, (excellent éditeur, Feynman entre autres) 600 pages! vous attendrez un peu pour le compte-rendu de lecture!, et la bibliographie à la fin fait 20 pages écrites bien serrées! Bon, ça ne parle pas que d'I.A, mais ça tourne autour, conscience, cerveau donc évolution, donc Darwin, donc révolution conceptuelle. Titre de la 3ème partie: "L'Esprit, la Signification, les Mathématiques et la Morale", j'en ai l'eau à la bouche!, etc...
A propos de Dennett, le lien actif dont je parlais plus haut:

-->

Interview D.Dennett

Car enfin ce que dit Dennett, c'est que quelque chose qui est indifférenciabled'autre chose est considéré par les physiciens (parabole avec le débatsur la croyance des physiciens ;-) ) comme la MEME CHOSE !!
Ne peut-on imaginer une machine qui réagit exactement comme unhomme mais qui n'ait pour autant pas de conscience ? Si non pourquoi ?
Comme l'histoire de la chienne de je ne sais plus quel philosophe surlaquelle on tape, elle aboie, mais cet aboiement ne révèle pasforcément le ressentiment d'une douleur, il peut n'être simplement que le fruit d'une réaction ! Au sens action réaction, je tape sur unclou, le clou s'enfonce.
De même chacun de nous a une conscience unique, entière, absolumentimpartageable. Qu'est-ce qui nous PROUVE que nos congénères ne sontpas de bètes automates sans conscience ?

Peut-être cette question restera éternellement du domaine de lacroyance, de l'intime conviction... snif...

Re : ne nous mélangeons pas les pinceaux :
1)Il me semble que le raisonnement est bancal, j'ai prisdes pincettes parce qu'effectivement il est possible (voire probable)que je ne saisisse pas toutes les subtilités.
2) tu parles d'intéraction, tout agit sur tout. Une forme d'IA a eucette approche, l'IA qui simule des neurones. Mais ça n'empêchepas qu'il reste un paquet de neurones (85-90%) qui ne sont quasimentjamais excités, remués, et je me demandais s'il ne recélait pas là-dedansun des secrets de l'intelligence... Justement la notion de limites floues...

Si on ne sait pas encore exactement ce qu'est cette chose impartageable et que nous sommes tous convaincus de personnellement posséder, en tout cas beaucoup de progrès ont été faits pour cerner ce qu'elle n'est pas!
Ta question: "Qu'est-ce qui nous PROUVE que nos congénères ne sont pas de bètes automates sans conscience?", est-ce une bonne question? Quelle réponse y apportes-tu? Mais pense à ça: qu'est ce qui LEUR prouve que toi-même n'est pas un automate sinon TA parole? Bonne question? Vois-tu où ça nous mène?
Bon, ça n'est pas simple! Difficile de résumer en quelques lignes ici le contenu d'ouvrages de 5 ou 600 pages. La question que tu poses et d'autres du même genre, et leurs conséquences, ce qui est au moins aussi intéressant, sont posées, décortiquées et analysées (pas forcément résolues) dans "Vues de l'esprit" dont je parle plus haut. Lecture décapante pour les esprits, aussi bien ceux des matérialistes que ceux des spiritualistes. Je sais pas s'il est disponible actuellement, mais je l'ai pas vu hier.

1 et 2- Il me paraît bancal à moi aussi. On n'utilise jamais toutes les zones du cerveau en même temps, il est prouvé maintenant que suivant les activités en cause, certaines zones sont plus privilégiées que d'autres, mais effectivement c'est flou, ça déborde toujours et pas forcément de la même manière suivant les individus, c'est exactement ce que dit Dennett quand il dit qu'un cerveau (les connexions neuronales) est le produit d'une "évolution" chez l'individu en formation par essais, tests, ce qui fait qu'il n'y aura jamais deux cerveaux identiques.
Mais tout informaticien sérieux sait aussi que lorsqu'un logiciel devient suffisamment complexe, il devient difficile à maîtriser, des branchements inattendus se font (des bugs, pas forcément de la faute du programmateur) et qu'il n'y a qu'une seule manière de vérifier son bon fonctionnement, l'essayer, attendre que les choses inattendues se produisent (les premiers acheteurs en font souvent les frais d'ailleurs), c'est souvent une panne (maladie) mais parfois, c'est déjà arrivé, une bonne surprise (mutation bénéfique).
Je redis ce que j'ai dit plus haut: La "pensée" pour moi (et pour l'instant) est une "propriété émergente" comme j'ai déjà dit ailleurs, et pourquoi n'émergerait-elle pas d'un "support" de silicone (ou autre) à partir d'un degré de complexité suffisant, comme elle a manifestement émergé d'un support biologique? Evidemment, cette pensée en gêne quelques-uns, mais pourquoi? Bien souvent les mêmes trouveraient passionnante (et espèrent) la rencontre avec une intelligence extra-terrestre, non humaine, alors?

"Est-ce qu'on peut 'raisonner' comme un homme sans avoir deconscience ?" Excellente question, c'est une des formulationspossibles de l'éternel problème. Il ne faut pas faire je crois l'amalgameentre la faculté de raisonner et la conscience d'effectuer ce raisonnement.
Pour moi ce sont vraiment des choses très distinctes.
Pourquoi ne pourrait-il y avoir des raisonnements sans qu'il y ait consciencede ce raisonnement ?Il y a peut-être aussi des études à faire du côté de l'hypnotisme, ou ducoma...
Une autre question peut-être encore + troublante serait "Peut-ily avoir un être qui n'agisse pas comme un humain mais qui aitpour autant une conscience ?" La réponse semble évidemment 'oui'mais du coup pourquoi une machine ayant le même comportementqu'un humain aurait-elle une conscience ?
Fritz aurait une conscience ?

Ca ne mène pour l'instant nulle part parce qu'on n'a toujours pas avancéd'un yota, mais j'entrevois un nombre incroyable d'applicationspossibles si la question de la conscience est résolue (indépendammentdu phénomène de pensée)

1-2 : les bugs sont forcément de la faute du programmeur même s'ilsne sont pas éradicables pour autant.
* Oui pour la propriété émergente (encore que c'est un terme sexymais l'entend-t'on de la même manière ?)
* Ok pour l'émergence sur du papier mâché, ça ne me choque pas dutout.
* Mais tu n'as déjà pas le moindre bout de preuve que tu n'espas le seul être 'conscient' de l'univers, ça reste pour le moinstroublant non ?

je crois que nous sommes très proches dans nos manières de voir ces choses. La seule différence est que j'ai apparemment lu certains bouquins que tu n'a pas lus et que donc j'ai des informations qui te manquent.
Je vais voir ces jours-ci si je peux trouver "Vues de l'esprit" qu'il faut absolument que tu lise. C'est trop difficile pour moi de résumer en quelques lignes des idées et leurs développements qui occupent 500 pages par les meilleurs spécialistes de ces questions, ne m'en veut pas. Les questions (excellentes!) que tu pose sont au coeur de ce livre. Arriver à les poser correctement, sans parler d'y répondre, et y détecter les pièges qu'elles renferment est justement le propos de ce livre!
Laisse-moi quelques jours, et si je ne le trouve pas, je te prêterai le mien.
Une chose sur laquelle nous butons tous deux je crois, est que pour l'instant tu vois la question en fonction simplement de l'état actuel de l'IA, et là tes remarques sont justifiées, Fritz n'a pas de conscience (et pourtant il "raisonne", même de manière limitée, c'est à dire utilise des processus logiques), c'est évident même pour le plus optimiste des partisans de l'IA. Tu as parfaitement raison de différencier "raisonnement" et "conscience".
Moi, je réfléchis et me questionne sur les potentialités, les développements futurs de plus en plus plausibles vu la vitesse des progrès technologiques et neurobiologiques. Il existe déjà des machines dotées de traitement en parallèle (et même plusieurs parallèles), elles vont se développer. Les circuits "neuronaux" de même, qui pour l'instant sont encore assez réduits mais vont aussi se complexifier à toute allure. Des logiciels capables de se reconfigurer, donc de s'adapter aux circonstances, existent aussi et se développent, se complexifient; et là alors, lorsqu'un système est capable d'avoir un regard sur lui-même, d'y porter un jugement et s'auto-modifier, s'améliorer, comment appeler cela? La frontière se rapproche!
Le tout réuni, ces différentes propriétés ensemble et l'énorme champ des interactions (prévisibles? pas sûr!) qui en résulte, ne sont-elles pas caractéristiques de ce que nous mettons en avant pour distinguer l'esprit humain? Bonne question celle-là? Pas facile, hein?

Personnellement, je pense que si on n'a effectivement pas résolu l'énigme de la "conscience", on a au contraire avancé de beaucoup de "iotas"! et que ton appréciation est seulement un manque d'informations, c'est pas grave ça se résoud facilement. On s'en occupe!
Amicalement, Yvap.

Cela dit, plusieurs choses me gênent. Je ne vais pas les détailler ici, ce n'est pas le lieu approprié, si tu veux je te les envoie par mail, mais les voici en vrac:
- Confusions entre des notions comme "mémoire" et "conscience", ou entre "info" et "référence", dans les deux cas entre "l'info" et "ce qui l'utilise".
- Utilisation comme démontrées de notions qui ne le sont absolument pas et qui mènent évidemment à des conclusions devenant des pétitions de principe.
- Omission de la thèse centrale du travail de D.Dennett (un des auteurs lus) depuis 30 ans, à savoir l'esprit comme "propriété émergente" d'un substrat suffisamment complexe, qu'il soit biologique ou autre. Lecture trop rapide, ou en diagonale, vu le temps imparti? Omission involontaire? je n'en suis pas sûr vu le point suivant:
- Pour moi le plus grave: leur démarche affichée en fonction de leur "croyances et sentiments"(sic) en préambule à l'examen des thèses en lice, ce qui leur fait d'office rejeter le point de vue matérialiste, qui évidement est difficile à admettre pour des croyants. Confusion entre philosophie et théologie? Influence de l'Université Catholique de Louvain?

Cela peut paraître sévère, j'en conviens, mais encore une fois, avoir fait tout ce travail, très bien présenté, agréable à lire, en si peu de temps, est remarquable pour des novices en cette matière. La pertinence et la rigueur ont c'est sûr souffert des conditions. Si cela leur a donné envie d'aller plus loin et d'approfondir tranquillement le sujet, l'objectif pédagogique sera atteint, c'est le principal.

Amicalement, Yvap.

Qd à dieu, c'est pour moi l'anti-science par excellence,son seul rôle (pas forcément négligeable) reste social je crois. Et ilest vrai que l'éradication du pourquoi la vie (presqueréglé) et du pourquoi-comment-qu'est-ceque laconscience fera probablement reculer la religion (quitte àvoir l'irrationalisme ressurgir par ailleurs)

bzzzzzz-bip! Yvap.

Merci Bril pour l'info sur l'UCL. Ma remarque sur leur parti-pris n'en devient que plus forte, dommage.
Pour l'instant, je/nous nous sommes bornés à envisager la "conscience" en tant que "se rendre compte de l'existence de soi-même et des processus s'y déroulant". Les problèmes de morale, de bien, de vrai, etc... sont je pense une conséquence logique, mais un deuxième stade.
J'entend par machine, une chose ne procédant pas d'une évolution biologique mais manufacturée (par l'homme ou autre chose). Ce qui (important!) n'implique pas obligatoirement dans un but purement utilitaire. On peut très bien imaginer un automate conçu pour être laissé agir et réagir à sa guise, simplement pour voir ce qui va se passer. D'après cela, j'avoue ne pas très bien comprendre ta phrase: "Une machine dotée d'une conscience serait une contradiction dans les termes". pourquoi?
Par contre, je suis d'accord avec tout ce que tu dis ensuite. Ce que nous disons ici en quelques lignes ne peut qu'effleurer le sujet. La question qui préoccupait certains, et qui a motivé mon article au départ, était leur inquiétude face aux logiciels devenant de plus en plus forts aux échecs et des remarques du genre: mais que va-t-il nous rester, si les machines nous envahissent et nous détrônent de ce qui était notre fierté intellectuelle?
Ta dernière question est une très bonne question, et sur ce sujet, lire tout "le cycle des robots" d'Isaac Asimov.

Benji, j'ai lu le travail de l'autre groupe. Je le préfère sans conteste. Plus clair, plus vivant, la forme dialogue est très appropriée à ce genre d'exposé, et ils ont bien su dégager les points importants, sans prétendre démontrer et sans parti-pris! Et je crois que c'est justement ça leur point fort, les autres j'ai l'impression se sont piégés tous seuls en voulant faire une démonstration en très peu de temps et de place de quelque chose qu'il est pour l'instant impossible de démontrer. Même les plus grands spécialistes en 600 pages n'y arrivent pas, sauf à éventuellement provoquer une conviction profonde, mais ce n'est pas encore une démonstration.

Amicalement et philo-etc... Yvap.

La conscience a émergé chez nous humains à la suite d'un processus évolutif. C'est le résultat de l'évolution mise en évidence par Darwin. Nul n'est besoin d'invoquer ce que Dennett appelle un "crochet céleste" (skyhook), ou Darwin un "ajout miraculeux", c'est à dire une hypothèse religieuse ou métaphysique. En accord avec les données actuelles de la biologie et de l'évolutionnisme, nous ne sommes rien d'autre que les réceptacles, les véhicules qui doivent assurer le succès reproductif de nos gênes (voir les travaux de Richard Dawkins par ex: "le gêne égoïste" Odile Jacob 1996).
Tout le règne du vivant (sa diversité, son foisonnement) est le résultat de cette stratégie (l'emploi de ce mot n'implique absolument pas un but préalable c'est à dire un finalisme ou un principe "anthropique" cher à certains cosmologistes), qui a vu la matière inanimée former d'abord des molécules complexes, puis certaines d'entre elles acquérir une plus grande stabilité et la faculté de se répliquer. La vie a donc émergé de l'inanimé. Ce qui veut dire qu'elle a intégré des séquences de molécules (acides aminés entre autres) codant des informations qu'elles peuvent lire et exécuter en vue de la réplication, exactement comme une suite d'instruction d'un programme informatique, de manière aveugle et mécanique. Il s'agit donc d'un processus "algorithmique".
Dans ce processus de réplication se produisent de temps en temps (au hasard) des erreurs de transmission pour différentes raisons, la plupart sans conséquences, quelques unes fatales, et plus rarement qui présentent une amélioration, un quelconque avantage pour le gène ou l'organisme qui transporte ce gène et lui donne une meilleure chance de se reproduire. Cette "descendance avec modification" est l'idée révolutionnaire de Darwin qui'il appela "sélection naturelle". Cette idée est "dangereuse" car elle permet en l'appliquant à fond de montrer que l'apparition de cerveaux évolués puis de la conscience est le produit naturel de ce processus algorithmique; et bien entendu comme le dit et l'a bien vu Benji met "à mal le concept de conscience véhiculé par la tradition".
Richard Dawkins a développé le concept de "mème", analogue pour le cerveau des "gènes" pour l'organisme. Ces "mèmes" sont à la base, le produit des processus algorithmiques mécaniques des neurones et qui par leurs assemblages, branchements, rétroactions mutuelles, comme des sous-programmes, font émerger les structures plus élevées de la pensée, mémoire, comparaison, associations,etc... elles-mêmes à la base de la conscience, comme les gènes organisent la matière inanimée et font émerger les organismes.

Que des organismes, nous en l'occurence, aient acquis une indéniable indépendance, une vie propre, n'a rien à voir (et ne doit pas leur faire oublier) avec le fait incontournable qu'ils ne sont que des machines dont le "dessein" aveugle et mécanique est d'assurer la survie, la reproduction de leurs gènes, l'expression d'un processus algorithmique. Cette indépendance, cette vie propre, est donc une propriété émergente de processus purement mécaniques, aveugles, et d'à partir du moment où une "machine" voit émerger de ses structures l'équivalent des "mèmes", qu'elle acquiert la possibilité d'effectuer des associations, comparaisons, etc... l'évolution inévitable (si elle n'est pas stopée) débouchera sur l'émergence de la conscience. Cela a un coût, qu'on peut résumer par "Recherce et Développement" (R et D). Toute l'industrie et la science connaissent bien cela. Pour nous qui sommes des machines ce fut l'évolution c'est à dire du "temps", environ 3 Milliards d'années. Quel budjet!

Pour Bril et Benji, vous voyez que ce qui différencie l'homme et une machine n'est pas si simple que ça paraît à définir, car nous-mêmes sommes des machines dans le sens le plus vrai et le plus radical du terme. Comme dit Bril: "... il serait intéressant de savoir s'il y a encore, dans ce cas, une distinction entre la conscience telle que nous la connaissons et la rencontrons dans l'état actuel des choses et cette conscience de machine." Eh oui! Serait-ce alors pertinent?

Bon, je crois que ça suffit, je ne peux à ce stade que conseiller fortement le dernier livre de D.Dennett "Darwin est-il dangereux?" Odile Jacob (240frs mais ça les vaut grandement) qui fait en 600 pages le tour de la question sous tous ses angles, biologoque, épistémologique, informatique, mathématique, éthique et philosophique,etc..., et devrait répondre (ou en tout cas vous donner ample matière à réflexion) à toutes ces questions pertinentes que vous m'avez posées et plein d'autres que l'on ne soupçonne pas. Je n'en ai lu encore sérieusement que 100 pages mais comme les 500 suivantes ont l'air du même accabit, ça promet!
Pour Peres, "Vues de l'esprit" est effectivement introuvable actuellement. Peut-être si tu as accès à une bibliothèque (Universitaire, scientifique ou autre?) pourras-tu l'emprunter, sinon comme promis le mien est à ta disposition. Cela dit, si "Vues de l'esprit" est fort distrayant et pose beaucoup de questions dérangeantes, "Darwin est-il dangereux?" les analyse en profondeur et va beaucoup plus loin (15 ans les sépare!).

Amicalement et Machinalement, Yvap.

J'observe effectivement que la majorité de l'argumentation surl'indissociabilité conscience-cerveau, corps-esprit s'appuie surl'évolution selon Darwin d'une part, et sur des études biologiques/chirurgicales d'autre part.
Tout en étant conscient de n'avoir qu'à peine découvert le sujet, jeremarque tout de même que le ton du livre est celui d'unediscussion, d'échanges de sentiments et de "on voit bien que". Pas du tout donc le ton d'une vulgarisation de connaissancesétablies. Ce qui n'est pas pour en réduire l'intérêt évidemment !!

Juste un mot à propos des mèmes, je ne suis pas sûr d'avoir biencompris ta définition, et si je l'ai bien compris je ne suis pas sûr d'êtred'accord. Les gènes sont transmis lors de la conception, ce sont descaractères héréditaires transmis physiquement par l'adn. Ils participentà la définition future de l'individu. Si pour un animal primitif ilssuffisent à définir presque entièrement l'individu, pour l'animalévolué (à + forte raison pour l'homme) ils ne suffisent pas, et il estnécessaire aux parents (voire à l'entourage) de transmettre égalementdes mèmes, transmis par les voies de communication. Ce qu'il estintéressant de remarquer, c'est que chez l'homme l'apport desmèmes est énorme.Je cite un document trouvé sur le web (désolé les sources n'étaientpas précisées, l'adresse est ) :
En 1976, le zoologiste Richard Dawkins introduisait le concept du«mème», soit une unité d'information (mot, idée, croyance, mythe, coutume,mode, maniérisme) qui pouvait être transmise d'individu à individu, ou degénération à génération, soit l'équivalent culturel d'un gène. RenaudDumeur, dans sa thèse intitulée «Synthèse de comportements animauxindividuels et collectifs par Algorithmes Génétiques» écrit de Dawkins :«Pour cet auteur, un mème est un objet mental qui, tel une créaturebiologique, lutte pour sa survie [...] le mème se sert de l'individu qui enest porteur afin de se disséminer. Cette dissémination n'est pas, aucontraire du domaine biologique, uniquement liée à une activité dereproduction mais dépend des moyens de communication offerts à l'individu.

Tu es donc à Paris, moi aussi, ce serait peut-être facile de se voir, non?

Automates intelligents

Ca vous envoie directement sur la page qui nous intéresse, mais le reste à l'air super!

Cybernetiquement votre, Yvap.

Peres, sectaire.

N. B. Pas de réponse souhaitée ;o)

Qu'est-ce que l'esprit? Qui suis-je? Quelle est la chose que je localise entre mes deux oreilles et derrière les trous des orbites de mes yeux? Et qui dit: "c'est moi!". Peut-on arriver à un consensus sur le sens du mot "Moi"?
La matière peut-elle penser ou avoir des sensations? Quel effet ça fait, d'être une chauve-souris? Est-ce que le plaisir éprouvé en cherchant et trouvant la solution d'un problème est de même nature que celui éprouvé en dégustant un carré de chocolat?
Et dans ce cas peut-on toujours parler de plaisir pour quelque-chose ne faisant pas appel à une "sensation physique"?