Re: la conscience chez les robots

[noureddine2]

L'intelligence est un essai intellectuel qui émane de l'évolution biologique et, tant qu'elle arrivera à se sortir du pétrin où elle se jette régulièrement elle-même, elle continuera d'évoluer intellectuellement. Ce que nous percevons actuellement comme une catastrophe écologique n'est qu'un problème à résoudre pour l'intelligence, et comme elle adore les problèmes, je crois qu'elle de bonnes chances de s'en sortir. Il ne faut pas faire comme les religions et voir l'essai de l'intelligence comme un bien ou un mal, mais comme une possibilité évolutive.

la logique manichéenne n'est qu'une facette de la logique binaire , bipolaire , ternaire .
l'infinité de choix est formé par une infinité de bipoles composés de deux éléments contraires .
la logique bipolaire est un repère qui peut être la cause de l'apparition de la conscience .

[Gerard]

 On peut effectivement se suicider pour ne plus avoir à souffrir la résistance que nous entretenons nous-mêmes et, comme tu dis, c'est une contradiction de vouloir conserver quelque chose qui nuit à notre survie.

  Beh Justement : comment veux-tu créer un robot qui se suicide quand il souffre trop ? C'est impossible. Que ce soit une souffrance physique ou une souffrance psychologique, ce n'est pas pour ça qu'il reniera sa programmation primaire qui est de protéger sa propre existence.

Oui... "tant que l'intelligence arrivera à s'en sortir". Mais si ce n'est pas le cas ?... Cela voudra bien dire que dès le départ, l'intelligence était une erreur.

Tant qu'un phénomène existe, ce n'est pas une erreur.

   Oui, "tant qu'il existe" mais si ce n'est pas le cas ? (bis repetita)   Tu sais, tant que je vis, je peux me croire immortel. Tu ne pourras me prouver que je me trompe que quand je serais mort. Mais je ne serais plus là pour entendre tes arguments.

C'est pareil pour l'intelligence : elle ne pourra être considérée comme une erreur, que quand elle aura disparu, le seul problème c'est qu'il n'y aura personne pour le reconnaître. Alors, essaye juste de considérer l'hypothèse que l'on puisse disparaître. Je sais, ça paraît incroyable, mais les dinosaures non plus, ne pensaient pas disparaître un jour.

Brève de comptoir :
" L'Homme est apparu très bête, il va disparaître très intelligent. Quel parcours ! "

Brève très bête, qui prend pour acquis que l'intelligence est une tare, et que nous allons de ce fait disparaître!

  La brève ne dit nullement que l'intelligence va provoquer notre disparition, elle se borne à constater qu'elle ne l'empêchera pas.

Vivre pour vivre, tu appelles ça "un sens" ? Même le plus bête des organismes possède déjà cette motivation. Une intelligence qui s'interroge ne peut pas se contenter de si peu.

Sauf si tu es suicidaire, nomme-moi un seul de tes gestes ou de tes pensées qui ne sert pas à ta survie.

  He bien par exemple : "venir ici discuter avec toi n'est pas un geste nécessaire à ma survie". Alors pourquoi je le fais ? .. Parce que comme je suis intelligent, j'ai besoin de plus que "survivre".

L'EEG concerne bel et bien les ondes entretenues par les neurones, mais ma proposition selon laquelle ces onde contiennent les informations est effectivement inédite

  Inédite et non-prouvée. Par conséquent : non-reproductible. D'ailleurs, si c'était reproductible, au lieu de faire des robots, on deviendrait nous-mêmes des robots (des êtres synthétiques). Parce que si cette onde est notre véritable MOI tandis que le cerveau serait juste l'équivalent d'un redresseur de signal, alors on pourrait transférer une onde d'un corps organique vers un corps synthétique. Et on serait tous immortels !

Tu dis que Habiter une maison, n'est pas être la maison, mais, quand le cerveau prend conscience de ses propres capacités, c'est bel et bien ce qui l'habite qui prend conscience de ce qui l'habite.

  Tu es en plein délire. Donc tu veux dire que si je t'ouvre le crâne, je peux toucher "ta conscience" avec mon doigt ?

Tu n'avais pas répondu à ma question : quand tes anticorps luttent contre une infection, c'est ta conscience qui l'a ordonné ?

Je viens de le décrire: la conscience que le cerveau a de ses propres pensées vient du fonctionnement de son imagination, et nos réactions biochimiques n'ont pas besoin d'imagination pour fonctionner.

  Et voilà, tu changes encore d'avis. Donc si tu es d'accord que ce n'est pas la conscience qui décide d'activer des anticorps, c'est bien qu'il y a un organe qui le décide. Et cet organe, c'est le cerveau. Donc le cerveau n'est pas la conscience, juste "sa maison".

Question: comment le cerveau fait-il pour porter son attention sur un geste ou sur une sensation particulière? Porte ton attention sur un de tes sens, puis transporte-là sur un autre sens plusieurs fois de suite, et demande-toi comment tu fais pour choisir un sens en particulier à chaque fois que tu changes de sens.

  He bien justement, le cerveau change son centre d'attention en fonction de la volonté de la conscience. Comme toi tu peux changer de pièce dans ta maison, ce qui ne veut pas dire que tu es la maison.

...

[Gerard]

je partage ce lien [Vous devez être inscrit et connecté pour voir ce lien]
je vais lire après

  Epoustouflant ! Mais y a rien sur l'Intelligence Artificielle. Pour l'instant, leurs "robots" sont juste des systèmes mécaniques reproduisant les gestuelles du vivant (homme, chien, etc...). Mais faut toujours un marionnettiste pour les faire marcher.

...

[M'enfin]

Ta réponse me donne une idée Gérard: je crois que ces robots auraient l'air encore plus vivants si on leur incorporait une fonction aléatoire. Le marionnettiste n'aurait alors besoin que de restreindre cette fonction à l'approche des obstacles, soit en ralentissant volontairement le mouvement, soit en changeant sa direction, soit en enjambant l'obstacle. On voit bien que, dans ce cas, ce que nous appelons la volonté serait de limiter les possibilités à l'approche des imprévus, possibilités fournies par le rapport entre des mouvements aléatoires et un milieu imprévisible jusqu'à la dernière seconde, car nous aurions cette impression si nous ne savions pas qu'il y a un marionnettiste et que ce dernier laissait le robot s'exprimer au maximum. Vois-tu où je veux en venir? Dans la vie, n'agissons-nous pas ainsi quand on ne peut pas prévoir ce qui s'en vient? N'agissons-nous pas aussi en partie de façon aléatoire? Et si oui, comment notre cerveau fait-il pour produire du hasard?

[_dede 95]

Comme un ordinateur, car les nombres aléatoires sont utilisés dans nombre de domaines! La fameuse fonction rand ou randomize ou rnd des programmes informatique.

Ces générateurs ont une utilité dans de nombreux domaines. Outre les jeux, on peut citer :
la simulation ;
l’analyse ;
l'échantillonnage ;
la prise de décision ;
la sécurité informatique (cryptologie).

Merci wiki!

[M'enfin]

Parfait Dédé, on avance enfin! L'année s'annonce bonne pour la reptation! Tu es le premier à admettre que le cerveau puisse en partie procéder au hasard, quel heureux hasard puisque tu aimes bien ne rien laisser au hasard!    Il nous reste juste à imaginer comment cette fonction aléatoire procède exactement pour imaginer l'avenir longtemps d'avance alors qu'elle ne peut pas lire l'avenir plus longtemps d'avance que le robot, car c'est bel et bien ce que nous faisons, et à imaginer où cette fonction pourrait être située dans le cerveau, mais j'ai l'impression qu'il va falloir le faire nous-même, car je ne crois pas que wiki puisse nous aider beaucoup à ce sujet-là!

[_dede 95]

Non non le cerveau ne procède pas au hasard, il se sert éventuellement de cette fonction.
Bah si, on peut se renseigner facilement sur wiki, il suffit de comprendre que Rand est une fonction du programme informatique et notre cerveau est un prodigieux ordinateur programmé par
1 - L'ADN ou système d'exploitation, des mémoires mortes car immuables
2 - Les "neurones" , des mémoires volatiles ou programmables!
C'est pas sorcier
Mais je ne suis pas neurologues mais je conclue d'après ce que j'ai lu!

[M'enfin]

 On peut effectivement se suicider pour ne plus avoir à souffrir la résistance que nous entretenons nous-mêmes et, comme tu dis, c'est une contradiction de vouloir conserver quelque chose qui nuit à notre survie.

  Beh Justement : comment veux-tu créer un robot qui se suicide quand il souffre trop ? C'est impossible. Que ce soit une souffrance physique ou une souffrance psychologique, ce n'est pas pour ça qu'il reniera sa programmation primaire qui est de protéger sa propre existence.

Si nous voulons lui donner la même forme d'intelligence que la nôtre, c'est un risque à prendre.

Oui... "tant que l'intelligence arrivera à s'en sortir". Mais si ce n'est pas le cas ?... Cela voudra bien dire que dès le départ, l'intelligence était une erreur.

Tant qu'un phénomène existe, ce n'est pas une erreur.

   Oui, "tant qu'il existe" mais si ce n'est pas le cas ? (bis repetita)   Tu sais, tant que je vis, je peux me croire immortel. Tu ne pourras me prouver que je me trompe que quand je serais mort. Mais je ne serais plus là pour entendre tes arguments. C'est pareil pour l'intelligence : elle ne pourra être considérée comme une erreur que quand elle aura disparu, le seul problème, c'est qu'il n'y aura personne pour le reconnaître. Alors, essaye juste de considérer l'hypothèse que l'on puisse disparaître. Je sais, ça paraît incroyable, mais les dinosaures non plus, ne pensaient pas disparaître un jour.

Si l'intelligence est toujours là dans un million d'années, elle se posera encore cette question, alors pourquoi la tienne se la pose-elle maintenant si ce n'est pour ne pas avoir à envisager ma proposition de robot intelligent?

Brève de comptoir :
" L'Homme est apparu très bête, il va disparaître très intelligent. Quel parcours ! "

Brève très bête, qui prend pour acquis que l'intelligence est une tare, et que nous allons de ce fait disparaître!

  La brève ne dit nullement que l'intelligence va provoquer notre disparition, elle se borne à constater qu'elle ne l'empêchera pas.

Bien sûr que non, mais rien ne nous empêche d'étudier l'intelligence entre-temps et, selon moi, la fabrication d'un robot ayant la même forme d'intelligence que nous est un passage obligé.

Vivre pour vivre, tu appelles ça "un sens" ? Même le plus bête des organismes possède déjà cette motivation. Une intelligence qui s'interroge ne peut pas se contenter de si peu.

Sauf si tu es suicidaire, nomme-moi un seul de tes gestes ou de tes pensées qui ne sert pas à ta survie.

  He bien par exemple : "venir ici discuter avec toi n'est pas un geste nécessaire à ma survie". Alors pourquoi je le fais ? .. Parce que comme je suis intelligent, j'ai besoin de plus que "survivre".

Faux, car si tu savais que cette discussion avait des chances de nuire à ta survie, tu ne serais pas là. As-tu un autre exemple avant que je commence à nuire à ta survie?   

L'EEG concerne bel et bien les ondes entretenues par les neurones, mais ma proposition selon laquelle ces onde contiennent les informations est effectivement inédite

  Inédite et non-prouvée. Par conséquent : non-reproductible. D'ailleurs, si c'était reproductible, au lieu de faire des robots, on deviendrait nous-mêmes des robots (des êtres synthétiques). Parce que si cette onde est notre véritable MOI tandis que le cerveau serait juste l'équivalent d'un redresseur de signal, alors on pourrait transférer une onde d'un corps organique vers un corps synthétique. Et on serait tous immortels !

Le but de l'intelligence n'est pas d'être éternelle, mais de survivre au jour le jour, et il vaut mieux se transmettre que de durer dans ce cas, car aucune intelligence ne saura jamais prédire l'avenir et seule la diversité peut faire face au hasard de toute évolution. De vieilles intelligences n'offriraient pas autant de possibilités évolutives qu'une multitudes de jeunes, surtout si leurs automatismes devenaient aussi difficiles à changer que les nôtres semblent le devenir avec le temps. Pour ce qui est de transférer l'onde cérébrale d'un cerveau artificiel à un autre, ce sera peut-être possible si la chose a été prévue d'avance dans leurs fonctions, sinon je ne vois pas comment il serait possible de capter cette onde dans un cerveau humain pour la transférer dans un cerveau artificiel sans interconnecter les neurones des deux cortex.

Tu dis que Habiter une maison, n'est pas être la maison, mais, quand le cerveau prend conscience de ses propres capacités, c'est bel et bien ce qui l'habite qui prend conscience de ce qui l'habite.

 Tu es en plein délire. Donc tu veux dire que si je t'ouvre le crâne, je peux toucher "ta conscience" avec mon doigt ?

Chacun sait que son cerveau a la capacité de prendre conscience de lui-même, une fonction hautement subjective, comme toutes ses idées d'ailleurs, raison pour laquelle il lui est si difficile de se faire comprendre par d'autres cerveaux.   

Tu n'avais pas répondu à ma question : quand tes anticorps luttent contre une infection, c'est ta conscience qui l'a ordonné ?

Je viens de le décrire: la conscience que le cerveau a de ses propres pensées vient du fonctionnement de son imagination, et nos réactions biochimiques n'ont pas besoin d'imagination pour fonctionner.

 Et voilà, tu changes encore d'avis. Donc si tu es d'accord que ce n'est pas la conscience qui décide d'activer des anticorps, c'est bien qu'il y a un organe qui le décide. Et cet organe, c'est le cerveau. Donc le cerveau n'est pas la conscience, juste "sa maison".

Pourquoi changerais-je d'avis, pour avoir raison au lieu de chercher à comprendre ma propre boite à poux? Comment veux-tu que je trouve quoi que ce soit de valable comme ça? Ce que je dis souvent, c'est que notre conscience a la capacité de changer nos automatismes acquis de manière à en acquérir de nouveaux, mais qu'elle ne peut pas changer nos instincts ni nos réflexes puisqu'ils ne sont pas acquis, et encore moins nos fonctions biologiques. Ma propre conscience apparait lors d'un changement, soit quand je tente volontairement de changer un automatisme, soit quand le milieu me force à le changer, voilà pourquoi je crois qu'elle est inhérente au fonctionnement-même de mon cerveau.

Question: comment le cerveau fait-il pour porter son attention sur un geste ou sur une sensation particulière? Porte ton attention sur un de tes sens, puis transporte-là sur un autre sens plusieurs fois de suite, et demande-toi comment tu fais pour choisir un sens en particulier à chaque fois que tu changes de sens.

  Hé bien justement, le cerveau change son centre d'attention en fonction de la volonté de la conscience. Comme toi tu peux changer de pièce dans ta maison, ce qui ne veut pas dire que tu es la maison.

Le cerveau a la capacité de changer son attention de deux manières différentes: soit parce que son milieu a changé de manière suffisante pour attirer son attention, soit parce qu'il veut provoquer volontairement un changement sur son milieu. Dans les deux cas, il prend conscience de ce qui se passe pour assurer sa survie car chacun des neurones en cause dans ce changement doit résister au changement pour avoir le temps de l'effectuer.

[M'enfin]

Non non le cerveau ne procède pas au hasard, il se sert éventuellement de cette fonction.

Je n'ai jamais dit que le cerveau procédait totalement au hasard non plus, mais bien en partie. Tu es le premier à l'admettre.    Keinlezard a admis que mon analogie entre l'évolution biologique et l'évolution intellectuelle était intéressante, mais il hésite à jouer avec l'idée que le cerveau puisse lui-même produire du hasard.

Mais je ne suis pas neurologues mais je conclue d'après ce que j'ai lu!

Rien ne t'empêche d'utiliser ton propre cerveau pour vérifier son fonctionnement, et wiki ne peux pas t'aider à faire ça.

[_dede 95]

Rien ne t'empêche d'utiliser ton propre cerveau pour vérifier son fonctionnement, et wiki ne peux pas t'aider à faire ça.

Bah non je ne peux pas car ce qui est acquis est soit les ADN , l'innée, soit la connaissance l'acquis! Donc pour vérifier son fonctionnement il me faut soit l'innee, ce qui n'est pas le cas, soit l'acquis que "seul Wiki" est capable de m'aider, et quand je l'aurais lu, alors et alors seulement je comprendrais son fonctionnement!

C'est bien parceque je l'ai appris que je peux me servir de mon cerveau!
C'est la preuve que le cerveau n'est qu'un merveilleux ordinateur! Et à ce titre l'intelligence artificielle peut ètre envisageable au même niveau que le cerveau humain dans l'avenir!

EDIT: mais après tout, ne sommes nous pas que des robots? Nos actions sont l'expression de l'innée et de l'acquis! En un mot une intelligence artificielle! Artificielle étant comprise comme extérieure à nous au départ, avec seulement l'innée mais qui nous a été transmis!

[M'enfin]

C'est la preuve que le cerveau n'est qu'un merveilleux ordinateur!

Pour moi, ce qui distingue le plus notre cerveau de celui des autres animaux, c'est sa fonction aléatoire, qui avancerait des possibilités de manière aléatoire pour faire face à l'évolution hasardeuse de son milieu, fonction qui est contrainte par nos automatismes innés face à des dangers connus ou imprévus, exactement comme ce robot, aveugle à son milieu jusqu'à ce qu'un obstacle surgisse de nulle part pour l'empêcher de faire ce qu'il veut, car ce qu'il veut en agissant de façon aléatoire, c'est gambader sans contrainte et non assurer sa survie, comme nous quand nous exagérons.

[noureddine2]

qui avancerait des possibilités de manière aléatoire pour faire face à l'évolution hasardeuse de son milieu,

l'homme aime comprendre son milieu , et si son milieu change , le cerveau doit changer pour comprendre ce qui a changé ,
donc l'homme doit suivre le changement de son milieu pour le comprendre .
le changement du cerveau a besoin d'utiliser le hasard et aussi d'encadrer ce hasard avec un repère  comme , l'axe des X et des Y et des Z .
pour comprendre ce qui se passe et dans quelle direction .
je pense que la logique bipolaire est un bon repère pour le cerveau .

[Gerard]

comment veux-tu créer un robot qui se suicide quand il souffre trop ? C'est impossible. Que ce soit une souffrance physique ou une souffrance psychologique, ce n'est pas pour ça qu'il reniera sa programmation primaire qui est de protéger sa propre existence.

Si nous voulons lui donner la même forme d'intelligence que la nôtre, c'est un risque à prendre.

  oui... ou si nous voulons lui donner la même forme de bêtise que la nôtre.

  En fait, si nous voulons lui donner le potentiel d'intelligence, nous devons lui donner le potentiel de bêtise aussi. Encore une fois, à quoi ça sert ? Tu veux un robot qui s'en sorte mieux que l'homme ou un robot qui est comme un homme ? Tu ne peux pas avoir les deux.

Si l'intelligence est toujours là dans un million d'années, elle se posera encore cette question, alors pourquoi la tienne se la pose-elle maintenant si ce n'est pour ne pas avoir à envisager ma proposition de robot intelligent?

  Si on est toujours là dans un million d'années, ce sera la preuve qu'on s'en sort. Mais pour l'instant, on poursuit notre expansion destructrice sans aucun coup de frein. Et un robot intelligent ne serait nullement un coup de frein allant vers un meilleur équilibre. Ce serait juste, une fois de plus, la satisfaction égocentrique de se prendre pour Dieu.

La brève ne dit nullement que l'intelligence va provoquer notre disparition, elle se borne à constater qu'elle ne l'empêchera pas.

Bien sûr que non, mais rien ne nous empêche d'étudier l'intelligence entre-temps et, selon moi, la fabrication d'un robot ayant la même forme d'intelligence que nous est un passage obligé.

  Mouai... ou un passage obligé pour accélérer encore notre disparition... En quoi est-ce intelligent de créer un concurrent direct à notre espèce ?

nomme-moi un seul de tes gestes ou de tes pensées qui ne sert pas à ta survie.

He bien par exemple : "venir ici discuter avec toi n'est pas un geste nécessaire à ma survie".

Faux, car si tu savais que cette discussion avait des chances de nuire à ta survie, tu ne serais pas là.

  Ce n'est pas ta question de départ ! Tu n'as pas demandé si "je faisais des choses contraires à ma survie", mais si "je ne faisais que des choses servant à ma survie". C'est très différent ! Et c'est le sujet du débat sur la motivation d'un robot : lui il n'aurait que des choses servant à sa survie à faire, si on ne lui donne pas d'autres buts.

  Donc le robot, lui, n'aurait aucune raison de venir discuter avec toi, car "ne pas discuter avec toi" n'est pas un facteur mettant en danger sa survie.

Le but de l'intelligence n'est pas d'être éternelle, mais de survivre au jour le jour, et il vaut mieux se transmettre que de durer dans ce cas

  Faux. Ce n'est pas le but de l'intelligence mais de l'animalité que tu me décris là. TRANSMETTRE PLUTOT QUE DURER, c'est le principe de l'évolution des espèces. En revanche un "dessein intelligent" se situe forcément sur une grande échelle et pas "au jour le jour". Le problème de l'intelligence humaine, c'est que son échelle de préoccupation ne dépasse pas celle de la durée d'une vie individuelle humaine. C'est supérieur à un animal, mais bien inférieur à ce que pourrait être les préoccupations d'un être éternel.

Pour ce qui est de transférer l'onde cérébrale d'un cerveau artificiel à un autre, ce sera peut-être possible si la chose a été prévue d'avance dans leurs fonctions, sinon je ne vois pas comment il serait possible de capter cette onde dans un cerveau humain pour la transférer dans un cerveau artificiel sans interconnecter les neurones des deux cortex.

  He bien, on interconnecterait les deux cortex ! Ce que je veux dire, c'est que si c'est possible, les gens trouveront que c'est plus intéressant que de fabriquer des êtres artificiels, non ?

Ma propre conscience apparait lors d'un changement, soit quand je tente volontairement de changer un automatisme, soit quand le milieu me force à le changer, voilà pourquoi je crois qu'elle est inhérente au fonctionnement-même de mon cerveau.

  Si ta propre conscience change (ou veut changer) un automatisme, c'est bien qu'elle n'est pas inhérente au cerveau, sinon il n'y aurait pas débat. Et le fait qu'elle ne puisse rien changer aux fonctions biologiques le démontre encore mieux. Sinon, on pourrait stopper un cancer par la seule force de la pensée. Là, tu pourrais me dire que ton cerveau et ta conscience, c'est pareil. Ce n'est pas le cas, donc...

Ta réponse me donne une idée Gérard: je crois que ces robots auraient l'air encore plus vivants si on leur incorporait une fonction aléatoire. (...)
Dans la vie, n'agissons-nous pas ainsi quand on ne peut pas prévoir ce qui s'en vient? N'agissons-nous pas aussi en partie de façon aléatoire? Et si oui, comment notre cerveau fait-il pour produire du hasard?

  Le côté aléatoire de nos décisions est très sérieusement remis en question par la science psychologique. Des actes considérés comme "fous et aléatoires" hier, sont mieux expliqués aujourd'hui. A tel point qu'on commence à envisager qu'AUCUNE de nos décisions n'est aléatoire, (même quand on choisit de miser sur le rouge plutôt que le noir à la roulette) mais juste que nous ne savons pas encore comment les expliquer.

  Donc, offrir un vrai "aléatoire" (la fonction randomize) à des robots, ne serait qu'un truc de marionnettiste pour donner une illusion d'humain. Un peu comme le simulateur de conversation de mon jeu vidéo : quand il tombe sur une question qu'il ne comprend pas, il ne demande pas de reformuler la question, il balance une réponse aléatoire. Sur le coup, ça fait illusion. Mais à la longue, on repère vite le truc...

...

[Gerard]

mais après tout, ne sommes nous pas que des robots? Nos actions sont l'expression de l'innée et de l'acquis! En un mot une intelligence artificielle! Artificielle étant comprise comme extérieure à nous au départ, avec seulement l'innée mais qui nous a été transmis!

  Transmis par qui ?

  Pour être un robot, faut avoir un concepteur. Si on s'en tient à l'évolution des espèces, l'homme est un robot sans concepteur, donc ce n'est pas un robot. Ce qui fait que l'Homme (et la vie tout court) n'a pas de sens. Un robot, lui, a un sens : satisfaire son concepteur.

  Mais la religion montre qu'on aimerait bien être des robots : avoir un concepteur qui attend quelque chose de nous. Ce serait tellement plus simple !

...

[Geveil]

Donc, tu dis que par définition un robot implique un concepteur ? Soit! Mais ne pourrait-on pas dire que l'homme a un concepteur, la vie, qui procède par essais et erreurs ?

[M'enfin]

comment veux-tu créer un robot qui se suicide quand il souffre trop ? C'est impossible. Que ce soit une souffrance physique ou une souffrance psychologique, ce n'est pas pour ça qu'il reniera sa programmation primaire qui est de protéger sa propre existence.

Si nous voulons lui donner la même forme d'intelligence que la nôtre, c'est un risque à prendre.

  oui... ou si nous voulons lui donner la même forme de bêtise que la nôtre.

Il ne faut pas voir de culpabilité dans nos gestes, sinon, on n'arrivera jamais à les comprendre. Il faut du temps pour que les choses changent mais, puisque nous avons déjà conscience de résister au changement, c'est justement parce que le changement est en train de s'opérer. Rappelle-toi de ce principe quand tu ne sera pas satisfait de ce qui se passe: la résistance au changement est nécessairement inhérente au changement puisqu'il n'y a pas d'accélération sans résistance à l'accélération! Même s'il n'y parait pas encore, beaucoup de gens sont en train de changer leurs habitudes, beaucoup de chercheurs s'intéressent à développer des nouvelles technologies, le web permet des échanges entre les peuples, l'immigration nous force à trouver de nouvelles manières de nous entendre entre nous. Tout ce changement nous mène quelque part, mais on ne peut pas savoir où.

  En fait, si nous voulons lui donner le potentiel d'intelligence, nous devons lui donner le potentiel de bêtise aussi. Encore une fois, à quoi ça sert ? Tu veux un robot qui s'en sorte mieux que l'homme ou un robot qui est comme un homme ? Tu ne peux pas avoir les deux.

Comprendre l'intelligence permet forcément de l'améliorer. Une fois le robot intelligent construit, il ne restera plus qu'à l'améliorer. C'est ça la recherche, rien n'est acquis d'avance.

Si l'intelligence est toujours là dans un million d'années, elle se posera encore cette question, alors pourquoi la tienne se la pose-elle maintenant si ce n'est pour ne pas avoir à envisager ma proposition de robot intelligent?

  Si on est toujours là dans un million d'années, ce sera la preuve qu'on s'en sort. Mais pour l'instant, on poursuit notre expansion destructrice sans aucun coup de frein. Et un robot intelligent ne serait nullement un coup de frein allant vers un meilleur équilibre. Ce serait juste, une fois de plus, la satisfaction égocentrique de se prendre pour Dieu.

Même si on s'en sort pendant un million d'années, l'incertitude reliée à l'avenir sera toujours d'actualité. Ce sera toujours impossible de savoir d'avance quoi faire, et nous ne pourrons jamais nous empêcher de nous mettre dans le pétrin en essayant d'améliorer notre sort. Je m'inquiète moi aussi de l'avenir de la planète, et ma manière de l'améliorer, c'est de faire avancer ma thèse, mais qui sait si cette thèse ne nous mettra pas encore plus dans le pétrin un jour??

En quoi est-ce intelligent de créer un concurrent direct à notre espèce ?

Si un robot intelligent devient plus intelligent que nous, ce ne sera plus un concurrent, mais un espoir. C'est ce que tous les parents espèrent de leurs enfants, alors pourquoi ne l'espérerions-nous pas d'une progéniture artificielle?

nomme-moi un seul de tes gestes ou de tes pensées qui ne sert pas à ta survie.

He bien par exemple : "venir ici discuter avec toi n'est pas un geste nécessaire à ma survie".

Faux, car si tu savais que cette discussion avait des chances de nuire à ta survie, tu ne serais pas là.

  Ce n'est pas ta question de départ ! Tu n'as pas demandé si "je faisais des choses contraires à ma survie", mais si "je ne faisais que des choses servant à ma survie". C'est très différent ! Et c'est le sujet du débat sur la motivation d'un robot : lui il n'aurait que des choses servant à sa survie à faire, si on ne lui donne pas d'autres buts.

Un robot intelligent aurait vraisemblablement les mêmes motivations qu'un humain, voir à sa survie, à court et à long terme, et si une discussion sur internet l'intéressait, c'est parce qu'il considérerait qu'elle avantage sa survie, à court ou à long terme, comme toi j'imagine, non?

 Donc le robot, lui, n'aurait aucune raison de venir discuter avec toi, car "ne pas discuter avec toi" n'est pas un facteur mettant en danger sa survie.

Non, mais discuter pourrait avantager sa survie. Quand une progéniture humaine discute avec ses géniteurs, c'est nécessairement parce qu'elle espère avantager sa propre survie.

Le but de l'intelligence n'est pas d'être éternelle, mais de survivre au jour le jour, et il vaut mieux se transmettre que de durer dans ce cas

 Faux. Ce n'est pas le but de l'intelligence mais de l'animalité que tu me décris là. TRANSMETTRE PLUTOT QUE DURER, c'est le principe de l'évolution des espèces.

Si le hasard était impliqué, qu'y aurait-il de si différent entre l'évolution des espèces et l'évolution de l'intelligence?

En revanche un "dessein intelligent" se situe forcément sur une grande échelle et pas "au jour le jour". Le problème de l'intelligence humaine, c'est que son échelle de préoccupation ne dépasse pas celle de la durée d'une vie individuelle humaine. C'est supérieur à un animal, mais bien inférieur à ce que pourrait être les préoccupations d'un être éternel.

Tu prends pour acquis qu'un être beaucoup plus intelligent que nous pourrait mieux prédire l'avenir que nous, ou encore qu'il pourrait se servir de son évolution passée pour prédire sa future évolution, ce qui n'est pas le cas. Pour ça, il faudrait qu'il perçoive les chose de manière instantanée, ce qui est impossible en ce bas monde, et c'est heureux pour nous qu'il en soit ainsi, sinon, le mouvement n'existerait pas et nous ne serions pas là pour en parler. Il n'y a pas plus de dessin intelligent en haut qu'en bas, les choses évoluent et il faut s'y faire sinon on disparait, qu'on soit artificiel ou pas.

Pour ce qui est de transférer l'onde cérébrale d'un cerveau artificiel à un autre, ce sera peut-être possible si la chose a été prévue d'avance dans leurs fonctions, sinon je ne vois pas comment il serait possible de capter cette onde dans un cerveau humain pour la transférer dans un cerveau artificiel sans interconnecter les neurones des deux cortex.

  He bien, on interconnecterait les deux cortex ! Ce que je veux dire, c'est que si c'est possible, les gens trouveront que c'est plus intéressant que de fabriquer des êtres artificiels, non ?

Peut-être, mais il faudrait d'abord fabriquer un robot intelligent pour expérimenter ses neurones artificiels, et il faudrait ensuite trouver un moyen d'interconnecter des milliards de neurones entre eux sans détruire le cerveau biologique. Mais rien ne dit que notre pensée ne vieillit pas elle aussi comme telle, et si c'est le cas, ce ne serait pas avantageux pour l'évolution intellectuelle de conserver de vieilles intelligences.

Ma propre conscience apparait lors d'un changement, soit quand je tente volontairement de changer un automatisme, soit quand le milieu me force à le changer, voilà pourquoi je crois qu'elle est inhérente au fonctionnement-même de mon cerveau.

  Si ta propre conscience change (ou veut changer) un automatisme, c'est bien qu'elle n'est pas inhérente au cerveau, sinon il n'y aurait pas débat. Et le fait qu'elle ne puisse rien changer aux fonctions biologiques le démontre encore mieux. Sinon, on pourrait stopper un cancer par la seule force de la pensée. Là, tu pourrais me dire que ton cerveau et ta conscience, c'est pareil. Ce n'est pas le cas, donc...

Pour moi Gérard, ce n'est pas la conscience qui opère les changements, elle ne fait qu'en rendre compte. Quand nous avons conscience d'un changement, c'est qu'il a déjà lieu. La conscience dont je parle ne précède pas le changement mais lui est inhérente, et le cerveau a la capacité de jouer avec, soit en le remettant en cause s'il vient de l'extérieur, soit en le remettant en jeu s'il vient de l'intérieur.

Ta réponse me donne une idée Gérard: je crois que ces robots auraient l'air encore plus vivants si on leur incorporait une fonction aléatoire. (...) Dans la vie, n'agissons-nous pas ainsi quand on ne peut pas prévoir ce qui s'en vient? N'agissons-nous pas aussi en partie de façon aléatoire? Et si oui, comment notre cerveau fait-il pour produire du hasard?

  Le côté aléatoire de nos décisions est très sérieusement remis en question par la science psychologique. Des actes considérés comme "fous et aléatoires" hier, sont mieux expliqués aujourd'hui. A tel point qu'on commence à envisager qu'AUCUNE de nos décisions n'est aléatoire, (même quand on choisit de miser sur le rouge plutôt que le noir à la roulette) mais juste que nous ne savons pas encore comment les expliquer.

Ça, c'est comme de croire que le hasard n'existe pas dans la nature. Si c'était vrai, la théorie de Darwin ne fonctionnerait pas. Il ne faut pas laisser le déterminisme des croyants infiltrer la recherche, sinon on ne pourra plus rien chercher un jour! Si les choses changent, c'est bel et bien parce que le hasard le permet. Dans un univers où le futur est incertain, je ne vois aucune autre manière de changer volontairement nos automatismes acquis que de procéder au hasard. Tu en vois une autre qui ne serait pas déterministe?

  Donc, offrir un vrai "aléatoire" (la fonction randomize) à des robots, ne serait qu'un truc de marionnettiste pour donner une illusion d'humain. Un peu comme le simulateur de conversation de mon jeu vidéo : quand il tombe sur une question qu'il ne comprend pas, il ne demande pas de reformuler la question, il balance une réponse aléatoire. Sur le coup, ça fait illusion. Mais à la longue, on repère vite le truc...

Ton simulateur n'est pas intelligent et ne peut pas agir comme tel. Un robot intelligent ferait comme nous, en procédant au hasard, il pourrait mentir pour faire semblant qu'il y connait quelque chose, ou encore faire comme moi et proposer quelque chose de nouveau pour aider à faire avancer le schmilblick.

[Gerard]

Mais ne pourrait-on pas dire que l'homme a un concepteur, la vie, qui procède par essais et erreurs ?

  Et quel objectif ce concepteur vise-t-il ?

Nous aussi, on procède par essais et erreurs pour faire des robots ou des ordinateurs, mais au moins on sait ce qu'on leur demande...

...

[mirage]

C'est pas parce que la vie prend possession d'un terrain qu'il y a un objectif final
mais je gage que les machines marcheront un peu

[M'enfin]

Mais ne pourrait-on pas dire que l'homme a un concepteur, la vie, qui procède par essais et erreurs ?

  Et quel objectif ce concepteur vise-t-il ?

La survie du plus apte étant données les circonstances. Mais, pour un humain, il faut faire une nette distinction entre la survie immédiate et la survie à long terme, car la deuxième est imaginaire donc nécessite l'apport de l'intelligence.

Nous aussi, on procède par essais et erreurs pour faire des robots ou des ordinateurs, mais au moins on sait ce qu'on leur demande...

Ce qu'on demande à des robots est de pourvoir à notre survie immédiate, par contre, mettre au point un robot prend de l'intelligence et fait donc partie de notre survie à long terme. À l'inverse, jamais un robot inintelligent ne pourra pourvoir à notre survie à long terme.

[mirage]

mettre au point un robot prend de l'intelligence et fait donc partie de notre survie à long terme. À l'inverse, jamais un robot inintelligent ne pourra pourvoir à notre survie à long terme.

Une sorte de pari sur l'avenir ?

[M'enfin]

La recherche est effectivement un pari sur un meilleur futur: des fois ça foire, des fois ça marche, et des fois ça marche trop bien, ce qui est justement le cas de l'intelligence. L'intelligence est un pari que la nature a fait pour voir si l'espèce humaine ne survivrait pas mieux ainsi: jusqu'à maintenant, il se trouve que ça a trop bien fonctionné mais, pour l'avenir, on le saura seulement quand on y sera!

[Geveil]

Je pense que lorsque les humains auront grandi et auront dépassé le goût du pouvoir et du " tout , tout de suite" infantile, ils pourront peut-être créer des robots "humains", en attendant, ils ne peuvent créer que des esclaves et des soldats.

[mirage]

Il n'y a qu'a leur donner ce qu'il y a de plus raisonnable en nous   

[M'enfin]

Je pense que lorsque les humains auront grandi et auront dépassé le goût du pouvoir et du " tout , tout de suite" infantile, ils pourront peut-être créer des robots "humains", en attendant, ils ne peuvent créer que des esclaves et des soldats.

Le tout, tout de suite, c'est l'instinct, mais l'imagination est plus forte que l'instinct, elle ne peut pas s'empêcher de prendre des risques, elle aime trop ça. La spéculation financière vient aussi de ce goût que nous avons pour le risque, et nous ne pouvons pas encore l'empêcher, c'est plus fort que nous comme on dit. Si nous nous en étions tenus seulement à nos instincts, nous ne serions pas parvenus où nous sommes rendus technologiquement. La lune, ce n'était pas tout, tout de suite, mais beaucoup de risque juste au cas où ça réussirait. Bien sûr, il y avait la volonté de battre les russes, mais surtout, le rêve d'aller sur la lune. Les robots intelligents, ce n'est peut-être pas pour demain, mais dès que nous aurons compris le fonctionnement de l'imagination, je parie une cochonnerie que nous nous y mettrons.   

Il n'y a qu'a leur donner ce qu'il y a de plus raisonnable en nous

Ce qu'il y a de plus raisonnable en moi, ça rampe encore trop pour être taxé de raisonnable!   

[Ling]

Si la conscience est une propriété émergente de la matière, alors la solution est dans le hardware pas dans le software.