Re: la conscience chez les robots

[Gerard]

Des humanoïdes électroniques pour être plus précis, mais je croyais que c'était clair puisqu'il est question de "conscience chez les robots".

  Si tu parles d'androïdes (des robots à l'apparence humaine), cela veut dire que "ressembler à un homme" est l'objectif primordial, plutôt que de savoir passer l'aspirateur, le pistolet à peinture ou naviguer dans l'espace.

  Dès lors, oui, il faudra s'efforcer de le programmer pour qu'il agisse avec la même bêtise que les êtres humains. Ce n'est donc plus de l'Intelligence Artificielle, c'est de la Bêtise Artificielle.

On aura alors bientôt une poupée gonflable parlante qui dira :
  - Pas ce soir chéri, j'ai mal à la tête...

  Une vraie humaine là hein ? On s'y croirait !

  Mais qui voudrait acheter une telle poupée gonflable ?...

....

[M'enfin]

Mais qui voudrait acheter une telle poupée gonflable ?...

Ceux qui aiment forcer les femmes quand elles leur disent d'arrêter! Elles sont gonflées quand même ces nanas, non?   

Dès lors, oui, il faudra s'efforcer de le programmer pour qu'il agisse avec la même bêtise que les êtres humains.

On ne s'en tire pas si mal jusqu'à date je trouve. On s'inquiète pour l'avenir bien sûr, mais c'est toujours ce qu'on a fait. Si les choses étaient trop simples, l'intelligence humaine ne serait pas apparue.

[noureddine2]

Dès lors, oui, il faudra s'efforcer de le programmer pour qu'il agisse avec la même bêtise que les êtres humains. Ce n'est donc plus de l'Intelligence Artificielle, c'est de la Bêtise Artificielle.

....

l'avantage de l'homme sur les autres animaux c'est que ses connaissances acquises sont plus importantes que ces connaissances innées .
l'autoformation de l'homme se fait d'abord par les parents et l'école etc et aussi par les expériences et les erreurs .
le robot doit être libre de faire des erreurs , pour apprendre de lui même et être plus libre et plus indépendant de l'homme .
pour résoudre ses problèmes tout seul .
il doit avoir de l'imagination pour simuler l'avenir pour éviter les erreurs ..

[M'enfin]

Renseigne toi mieux, au lieu de sortir de telles bétises!

Je compte sur toi pour me mettre sur le droit chemin, espèce d'accusateur catho défroqué manqué!   

[M'enfin]

il doit avoir de l'imagination pour simuler l'avenir pour éviter les erreurs ..

Les météorologues utilisent des simulateurs pour prévoir le temps, et ils en sont environ à deux jours d'avance sans se tromper de manière perceptible. Comment notre imagination ferait-elle pour faire mieux alors qu'elle fait face à des situations tout aussi complexes, et comment se fait-il que nous puissions encore imaginer Dieu alors que la prévision originelle a été faite il y a des millénaires?

[noureddine2]

et comment se fait-il que nous puissions encore imaginer Dieu alors que la prévision originelle a été faite il y a des millénaires?

il y a des milliers d'années , notre imagination de la création était flou et approximative .
aujourd'hui grâce à la science notre imagination est plus encadrée et plus précise . et le serra encore plus demain .

[M'enfin]

Oui, mais nous serons toujours capables d'imaginer l'invérifiable.

[gaston21]

Gerard, vois-tu le danger de ces robots? Le robot fait le ménage à ta place. Sur ordre de bobonne, tu passes l'aspirateur...Mais le robot peut aussi remplir d'autres fonctions ! Tu parles de poupée gonflable... Mais crois-tu que ces coquines sont moins malignes que nous? Les robots peuvent te remplacer avantageusement; ça vibre, ça se tord et c'est toujours vaillant...
Et comme je vois la conscience en tout, nous construirons un jour un robot beau garçon, tout frémissant, intelligent comme un membre du forum, amoureux comme mon épagneul ces jours-ci...Alors,
nous restera le requiem...morpionibus...

[noureddine2]

Oui, mais nous serons toujours capables d'imaginer l'invérifiable.

on veut imaginer la vérité absolue , mais on ne peut pas l'atteindre .
j'ai vu ce lien sur la conscience des robots : [Vous devez être inscrit et connecté pour voir ce lien]
je vais lire la page 5

3. LE « DANGER » DE FABRIQUER UNE CONSCIENCE ARTIFICIELLE...
3.1. LE ROBOT MÉCHANT EXISTE-T-IL ?

[Gerard]

j'ai vu ce lien sur la conscience des robots : [Vous devez être inscrit et connecté pour voir ce lien]

  Très intéressant Noureddine, mais ils se trompent. Surtout quand ils disent p. 20 :

"Physiquement, il doit nous ressembler : Ce doit être un androïde. Pourquoi ? Pour qu'il soit capable d'utiliser les mêmes outils que nous, de circuler dans les mêmes environnements et de s'exprimer comme nous... "

Pourtant, on le voit bien avec le robot aspirateur : c'est plus pratique d'avoir une petite soucoupe qui se ballade discrètement que d'avoir un "androïde" avec un balai. Le propre des robots réels, c'est la spécialisation. Parce que c'est le seul moyen de le rendre plus performant qu'un humain.

Dès lors, se repose la question :
  à quoi servirait un "androïde" singeant l'humain ?

  Le fameux "Test de Turing" (le test de conversation avec une intelligence artificielle) reste un défi de spécialistes. En 1968, Kubrick avec son Hall 9000, s'imaginait qu'avec l'augmentation de la puissance des ordinateurs allait survenir la conscience artificielle (à défaut d'androïdes). Presque 50 ans plus tard, la puissance des ordinateurs a augmenté bien au delà de ce qu'on aurait pu espérer... et pourtant, toujours pas l'ombre d'un programme d'intelligence artificielle pour conversation. Les lois d'Asimov restent une référence, mais uniquement pour la science-fiction.

  J'attends toujours un système d'exploitation qui me dirait bonjour quand j'allume l'ordi et qui pourrait discuter avec moi. Mais à quoi ça servirait ? Avec Internet, je peux discuter avec des vrais gens. Alors quel serait la motivation fondamentale de créer une "illusion d'humain" ? La seule raison que je vois, c'est l'espoir d'avoir "un humain meilleur que l'humain". Mais dès lors, ce n'est plus un humain ! Et dès lors, plus de "dilemme moral", donc pas de conscience équivalente à la nôtre.

  La poupée gonflable ne sera jamais gonflante !
...sinon elle perdrait sa raison d'être.

  Pour l'instant, l'Intelligence Artificielle, c'est Google. Quand j'arrive sur ma boîte mail, il m'affiche les infos qui sont supposées m'intéresser en fonction de mes navigations. Les sites, les clips YouTube, etc... Au début c'était n'importe quoi, mais maintenant je trouve que ça devient bon. Et cette info directe est plus efficace que si j'avais un interlocuteur robot avec qui il faudrait palabrer. Là encore : c'est l'efficacité, la spécialisation et l'ergonomie qui sont le plus importants, donc pourquoi veux-tu qu'un jour ils y renoncent pour nous mettre une I.A. avec des états d'âme ?

...

[M'enfin]

Alors quel serait la motivation fondamentale de créer une "illusion d'humain" ? La seule raison que je vois, c'est l'espoir d'avoir "un humain meilleur que l'humain". Mais dès lors, ce n'est plus un humain ! Et dès lors, plus de "dilemme moral", donc pas de conscience équivalente à la nôtre.

Effectivement, ce serait une nouvelle espèce, et pourquoi pas? Mais pourquoi n'aurait-elle pas de problèmes moraux, et quel rapport a la morale avec la conscience? Parles-tu de la conscience religieuse? La morale a trait à l'avantage, pour la survie individuelle, de s'entendre entre nous et, selon moi, des humanoïdes artificiels feraient face au même dilemme. Mais ce que je trouve le plus intéressant, c'est la possibilité de penser plus rapidement parce que les interactions entre les neurones seraient électroniques et non chimiques.

[Gerard]

Mais pourquoi n'aurait-elle pas de problèmes moraux, et quel rapport a la morale avec la conscience?

  La morale touche à la motivation. Il ne s'agit plus de savoir COMMENT faire des choses, mais POURQUOI faire ces choses.

Si le moteur de Google se borne à analyser mes navigations, il va m'envoyer des sites violents si j'ai l'habitude d'aller sur des sites violents. Il ne se pose pas la question de savoir si c'est bon pour ma santé mentale ni à quoi ça sert. De même, un robot aspirateur ne se demande pas s'il ne vaudrait pas mieux que je fasse le ménage moi-même pour faire un peu d'exercice et améliorer ma santé. Il fait le ménage sans se poser de question, sans "dilemme".

  "Avoir une conscience", c'est avoir la possibilité de remettre en question le sens de son existence. Or, la raison d'être d'un robot c'est de servir son créateur. Le créateur n'a donc aucune raison d'offrir à son robot la possibilité de refuser de faire ce pour quoi il a été créé, sinon pourquoi le créer ?

  Y a que Dieu qui s'amuse à faire des créatures qui se rebellent contre lui !

...

[M'enfin]

Mais pourquoi n'aurait-elle pas de problèmes moraux, et quel rapport a la morale avec la conscience?

  La morale touche à la motivation. Il ne s'agit plus de savoir COMMENT faire des choses, mais POURQUOI faire ces choses.

Je dirais plutôt qu'il s'agit de faire les choses de manière à pouvoir survivre plus facilement, ce qui implique d'aider son semblable à survivre puisqu'il pourra nous aider à survivre par la suite.

  "Avoir une conscience", c'est avoir la possibilité de remettre en question le sens de son existence.

Peux-tu me dire ce que le sens de ton existence a à voir dans ta survie?

Or, la raison d'être d'un robot c'est de servir son créateur. Le créateur n'a donc aucune raison d'offrir à son robot la possibilité de refuser de faire ce pour quoi il a été créé, sinon pourquoi le créer ?

La raison d'être d'un robot intelligent serait d'aider son créateur à mieux survivre, comme ce que nos enfants sont supposés faire pour nous. Pourquoi faisons-nous volontairement des enfants sinon pour qu'ils nous aident à survivre? À quoi sert une famille sinon à bénéficier de la solidarité de chacun?

  Y a que Dieu qui s'amuse à faire des créatures qui se rebellent contre lui !

Et les nombreux enfants qui se rebellent contre leurs parents, tu les oublies?   

[Gerard]

 La morale touche à la motivation. Il ne s'agit plus de savoir COMMENT faire des choses, mais POURQUOI faire ces choses

Je dirais plutôt qu'il s'agit de faire les choses de manière à pouvoir survivre plus facilement, ce qui implique d'aider son semblable à survivre puisqu'il pourra nous aider à survivre par la suite.

  Oui mais, "survivre plus facilement" pour faire QUOI ?

  A quoi ça sert de survivre ?
Reconnais que c'est une question qu'un animal ne se pose pas. Il n'est pas CONSCIENT de cette question. Il obéit juste à sa pulsion qui le pousse à vivre, cherchant à améliorer le COMMENT, sans se soucier du POURQUOI. Donc la morale utilitaire n'est pas une conscientisation morale.

"Avoir une conscience", c'est avoir la possibilité de remettre en question le sens de son existence.

Peux-tu me dire ce que le sens de ton existence a à voir dans ta survie?

  Rien justement. De même que pour un robot, "aspirer la poussière dans un appartement", n'a rien à voir avec "rendre service à un humain". Donc il ne se posera jamais la question, il ne dépassera jamais ce pour quoi il existe : aspirer la poussière.

La raison d'être d'un robot intelligent serait d'aider son créateur à mieux survivre,

  Jamais son créateur ne lui donnera une instruction aussi floue que "mieux survivre" sinon, comme je te disais, le robot pourrait décider de refuser de passer l'aspirateur "dans l'intérêt du créateur". Or, le robot est censé être un serviteur. Si on commence à envisager que le robot pourrait plus intelligent que soi-même, on se crée un "maître", pas un serviteur.

...comme ce que nos enfants sont supposés faire pour nous. Pourquoi faisons-nous volontairement des enfants sinon pour qu'ils nous aident à survivre? À quoi sert une famille sinon à bénéficier de la solidarité de chacun?

  Les animaux aussi font des enfants, et ils ne comptent pas sur eux pour mieux survivre. Y en a même, comme les saumons ou les araignées mâles, dont la reproduction leur coûte la vie.

La motivation de la reproduction c'est la survie de ses gènes. C'est donc toujours l'idée de survie, mais à un autre niveau : le niveau de l'espèce. Les animaux sont incapables de conscientiser une telle logique, ils obéissent juste à une pulsion. Et nous aussi, car nous sommes des animaux. Mais comme nous sommes capables de penser au-delà du "sens de la vie" défini par la Nature, nous habillons cette pulsion d'arguments logiques. Pour les humains, la reproduction c'est penser à une meilleure survie (l'entraide) mais c'est aussi la perpétuation de ses idées, de son identité, une façon de "ne pas mourir totalement" et de laisser quelque chose derrière soi.

  Mais si on a la retraite, l'assurance maladie, pas d'identité morale particulière à transmettre... la question du "POURQUOI faire des gosses" ne trouve pas de réponse. Et la pulsion originelle (transmettre ses gènes) n'est plus assez forte pour motiver la reproduction. Dès lors, y a des tas d'humains qui ne veulent pas se reproduire. C'est une chose qui n'existe pas dans le règne animal. L'Homme est le seul animal qui a besoin de répondre au POURQUOI et pas seulement au COMMENT.

  Crois-tu vraiment qu'un robot, même très "intelligent", se posera la question du POURQUOI ?

  Parce que les POURQUOI s'enchaînent : si le robot aspirateur doit se demander "pourquoi aspirer la poussière", il se demandera aussi "pourquoi rendre service aux humains" et in fine "pourquoi les humains devraient survivre ?".

Bref, faudrait que les robots résolvent tous nos questionnements philosophiques et il n'est pas certain que leurs réponses nous plaisent, car elles pourraient aboutir à une logique contraire à notre survie individuelle.

  Y a que Dieu qui s'amuse à faire des créatures qui se rebellent contre lui !

Et les nombreux enfants qui se rebellent contre leurs parents, tu les oublies?   

  Oui, mais les parents, au moment où ils décident de faire les enfants, espèrent bien échapper à cette inéluctabilité. Tandis que Dieu ou les créateurs de robots ne sont pas dans l'espoir : ils savent ce qui va en résulter. Donc je persiste : à part Dieu, personne ne veut créer des rebelles en connaissance de cause.

...

[Geveil]

Très belle argumentation, Gerard. Je retiens en particulier cet argument:

  Parce que les POURQUOI s'enchaînent : si le robot aspirateur doit se demander "pourquoi aspirer la poussière", il se demandera aussi "pourquoi rendre service aux humains" et in fine "pourquoi les humains devraient survivre ?".

Bref, faudrait que les robots résolvent tous nos questionnements philosophiques et il n'est pas certain que leurs réponses nous plaisent, car elles pourraient aboutir à une logique contraire à notre survie individuelle.
.

Mais justement, qui sait si, malgré les lois de la robotique inventée par Asimov, les robots, devenus vraiment très intelligents, échappaient un jour à leurs créateurs, se rebellaient? Voir la remarquable série " Battle-star galactica".

[Jipé]

Si je comprends bien, devenir intelligent pousserait à la rébellion ?
J'aurais pensé que l'intelligence au contraire amène à la sérénité et la sagesse comme Bouddha par exemple...

[M'enfin]

Crois-tu vraiment qu'un robot, même très "intelligent", se posera la question du POURQUOI ?

Bien sûr que si, mais je viens de comprendre pourquoi nous ne nous comprenons pas: pour moi, l'intelligence ne peut se développer chez un robot que comme elle se développe chez un poupon. Je ne vois qu'une seule manière de faire un être artificiel intelligent, c'est en inventant des neurones et des synapses électroniques, qui seraient vides d'information au départ, et qui les accumuleraient progressivement comme nous, par essai et erreur. Comme tu peux voir, nous aurions de la difficulté à synchroniser ces robots avec nous, parce qu'ils pourraient s'exprimer et réfléchir beaucoup plus rapidement que nous.

[M'enfin]

Si je comprends bien, devenir intelligent pousserait à la rébellion ?
J'aurais pensé que l'intelligence au contraire amène à la sérénité et la sagesse comme Bouddha par exemple...

Très juste à mon sens, car si nous faisions des robots à notre image, il nous faudrait les rendre plus intelligents que nous pour que ça vaille la peine, et plus intelligent veut nécessairement dire plus à même de s'entendre entre eux et avec nous. Tiens, une autre bonne raison à donner aux croyants: si Dieu avait été intelligent, il nous aurait créé plus intelligent que lui, sinon à quoi bon!

[_dede 95]

Crois-tu vraiment qu'un robot, même très "intelligent", se posera la question du POURQUOI ?

Bien sûr que si, mais je viens de comprendre pourquoi nous ne nous comprenons pas: pour moi, l'intelligence ne peut se développer chez un robot que comme elle se développe chez un poupon. Je ne vois qu'une seule manière de faire un être artificiel intelligent, c'est en inventant des neurones et des synapses électroniques, qui seraient vides d'information au départ, et qui les accumuleraient progressivement comme nous, par essai et erreur. Comme tu peux voir, nous aurions de la difficulté à synchroniser ces robots avec nous, parce qu'ils pourraient s'exprimer et réfléchir beaucoup plus rapidement que nous.

Mais alors on appellerait plus cela un robot, qui n'est qu'une machine, on l'appellerait un clone humain! CQFD

[M'enfin]

Mais alors on appellerait plus cela un robot, qui n'est qu'une machine, on l'appellerait un clone humain!

Par définition, un clone est une reproduction à l'identique, mais cet humanoïde ne serait pas identique à nous parce qu'il serait électronique et plus intelligent. Question: faudrait-t-il qu'il se reproduise lui-même à l'identique, ou bien qu'il développe, comme nous, un maximum de possibilités évolutives?

[Gerard]

Mais justement, qui sait si, malgré les lois de la robotique inventée par Asimov, les robots, devenus vraiment très intelligents, échappaient un jour à leurs créateurs, se rebellaient?  Voir la remarquable série " Battle-star galactica".

  Comme remarquable série, je te conseille plutôt de lire justement le cycle des robots d'Asimov jusqu'au bout.

A la fin, les robots en arrivent à la conclusion que si le robot doit protéger l'existence des hommes avant la sienne, cela implique aussi qu'il vaut mieux tuer un homme si cela permet d'en sauver plusieurs. Donc un robot peut aussi sauver sa propre existence, si cela permet de sauver d'autres hommes par la suite.. Et on peut donc tuer autant d'hommes qu'on veut, si cela permet de sauver l'humanité. Bref... les robots deviennent aussi cyniques que les hommes : la nécessité de survie supplante toute autre logique.

  Est-ce forcément un signe d'intelligence ?

...

[Gerard]

Si je comprends bien, devenir intelligent pousserait à la rébellion ?
J'aurais pensé que l'intelligence au contraire amène à la sérénité et la sagesse comme Bouddha par exemple...

  Ce n'est pas l'intelligence qui pousse à la rébellion, c'est l'autonomie.

Tu comprends le lien logique ?
Si je suis intelligent, c'est que je pense par moi-même.
Si je pense par moi-même, c'est que je ne suis pas soumis à la pensée des autres.
Si je ne suis pas soumis, c'est que je suis rebelle.

  CQFD !

...

[Gerard]

je viens de comprendre pourquoi nous ne nous comprenons pas: pour moi, l'intelligence ne peut se développer chez un robot que comme elle se développe chez un poupon. Je ne vois qu'une seule manière de faire un être artificiel intelligent, c'est en inventant des neurones et des synapses électroniques, qui seraient vides d'information au départ, et qui les accumuleraient progressivement comme nous, par essai et erreur.

  Mais quand nous commençons à exister, notre mental n'est pas "VIDE" !

Il s'y trouve ces fameuses pulsions, accumulées au cours des centaines de millions d'année d'évolution de la vie. Tu voudrais attendre tout ce temps pour que le mental vide d'un robot se développe ?

  Non. Donc il faudrait lui installer une base pulsionnelles équivalente à la nôtre (le besoin de survivre, de se reproduire..). Sauf que cette base non-biologique ne serait pas soumise aux mêmes aléas que la machine biologique. Quand on construit un robot, c'est pour qu'il fonctionne. Tandis que la "vie" ne construit pas forcément pour que ça fonctionne. Voilà pourquoi nous pouvons parvenir à renier nos pulsions : par accident biologique, car la machine biologique n'est pas parfaite.

  Ce qui ne serait pas le cas d'une machine artificielle, conçue et réalisée pour qu'elle fonctionne sans accident. Les pulsions des robots ne seraient alors pas équivalentes aux nôtres, elles seraient une programmation directe et incontournable. Bref, ces robots seraient encore moins libres qu'un chien : ils suivraient leur programmation.

...

[Gerard]

Mais alors on appellerait plus cela un robot, qui n'est qu'une machine, on l'appellerait un clone humain! CQFD

Par définition, un clone est une reproduction à l'identique, mais cet humanoïde ne serait pas identique à nous parce qu'il serait électronique et plus intelligent.

  Oui, Dede se trompe de terme, ce ne serait pas des clônes, mais des CYBORG. A partir du moment où tu places des éléments biologiques dans ta machine, tu peux tout aussi bien considérer que tu as placé des éléments mécaniques dans un humain. Ce n'est donc plus un "ROBOT", une créature 100% artificielle. Dark Vador n'est pas un robot.

...

[Gerard]

...

  Je voudrais recentrer le débat en revenant au fameux "Test de Turing", que je trouve erroné dès son énoncé : Si vous parlez avec une entité en ayant l'impression de parler à un humain, alors cette entité PENSE.

  En résumé : l'illusion d'une chose est la chose ?
C'est anti-scientifique !

  Si je prends une marionnette et que je la bouge et la fait parler, vous aurez l'impression qu'elle pense, non ? Est-ce que cela veut dire qu'elle pense ? Non.

  Bien sûr vous me direz que ça n'a rien à voir, parce que c'est moi qui manipule la marionnette et qui parle. Si on coupe les fils, la marionnette n'a plus l'air vivante.

  Ok... alors au lieu de fils, je vais utiliser une télécommande avec une marionnette motorisée et un émulateur audio pour créer une voix par rapport à un texte que je taperais.

  Là encore, vous me direz que peu importe que remplace les fils par un autre procédé, cela reste un objet sans âme qui se borne à retransmettre MA pensée à moi.

  Mais alors poussez la logique jusqu'au bout : peu importe de savoir si les fils sont visibles ou pas, peu importe la complexité du système de retransmission de ma pensée, cela reste un dispositif de retransmission de MA pensée. Donc tout robot n'est que la marionnette complexe d'un penseur humain. L'ILLUSION consiste juste à faire disparaître les fils de manipulation. Même le robot le plus complexe et le plus indépendant, n'est que le haut-parleur de son maître.

Alors je suis d'accord :
le test de Turing a raison de juger la parole comme la preuve d'une pensée.
  Mais la pensée de qui ? La pensée du marionnettiste ? La pensée de celui qui a si bien réussi à cacher les fils ? Donc le test de Turing ne prouve rien au niveau de la pensée propre d'une entité artificielle.

  Vous croyez que Kermit la grenouille a une pensée ? Elle en a l'air pourtant !

  .. Mais c'est la pensée d'un certain Jim Henson. On finit par l'oublier.

...