Jurassic-Park.fr | Le Forum

Bienvenue sur le forum Jurassic-Park.fr

Vous n'êtes pas identifié(e).

Sondage: Qu'est-ce que la science fiction d'après vous ?
De la fiction

9% (2)
De l'anticipation

13% (3)
De la fiction et de l'anticipation

77% (17)
Aucun des deux

0% (0)
Votants: 23

#481 14-01-2018 12:25:06

Freak
Tricératops malade
Inscription : 21-01-2017
Messages : 783
Site Web

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Implanter des lois humaines, quasiment juridiques dans un robot, c'est déjà de la science-fiction. Un algorithme mathématise les concepts et les simplifie. Il est difficile de mathématiser le principe d'Humanité, même impossible sans trop le simplifier.

Ça pose quand même le problème de réduire un principe moral à quelque chose de purement mécanique. Sans parler d'interprétation qui donnerait une conscience au robot, les lois peuvent entrer en contradiction.

Il y a une différence entre bien jouer au jeu de Go purement mathématisable en envisageant toutes les possibilités et distinguer une personne en danger ou non, c'est impossible même pour le moment.


"No, this is how you play godgrant
"On va faire littéralement exploser l'île"  Chris Pratt, 2017

Hors ligne

#482 14-01-2018 23:37:55

Laaris
Ray Arnold
Inscription : 13-11-2010
Messages : 5 491

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Les 3 lois n'impliquent pas qu'une IA doive forcément identifier à tous les coups qu'un humain est en danger.

La capacité à reconnaître qu'un humain est en danger n'est qu'un pré-requis à l'application des 3 lois, pas à leur implémentation.

Hors ligne

#483 15-01-2018 17:45:42

Freak
Tricératops malade
Inscription : 21-01-2017
Messages : 783
Site Web

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Quel est l'intérêt d’implémenter une loi qui n'est pas applicable ?
Mais je maintiens qu'implémenter une loi de ce genre est impossible, ça implique des concepts que le robot ne peut comprendre que s'il a un jugement moral.

Un robot doit obéir aux ordres qui lui sont donnés par un être humain
La deuxième loi est inutile par rapport aux IA actuels, les IA ne doivent pas obéir, elles sont obligés, elle ne se posent même pas la question, un algorithme répond à une demande, il ne peut rien faire d'autre. La loi est formulee comme si le robot pouvait ne pas obéir aux ordres qu'on lui donne. C'est déjà de la SF.


"No, this is how you play godgrant
"On va faire littéralement exploser l'île"  Chris Pratt, 2017

Hors ligne

#484 15-01-2018 18:57:56

Ulfric Sombrage
Spinosaurus furax
Lieu : Au dessus des rageux
Inscription : 19-07-2015
Messages : 7 185

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Mais du coup, y'a pas de robots militaires chez Asimov ?


Вставай, страна огромная, Вставай на смертный бой
С фашистской силой тёмною, С проклятою ордой.

TjE-pi.gif

Hors ligne

#485 15-01-2018 19:43:46

Laaris
Ray Arnold
Inscription : 13-11-2010
Messages : 5 491

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Freak a écrit :

Quel est l'intérêt d’implémenter une loi qui n'est pas applicable ?

Siri est implémentée pour répondre aux questions qu'on lui pose, même si des fois elle ne les comprend pas.

Freak a écrit :

Un robot doit obéir aux ordres qui lui sont donnés par un être humain
La deuxième loi est inutile par rapport aux IA actuels, les IA ne doivent pas obéir, elles sont obligés, elle ne se posent même pas la question, un algorithme répond à une demande, il ne peut rien faire d'autre. La loi est formulee comme si le robot pouvait ne pas obéir aux ordres qu'on lui donne. C'est déjà de la SF.

Quand tu lui demandes certains trucs, Siri refuse de répondre.

Pour les robots militaires chez Asimov je ne sais pas, c'est vrai que les 3 lois sont incompatibles avec une utilisation militaire.

Hors ligne

#486 16-01-2018 15:25:04

efde71
"La Grande"
Lieu : 38
Inscription : 27-04-2009
Messages : 1 545
Site Web

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Laaris a écrit :
Freak a écrit :

Quel est l'intérêt d’implémenter une loi qui n'est pas applicable ?

Siri est implémentée pour répondre aux questions qu'on lui pose, même si des fois elle ne les comprend pas.

Freak a écrit :

Un robot doit obéir aux ordres qui lui sont donnés par un être humain
La deuxième loi est inutile par rapport aux IA actuels, les IA ne doivent pas obéir, elles sont obligés, elle ne se posent même pas la question, un algorithme répond à une demande, il ne peut rien faire d'autre. La loi est formulee comme si le robot pouvait ne pas obéir aux ordres qu'on lui donne. C'est déjà de la SF.

Quand tu lui demandes certains trucs, Siri refuse de répondre.

Pour les robots militaires chez Asimov je ne sais pas, c'est vrai que les 3 lois sont incompatibles avec une utilisation militaire.

Il me semble pas... Après quand on avance dans le cycle de fondation, il y a des robots...
Asimov est très antimilitariste, au contraire d'autres auteurs... (Heinlein par exemple)


une petite visite à mon site.
Merci wink

En ligne

#487 16-01-2018 16:57:41

Taylor BC
Carnotaurus furtif
Inscription : 08-07-2014
Messages : 2 835

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Laaris a écrit :
Freak a écrit :

Un robot doit obéir aux ordres qui lui sont donnés par un être humain
La deuxième loi est inutile par rapport aux IA actuels, les IA ne doivent pas obéir, elles sont obligés, elle ne se posent même pas la question, un algorithme répond à une demande, il ne peut rien faire d'autre. La loi est formulee comme si le robot pouvait ne pas obéir aux ordres qu'on lui donne. C'est déjà de la SF.

Quand tu lui demandes certains trucs, Siri refuse de répondre.

Je vois pas ce que tu cherches à prouver là. Siri n'est pas programmé selon les 3 lois d'Asimov. ^^

Après je ne sais pas dans quelle cas elle ne répond pas mais je suppose que c'est soit des questions bannies dans sa programmation, soit quand elle ne "capte" pas la question. En aucun cas, ce n'est un refus conscient.

Dernière modification par Taylor BC (16-01-2018 17:00:09)

Hors ligne

#488 16-01-2018 18:36:53

Laaris
Ray Arnold
Inscription : 13-11-2010
Messages : 5 491

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Je répondais à Freak qui disait que dans la réalité un robot ne peut pas refuser un ordre donné par un humain.
Et je n'ai jamais parlé de conscience. Il n'est pas question de conscience dans l'énoncé des 3 lois d'Asimov, juste d'appliquer un algo. Au contraire, la conscience c'est ce qui fait que les 3 lois ne fonctionnent plus.

Hors ligne

#489 17-01-2018 12:00:30

Freak
Tricératops malade
Inscription : 21-01-2017
Messages : 783
Site Web

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Je ne connais pas Siri mais quand elle refuse de répondre, c'est pas un refus au sens propre.
Un algo a une entrée et une sortie, s'il n'y a pas de trucs à la sortie, c'est que soit ça ne marche pas à cause d'une limite technique, soit parce que certaines entrées ont été programmées pour ne rien donner. Mais l'algo choisit rien.

Si tu programmes une calculatrice et qu'elle ne sait pas répondre pour certains calculs complexes, c'est pas un refus, c'est une limite dans la programmation ou un domaine qui n'a été programmé pour la calculatrice.

Si un ingénieur crée un algorithme électrique pour un ascenseur, il ne va pas demander électriquement au bouton d'ascenseur de respecter les ordres des gens , ça paraît absurde. Si le bouton ne marche pas, c'est un problème pas un refus et si c'est un vrai refus il a été programmé par quelqu'un d'extérieur.

Dernière modification par Freak (17-01-2018 12:02:07)


"No, this is how you play godgrant
"On va faire littéralement exploser l'île"  Chris Pratt, 2017

Hors ligne

#490 17-01-2018 14:18:54

Laaris
Ray Arnold
Inscription : 13-11-2010
Messages : 5 491

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Le bouton de l'ascenseur peut refuser de t'emmener à un étage si tu n'as pas le bon badge d'accès par exemple.
C'est un critère de refus qui a été implémenté par quelqu'un, comme ceux de Siri et comme un robot qui refuserait de tuer quelqu'un parce qu'on lui a implémenté les 3 lois.

Hors ligne

#491 19-01-2018 15:19:04

Freak
Tricératops malade
Inscription : 21-01-2017
Messages : 783
Site Web

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

On va tourner un peu en rond mais c'est ce que j'ai dit du coup. C'est une contraction sur les termes.

Si l'ascenseur n'emmène pas quelqu'un, ce n'est pas un refus au sens strict, c'est que la sortie de son algorithme arrive sur le résultat qui bloque l'ascenseur. La condition "avoir le bon badge d'accès" n'a pas été validée. C'est toujours une implémentation mathématique algorithmique avec des portes logiques. Mais à aucun moment, le concepteur implante dans l'ascenseur : "tu dois obéir aux ordres suivant telle ou telle condition" , un algorithme n'a rien n'avoir avec des lois. L'algorithme est la raison d'être de l'ascenseur, l'ascenseur ne s'y réfère pas, il est l'algorithme.

Tu n'as pas besoin d'implémenter dans un robot tondeuse de ne pas tuer d'êtres humains parce que si elle a été programmée pour tondre du gazon uniquement et bah elle ne fera que ça dans un monde normal. Bien sûr que tu peux implémenter des conditions particulières d'utilisation mais ça n'a rien n'avoir avec un refus ou des lois.

Un robot normal programmé pour aider les gens et leur obéir suivant certaines conditions ne fera qu'aider les gens et leur obéir suivant ces conditions. Il n'y a pas de lois à la Asimov là-dedans.
Une machine à café ne fait que du café, tu n'as pas besoin de lui implémenter un code qui protège les humains et même si tu veux le faire, tu fais un algorithme qui ne verse pas de café s'il y a un mouvement avec des capteurs mais c'est pas une loi abstraite sur l'Humanité entière.

Et je cherche toujours comme faire un algo protégeant l'humain en danger et respectant l'Humanité dans son ensemble. Je crois pas que l'humanisme soit programmable.

Dernière modification par Freak (19-01-2018 15:21:53)


"No, this is how you play godgrant
"On va faire littéralement exploser l'île"  Chris Pratt, 2017

Hors ligne

#492 19-01-2018 21:38:34

Laaris
Ray Arnold
Inscription : 13-11-2010
Messages : 5 491

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Le désaccord vient juste du fait que pour moi les 3 lois de la robotique sont un algo traduit en termes littéraires, alors que toi tu fais une différence fondamentale entre les deux.

Hors ligne

#493 03-02-2018 20:25:55

Monsieur ADN
Mothafuckin' T.rex
Lieu : Dans ton sang
Inscription : 02-01-2014
Messages : 12 368

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

On y arrive bientôt ?
https://www.futura-sciences.com/tech/ac … tor=EPR-57-[ALERTE]-20180202
le-cinqui%C3%A8me-%C3%A9l%C3%A9ment.jpg


J'ai vu tant de choses que vous, humains, ne pourriez pas croire. De grands navires en feu surgissant de l'épaule d'Orion. J'ai vu des rayons fabuleux, des rayons C, briller dans l'ombre de la porte de Tannhäuser. Tous ces moments se perdront dans l'oubli comme les larmes dans la pluie.
Il est temps de mourir.

Hors ligne

#494 11-02-2018 13:45:39

Tim
Végétosaure
Inscription : 21-07-2015
Messages : 3 209

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Cette fois oui, nous avons presque atteint le futur sans potion aux œufs de caille ni voiture spatio-temporelle (ces méthodes science-fictives seront peut-être possibles dans le futur, pour voyager dans l’époque encore au-delà du futur).

Les historiens du futur ex-présent devront se mettre d’accord pour déterminer la date et l’événement marquant la rupture.


1516545471-tim.png
« Écoute, euh… / — Tim. / — Tim… Tim avec un T, comme Timeo Danaos et dona ferentes ?… »

Hors ligne

#495 12-02-2018 12:55:38

Monsieur ADN
Mothafuckin' T.rex
Lieu : Dans ton sang
Inscription : 02-01-2014
Messages : 12 368

Re : Quand la science rejoint la fiction. Science fiction ou anticipation ?

Ils parlent de code de la route, mais "Code de la route aérienne" serait plus approprié.


J'ai vu tant de choses que vous, humains, ne pourriez pas croire. De grands navires en feu surgissant de l'épaule d'Orion. J'ai vu des rayons fabuleux, des rayons C, briller dans l'ombre de la porte de Tannhäuser. Tous ces moments se perdront dans l'oubli comme les larmes dans la pluie.
Il est temps de mourir.

Hors ligne

Pied de page des forums