Les voitures autonomes, intelligentes ?

On utilise l’intelligence artificielle pour doter les voitures autonomes d’un processus décisionnel en cas de décision à prendre quant à qui frapper si le cas se présentait.

C’est intéressant, et ça fait peur à la fois !

***********************

La Presse+
5 novembre 2018

VÉHICULES AUTONOMES
Quand la voiture décide qui sauver

Qui épargner et, par le fait même, qui sacrifier quand un grave accident devient inévitable ? Les voitures autonomes auront de difficiles choix à faire quand elles circuleront sur nos routes. Des chercheurs ont mis un point une « machine morale » pour les aider à prendre les décisions qui se rapprochent le plus de celles des humains.
ALAIN MCKENNA
COLLABORATION SPÉCIALE

Un site web qui demandait aux internautes quelles vies les véhicules autonomes impliqués dans des accidents mortels devraient sauver en premier a permis à des chercheurs universitaires de jeter les bases d’une potentielle éthique morale universelle pour l’intelligence artificielle (IA).
C’est, depuis quelques années, la question qui turlupine tant les spécialistes en IA que les professeurs en philosophie, tout comme les testeurs de Waymo et d’Uber : dans une situation où le véhicule ne peut éviter un accident mortel, qui doit-il sacrifier ? Y a-t-il des vies plus précieuses que d’autres ? Et si oui, lesquelles ?

La réponse est beaucoup plus complexe qu’il n’y paraît. « Elle change d’une personne à l’autre, d’un pays à l’autre », résume Jean-François Bonnefon, professeur de psychologie à l’École d’économie de Toulouse, l’un des cocréateurs du site Moral Machine. Le professeur français, en résidence au MIT, à Boston, explique que plusieurs facteurs culturels et sociaux, différents d’une région du monde à l’autre, empêchent d’en arriver à une grande théorie sur le comportement éthique de l’IA en général et des véhicules autonomes en particulier.

LES FEMMES ET LES ENFANTS D’ABORD ?
Il y a quelques traits communs à l’ensemble des répondants, bien sûr. « Si la voiture autonome doit provoquer des morts, elle doit en minimiser le nombre ; elle devrait donner la priorité à la protection des vies humaines par rapport aux vies animales ; s’il y a des enfants, ils devraient être les premiers à être protégés. »
Alors, c’est « les femmes et les enfants d’abord », comme le veut l’expression ? « Ça dépend, car il y a des pays où les femmes sont jugées moins “importantes” que les hommes. Dans d’autres cas, ce sont les personnes âgées qui sont considérées comme plus importantes » que les autres adultes, poursuit M. Bonnefon.

Dans les pays où l’autorité est plus stricte et les lois plus sévères, on a tendance à accorder moins d’importance aux gens qui commettent des fautes. Ainsi, on sacrifiera plus facilement un piéton qui traverse la rue sur un feu rouge qu’un passager de la voiture qui le percute.
Bref, plus on définit les victimes potentielles, plus ça affecte la prise de décision, constate le professeur français. « Ça donne des millions de cas différents, ce qui rend une solution simple impossible. »

QUI PRENDRA LES DÉCISIONS ?
En ce moment, la technologie derrière l’intelligence artificielle est surtout l’affaire de jeunes pousses et de grandes entreprises technologiques, qui semblent toutes absorbées par une course effrénée contre la montre pour commercialiser les premiers systèmes de conduite autonome le plus tôt possible. Si on se fie à certaines d’entre elles, ça pourrait se produire dès 2021.
La semaine dernière, Waymo, filiale d’Alphabet (Google) spécialisée dans la conduite autonome, a obtenu de l’État de la Californie un permis pour mettre sur la route publique les premiers véhicules sans humain derrière le volant.

Si on ne veut pas laisser Google, General Motors ou Uber dicter le comportement des premiers véhicules sans conducteur impliqués dans des accidents mortels, il faut agir rapidement, avertit Jean-François Bonnefon. Pour aider, la base de données du site Moral Machine comportant ses 40 millions de réponses est offerte à ceux qui voudront bien s’en servir. « La collecte continue, mais ce sera intéressant de voir comment d’autres se serviront » de ces résultats.
Bâtir une telle base de données sur un sujet aussi délicat que le rôle des ordinateurs dans une situation de vie ou de mort n’était pas une mince tâche. Et pourtant, il semble que le plus difficile reste à faire : déterminer quelles décisions ces ordinateurs devront réellement prendre.

L’ÉTHIQUE D’UNE VOITURE CANADIENNE
En comparant les réponses des internautes par pays, on peut dessiner les contours d’un possible code moral canadien pour voitures autonomes. En voici les principaux traits.

PRIVILÉGIER LE PLUS GRAND NOMBRE
Les réponses des Canadiens placent le pays au 12e rang de ceux qui, parmi 116, donnent avant tout la priorité au nombre de vies épargnées. Cela dit, de tous les choix offerts par le site, protéger les vies humaines est le critère le plus important à l’échelle mondiale.

ÉPARGNER LES GENS EN SANTÉ
Dans ses priorités, le Canada s’apparente le plus au Royaume-Uni, ce qui ne devrait étonner personne. Outre le plus grand nombre, ce sont les gens en santé qui devraient être ensuite évités par les véhicules autonomes pris dans une situation d’accident fatal. En Angleterre, « privilégier l’inaction » est une position plus populaire que chez nous, en revanche.

PROTÉGER LES HUMAINS
Serez-vous à l’aise de prendre un taxi autonome aux États-Unis ? Alors que le Canada se classe au 32e rang des pays qui aiment mieux protéger les vies humaines que les vies animales, les États-Unis se trouvent au… 68e rang ! Ce qui, rappelons-le, ne prévoit pas la réaction d’un taxi autonome. Ça illustre plutôt à quel point la réflexion morale et éthique face à l’IA en est encore à ses balbutiements.

j'en ai les frissons juste à penser que c'est la machine qui décidera qui va mourir. Non je suis contre.

oh oui moi aussi ça me fait plus peur qu'autre chose.......

C'est vrai que c'est impressionnant de se dire que la vie et la mort va être calculée, étudiée, et décisionnée froidement par une machine...
Mais ça peut aussi éviter l'erreur humaine, peut-être sauver de nombreuses vies ?

Orenda a écrit:C'est vrai que c'est impressionnant de se dire que la vie et la mort va être calculée, étudiée, et décisionnée froidement par une machine...
Mais ça peut aussi éviter l'erreur humaine, peut-être sauver de nombreuses vies ?

Oui, ça va sauver des vies, c’est certain. Par contre, dans le scénario proposé dans l’article, on ne peut pas sauver de vie. Il y a immanquablement quelqu’un qui va mourir. C’est l’ordinateur de la voiture qui va décider qui mourra et qui survivra.

juin999 (Hélène) a écrit:j'en ai les frissons juste à penser que c'est la machine qui décidera qui va mourir.  Non je suis contre.

Oui, ça fait peur.  Par contre, ça s’en vient et on ne pourra pas l’empêcher.

Actuellement, on ne contrôle pas qui meurt et qui survit en cas d’accident où une décision consciente doit être prise.  Si un conducteur est au volant, c’est lui qui fait le choix.  Fait-il le bon?  En fait un conducteur humain va fort probablement toujours prendre sa décision en fonction de sauver sa propre vie.

Avec l’intelligence artificielle, on aura le choix.  Est-ce qu’on veut ne essairement sauver le conducteur, seul dans sa voiture ou plutôt essayer de sauver le groupe de 10 piétons qu’il s’apprête à faucher ?  Est-ce qu’on veut sauver le conducteur de 90 ans ou on veut plutôt sauver la mère et son jeune bébé sur le trottoir ?

Est-ce qu’on veut sauver les passagers d’une voiture qui transporte des prisonniers ou les trois cyclistes qui se trouvent sur son chemin ?

Aucune réponse n’est bonne ou mauvaise.  Chaque pays devra construire des algorithmes complexes pour déterminer quels seront les.choix possibles en cas d’accident ou des vies risquent d’être en péril.

Je trouve intéressant qu’on puisse participer au processus.  Je ne suis pas allée voir encore le lien mais je vais le faire.

oui mais plus il y a d'électronique plus il y a de pannes........alors je préfère "assumer" que risquer ça

moineau a écrit:oui mais plus il y a d'électronique plus il y a de pannes........alors je préfère "assumer" que risquer ça

Ça ne sera pas un choix personnel, malheureusement.  Même si tu ne fais pas l’acquisition de l’une de ces voitures, les gouvernements en achètent et déjà certains pays en ont déjà autorisé sur les routes. Pour l’instant c’est très marginal mais ça va se développer.

Mon avis personnel, c’est que ces voitures seront plus sûres que n’importe quel humain.  Je reste perplexe quant au choix à faire en cas de collision.  C’est le bout qui me dérange.  Je crois malgré tout que c’est une bonne chose.  Ça va diminuer énormément le nombre de morts sur les routes, à moyen/long terme.

sauf que l'intelligence des machines est programmée par des cerveaux humains

moineau a écrit:sauf que l'intelligence des machines est programmée par des cerveaux humains

oui, mais l'ordinateur ne fait pas d'erreurs, fait des calculs à des vitesses incomparables  à celles de l'humain, ne se fatigue pas, n'a pas besoin de pause, n'a pas d'émotions, de préférence, de biais, ect.

En plus, plus il compile de données, plus il apprend et plus il devient précis, rapide et efficace.

tu ne me convaincras pas
et de toutes façons avant que ce genre de voiture envahisse les rues je ne serai plus là

J'ai moi aussi un malaise avec ça.

J'ai de la difficulté à penser qu'une machine soit programmé selon des critères choisis par des gens qui prétendent savoir à qui il serait préférable de sauver la vie dans une circonstance donné ...Il y a tellement de facteurs que même si on veux faire pour le mieux, le pire risque d'arriver. Pour moi c'est comme de jouer avec ce qui devait arriver et qui ne se choisi pas.

Par exemple si c'est programmer pour sauver les enfants d'abord, imaginer que la voiture décide de sauver une jeune adolescente au détriment d'un homme disons de 40 ans.

Bon j'extrapole la, mais imaginer encore que l'adolescente a un cancer qu'elle a peu de chance de survivre dans le futur et que l'homme de 40 ans lui avait 3 enfants. La machine aura choisi la jeune fille. L'être humain au volant aurais pas nécessairement choisi mais aurait agît selon l'individu qui aurait conduit le véhicule. Le résultat aurait peut-être été le même, peut-être pas.

Mettons que si on regarde froidement la situation que je viens de décrire sachant que l'homme a trois enfants et l'adolescente a un cancer et qu'en y réfléchissant on se dit que connaissant ces critères ben on choisirais de sauver l'homme.

Ben ça aussi, ça me fais peur!! Qui sommes nous (ou qui sont-il) pour décider de la vie de quelqu'un selon des critères qu'on (ou qu'ils) jugent à première vue préférables à d'autres, même si ça semble logique, même si on croit que c'est ce qui serait le mieux.

Et c'est ça qu'ils feront en programmant ces machines. Je pense qu'il y a des choses qu'on ne doit pas essayer de décider, entre autre la vie des gens selon ce qu'on juge adéquat.

Parfaitement d'accord avec toi Mademoiselle et puis moi je crois que quand ton heure est venue bien tu part ......c'est mà croyance à moi.

Le libre arbitre il est où ???

moineau a écrit:tu ne me convaincras pas
et de toutes façons avant que ce genre de voiture envahisse les rues je ne serai plus là

Ha Ha Ha ! Je n’y tiens pas, je te préfère comme tu es !

molly a écrit:Parfaitement d'accord  avec toi Mademoiselle et puis moi je crois que quand ton heure est venue bien tu part ......c'est mà croyance à  moi.

Le libre arbitre  il est où ???

Pour ça, tu as bien raison Molly !

Oh que j'aime pas ça!
Je me sens mal à lire ça...

Ceci dit .......quand on prend l'avion .....si le pilote a une défaillance c'est le pilotage automatique qui prend le relais.......on a pas le choix

moineau a écrit:Ceci dit .......quand on prend l'avion .....si le pilote a une défaillance c'est le pilotage automatique qui prend le relais.......on a pas le choix

Bien vrai !

moineau a écrit:Ceci dit .......quand on prend l'avion .....si le pilote a une défaillance c'est le pilotage automatique qui prend le relais.......on a pas le choix