Etiquetes

, , , , , ,

Ahir vaig escriure a NacióDigital sobre el primer accident d’un cotxe autònom de Google en què l’empresa reconeixia la culpa. Després de 6 anys en carreteres i menys de 20 incidents -cap amb ferits- on tots ells eren xocs per culpa d’un altre conductor -humà-. El fet que el xoc es produís per un “error d’assumpció” d’una màquina i que això hagi servit per “ensenyar” el cotxe a no refiar-se dels conductors d’autobusos m’ha fet tornar a pensar en els dilemes de les màquines i altres temes com el de la Vall Inquietant…

I és que, en primer lloc, quan parlem de cotxes autònoms no sempre som plenament conscients que el més complicat és el principi. Aquests primers temps en què en una carretera hi han de conviure màquines i persones. I on les persones, en aquest cas, són el principal problema.

M’explicaré: dos cotxes autònoms propers es poden comunicar. El cotxe A li diu al cotxe B que es disposa a ocupar el seu carril. El cotxe B rep el senyal i comença a frenar. I potser veu que no té temps i li respon això al cotxe A, que immediatament torna a col·locar-se i frena, a l’espera que el cotxe B passi, mentre ja li diu al cotxe autònom C que ve al darrere que el deixi passar. Una mica de sincronització d’ubicació i velocitat, treball de sensors, i problema solucionat.

Però en el cas que ens ocupa, el vehicle autònom (i el conductor-supervisor que el vigilava) van assumir, incorrectament, que el conductor de l’autobús els deixaria passar i frenaria una mica. I es van equivocar. En el moment del xoc el Lexus de Google anava a 5 quilòmetres per hora, i l’autobús a 15, així que us podeu imaginar que no devia ser massa espectacular. Però el cotxe autònom va tenir un problema: pressuposar que el vehicle que venia i que no tenia massa problemes per frenar li cediria el pas.

Vall Inquietant

Diu la Viquipèdia que és un principi de la robòtica que teoritza sobre la semblança dels robots amb els humans, tant a nivell estètic com d’actuació. Segons això, com més s’assemblen les accions o faccions del robot a un humà, més adversa és la reacció que provoquen als humans, tot i que fins a cert punt -llavors torna a ser positiva. En resum, aquell calfred quan veiem un robot que es mou “massa bé” o quan ens intentem imaginar la computació de milions de possibles opcions en un mil·lisegon per part d’un vehicle autònom, mentre pensa si el vehicle que ve pel darrere és gran i no sol deixar-lo passar. Fins i tot, els vehicles, podrien acabar compartint una llista negra de matrícules de conductors que habitualment reaccionen contra el què caldria esperar.

Se n’hi diu Vall Inquietant per la gràfica de la reacció: inicialment, la resposta és positiva fins que el robot és “gairebé” un ésser humà. Hi ha un punt, en què s’assembla més a un zombie, en què la confiança cau de sobte, i es recupera a mesura que el robot presenta encara més semblances amb els humans.

Però potser és més inquietant pensar que una sola persona amb un cotxe pot tornar bojos a tots els vehicles autònoms de la carretera tot fent l’enze pel mig. Perquè com us deia, per mi el repte més gran és posar un cotxe autònom enmig del trànsit humà, que és quan no té cap mena de resposta immediata i, per tant, ha de realitzar assumpcions que podrien ben bé ser falses.

La resta de dilemes de les màquines

I arrel d’això, el debat de sempre: com ha de triar un cotxe com evitar un accident, si el fet d’evitar-lo en pot provocar un altre? Compraríem un cotxe que sabem que pot optar per fer-nos accidentar als seus ocupants per evitar un mal més gran? Aquest és el principal motiu pel qual es necessita un alt grau de transparència en el programari que gestiona aquests vehicles i les seves “ments-computadora”. Perquè tots tenim dret a saber tant el què comprem com amb quin tipus d’aparells compartim via.

I malgrat tot, si el futur ha d’anar cap a carreteres amb cotxes només autònoms, això seria el que menys em preocuparia, perquè ja s’anirien solucionant els problemes amb prou antel·lació. Però una persona èbria amb quatre infants a bord té més valor que un sol ocupant d’un vehicle autònom? O en té qui “no tingui la culpa”? Això, mentre hi hagi mans en algun volant, ha de quedar molt clar. En un futur, és clar: perquè ara per ara, sembla que els cotxes autònoms circulen tant a poc a poc -per si un cas, que necessitaran encara un llarg període de proves- que el perill és trobar-se’ls davant si tenim pressa.

Advertisements