Un robot de seguridad cayó en la piscina de un centro de oficinas en Washington, D.C, y el hecho fue tomado con humor haciendo referencia a que decidió terminar con su existencia tirándose al agua. Si bien la situación es graciosa, me lleva a la siguiente reflexión, ¿podrá un vehículo autónomo terminar matándonos por falta de criterio?
¿podrá un vehículo autónomo terminar matándonos por falta de criterio?
Vamos desde el principio, nuestro robot suicida es (o era) un Knightscope K5, una máquina de preservar el orden con tecnología de punta capaz de escanear el entorno, detectar sonidos de disparos, analizar hasta 1.500 patentes por minuto, transmitir video de 360º y avisar en tiempo real sobre cualquier hecho que considere una amenaza a la seguridad.
Si pese a todos los sensores y tecnología esta suerte de aspiradora policíaca terminó en el agua, ¿qué podría pasar con un vehículo autónomo que debe tener en cuenta muchísimos más parámetros por segundo?
¿Podrían ser suicidas los vehículos autónomos? https://t.co/4lYSkH8gD8 pic.twitter.com/c1snJMk6vE
— Autocosmos.com.ar (@autocosmos_ar) 19 de julio de 2017
Ya sabemos que hay conductores que terminaron en el agua porque el GPS les dijo que giraran. Y si una persona sigue fielmente las instrucciones de un aparato al grado de no ver lo que está pasando frente a sus ojos, imaginate la fe ciega que tendrá una máquina respecto de otra… O qué pasaría sí el sistema no “viera” un camión como pasó con el sistema semi autónomo de Tesla.
¿Podrán tener criterio los sistemas autónomos para no tirarse a un rio, canal o lago?
No vamos a entrar en los dilemas morales sobre si ante un posible accidente el sistema debe elegir entre salvarnos a nosotros o -por ejemplo- a un peatón o ciclista; lo que me preocupa es que pasará cuando los sistemas autónomos empiecen a tener accidentes, justamente los que debían evitar por eliminar al factor humano. ¿Se analizará cada caso y se echará la culpa a tal o cual factor, caratulándolo como “excepcional”? ¿Se revisará si la supervisión humana es vital?
¿Podrán los sistemas autónomos detectar errores de otros sensores o fuentes de información como el GPS y tener criterio para no tirarse a un rio, canal o lago? Por ahora podemos reírnos de este robot que terminó en el agua, ¿Habrá sido consciente de su existencia como agente del orden y por eso decidió ahogarse? O, ¿será deberá ser regla hacer a prueba de agua a los futuros vehículos autónomos?
