De la ética de los autos autómatas

Me voy a meter con un tema que es más bien humo pero que no estaría mal empezar a discutir hoy mismo. Estoy hablando de quién y cómo decidirá en un futuro no tan lejano ya no cómo nos comunicamos sino cómo nos movemos, los autos autónomos.
Hoy en día estamos empezando a sufrir las "consecuencias" de las telecomunicaciones controladas y digitadas por dos o tres empresas que poseen la gran mayoría de nuestras relaciones sociales, Facebook, Google, Microsoft, Amazon y en menor medida Apple (que con el tiempo resultó menos invasiva que las otras mencionadas).
Google te sugiere lugares, Facebook espía tus comportamientos y ajusta la publicidad, quien le pague a ellos recibe el beneficio de estar en primera plana de tu grafo social para recibir la sugerencia de que consumas lo de ellos. Ahora bien, si viajamos en el tiempo a un futuro no tan lejano ¿Bajo qué código de ética se moverán los automóviles?
El automóvil está pasando de ser un bien a ser un servicio. Todo el esquema de automóviles autónomos tiene una pega, uno ya no es dueño del vehículo, uno pasa a ser usuario. Esto es exactamente lo que pasó con nuestros teléfonos, ya no nos pertecen, los utilizamos y Google o Apple "nos dejan" utilizarlos mientras respetemos sus términos y condiciones y, principalmente, sus caprichos.
No tenemos derecho a hacer lo que querramos con nuestros teléfonos, no podemos instalar un sistema operativo distinto, ni siquiera podemos borrar aplicaciones del fabricante, en muchos casos no podemos ni instalar una app libre o acceder a distintas regiones de la memoria del equipo.
Nos dicen que es por nuestro bien, que así son más seguros, les creemos: les hemos dado el poder, el control total, sobre nuestras vidas, agendas, comportamientos y patrones. Somos explorados a diario y dimos nuestro consentimiento. Ya nos acostumbramos a esto.
Cualquier opción libre fue sistemáticamente ridiculizada y negada por nosotros mismos en pos de la comodidad de una solución única que nos ofrezca todo lo que creemos necesitar.
Toda una plataforma de telefonía puede fracasar si no tiene Whatsapp, Google, Facebook, Instagram o Netflix, no importa si es mejor, si es más segura, si te ofrece una alternativa o sencillamente si se ve más lindo, si no tiene ese microuniverso de aplicaciones invasivas no lo queremos. Así han muerto TODOS los proyectos de software alternativo (tanto libres como privativos) y es la realidad de la segunda década del siglo XXI.
Ahora bien, ¿En qué se diferencia esto con los automóviles? en nada. Estamos tan sólo en el comienzo de una nueva historia de la cual ya conocemos la introducción, nos imaginamos el desarrollo y sospechamos el desenlace.

En los próximos años tendremos una primer etapa con una interesante diversidad de opciones, luego la etapa de estabilización y caída de las que no son tan logradas y hacia el desenlace los jardines vallados que impedirán la compatibilidad entre pares, negarán la posibilidad de un ecosistema y cerrarán filas en una o dos opciones finales.
Hoy podemos ver decenas de compañías que van desde los mismos fabricantes de automóviles a proyectos impulsados por tecnológicas como Google, Uber, Lyft y hasta Apple (que parece que olvidará la idea de hacer un automóvil y sólo se quedará en el software, no es mala).
Pero de aquí a diez o quince años (o menos, ya ni idea cuánto tardará) quedará apenas un grupo ínfimo de tres o cuatro que, al igual que en la telefonía o en las computadoras de escritorio, derivará en un duopolio o hasta un monopolio.
Ahora veamos esto desde otro punto de vista, supongamos que es el año 2040, tenemos nuestro Google Car con su sistema de guía, tan sólo le pedimos que nos lleve del punto A al punto B, ya no hay tráfico en las calles, o es mínimo en comparación al 2017, el auto decide por nosotros el trayecto.
Pero he aquí que Google es el proveedor del software, Google que sabe perfectamente qué me gusta, qué como, qué compro, sabe todo esto y mucho más. Combina mis datos con sus bases pero además con mi familia, sabe dónde nos movemos, no nos podemos escapar de Google porque tiene siempre un ojo sobre nosotros.
Entonces un día McDonalds decide pagar por publicidad "in car" (esto me lo invento, ni idea qué nombre llevará) y esta modalidad no significa que veré un banner en el tablero de un automóvil, no, como dice Tom Holwerda de OSNews.com, el auto tomará una ruta levemente desviada a la ruta ideal para pasar lentamente por delante de un McDonalds.
Pero he aquí que no sólo termina con una pasadita, además de cambiar la ruta el auto me ofrecerá alguna promoción, un descuento, una recomendación. Qué tentador!
Ahora bien, si yo quería ir a otro restaurante como destino hasta puede llegar el punto en que mi Google Car me diga "No Fabio, mejor no pises ese restaurante, tiene mala fama, más de uno se ha indigestado" y lo borra de mis preferencias, lo elimina, ya no lo sugiere más porque no está pagando su cuotita de Adwords a Google.

Estoy usando un ejemplo extremo por absurdo pero notarán que no es del todo descabellado, es totalmente plausible, es algo que HOY puede suceder y hasta puedo asegurarles que ya sucede de una forma algo más pasiva.
Si uno no tiene su comercio cargado en Google, si uno no pauta, y para colmo si el SEO es un problema, una búsqueda ya no te dará como resultado ese lugar que tanto necesitás sino que aparecerá aquél que HOY ya tiene pauta e hizo la tarea de SEO (aunque esta no te sirva porque ni siquiera te de lo que querías).
Los resultados de Google son hoy un desastre y ¿Por qué vendría a ser mejor en un vehículo? Hace tiempo que Google abandonó el "don't do evil", Facebook es mucho peor ya que desde el vamos Mark Zuckerberg se cagó en todos sus usuarios y se mofó de ellos, sin embargo tiene la red social más grande y bestial del mundo además de las otras dos que le siguen (Whatsapp e Instagram).
Facebook es el ejemplo perfecto de la más absoluta falta de ética posible, no tienen ningún descaro, te inflan views de videos robados de otras fuentes, te mienten con las estadísticas, roban información y la cruzan entre las tres apps aun cuando no diste tu consentimiento, todo por más y más publicidad. Nunca vas a ver una publicidad de algo que realmente necesites.
Este es el costo de haber recibido tanto de forma gratuita, es que cuando la app es grautita en realidad estás pagando con tu vida, tu privacidad, tus datos, tu todo.
Ah, aclaro antes que nada: está lleno de profetas del "buenaondismo" del futuro, basta señores, amo la tecnología, soy un tecnócrata, pero la tecnología no es un fin, es un medio como mucho, y a veces la usamos mal. El "buenaondismo" que asume que todo lo que viene asociado a la tecnología es bueno por sí mismo es de un nivel intelectual bajísimo más asociado a la religión, la fe y la fantasía. Un poquito de oscuridad racional siempre viene bien :D

Pero avancemos un poco más, la necesidad de una regulación es más importante hoy que nunca, principalmente ANTES de que estas grandes compañías se apropien de las legislaturas de todo el mundo (presupuesto ya tienen) e impongan sus propios códigos de ética. Es la sociedad la que se los debe imponer.
En Alemania se estan adelantando un poco a esto con este documento de la comisión de ética del gobierno federal alemán. La idea es generar un marco por el cual se tengan que mover y no que hagan lo que quieran y que luego las leyes se adapten a un software. Al revés, como debe ser, el software para asistir al humano, no para gobernarlo.
Lo interesante de este documento es no sólo la definición de reglas claras y principios de responsabilidad que siempre se discuten, como quién es el responsable en caso de accidente, sino que prevee un último punto que trata justo sobre lo que estaba escribiendo:
Permitted business models that avail themselves of the data that are generated by automated and connected driving and that are significant or insignificant to vehicle control come up against their limitations in the autonomy and data sovereignty of road users. It is the vehicle keepers and vehicle users who decide whether their vehicle data that are generated are to be forwarded and used. The voluntary nature of such data disclosure presupposes the existence of serious alternatives and practicability. Action should be taken at an early stage to counter a normative force of the factual, such as that prevailing in the case of data access by the operators of search engines or social networks.

Sólo uno de quince pero claramente (los alemanes son de cuidarse mucho con esto) a alguno no se le escapó el mal uso que hacen los desarrolladores de software de los datos en la era de la pérdida absoluta de privacidad (en la mayoría del territorio alemán no hay Google Street View, por ejemplo).
Porque en un punto está bien que te preocupe quién será reponsable por la vida y la muerte en una herramienta que fácilmente se puede transformar en una máquina de matar. Suelo utilizar la definición del martillo como ejemplo, no es el martillo una herramienta ideada para matar pero si uno le parte la cabeza a alguien con uno, se puede usar para ello.
En el mundo muere mucha más gente por accidentes de tránsito que por martillazos (o eso espero!) así que si bien la herramienta no está inventada para ello es un riesgo muy alto. No sólo eso, en este código de ética se incorporan las previsiones para que el sistema autónomo tome decisiones cruciales que pueden derivar en la muerte de alguien cuando es inevitable.
Para concluír, es obvio que nos estamos enfrentando a un nuevo reto y una nueva tecnología que en los próximos años va a regir nuestras vidas. Okey, somos tercermundistas y los últimos que veremos la pérdida de control por razones meramente económicas, no porque no querramos o no estemos "entregados". Ya lo hicimos con los teléfonos y nuestras PCs, nada nos va a impedir inmolarnos con los automóviles una vez más :D