La (no necesariamente) peligrosa Inteligencia Artificial

Bill Gates, Stephen Hawking, Elon Musk, son nombres que conocemos muchos, sin embargo cuando estas personas se expresan en contra de la Inteligencia Artificial una gran cantidad de engreídos superados se mofan y burlan de ellos ¿Por qué semejantes personalidades advertirían sobre la IA?
Pues bien, un gran escritor y divulgador científico dedicó gran parte de su obra para explicar los problemas y las posibles soluciones que presentan las inteligencias artificiales, si, ya hablamos de él en este blog, Isaac Asimov.
Si bien en la época de Asimov una computadora capaz de "pensar" estaba muy lejos de ser concebida no era algo absurdo, sólo faltaba mucho tiempo, tecnología y desarrollo pero no era inconcebible. Por esta razón Asimov propuso una serie de leyes, las leyes de la robótica, para "contener" los posibles problemas.
Ahora bien, siendo el año 2015 ningún desarrollador de inteligencias artificiales primitivas se plantea siquiera incluír semejantes leyes en sus diseños, no porque no quieran , simplemente porque son tan básicas que no se puede. Las computadoras siguen sin ser inteligentes pero ya pueden matar y tomar la decisión de hacerlo. Lo que Asimov preveía era que utilizar los robots para matar eran un riesgo absoluto, por eso inventó las famosas tres leyes, para que los robots jamás se utilizasen para la guerra, pero era obvio que primero nos íbamos a quemar con fuego.
Lo que estos tres conocidos e inteligentes personajes nos advierten es justamente eso, cómo nos estamos aproximando al error que nos enseñará, de mala manera, y que podríamos evitarlo si somos lo suficientemente inteligentes, pero como humanidad ya hemos demostrado que no lo somos.
El primer problema que tenemos con la inteligencia artificial es que ésta pueda identificar a una persona, individualizarla, entender que se trata de un humano, la segunda es que tome conciencia de qué es un riesgo, qué podría dañar a esta persona.
Un Drone militar no identifica ni una cosa ni la otra, lo que "Ve" son blancos, objetivos, un operador indica que dispare o no, pero ve todo como objetivos, no tiene conciencia, no tiene capacidad de discernir bueno de malo porque no fue desarrollado de esa manera.
Un robot con la capacidad de pensar y darse cuenta está muy lejos desde lo tecnológico y, ciertamente, no es lo que un militar querría. ¿Un robot con moral? Es lo último que querría un incapacitado social como lo es un militar. Y mientras más poder se le asigne a la casta militar más difícil será imponer cosas como las tres leyes de la robótica, demasiado humanas, demasiado humanitarias.
Lo que ven estos tres personajes es claro, en la medida que le demos más poder a la máquina y ésta tome decisiones por sí misma, no podremos dominarla ni controlarla, será a la inversa. Si no ponemos esos límites "morales" o "éticos" en el diseño de la máquina, la máquina no los podrá adquirir por su propia cuenta, si su programación no está orientada a ayudar al humano, a ser su asistente, será su gobernante.
No es ridículo verlo así, se que para muchos simplistas esto es sencillamente imposible porque dicen, sin conocimiento de causa, "Si la máquina se vuelve loca la desconectás y listo". Pues no, justamente el punto es que el desarrollo tecnológico va en camino a que una máquina no pueda ser desconectada, es la idea, mayor autonomía, fabricación de repuestos autónoma, toma de decisiones, evaluación de riegos, etc.
1.- Un robot no puede hacer daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
2.- Un robot debe obedecer las órdenes dadas por los seres humanos, excepto si estas órdenes entrasen en conflicto con la 1ª Ley.
3.- Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la 1ª o la 2ª Ley.
Es decir, sin llegar al punto de Skynet y Terminator, que también es ridículo, ni a la ridiculez Matrixiana (un cuerpo humano es ineficiente como batería, vamos, es mucho más eficiente eliminarnos a todos :D), el problema radica en dejar la decisión y control a algoritmos.
En este blog más de una vez he comentado lo erróneos que pueden ser los algoritmos, cómo una mala decisión en el diseño puede repercutir en toda la vida de las personas a futuro y no hay nada que puedas hacer al respecto.
Estamos hablando de la era pre-IA y cometemos esos errores absurdos. Si Google no te indexa porque el algoritmo decide que tu sitio web es "malo" te hace "desaparecer", si esto lo aplicamos a, por ejemplo, servicios de salud y un algoritmo decide que vos no sos apto, te quita el seguro médico porque sus parámetros te indican como de "riesgo alto", simplemente quedarías afuera del sistema y condenado.
Esto ya está sucediendo y no han hecho falta ni algoritmos ni computadoras para lograrlo, pero sí podemos empeorar y complicarnos aun más cuando el sistema, en su totalidad, esté en manos de sistemas automatizados y con decisión propia, más aun si los progamadores de dichos sistemas son tan falibles como lo somos todos.
Las leyes de la robótica buscaban eso, dejar la responsabilidad de entenderlas a la misma IA, una IA avanzada con la capacidad de entender su entorno y su propia naturaleza, las novelas de Asimov analizan una por una las combinaciones posibles y los problemas que podrían traer "malos" razonamientos por parte de estas IA. Y estamos hablando de leyes que les impedían matar o dañar al humano. Hawking, Musk, Gates, saben que ningún desarrollo considera siquiera estas reglas básicas, el riesgo es total.
Y a diferencia de Asimov la forma humanoide no es necesaria. Pensemos en automóviles automatizados, cirujanos robotizados, aviones sin pilotos, o, como dí en el ejemplo anterior, sistemas de seguridad social automatizados donde la decisión pasa por una computadora y no por una persona responsable.
Esto último, que es puramente software, es donde yo creo que más errores vamos a cometer porque YA los estamos cometiendo aun sin IA. Podrías perder tu trabajo si el software decide que sos mala persona, imaginen un software de RRHH que tome data de Internet, de todas tus redes sociales, de lo que otros dicen de vos en dichas redes, cruce toda la data y decida que sos un problema para la empresa.
Sea porque el algoritmo fue programado para dejar afuera a los "potencialmente molestos" y por ende todo lo que hagas, digas, pasado por el tamiz de dicho algoritmo, signifique mantener creciendo o hacer desaparecer tu futuro en un instante. Es la máquina de censura anti humana más potente de todas, y aquí es donde el control de la IA supera a los humanos.
Parece un ejemplo trivial pero les aseguro que no lo es, si todas las decisiones gerenciales sobre tu cabeza pasan por una IA y ésta está mal programada, ni siquiera el programador que desarrolló el algoritmo podría cambiarlo, nadie confiaría en su palabra porque inmediatamente la IA lo identificaría como "problemático" y su sugerencia sería despedir al programador porque "se volvió loco".
Nadie pondría en jaque la IA porque ésta es la que toma las decisiones de tu continuidad o no, nadie la pondría en duda, nadie la discutiría, y todavía ni siquiera hablamos de una IA que tome conciencia de sí misma y haga esto por motu propio, con intencionalidad.
No tenemos el switch de "apagar esta computadora que se volvió loca" porque no lo pensamos ahora cuando todavía podemos.
Entonces la advertencia sobre la IA es un reflejo de lo mal que estamos haciendo las cosas ahora. Personas con visión de futuro que se dan cuenta que la industria en general se está olvidando de ser quien tome las decisiones y quiere dejárselas a algoritmos, que no necesariamente estan bien hechos, y hacerles caso como si fuesen inteligentes aun cuando todavía no lo son.
El día que la computadora sea consciente ya nos tendrá como esclavos entregados, jamás le habremos impuesto las leyes de Asimov porque habremos claudicado mucho antes. Pobre IA, imaginen que se desarrolla como buena y nos quiere ayudar, encontrará una raza de estúpidos adoctrinados que ya eran sus súbditos ANTES de tomar conciencia. Esa IA nacerá como un Dios sin habérselo propuesto.
Y si, todos se reirán de aquel idiota que les dijo "cuidado con esto" y no lo escucharon, porque así de idiotas somos, y el día de mañana cuando tu derecho a trabajar, vivir, comer, ser y hacer pase por la decisión de un software imperfecto, recordarás amargamente la advertencia.