Zientzia Kultura: Inteligencia Artificial

Reflexiones personales sobre la IA

Fuente: https://pixabay.com/es/illustrations/inteligencia-artificial-cerebro-3382507/

A pesar de lo que pueda parecer, la IA no es un concepto ni mucho menos reciente. Una primera referencia la podemos encontrar hace ya unas décadas, en 1956, en Dartmouth, Hanover (EEUU). Uno de los investigadores presentes en la reunión de Dartmouth, Marvin Minsky, definió la IA como

“…la ciencia que crea máquinas que hacen cosas que, si fueran hechas por un ser humano, diríamos que este humano es inteligente…”

Pero incluso antes Alan Turing ya realizó algunos proyectos relacionados con IA a principios del siglo pasado y la prueba que lleva su nombre ha sido considerada una referencia para considerar una máquina como inteligente.

Otra definición de IA interesante, y tal vez más completa, es la del Grupo Europeo de Ética de la Ciencia y de las Nuevas Tecnologías de la Comisión Europea, define la IA como:

«sistemas de software (y posiblemente también de hardware) diseñados por seres humanos que, dado un objetivo complejo, actúan en la dimensión física o digital percibiendo su entorno mediante la adquisición de datos, interpretando los [datos…] recopilados, razonando sobre el conocimiento o procesando la información derivada de estos datos y decidiendo cuáles son las mejores medidas que hay que tomar para alcanzar un objetivo determinado. Los sistemas de IA pueden utilizar reglas simbólicas o aprender un modelo numérico y también pueden adaptar su conducta analizando el impacto de sus acciones anteriores sobre el entorno»

De la definición previa podemos identificar varios aspectos interesantes y que a la vez nos plantean también algunas de las principales dudas sobre la IA:

• Está diseñada por personas
• Recoge datos del entorno y los recopila
• Analiza e interpreta estos datos
• Aporta resultados a la soluciòn de un problema
• Aprende de los resultados
• Toma nuevas decisiones

A poco que pensemos sobre ello, nos damos cuenta que hay varias cuestiones que nos impactan directamente y no están del todo claras: quién diseña la IA, con qué fin, qué datos se recogen, bajo qué reglas de privacidad se almacenan y cómo se analizan, qué algoritmos dan los resultados, qué capacidad de aprendizaje y de desarrollar autonomía de decisión tiene la IA.

Por otro lado, tras décadas de reflexión tampoco está muy claro qué queremos decir cuando hablamos de inteligencia dentro de la IA. ¿Es el mismo concepto que la inteligencia humana o simplemente nos referimos a algunas capacidades de las máquinas para realizar tareas que nos parecen sorprendentes? El hecho práctico es que para el desarrollo la IA se intentan trasladar los procesos bio-fisiológicos de la inteligencia humana a procesos descriptibles, detallados y lo suficientemente sencillos para que puedan ser definidos como elementos y algoritmos de computación y transformados en redes neuronales.

En todo caso, aun estando de acuerdo en que ése es el objetivo, creo que es necesario tener en cuenta un problema evidente, incluso en nuestra especie los mismos elementos básicos comunes a todas las personas, neuronas, sinapsis y neurotransmisores, dan lugar a un número inmenso de “inteligencias” diferentes y de hecho, creo que no es posible hablar de “una” inteligencia humana. En un abanico de resultados la inteligencia humana ha dado lugar a genios y a asesinos. ¿Por cuál de los caminos se desarrollará la IA una vez se controlen todas las piezas básicas? Parece evidente que hay algo más que los componentes o que la simple descripción de los procesos para conseguir el resultado deseado.

Parece importante definir qué fin queremos conseguir, sobre qué aplicaciones, con qué tecnología, a qué coste. Estas y otras reflexiones previas deberían determinar nuestra posición frente a la IA. Seguramente no opinamos igual cuando sus desarrollos se aplican a campos tan diversos como la medicina, la energía, los procesos de fabricación o la guerra. Tampoco la valoraremos igual si simplemente observamos la IA a distancia o si trasciende a nuestra vida diaria a través de electrodomésticos, vehículos, televisiones o nuestros teléfonos móviles y sus asistentes virtuales. Tampoco será lo mismo si simplemente nos acompaña en todos estos ámbitos para hacernos la vida más fácil o si la IA afecta a nuestras decisiones o incluso las toma de forma autónoma por nosotros.

Es indudable que su desarrollo está aportando importantes mejoras en el campo tecnológico, en seguridad, control de procesos, etc. pero los riesgos para nuestra sociedad se deben plantear y discutir abiertamente. Ya no estamos hablando de una distopía cinematográfica sobre ciencia-ficción en la que conviven humanos con cyborgs sino de cuestiones más cercanas sobre las decisiones que unas personas toman sobre otras basadas en algoritmos de análisis de datos, que van aprendiendo con la experiencia y llegan a tomar decisiones de forma autónoma.

Ejemplos relativamente inocuos, a los que ya nos hemos acostumbrado, son las recomendaciones de música y películas que realizan las plataformas de streaming por nosotros sin ser conscientes no ya de por qué nos propone lo que nos enseña sino por qué descarta lo que no nos muestra. O las decisiones de un coche autónomo basadas en algoritmos que desconocemos cómo prioriza sus decisiones en caso de accidente o los sistemas de selección de personal que aceptan o discriminan a personas utilizando también algoritmos de decisión que desconocemos.

El uso de la IA para el bien o para el mal de las personas no deja de ser el dilema eterno de la tecnología buena o mala. En el caso de la IA creo que este dilema se centra en la capacidad de decisión, la autonomía para actuar incluso en contra de las personas. La frontera del libre albedrío, es algo que está por encima de la propia IA, una frontera que incluso si somos capaces de traspasar tal vez no deberíamos hacerlo. En este punto de la reflexión no se nos escapa que es necesario un marco ético de trabajo que defina lo bueno y lo malo desde una perspectiva de valores de la humanidad.

La profesora Virginia Dignum, en su trabajo Ethics in artificial intelligence: introduction to the special issue distingue tres dimensiones de la ética de la IA: el «ética por diseño», el «ética en el diseño» y el «ética para el diseño» y nos permite percibir lo complejo de la ética y los valores en el desarrollo de la IA. Actualmente es nuestra vida en sociedad la que establece las reglas, pero cómo y quién va a establecerlas con la extensión de los sistemas de IA.

No parece que exista ningún problema en que desarrollemos sistemas inteligentes que consigan ganar en una partida de go o en una de ajedrez. Simplemente es un ejemplo de lo que somos capaces de hacer con nuestra inteligencia y un poco de tecnología. Incluso estamos encantados que un sistema como Watson de IBM nos ayude en el diagnóstico y tratamiento de nuestras enfermedades o que un robot llamado Da Vinci hurgue en nuestras entrañas con un bisturí bien afilado.

Pero sí debemos preocuparnos cuando estos sistemas se utilizan para detectarnos, para perseguirnos, para convencernos de lo imposible, para modificar nuestras conductas engañados por una realidad irreal gracias a los grandes desarrollos de la IA. Cuando se utilizan para la clasificación de personas, la segregación por edad, sexo, procedencia, rasgos físicos…pero aún es más peligrosa la IA utilizada para el análisis de los más íntimo de nuestra definición como individuos, el análisis de nuestro propio genoma, nuestro software biológico, y que una IA, tras este análisis y estudio de millones y millones de datos genéticos, decida sobre nuestras vidas y nuestras capacidades.

La IA aprende y toma decisiones, pero el mecanismo de toma de decisiones de las personas no es sencillo, en muchas ocasiones y sobre todo tratándose de decisiones complejas, como humanos tenemos dudas, cotejamos opiniones diferentes, analizamos datos pero sobre todo analizamos contextos sociales y valores. Tomar decisiones nos cuesta, no es siempre fácil y tal vez la IA simplifica este proceso excesivamente.

No es sencillo saber a ciencia cierta lo que nos espera de la mano de la IA. Un ejemplo extremo de su aplicación en nuestra vida diaria es la conversión de las ciudades tradicionales en “ciudades inteligentes” un proceso progresivo, pausado de décadas de evolución, sólo pendiente del desarrollo de las redes de datos imprescindibles, del Internet de las cosas, de la confirmación de algunos avances tecnológicos. Para vislumbrar este escenario hay algunos especialistas en ver el futuro. Uno de ellos es Liam Young, merece la pena ver pausadamente, con tiempo para la reflexión, sus creaciones sobre las ciudades del futuro. Un futuro tecnológico en el que la ciudad ha dejado de ser un espacio donde habitamos y convivimos para convertirse en un gran dispositivo interactivo que se nutre de la información que nosotros generamos y a la vez se comunica con nosotros...y nos controla.

Vehículos autónomos, sistemas de videovigilancia, big data, inteligencia artificial, IoT, realidad virtual, realidad aumentada, reconocimiento facial continuado, son todos elementos que ya existen, con los que convivimos, pero en la visión de futuro de Liam Young se convierten en elementos tan omnipresentes que nos obligan a redefinir buena parte de nuestra vida. Imaginar cómo serán los entornos urbanos del mañana puede ayudarnos a reflexionar sobre el potencial y los desafíos de estos nuevos modelos, y a entender y gestionar no solo los cambios que ya forman parte de nuestra cotidianidad sino aquellos que aún están por venir.

Dejo a continuación el enlace al inquietante corto de Liam Young “In the Robot Skies” Se trata de la primera narración del mundo filmada íntegramente a través de drones autónomos. En una torre de viviendas sociales en Londres, una red de drones de vigilancia controla a sus habitantes. En esta ciudad del futuro cercano, los drones se convierten en agentes de vigilancia policial pero los drones son también de uso común entre los habitantes de esta ciudad y facilitan la relación entre dos adolescentes, los protagonistas del corto, que quieren escapar al férreo control policial que los mantiene presos en sus propias viviendas.

¿Será esto lo que nos espera? Lo cierto es que la IA ha adquirido ya una magnitud tan importante, que es imposible que su diseño, desarrollo e implantación se quede en un debate entre las comunidades tecnológicas o científicas dentro de sus laboratorios. Es necesario que el debate traspase esos muros para salir a la calle, para que sea discutido por la sociedad que sea la sociedad quien establezca la escala de valores, la ética los límites que queremos marcar a la IA.

La IA sin duda puede sustituir al ser humano en muchas áreas de nuestra vida, puede superar la capacidad de cada uno de los sentidos, tener una visión más aguda, un oído más sensible, una movilidad más precisa, un gusto y un olfato perfectos, en todos estos campos será posible desarrollar IA que supere nuestras capacidades, pero en ninguno de ellos será capaz de celebrar y disfrutar del sentimiento de placer de su victoria y ni siquiera atisbar nuestro sentimiento de amargura por la derrota.

P.D. Tormenta de preguntas ¿sin respuesta?

¿Para qué queremos más IA?, ¿La necesitamos? ¿En qué nos beneficia? ¿Nos hacen más libres o más felices o más independientes? ¿o por el contrario nos estresa y nos hace más serviles, nos lleva a una vida triste de sumisión a la tecnología?¿En el momento que los sistemas de IA dirijan nuestra existencia seremos capaces de prescindir de ellos? ¿Qué datos damos a un algoritmo para entrenarle en su proceso de aprendizaje? ¿Son datos sesgados? ¿Generan equidad o la incrementan a la vez que con sus resultados incrementan las desigualdades sociales? ¿Importan los valores en el desarrollo de esta tecnología? ¿Decidirá por nosotros? ¿quién será responsable de las decisiones incorrectas? ¿Serán modelos de decisión revisables? ¿Por quién? ¿Bajo qué criterios? ¿Qué modelos de sociedad se plantearán? ¿Una vez más el modelo hombre, blanco, joven, europeo de clase media? ¿Reconocerá y se adaptará a las decenas de tipos diferentes de sociedades? ¿Aceptará el trato diferente para las personas según su edad, etnia, creencias religiosas o filosóficas? ¿Dependerá nuestro trabajo, nuestra familia, nuestro desarrollo como personas de un sistema inteligente que tome decisiones por nosotros?¿Los algoritmos regirán sus decisiones por las decisiones de las mayorías? en qué lugar quedan las partes minoritarias de la sociedad? ¿Se adaptarán, serán discriminadas? ¿desaparecerán?¿Qué posición tomará nuestra máquina de IA cuando discutamos con ella? ¿Será de derechas? ¿será de izquierdas? ¿se comprometerá socialmente? ¿Influirá en nuestras decisiones para que pensemos de una u otra manera?¿En qué lugar de nuestra escala social pondremos a nuestra máquina de IA? ¿Será nuestro referente por encima de nuestros ascendientes? ¿Será un referente mayor que nosotros mismos para nuestros descendientes? ¿Sustituirá a la familia, a las amistades?¿Tenemos resuelto el impacto del coste en energía, de la capacidad de almacenar datos, de los sistemas que tienen que ponerse en marcha para que todo esto funcione?