ÉTICA Y BIG DATA

El mundo cambia a velocidad fulgurante y los principios y normas morales se ven actualizados por la fuerza de los hechos. Los usuarios nos desnudamos en las redes y las compañías de Inteligencia Artificial (IA) y Big Data extraen provechosas ganancias de nuestra impudicia. Sin normas, en el territorio del más fuerte, las preguntas se acumulan.

¿Por qué nos desnudamos públicamente en las redes? Quizá esta sea la pregunta de base. Imagina una reunión de amigos en la que uno tras otro, os ponéis a contaros vuestros secretos. Es probable que la mayoría sea reticente a hacerlo y solo alguno hablaría de su intimidad sin tapujos. El caso es que en las redes sociales, son millones de personas las que cuentan detalles íntimos o cuando menos personales y emiten opiniones orgullosos de hacerlo sin medir las consecuencias. Haz una prueba: elige a un conocido o una conocida. Busca en la red por su nombre. Tómate un poco de tiempo. Es probable que acabes sabiendo su edad, estudios, trabajo, familia, amigos, aficiones… Si tú puedes hacer esto, imagina lo que serán capaces de hacer las empresas o gobiernos.

No siempre ponemos nuestros datos a disposición de todo el mundo, pero prácticamente todos nosotros entregamos datos sensibles a las compañías tecnológicas, típicamente Google o Facebook. ¿Por qué lo hacemos? La respuesta es la gratuidad del servicio que nos ofrecen. Pero, ¿es de verdad el servicio gratuito? Google y Facebook viven de la publicidad. Se han convertido en un monopolio del marketing. Miles de empresas pagan millones de euros a ambas para hacer campañas publicitarias. Y esto ocurre porque tienen tus datos. Tus datos valen dinero y los datos agregados de todos los usuarios valen millones de euros.

¿Lo saben todo de ti? Obviamente no, pero saben lo suficiente para extraer valor de tu presencia en las redes. La realidad es que saben mucho. Mira tu cronología de Google. Si has permitido rastrear tu ubicación, esta empresa sabe dónde has estado en cada momento de tu vida desde que les permitiste husmear en tu vida. No es poco. Además las empresas tecnológicas saben cuáles son tus preferencias, qué compras y qué opinión política tienes.

Los algoritmos tienen importantes problemas desde el punto de vista ético. Si queremos que sean realmente útiles y eficaces, deben aprender por sí mismos; la supervisión humana genera ineficiencia. Y si aprenden solos, ¿cómo controlar lo que aprenden?

El escándalo de Cambridge Analytica demostró lo vulnerable que es nuestra privacidad. Todo comenzó por un simple test de personalidad. Responde a unas preguntas y te diremos cómo eres. Con estas preguntas y la información de Facebook, se infirieron los perfiles psicológicos de los usuarios. Más de 250.000 usuarios contestaron a este test, pero además se pidió permiso para acceder la información de la red de amigos sin permiso de estos. Como resultado, la empresa obtuvo información de más de cincuenta millones de usuarios. Lo siguiente fue enviar información selectiva y fake news para influir en el comportamiento de los usuarios en las elecciones. Si estás indeciso, te animan a cambiar y si estás convencido, te anima a quedarte en casa y no votar. El escándalo fue mayúsculo.

Los medios de recoger información pueden ser otros como los del caso Snowden. Este informático demostró cómo las agencias americanas usaban los metadatos (y a veces los datos) para elaborar una valiosa información. Cuando hablas por teléfono, aparte de la conversación en sí, se registran otros datos. Cuándo llamaste, a quién llamaste, cuánto duró la llamada, dónde estabais tú y tu interlocutor, cuántas veces hablasteis. Como te imaginas, más que suficiente para hacerse una muy buena idea de tu vida, aunque el contenido de las conversaciones permanezca privado. El poder de los metadatos es gigantesco.

El poder de los algoritmos

Las compañías tecnológicas y los gobiernos tienen mucha información sobre ti. Y la usan. Permanentemente te están llegando noticias a través de los medios tecnológicos que usas. ¿Qué noticias? Las que seleccionan los algoritmos para ti. Se supone que es bueno que no te lleguen noticias de pañales si tienes cincuenta años y que la publicidad bien segmentada es buena. Pero lo cierto es que el poder de los algoritmos es enorme. Igualmente los de recomendación. Esto lleva al llamado determinismo algorítmico: solo leo lo que quiero leer o lo que las empresas quieren que lea. Para salirme del bucle debe realizar un esfuerzo deliberado de lucha contra el algoritmo. Si me dejo llevar siempre recibiré las noticias políticas de determinada ideología, escucharé la misma música, compraré el mismo tipo de ropa y leeré las mismas novelas. Esta selección ¿es censura?

Los algoritmos tienen importantes problemas desde el punto de vista ético. Si queremos que sean realmente útiles y eficaces, deben aprender por sí mismos; la supervisión humana genera ineficiencia. Y si aprenden solos, ¿cómo controlar lo que aprenden? Los algoritmos tienden a seguir los sesgos de los datos que se les presentan y los datos se corresponden con realidades con las que no estamos conformes. Así, es común que los algoritmos aprendan a ser clasistas, sexistas y racistas. Pero lo peor es que es difícil corregirlos ya que no sabemos cómo funcionan. Conocemos el mecanismo por el que realizan su función ya que los hemos programado, pero dado que usan millones de datos y estos alteran su estado, lo cierto es que no podemos explicar por qué toman sus decisiones. Los algoritmos no pueden seguir siendo una caja negra, es esencial que tengan mecanismos de explicación de su actuación.

¿Tenemos derecho a la rectificación? Si los algoritmos trabajan de forma que nos incomode como ciudadanos, ¿podemos solicitar a las empresas que cambien su comportamiento? Y si los datos que existen en la red no nos gustan, ¿tenemos derecho al olvido? ¿Nos perseguirá siempre el comentario inapropiado o la foto desafortunada que subimos? ¿A quién recurrimos?

¿Deben ser los gobiernos proactivos en la defensa de los ciudadanos o es un acuerdo entre usuario y empresa en la que los gobiernos no deben actuar? Lo cierto es que la Unión Europea ha promulgado el Reglamento General de Protección de Datos GDPR 1. La regulación remodela fundamentalmente la forma en que los datos se manejan en todos los sectores, desde la atención médica hasta la banca.

¿Es el GDPR suficiente? Parece obvio que no. Los datos son la materia prima de la era de la información y su comercio es muy lucrativo. Estos datos alimentan las inteligencias artificiales que determinan en buena medida qué hacemos, qué compramos o a dónde vamos de vacaciones. Está claro que dejar el control de los algoritmos a las empresas que los crean es como dejar al zorro vigilando a las gallinas.

Ciberseguridad, robótica y IA

Además del control del comercio de datos existe otro enorme problema: la ciberseguridad. Por diversión, por curiosidad intelectual, por maldad, por dinero o por motivos políticos y estratégicos, miles de expertos informáticos del mundo se dedican a reventar los sistemas de seguridad de las empresas, gobiernos y usuarios. Las implicaciones son gigantescas, desde amenazas militares hasta simples ordenadores de usuarios que se infectan con virus y dejan de funcionar. Dada la complejidad de la interconexión mundial, el campo de batalla es idóneo y la lucha no parece tener fin.

En 2017, el Parlamento Europeo realizó un Informe con destino a la Comisión para que esta legisle sobre robótica, IA y sociedad. El informe es exhaustivo y recoge muchas de las preocupaciones que la robótica y la inteligencia artificial despiertan en la sociedad. A la par que enumera las ventajas de los sistemas inteligentes en una sociedad envejecida y recomienda no entorpecer la innovación en este ámbito, también se hace cargo de que “el desarrollo de máquinas inteligentes y autónomas, con capacidad de ser entrenadas para pensar y tomar decisiones de manera independiente, no solo implica ventajas económicas, sino también distintas preocupaciones relativas a sus efectos directos e indirectos en el conjunto de la sociedad”.

El vertiginoso avance de las tecnologías de la información nos obliga a mirar el futuro con un poco de sosiego, definir los problemas éticos a los que nos enfrentamos y crear unas normas de actuación que ahora no existen

Respecto de los robots (aunque los robots llaman más la atención, deberíamos de hablar de software inteligente) las preguntas se acumulan. ¿Tendrán derechos los robots? ¿Podrían adquirir algún estatus humano los robots? ¿A quién son imputables las decisiones de los robots? ¿Se deben o no crear vínculos emocionales con los robots?

Pero la mayor preocupación es la incidencia de la automatización en el mercado de trabajo. ¿Nos quitarán los robots el trabajo? ¿Quién cotizará a la seguridad social? ¿Cómo pagaremos las jubilaciones y el desempleo? ¿Cómo hacemos frente a la desigualdad que generan los robots en la distribución de la riqueza y el poder? ¿Deberíamos someter a los robots a un impuesto o un gravamen por su uso?

La irrupción de las tecnologías de la información ha supuesto un enorme avance en la calidad de vida de los ciudadanos del mundo. Vivimos más y mejor gracias a la tecnología. Pero este vertiginoso avance nos obliga a mirar el futuro con un poco de sosiego, definir los problemas éticos a los que nos enfrentamos y crear unas normas de actuación que ahora no existen. No tenemos mucho tiempo.

Artículo publicado originalmente en Telos

Pocos elementos forman sistemas complejos en el mundo físico, biológico o digital

Cuando observamos el mundo físico que nos rodea, nos maravillamos de su extrema variedad y complejidad. Al examinar el mundo vivo no deja de sorprendernos la riqueza de animales y plantas que encontramos por doquier. Sería iluso pretender leer los libros que se han escrito en la historia. La música ofrece una enorme repertorio de temas que escuchar. Y el mundo digital sorprende por la desbordante cantidad de contenidos que nos presenta. Pero todos estos complejos mundos tienen algo en común: están compuestos por una pequeña cantidad de elementos combinados en gigantescos números.

Apenas unas decenas de partículas subatómicas forman todos los átomos que conocemos. Poco más de un centenar de átomos constituyen el universo. Muy pocas partes se conjugan en combinaciones cada vez más complejas hasta constituir el mundo que habitamos.

La vida está formada por combinaciones de elementos inanimados cuya interacción produce un fenómeno emergente que llamamos vida. El genoma está compuesto por tan solo cuatro letras, las bases nitrogenadas que lo forman. El genoma humano tiene 3.200 millones de parejas de estas bases. Solo cuatro elementos repetidos millones de veces constituyen la información para crear un ser humano. Estas cuatro bases generan unos compuestos llamados aminoácidos. Solo 20 aminoácidos crean varios cientos de miles de proteínas, las moléculas de las que estamos formados. A su vez solo 20.000 genes gobiernan (junto con el ambiente) el destino de los billones de células que forman un ser humano. De los 23 parejas de cromosomas, la mitad vienen del padre y la mitad de la madre. Combinados al azar, supone que cada uno de nosotros puede pasar a nuestros hijos más de 8 millones de combinaciones distintas. Lo cual es poco para explicar la variedad de humanos diferentes. En una fase de la reproducción celular que forma espermatozoides y óvulos, los cromosomas se entrecruzan dando lugar a un número extraordinario que sí explica la variedad humana.

¿Qué podemos decir del cerebro que con tan solo un elemento constituyente, la neurona (aunque hay de varios tipos) forma una red inteligente? Es más, los humanos diferimos de los simios más próximos en el número de neuronas. Por lo demás no somos muy distintos. Pero nuestro cerebro es tres veces mayor que el de los chimpancés (0,5 litros frente a 1,5) y ello provoca fenómenos emergentes como la inteligencia superior y el lenguaje simbólico.

El lenguaje es una herramienta maravillosa. Mediante su uso podemos comunicar un número ilimitado de mensajes. Sin embargo, todos los lenguajes humanos se componen de poco más de una veintena de elementos constitutivos, los fonemas (sonidos) o su variante escrita, las letras. Esta reflexión llevó al genial Jorge Luis Borges a escribir su famoso cuento La Biblioteca de Babel en la que todos los libros posibles de un número determinado de letras existen para regocijo de unos y desesperación de otros.

La música universal es increíblemente variada y cada pieza suena distinta del resto. Sin embargo, la música está constituida por un número limitado de componentes, las notas. Tan solo 12 (en la música occidental). Incluso, dentro de ella tenemos preferencia por solo unas pocas combinaciones: las escalas musicales. Y tampoco estas se mezclan de cualquier manera. La música popular actual (cualquiera que sea el género) apenas usa unas pocas escalas y estas son bastante predecibles. No obstante, la combinación es suficiente para que ninguna pieza sea igual a otra.

Pero si hay un ejemplo de pocos elementos en grandes combinaciones, este es el mundo digital. Todo el mundo digital sin excepción está compuesto de combinaciones de un elemento, el bit, con dos valores, 0 y 1. Podríamos haber construido ordenadores basados en un sistema de 10 valores o cualquier otro número, pero los ordenadores serían más complejos e ineficientes. La biblioteca digital es una exorbitante combinación de tan solo dos valores.

El asunto no es menor e involucra a muchas ciencias y a la propia filosofía. Propiedades emergentes, sistemas complejos o sistemas caóticos son algunos de los términos que se utilizan para comprender una realidad que tiene una característica: el mundo es complejo, pero está formado por pocos elementos distintos.

Cuidado con lo que escribes, te vigilan

Siempre has sido parte de las estadísticas. De los bajos o de los altos, de los que compran o de los que no. Ahora que te manifiestas en la red, que escribes en Twitter o en Facebook, muchas organizaciones saben más de ti. Los sistemas automáticos comienzan a extraer conclusiones de tu rastro en la red. Como en un nuevo estudio en el que se correlaciona la tendencia psicopática con determinados rasgos de Twitter.

Un análisis de cómo escribes en Twitter puede revelar si eres narcisista, maquiavélico o psicópata, de acuerdo con una investigación reciente. Algunos de los rasgos definitorios son: maldiciones, respuestas enojadas a otras personas incluyendo insultos y la palabra “odio”, el uso de la palabra “nosotros” en lugar de “yo”, el uso de puntos o el uso de palabras de relleno como bla, bla o ummm.

El autor del estudio, Chris Sumner piensa que

El FBI puede usarlo para señalar a los posibles infractores, pero creo que es mucho más útil para que los psicólogos lo usen para comprender a los grandes grupos de personas

El estudio es una respuesta a otro similar llamado “Hambriento como un lobo: un análisis de los patrones de palabras en el lenguaje de los psicópatas.”

El estudio se ha realizado con casi 3000 participantes que se puntuaban a sí mismos en la llamada Triada Oscura: narcisismo, psicopatía y maquiavelismo. Los resultados mostraron un número de correlaciones estadísticamente significativas entre la personalidad oscura del individuo y la actividad en Twitter. El estudio usó un modelo de aprendizaje automático para ir mejorando las predicciones. La actividad en Twitter fue traducida a números, en concreto 337 puntos numéricos que mostraban la frecuencia de tweets o las características lingüísticas entro otros. Los datos alimentaron un modelo de datos que se explotó con técnicas de datawarehouse o Big Data.

¿Hasta donde puede llegar este análisis? El propio Sumner es reticente. Técnicamente aparece el problema de los falsos positivos, las personas que aparecen como psicópatas y no lo son. Y en general, pasar de los estudios generales a los casos particulares es científicamente dudoso, además de plantear problemas morales y de privacidad.

Sólo porque alguien puntúe alto no quiere decir que sea un criminal. Usar esto para tratar de localizar a alguien que va a cometer un delito va a dar lugar a la captura de personas que no van a hacerlo. Pero en general es interesante. Se puede utilizar para ver grandes grupos de personas y preguntarse si cada vez somos más antisociales.

Hemos pasado a un mundo donde la privacidad escasea y nos hemos desnudado ante el público. Lo que escribo en la red puede permanecer en ella muchos años. Algunas conductas no son muy recomendables. Se da el caso de quien escribe: “Mañana tengo una entrevista para un trabajo espantoso en una empresa horrible” y resulta que el entrevistador ha leído el mensaje. Sin embargo, todo el mundo tiene derecho a ser un troll sin que por ello le persiga la policía. El debate está abierto: cada día somos más libres, pero los vigilantes automáticos no descansan.