Ética de los Big Data: un libro necesario

Se ha publicado en la interesante colección de Tecnología de la editorial de la UOC, que dirige mi colega Toni Pérez, el “manual” Una ética para Big Data: Introducción a la ética de datos masivos, de Rosa Colmenarejo, profesora de la Universidad Loyola de Andalucía y colaboradora de la UOC, ingeniera, antropóloga y filósofa. En su origen, procede de materiales de nuestros programas de Inteligencia de Negocio y Data Science, trabajados con Montse Serra. Ahora estamos ante un librito urgente, necesario y prometedor, que no puedo dejar de recomendar.

Urgente

El conjunto de los problemas y dilemas éticos que afrontamos los directivos, usuarios, técnicos, analistas, estudiantes y docentes, que trabajamos con datos masivos, y los ciudadanos que cedemos, con mayor o menor consentimiento, nuestros datos a casi cualquiera, o que estamos expuestos a la vigilancia de otros que desconocemos, afectan como mínimo, ya lo sabíamos, a la identidad, la privacidad, la propiedad y la reputación.

Pero eso quiere decir también y en sentido más amplio que impactan a la autonomía, la dignidad y la solidaridad –o sea, a todo lo que nos hace humanos: poca broma. Estas tecnologías diluyen la separación entre el espacio privado y el espacio público, la identidad online y la identidad offline, lo individual y lo colectivo, lo local y lo global, la propiedad y la pertenencia. Sólo levantar esta consciencia y dirigirse a ese estupor entre nuestros estudiantes y profesores y entre un público más amplio merece aplauso. Colmenarejo lo hace con tranquilidad, documentación, reflexión y rigor.

La autora nos introduce en los conceptos básicos que han formado la filosofía de la sociedad y la ética, desde Aristóteles hasta Rawls, y que la tecnología ahora nos obliga a revisar. El primero, el dilema de lo bueno (la maximización de lo que se considera utilitariamente un bien) y lo correcto (lo que aceptamos como bueno según una norma o un acuerdo que nos hemos dado como sociedad o como colectivo profesional).

Necesario

Esto tiene una gran repercusión en las deontologías de médicos e ingenieros y está siendo objeto de revisión, por ejemplo, por parte de la ACM y otras sociedades científicas: los principios de la actuación profesional y, sobre todos ellos, el principio de no hacer daño (primus, non nocere de la medicina hipocrática), enriquecido ahora con la perspectiva de la justicia rawlsiana: “Nos hacemos buenos (personas y profesionales) haciendo el bien (haciendo nuestro trabajo tal como ha sido establecido, pero también para el bien de aquellos a quienes se dirige nuestra actividad).”

O la superación del concepto de ética de los negocios (el business ethics y la responsabilidad social corporativa: inversiones rentables para la reputación), apelando a la integración de los valores del desarrollo social sostenible entre los principios y los hábitos de las empresas y organizaciones, tal como promueve, por ejemplo, la Agenda 2030 de la ONU, como señala acertadamente Marta Pedrajas en su prólogo.

O también el concepto inherentemente político de las tecnologías, que ya no son, si lo fueron alguna vez, medios neutrales que cada uno usa para fines distintos, sino fines que no se pueden separar de los medios, como en la filosofía política de Norberto Bobbio. Tampoco lo son los datos. Colmenarejo invoca la ética de las consecuencias, tanto en la producción de artefactos como en la cesión, captación, procesamiento y utilización desinformada o inconsecuente o ingenua de los datos. Con Aranguren, la autora pide un poco de pausa y de reflexión antes de tomar decisiones que afectan a nuestra libertad y la de otros.

Con los Big Data se sustituye el contrato social de Locke y Rousseau, que nos hace sujetos de una comunidad de obligaciones recíprocas, por un contrato privado, oscuro y sin contrapartidas, que ni siquiera leemos, con nuestros proveedores de servicios de datos.

Prometedor 

El mayor mérito de este libro reside, en mi opinión, en poner encima de la mesa problemas viejos y nuevos de la relación entre la ética y la moral, por un lado, y la tecnología y la gestión de datos, por el otro. Dibuja el espacio del debate, proporcionando más preguntas que respuestas y, cuando entra en las últimas, lo hace de manera más candorosa y acaso superficial. No es grave: odio los libros de ética que terminan con un recetario de autoayuda.

Colmenarejo sugiere, y me parece interesantísimo, que las soluciones, si hay alguna, vendrán también por el lado de la tecnología: la autorregulación de las sociedades profesionales; los movimientos cooperativos que promueven la cesión informada de datos y del uso que hacen de ellos nuestros proveedores; la autoprotección; la regulación de algoritmos y robots que promueven algunos colectivos y la propia EU…

Y, lo que me parece más prometedor, la traslación o, al menos, la compartición del sujeto moral con nuestras máquinas. Algoritmos benéficos contra algoritmos maléficos. En sus palabras: “Si las máquinas están aprendiendo ahora lo que es, ¿por qué no enseñarles lo que debería ser? (…) Las  máquinas pueden ser programadas para tomar decisiones morales.” O, al menos, para que no hagan daño.

 

José Ramón Rodríguez es profesor de dirección de las TIC en diferentes programas de la UOC y consultor independiente. Investiga la planificación y gestión de proyectos de transformación empresarial facilitados por los sistemas y tecnologías de la información.

Comentar

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Leer entrada anterior
Lecciones aprendidas sobre deep learning para la detección de fraude de tarjetas de crédito

En este post os presentamos un resumen y la presentación completa de una de las charlas del UOC Data Day,...

Cerrar