Los valores en informática

En un post anterior Sobre el valor de los Sistemas y Tecnologías de la Información introduje el ‘valor’ económico y los ‘valores morales’ en los SI+TI. 

Por ‘valores’ se entiende generalmente el conjunto priorizado de creencias básicas, personales o sociales, que nos orientan sobre cómo actuar en la vida, sobre cómo valorar nuestras acciones y cuáles preferir.

Es el terreno de la ética, la axiología y la filosofía. Algunos destacados contribuyentes: Lao-Tse, Confucio, Platón, Aristóteles, Séneca, Agustín de Hipona, Thomas Hobbes, Baruch Spinoza, David Hume, Immanuel Kant, Jeremy Bentham, John Stuart Mill, Karl Marx, Peter Singer, John Rawls, Michael Sandel y B-C. Han.

También se han ocupado de estos temas algunos tecnólogos, como:

Aunque el tema de los valores debe interesarnos como personas y no sólo como profesionales, porque somos personas profesionales, me limitaré en estas líneas a citar algunos aspectos de las TI en que los profesionales deberíamos prestar particular atención a los valores.

David y Brooks plantean cuestiones de ética y de ‘derechos’  de las máquinas. Dice Brooks que estamos viviendo dos revoluciones paralelas: la de la robótica —robots inteligentes— y la de la bioingeniería, y por ello:

No tiene sentido preocuparse por una posible revolución de los ‘robots’ contra los ‘humanos’, porque, en un futuro próximo (¿20 – 40 años?), robots y humanos formarán un “continuo”: robots con componentes orgánicos; y humanos con órganos robóticos. [Los humanos seremos una combinación de biotecnología, de “carne y máquinas”: título del libro de Brooks].

Ciertas máquinas no sólo tendrán sintaxis y tecnología (de reproducción, p. ej.) sino que manifestarán (tendrán o simularán) emociones, deseos, amor y orgullo. (pp. 93-95).

Al igual que históricamente se han ido reconociendo ciertos derechos (p. ej. a un trato digno) a muchos animales superiores (y, sobre todo a las mascotas), es plausible que surjan corrientes de reconocimiento de derechos a algunas de esas máquinas, sobre todo a las más antropomorfas, androides, y a las que ‘convivan’ en nuestros hogares –robots domésticos– (pp. 114 ss., 150-171).

También la Informática en general tiene derecho a la ‘presunción de inocencia’, tantas veces violada, imputando a ‘fallos informáticos’ evidentes ‘errores humanos’.

Eso en cuanto a derechos, porque en cuanto a obligaciones de los robots, ya fueron introducidas por Asimov en sus Leyes de la Robótica (¡1942!), luego evolucionadas a ‘Roboética’.

La ‘ética propia de los algoritmos’ es otra cuestión muy debatida, sobre la que estoy trabajando. Por el momento, dicha ética viene siendo reflejo de la de quienes los desarrollan, aunque con el progreso de la AI —inteligencia artificial— y el aprendizaje no basado en reglas, y el de AML automatic machine learning—, quizá lleguen los artefactos a alcanzar una adquisición autónoma y no transparente de valores, lo que puede plantear problemas éticos y jurídicos insospechados, por déficit de trazabilidad.

El ‘dilema del tranvía recurrentemente planteado para el caso de los inminentes vehículos autónomos yo lo he ejemplificado como: “¿Atropello a la viejecita o al joven CISO que están, una u otro, en mi camino inevitable?”.

Manolo Palao Garcia-Suelto es colaborador docente de las asignaturas de Planificación y Dirección Estratégica de Sistemas de Información de la Universitat Oberta de Catalunya y miembro de ISACA y del ITTrends Institute.

Comentar

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Leer entrada anterior
Plataformas y ecosistemas en BI, BA, Big Data y Data Science

No es la primera vez que hablamos sobre ecosistemas y plataformas, de hecho el interés viene de lejos. Últimas noticias de las...

Cerrar