Despacho 42 con Ismael Peña-López: participación ciudadana y procesos electorales

Despacho 42 con Ismael Peña-López: participación ciudadana y procesos electorales

En este nuevo episodio del podcast Despacho 42 charlamos sobre participación ciudadana, gobierno abierto, procesos electorales, y qué rol juega la tecnología en este ecosistema, con Ismael Peña-López. Lo acompañan los habituales César Córcoles, Daniel Riera y Susanna Tesconi, profesores de los Estudios de Informática,  Multimedia y Telecomunicación de la UOC. Puedes escucharlo aquí:

Ismael Peña-López es director de participación ciudadana en la Generalitat de Catalunya y fue profesor de los Estudios de Derecho y Ciencia Política en la UOC. Para poder entender por qué es necesaria la participación ciudadana y de dónde surge lo primero que hace nuestro entrevistado es situarnos. 

Para ello, nos remite a la Antigua Grecia. Nos cuenta que en la polis Griega los ciudadanos podían participar activa y directamente de las decisiones que les afectaban. De la polis Griega saltamos a los Estados-Nación, la cosa se complica, donde la gestión del Estado se vuelve compleja y se escogen representantes políticos mediante elecciones democráticas. ¿Qué rol juegan las tecnologías de la comunicación en la gestión del Estado? “Parece que la revolución digital dinamita los fundamentos de la democracia representativa”, expone Ismael. «Con Internet, el acceso a la información es mucho más sencillo y facilita muchos procesos». 

El gobierno abierto promueve muchas cosas, sin desmontar lo que funciona de la democracia representativa.  

¿En qué consiste el gobierno abierto?

sociedad
  1. Transparentar lo que pasa en la administración
  2. Permitir que la gente comparta sus opiniones mediante herramientas 
  3. Dejar que la calle se gobierne: es decir, crear espacios de co-soberanía y co-gestión 

Esta es la teoría, pero ¿en la práctica funcionan este tipo de iniciativas? Le preguntan los profesores de  Estudios de Informática,  Multimedia y Telecomunicación de la UOC. “Hay un problema de marco legislativo y cultural en España que no facilita que la participación ciudadana se desarrolle. No obstante, ha habido un punto de inflexión en España que muestra una tendencia cambiante en lo que respecta a la participación ciudadana y la calidad democrática.

En el podcast, Ismael enumera varios datos que confirman un cambio de mentalidad durante los últimos años que promueve y aboga por la participación: 

  • En Cataluña se hacen unos 100 presupuestos participativos en varios municipios, se ha multiplicado en los últimos años. 
  • El número de países donde la plataforma decidim (plataforma libre para gestionar procesos participativos) ha crecido.

Aun así, hay poca participación ciudadana y es costoso. “Si en unos presupuestos participativos hay una participación mayor del 5%, es una buena noticia” explica el experto en participación ciudadana. Y es que, participar es costoso y sin una cultura participativa, más. 

¿Qué entendemos por participación ciudadana? 

Del mismo modo que la gestión de los Estados ha evolucionado, también lo ha hecho la participación ciudadana. Y en este caso, la tecnología ha tenido un papel clave. “Hace 15 años, la participación ciudadana se concebía como un proyecto de política pública que se echa a mejora a la calle y para luego implementarlo con esas mejoras. Ahora está el debate de, por ejemplo, decidir si el “Me too” es participación ciudadana o no”.

En ese sentido, Ismael Peña-López apuesta por una administración que teja una red nueva de gestión pública, que sea una plataforma donde muchos actores puedan sumar y participar. 

Cómo organizar unas elecciones en plena pandemia

Una de las funciones de la dirección general de Participación Ciudadana de la Generalitat de Catalunya es la de organizar las elecciones. En el caso de Cataluña, los próximos comicios se celebrarán en febrero. La pregunta se hace sola: ¿Cómo se organiza un proceso electoral en plena pandemia mundial?

 “El trabajo se duplica” afirma nuestro entrevistado. Nos cuenta que, en una situación “normal” organizar unas elecciones es un proceso muy complejo. “Si hablamos de las elecciones en Cataluña, solo logísticamente se movilizan unas 100.000 personas. Unas 23.000 personas sumando el personal necesario en una mesa electoral, más interventores, seguridad, etc. suman un total de 100.000. 2000 locales, el material a distribuir, censo, tarjetas censales, contratos…”

En unas elecciones normales se gastan 12 millones de euros en 50 días. “Es una gran responsabilidad porque es dinero que se debe gastar bien. En esta ocasión, todo salta un poco por los aires debido a la pandemia: los locales electorales deben ser de una determinada forma y deben seguir las recomendaciones del Procicat, y a todo ello se suma la pandemia: respetar la distancia de seguridad, el estado de miedo con gente que no quiere ir a votar o no quiere estar en las mesas, etc.” En definitiva, todo esto casi dobla el presupuesto. No obstante, Ismael es optimista y destaca la profesionalidad y proactividad de todos los agentes involucrados en el desarrollo de las próximas elecciones. 

El voto electrónico: ¿llegará algún día?

¿Es fiable el voto electrónico? ¿Cuánto tardaremos en implementarlo en España? Ismael Peña-López es un defensor del voto electrónico y de sus posibilidades: “El problema es que le pedimos más a lo electrónico que a lo físico o tradicional. Eso es algo que hasta hace dos días le pasaba al elearning. El riesgo de fraude cero en el voto electrónico no existe, pero es muy difícil que no nos enteremos y sobre todo que no podamos corregirlo.” Con él hablamos de la dimensión que podría tener el cambio al voto electrónico y cómo la confianza de la ciudadanía en el proceso es clave. “La desconfianza con el voto electrónico se correlaciona con la desconfianza con las administraciones” explica Ismael Peña-López.

Respecto al futuro, el experto es optimista y no descarta que en 4 años podamos vivir las primeras elecciones con voto electrónico. “Tenemos que ir votando de forma electrónica para crear confianza y 4 años son suficientes para hacer esto. Si conseguimos que la ciudadanía en 4 años haya votado 2 veces de forma electrónica es plausible pensar que las próximas elecciones en el Parlament de Catalunya serán mediante voto electrónico: será un tema de confianza, y no de tecnología.”  

*Imagen en portada cedida por Ismael Peña-López.

5 motivos para formarte en Ciberseguridad y Privacidad

5 motivos para formarte en Ciberseguridad y Privacidad

Actualmente las organizaciones deben asumir la ciberseguridad como un elemento transversal de todos los servicios digitales que ofrecen. ¿Quieres ser experto/a en Ciberseguridad y Privacidad? A continuación exponemos 5 razones para estudiar un máster online en Ciberseguridad y Privacidad:

1. La demanda de expertos de ciberseguridad crece (y crecerá)

La necesidad de contar con profesionales en ciberseguridad continúa aumentando, puesto que no cesa el aumento de ciberataques. 

Según el informe Varonis, se estima que esta demanda seguirá creciendo a nivel mundial en los próximos años, y se prevé que muchos de estos puestos no se podrán cubrir por falta de profesionales. Y es que actualmente existe un desequilibrio entre el número de trabajadores calificados en ciberseguridad con la alta demanda para cubrir puestos vinculados a la ciberseguridad.

¿Estás interesado/a en este ámbito? Es un buen momento para dar el paso, estudiar el Máster universitario en Ciberseguridad y Privacidad de la UOC, y adentrarte profesionalmente a un sector que se encuentra en plena expansión. De cara el 2021, se estima que habrá 3,5 millones de puestos de trabajo de ciberseguridad sin cubrir en todo el mundo.  

2. Los ciberataques en grandes empresas existen y suceden a diario

Según Sophos Security Threat Report , en todo el mundo hay unos 30.000 sitios web pirateados cada día. Aunque estos ataques pueden contenerse, es cierto que cada ataque conlleva el potencial de empeorar mucho más si no se trata de forma rápida y eficaz. 

De hecho, todas las empresas reciben ataques, sean grandes o pequeñas. De hecho, el 43% de los ciberataques van dirigidos a PYMEs, según explica este informe de Verizon.

Cuanto más sepas sobre las amenazas a las que puede enfrentarse una empresa o organización, mayores serán las posibilidades de mantener tus datos e informaciones seguras. 

3. Las empresas cada vez deberán destinar más presupuesto a la ciberseguridad

Un estudio de Deloitte expone la relación que existe entre el presupuesto para ciberseguridad y los incidentes significativos que la organización experimenta. Así, las empresas que destinan menos de un 3% de su presupuesto a ciberseguridad (la media es del 9,3%) sufrirán una mayor cantidad de incidentes, pudiendo llegar a una media de dos incidentes al año.

Es importante formar nuevos expertos en ciberseguridad y privacidad, y también es importante formar a investigadores del ámbito que puedan seguir involucrados en descubrir nuevas intrusiones que cada vez son más sofisticas.  

4. Muchas aplicaciones web contienen riesgos de privacidad

Ahora más que nunca es importante conocer y desplegar políticas de privacidad por diseño y por defecto.  Las empresas deben poner la ciberseguridad y la privacidad a la vanguardia de la estrategia comercial para ganarse el corazón de los clientes y ganarse su confianza. Y deben implementar, cumplir y comunicar claramente políticas sólidas de gobierno de datos y protección de la privacidad.

5. La privacidad preocupa cada vez más

Los ciudadanos perciben los ciberataques como una vulneración de su privacidad. Así lo muestra un estudio de PWC, donde solo el 25% de los ciudadanos creen que las empresas gestionan sus datos sensibles de forma responsable. Y el 69% cree que las empresas son vulnerables a ataques informáticos. La cruda realidad es que los consumidores confían menos en las empresas hoy que en el pasado. Solo el 12% de los consumidores dijo que confía en las empresas más que hace un año, y solo el 17% confía en las empresas más hoy que hace una década.

Es muy importante que las empresas entiendan y respondan de forma adecuada a las inquietudes sobre la privacidad de sus clientes. Para poder ganarse la confianza de los consumidores, las empresas y organizaciones deben proteger los datos de sus clientes y a su vez respetar la privacidad individual. 

El Máster universitario en Ciberseguridad y Privacidad de la UOC es un máster online enfocado a la especialización de profesionales TIC en diferentes vertientes de la seguridad y privacidad: desde las especialidades más técnicas de ciberseguridad y programación, hasta la especialidad de gestión y auditoría de la seguridad. El máster también ofrece contenidos en investigación para aquellos estudiantes interesados en hacer un doctorado.

Otoño multimedia: crónica del JUX y Modern Web Event

Otoño multimedia: crónica del JUX y Modern Web Event

Los otoños son el momento del año en que el ámbito de Multimedia de la UOC tiene el placer colectivo de organizar sus jornadas de difusión del conocimiento. La Jornada UX ha cumplido once años, y con este ya van seis de celebrar el Modern Web Event.

Ambas jornadas vienen apadrinadas por los másters que la UOC tiene en el ámbito de la diseño de interacción y la experiencia de usuario y el desarrollo web, y por la revista Mosaic, que es su casa desde 2014, y el lugar en que tenéis toda la información sobre las ediciones anteriores.

Este año, naturalmente, y como con todos los actos desde el mes de marzo, la pandemia nos ha movido al virtual. Nos habría encantado poder compartido espacio físico con ponentes y asistentes, pero a cambio hemos podido contar con la asistencia de personas a las que la lejanía física les habría impedido asistir en vivo a los eventos. En cualquier caso, esperamos recuperar la presencialidad en las ediciones del año que viene.

Pero no nos desviemos. El objetivo tanto de la Jornada UX como del Modern Web Event es difundir conocimiento. O sea que… a ello.

Jornada UX Mosaic

Tradicionalmente la Jornada UX propone una serie de charlas cortas y enfocadas que tratan aspectos del diseño centrado en las personas, experiencia de usuario y diseño de interacción. Cada año se selecciona un tema y se elabora un hilo conductor que presente diferentes perspectivas relacionadas con el tema: proyectos directamente relacionados con la UX y de diseño de interacción, así como proyectos aparentemente más distantes pero conectados, para así  ampliar la mirada y aprender de otras disciplinas que se relacionan con el diseño centrado en el usuario. Este año hemos centrado el tema en el cuidado, la salud y el bienestar, articulando charlas que presentan el diseño de productos y servicios relacionados con la salud y presentando experiencias materiales y digitales que entrelazan la arquitectura, la atención al cliente, el diseño de apps y productos digitales interactivos.

Diseñando para el bienestar: Cómo la tecnología puede contribuir a sociedades más sanas y felices con Nacho Madrid

¿Los productos digitales que diseñamos pueden buscar el bienestar de las personas? ¿Qué factores cognitivos y emocionales afectan al uso de la tecnología?

El diseño para el bienestar persigue diseñar artefactos que causen sensaciones placenteras, permitan a las personas realizar actividades agradables y evitar las desagradables, y prevenir o reducir el dolor o malestar físico o mental. Sobre ello charlaron Enric Mor, director del Máster universitario de Diseño de Interacción y Experiencia de Usuario (UX) de la UOC y Nacho Madrid.

El factor humano en la infraestructura sanitaria con Joana Cornudella

La arquitectura como disciplina está aparentemente alejada del diseño de productos digitales pero conecta directamente ya que la arquitectura es también diseño centrado en las personas y también busca la mejor experiencia de usuario.

La arquitectura es diseño que humaniza a través de la empatía y teniendo en cuenta las necesidades de las personas. Algo que nos quedó muy claro tras escuchar la charla de Joana Cornudella, moderada por Enric Mor.

La experiencia del paciente como motor de transformación en el Hospital Sant Joan de Deu con Mònica Zapata

Puede llegar a resultar fácil hablar de la experiencia de usuario y de cómo diseñamos esta experiencia en general. Ya resulta un poco mas difícil, o al menos entretenido, hablar de ello en particular y poniendole el apellido: experiencia de paciente. Las emociones de los pacientes y de sus familias pueden transformar la experiencia del paciente y también transformar la forma de dar servicio de un centro médico o un hospital. La perspectiva del diseño centrado en las personas proporciona esta mirada transformadora tanto en experiencias presenciales y materiales como digitales. Nos lo explica en profundidad Mònica Zapata, Patient Experience Head del Hospital Sant Joan de Deu, en conversación con Enric Mor:

Digitalización y conectividad como tratamiento de las patologias crónicas con María Jesús Salido

La innovación tecnológica y el diseño centrado en las personas convierte a Socialdiabetes en un ejemplo paradigmático de producto digital que contribuye a la mejora de la salud y el de personas con una enfermedad que afecta a una gran parte de la población. Sobre ello hablamos con María Jesús Salido, CEO y Co-Fundadora de Social Diabetes.

Modern Web Event 2020

A diferencia de la Jornada UX, el Modern Web Event propone cada año tres o cuatro charlas de temáticas muy diversas (como podréis comprobar en el archivo en Mosaic). Y en esta ocasión no podía ser de otra forma: César Córcoles, director del máster universitario de Desarrollo de Sitios y Aplicaciones Web ha charlado con expertas sobre la usabilidad para los usuarios olvidados de los gestores contenidos, de la aventura de crear un videojuego con tecnologías web y de la duda eterna en el front-end: qué framework elegir, y cómo y por qué.

Author Experience (AX): mejoremos la usabilidad del backend con Núria Ramoneda

El tema de la author experience es uno de los grandes olvidados a la hora de montar una web usando un gestor de contenidos como WordPress o Drupal… aunque sin autores no hay web y, por tanto, deberíamos mimarlos todo lo posible. Con Núria Ramonedarepasamos algunas ideas para hacerles la vida un poco más fácil y agradable.

De código a píxels: como hacer un videojuego sin morir en el intento con Núria Soriano

En las fechas de los eventos Mosaic de este año se celebraba el 30 aniversario de uno de los videojuegos más celebrados de la historia, The Secret of Monkey Island. Tres décadas más tarde, ¿se puede hacer un juego como aquel usando tecnologías web? Spoiler: Núria puede.

Frameworks. ¿Cómo, cuándo y por qué?… Y por qué no, también, con Natalia Venditto

La complejidad del front-end de una aplicación web moderna ha crecido exponencialmente en los últimos años. Hace ya más de una década que es casi inaudito embarcarse en crear un front-end sin usar un framework. ¿Deberíamos reconsiderar esa opinión? Y si, como pasa casi siempre, acabamos decidiendo “casarnos” con uno… ¿cómo deberíamos abordar esa decisión? Natalia nos da unos cuantos consejos.

Enric Mor es profesor de los Estudios de Informática, Multimedia y Telecomunicación de la UOC y director del Máster Universitario de Diseño de Interacción y Experiencia de Usuario (UX) de la UOC.

César Córcoles es profesor de los Estudios de Informática, Multimedia y Telecomunicación de la UOC y director del máster universitario de Desarrollo de Sitios y Aplicaciones Web.

eMath is gone… until 2021

eMath is gone… until 2021

Los pasados 17  y 18 de noviembre tuvo lugar el eMath 2020, del cual os hablamos aquí. Fueron dos tardes en las que, a lo largo de cerca de 3 horas cada una, se pusieron de manifiesto muchos retos relacionados con la enseñanza de las asignaturas con contenido matemático online.

El evento contó con 63 inscritos, 18 ponentes y un pico de 37 personas conectadas simultáneamente. Las ponencias se dividieron en cuatro grupos:

El evento finalizó con una reflexión global sobre el futuro del eMath.

Además, la UNED ofreció la revista de innovación πInnovamath como foro en el que compartir las experiencias docentes aquí presentadas.

A continuación, haremos un pequeño resumen de cada una de las sesiones.

Experiencias en tiempos del Covid

En esta primera sesión se vieron algunas experiencias de cómo se hizo el paso al online en varias instituciones, además de algunas ideas de qué elementos son importantes tener en cuenta a la hora de evaluar matemáticas online.

  • Antonio Seijas mostró las opciones tomadas por la Universidad de A Coruña para adaptarse al modelo online. Para ello utilizaron Moodle y clases virtuales mediante Microsoft Teams. El principal problema detectado es que lo que se hizo fue trasladar la clase presencial al entorno online, en lugar de pensar en cómo hacer docencia online.  Finalmente, se ha vuelto al modelo presencial que es lo que pedían los estudiantes y profesores.
  • Ester Gil Cid, desde la UNED, mostró la asignatura “Las matemáticas en el paradigma educativo actual” que se imparte en el Máster de Formación de Profesorado de Secundaria, con la especialidad de matemáticas. En este sentido se vio una asignatura diseñada para la enseñanza a distancia, con una evaluación continua que incluye diversidad de formatos. En esta asignatura los estudiantes entregaban un vídeo como parte de su formación que, en este caso, tuvieron que crear en casa durante el confinamiento. 
  • A continuación, Neila Campos, de la Universidad de Cantabria, mostró la penetración de la formación online en Europa y las dificultades de los estudiantes con procedencias diversas. Para favorecer la interacción y reducir las diferencias entre estudiantes, se utiliza software de simulación que permite conectar con problemas reales. 
  • En la última ponencia de esta primera sesión, Miguel Delgado y Beatriz Estrada, ambos de la UNED, del grupo de Innovación Docente π-Mat, mostraron las ventajas de la autoevaluación en con debates en asignaturas de matemáticas del Grado de Medio Ambiente. Además se mostró el uso de formularios cortos y rápidos de verdadero-falso. Es importante hacer notar que esta opción de evaluación tenían que escoger voluntariamente los estudiantes y, una vez escogida, no podían cambiar a una evaluación tradicional. Finalmente, se destacó la importancia del feedback. 

Gamificación e Inteligencia Artificial

En la sesión de gamificación e IA se mostró cómo la inteligencia artificial y la gamificación pueden dar soporte a la enseñanza online.

  • David Bañeres, de la UOC, mostró el proyecto LIS, un proyecto financiado por el eLearn Center en la convocatoria New Goals de 2018. En este proyecto se busca detectar a los estudiantes en riesgo de abandono a partir de los resultados de sus actividades. Para ello, el sistema “aprende” de lo que estudiantes con un perfil parecido hicieron en el pasado y cuál fue su nota final. El sistema informa a cada estudiante (y a su docente) de si está en el buen camino mediante unos semáforos. En el futuro se busca aumentar el espectro de características a analizar para mejorar la predicción.
  • A continuación, Pedro Serranho, de la Aberta de Portugal, explicó cómo la gamificación puede ser una herramienta útil en la enseñanza online. En particular, elementos como el progreso, los retos y los badges podían ayudar. En los resultados se podía apreciar el impacto en la motivación.
  • Finalmente, Miguel Ángel Lozano y Alicia Vila mostraron el proyecto ADA del Institut Obert de Catalunya (IOC), un instituto de secundaria online. En este proyecto utilizan los datos de los estudiantes (académicos, de satisfacción, interacción, etc.) combinados con un servicio de análisis de datos para  desarrollar un servicio de Business Intelligence para mejorar el proceso de aprendizaje.

Evaluación en tiempos de Covid-19

En la sesión de evaluación, las tres universidades organizadoras explicaron cómo desarrollaron la evaluación a distancia. Es importante destacar que a pesar de ser universidades a distancia, los exámenes habían sido siempre presenciales.

  • Para empezar, Josep Prieto y Ana Elena Guerrero mostraron cómo se había desarrollado la evaluación en la UOC. Dado que la decisión se tomó reactivamente a partir de la declaración del estado de emergencia, se optó por un sistema que la universidad llevaba tiempo utilizando y que permitía hacer varias tomas del estudiante durante la evaluación. La UOC lleva ya años trabajando en la evaluación online y ha liderado recientemente el proyecto europeo TESLA, en el cual participaron varias agencias de calidad europea. Se espera que, en un futuro no muy lejano, pueda ser implantado y estar plenamente operativo en la universidad.
  • A continuación, Laura Calvet y Teresa Sancho explicaron cómo se evaluó a estudiantes de la UOC en las asignaturas de Iniciación a las Matemáticas para la Ingeniería, Métodos Numéricos para la Ciencia de Datos, Análisis Matemático, y Estadística. La evaluación continuada tuvo gran relevancia y se destacó el uso de cuestionarios con elementos aleatorios para dar al estudiante muchos ejercicios para practicar, ofrecer un feedback inmediato, detallado, y personalizado, y dificultar la copia entre estudiantes a la hora de hacer actividades evaluables. 
  • Antonio Costa, de la UNED, mostró la herramienta AvEx para el desarrollo de  pruebas a distancia, que incluía exámenes de tipo test y preguntas de desarrollo.  En asignaturas con contenido matemático, se podían usar tanto LaTeX como Wiris-MathType, aunque no para las respuestas y permitía adjuntar un archivo como respuesta. También cabe destacar la potencia del editor de exámenes en sí. AvEx se ha utilizado también en otras instituciones, como el Consejo General de Abogacía Española, en el examen de acceso a la abogacía.
  • Finalmente, Fernando P. da Costa Mª do Rosário Ramos, de la Aberta de Portugal, mostraron los condicionantes que implicaba el paso a la evaluación online, así como la opinión de las personas implicadas. Las principales desventajas detectadas fueron que en general las pruebas eran más difíciles y hubo problemas a la hora de enviar las pruebas. Sin embargo, se destacaron como ventajas la protección de la salud de las personas y la economía de tiempo y dinero.

En lo que coincidieron todas las personas participantes es en que había que replantear la evaluación y evitar trasladar al entorno online lo que se hacía en el presencial.

Experiencias en pre-universitarias

  • Primero, Ricardo Manuel Jiménez Bezares, profesor de matemáticas del I.E.S. La Marisma (Huelva) y doctorando de Teresa Sancho en la UOC presentó el diseño e implementación de la evaluación entre iguales en la asignatura de matemáticas para las ciencias sociales de primero de bachillerato. El éxito de la experiencia en términos de aprendizaje y motivación del alumnado ha hecho que se plantee su implementación en otros cursos.
  • Finalmente, Antoni Bancells, del instituto Ramon Coll i Rodés de Llorent de Mar y colaborador docente de la UOC, explicó las acciones que se hicieron en el instituto para explicar matemáticas online. En particular, usó Moodle y en un primer momento Discord como plataforma para las clases online, aunque más adelante fue Google Meet. A parte de estos elementos, desarrolló varios vídeos que colgó en un canal de You Tube. Como herramienta adicional usó Geogebra.

Futuro de eMath

Tras las últimas presentaciones, se inició un debate sobre el futuro de eMath, que en 2021 acogerá la Aberta de Portugal y tendrá lugar en Lisboa.

La primera gran pregunta fue si el formato de las futuras ediciones del encuentro tenía que ser presencial u online. En este sentido se destacó el carácter informal del eMath y la conveniencia de gozar de la presencialidad, pero también se destacaron las bondades que ofrece el online, ya que permite el acceso a muchas personas que, de otro modo, no podrían ni acceder ni participar en él. En este sentido se destacó la asistencia de personas de varias universidades presenciales y de centros de secundaria que no hubieran podido acceder a un evento presencial, e incluso el caso de un miembro de la Aberta que estaba en ultramar y pudo acceder gracias a la virtualidad.  Por tanto, se consideró que el formato mixto podría ser una buena solución. 

Finalmente, se insistió en la necesidad de pedir proyectos, como Erasmus+ (que fue rechazado este año), que den una cobertura legal a eMath y permitan tener presupuesto para poder llevar a cabo los encuentros y otros proyectos.

La conclusión del evento es que eMath goza de una salud perfecta y juega un papel fundamental como foro para poner en común estrategias y prácticas docentes en asignaturas con contenidos matemáticos a distancia.

Antoni Pérez Navarro es subdirector de Investigación del eLearn Center y profesor de física de los Estudios de Informática, Multimedia y Telecomunicación de la UOC.

El bueno, el robot y el malo:  del diseño ético a la moralidad artificial

El bueno, el robot y el malo: del diseño ético a la moralidad artificial

(Més avall trobareu la versió en català d’aquest contingut.)

Vamos a imaginar una situación hipotética. Has pedido un préstamo a tu banco para comprar una casa, has entrado en un proceso de selección para el trabajo de tu vida, o esperas impaciente los resultados del último examen de tus estudios. En quién confiarás más para que decida si te concede el préstamo, si pasas de fase en el proceso de selección, o en la corrección de ese último examen: ¿en un trabajador humano, o en un avanzado algoritmo de Inteligencia Artificial?

A pesar de que, inicialmente, se pensaba que los algoritmos nos ayudarían a tomar decisiones más justas y desprovistas de prejuicios humanos, la progresiva integración de sistemas de Inteligencia Artificial (IA) en distintos campos ha mostrado como, lamentablemente, esto no es así. Un repaso rápido a algunas de las noticias detrás de las palabras “algoritmo” y “prejuicio” nos lleva a casos como los de un algoritmo usado en el sistema judicial en los EUA que muestra prejuicios raciales; o un algoritmo usado en la contratación laboral que muestra preferencias sexistas; o un algoritmo usado para predecir notas en el Reino Unido que asigna resultados injustos. ¡Parece que ni siquiera los algoritmos pueden desprenderse de los prejuicios y las desigualdades sociales!

A raíz de la aparición de múltiples casos como esos, el estudio de las consideraciones éticas en el diseño de la IA ha ganado más y más importancia en los últimos años. Cada vez hay más equipos interdisciplinarios de investigadores que plantean y analizan las posibles consecuencias éticas que la integración de un sistema de IA puede tener sobre sus usuarios, o sobre la población en general, antes de decidir cómo debe llevarse a cabo esa integración.

woman wearing grey shirt

El estudio de las consideraciones éticas en la IA suele abordarse, tradicionalmente, a través del diseño ético. El diseño ético busca prevenir e impedir, o al menos mitigar, las posibles consecuencias adversas que pueden producirse al integrar un sistema de IA en un cierto contexto. Este trabajo se basa en analizar la forma en que la IA recoge y procesa los datos, en entender cómo el sistema toma decisiones y, más importante aún, en evaluar las posibles consecuencias perjudiciales que esas decisiones pueden tener. La calidad de los datos, la anonimización de los usuarios, la mitigación de desigualdades existentes, y la prevención de ciertas decisiones y acciones son algunos ejemplos de las dimensiones a tener en cuenta en el diseño ético de un sistema de IA.

Sin embargo, el diseño ético tiene ciertas limitaciones. Concretamente, el fundamento del diseño ético se basa en prevenir, de entrada, situaciones en las que puedan producirse efectos éticos adversos que se quieren evitar. No obstante, a medida que los sistemas de IA se vuelven más y más autónomos, la cantidad de posibles escenarios, decisiones y cadenas de efectos en que esos sistemas deberán tomar decisiones aumenta exponencialmente: coches automáticos, sistemas de armamento autónomo, robots médicos, tutores personalizados para la educación… Ese crecimiento en la autonomía de los sistemas hace más y más difícil prever, de antemano y de forma exhaustiva, todos los posibles casos en que las consecuencias éticas de una decisión deben tenerse en cuenta. El diseño ético a priori se vuelve, de pronto, insuficiente. Tal y como un ser humano debe ser capaz de entender la dimensión ética de sus acciones y debe poder evaluar, al momento, cual es la mejor decisión a tomar (incluso cuando se encuentra con casos que nunca había considerado anteriormente), igualmente una IA a la que confiamos decisiones tan importantes como la aceptación de un préstamo, la asignación de un trabajo, o el futuro de nuestra educación, debería ser capaz de ello.

El campo de la “moralidad artificial” (también llamado “ética de las máquinas”, “ética computacional”, o “moralidad computacional”) estudia cómo integrar el razonamiento moral en la IA. Teniendo en cuenta que, cuanta más autonomía ganan los sistemas de IA, más difícil se vuelve usar el diseño ético para prever todos los posibles escenarios que sean éticamente relevantes, la moralidad artificial busca codificar la dimensión moral de las posibles decisiones dentro del propio sistema. Tal y como la IA usa nociones como “rendimiento”, “utilidad”, o semejantes para decidir qué acción tomar, entender y codificar la “moralidad” de una decisión (entendiendo como esta afecta, beneficiosamente o perjudicialmente, a los usuarios) permitiría integrar un razonamiento ético más versátil en sistemas autónomos.

quadcopter drone

Así pues, la dimensión ética de una IA equipada con moralidad artificial no solo dependería de aquellas situaciones que los ingenieros hubieran podido prever de entrada, sino que podría, idealmente, “entender” las consecuencias morales de situaciones genuinamente nuevas en las que se encontrara. A modo de ejemplo, en el caso de algoritmos que muestran prejuicios raciales, el diseño ético podría pasar, entre otras opciones, por procesar los datos antes de ser usados por el algoritmo con el objetivo de eliminar cualquier información racial que pudiera servir a la IA para encontrar patrones injustos (por ejemplo, concluir que los ciudadanos de una cierta raza son más propensos a delinquir que los de otra raza). En cambio, la moralidad artificial no se basaría en “esconder” aquellos campos que no deberían ser utilizados, sino en implementar una IA que sea capaz de “entender” que las consecuencias éticas y morales de usar dichos campos son indeseables y que, por lo tanto, no deben tenerse en cuenta para esa toma de decisiones. Tal y como apuntan los investigadores Caliskan, Bryson y Narayanan: “awareness is better than blindness”.

Sin embargo, el reto de la moralidad artificial no es sólo un reto tecnológico (¡aunque también lo es!). De entrada, es necesario entender cuáles son los posibles riesgos, beneficios y efectos perjudiciales que se pueden producir; esto requiere un conocimiento de varios contextos, de sus usuarios y de las posibles acciones que puedan darse. Esto suele necesitar, además, un conocimiento de la realidad social del momento, así como de las distintas desigualdades que puedan existir entre grupos de población, zonas geográficas, etc. Además, está el enorme reto conceptual de identificar y representar de forma computacional la dimensión ética de una decisión, además de entender cómo esto se puede integrar en las fórmulas matemáticas que el sistema de IA usará, finalmente, para decidir qué curso de acción sigue. Debido a su complejidad e interdisciplinariedad inherente, el diseño ético y la moralidad artificial son algunos de los retos de investigación que se proponen a los estudiantes del Máster en Ingeniería Computacional y Matemática de la UOC , así como del Doctorado en Tecnologías del Aprendizaje de la UOC. 

Así pues, se trata de un reto detrás del que encontramos desde ingenieros y roboticistas, hasta filósofos, eticistas y psicólogos… ¡No es de extrañar que el razonamiento moral se considere como uno de los razonamientos más complejos que el ser humano puede realizar!

photo of girl laying left hand on white digital robot

La moralidad artificial podría ayudar a que los sistemas de IA tomaran decisiones más justas y éticamente beneficiosas no solo para los usuarios directos de esos sistemas, sinó para el resto de la sociedad. Sin embargo, aún quedan muchas preguntas pendientes que la moralidad artificial necesitará responder antes de poderse poner en práctica de forma general. ¿Puede una máquina llegar a “entender” la dimensión ética y moral de sus decisiones? Si es que sí, ¿hasta dónde puede llegar? ¿Podría contribuir eso a “deshumanizar” el campo de la ética? Y, quizás la pregunta más fundamental, y que vendría antes de todas las anteriores: ¿es ético poner números a la ética?

Joan Casas-Roma es investigador postdoctoral del grup SmartLearn de la Universitat Oberta de Catalunya (UOC) y Doctor en Sociedad de la Información y el Conocimiento por la UOC. Sus intereses de investigación se centran en temas de Inteligencia Artificial y Ética, especialmente dentro de la línia de la Moralidad Artificial. Actualmente trabaja en la aplicación de IA, Ética y Moralidad Artificial en el campo de la educación online y los sistemas de tutorización personalizados.

El bo, el robot i el dolent: del disseny ètic a la moralitat artificial

Imaginem-nos una situació hipotètica. Has demanat un préstec al teu banc per comprar una casa, has entrat en un procés de selecció per la feina de la teva vida, o esperes impacient els resultats de l’últim examen dels teus estudis. En qui confiaràs més perquè decideixi si et concedeix el préstec, si passes de fase en el procés de selecció, o en la correcció d’aquest últim examen: en un treballador humà, o en un avançat algoritme d’Intel·ligència Artificial?

Tot i que, inicialment, es pensava que els algoritmes ens ajudarien a prendre decisions més justes i desproveïdes de prejudicis humans, la progressiva integració de sistemes d’Intel·ligència Artificial (IA) en diferents camps ha mostrat com, lamentablement, això no és així. Un repàs ràpid a algunes de les notícies darrere de les paraules «algoritme» i «prejudici» ens porta a casos com el d’un algoritme usat en el sistema judicial dels EUA que mostra prejudicis racials; o un algoritme usat en la contractació laboral que mostra preferències sexistes; o un algoritme usat per predir notes al Regne Unit que assigna resultats injustos. Sembla que ni tan sols els algoritmes poden desprendre’s dels prejudicis i les desigualtats socials!

Arran de l’aparició de casos com aquests, l’estudi de les consideracions ètiques en el disseny de la IA ha guanyat més i més importància en els últims anys. Cada vegada hi ha més equips interdisciplinaris d’investigadors que plantegen i analitzen les possibles conseqüències ètiques que la integració d’un sistema d’IA pot tenir sobre els seus usuaris, o sobre la població en general, abans de decidir com s’ha de dur a terme aquesta integració.

Dona mirant el mòbil en entorn immersiu

L’estudi de les consideracions ètiques en la IA sol abordar-se, tradicionalment, a través del disseny ètic. El disseny ètic busca prevenir i impedir, o al menys mitigar, les possibles conseqüències adverses que poden produir-se a l’integrar un sistema d’IA en un cert context. Aquest treball es basa en analitzar la forma en què la IA recull i processa les dades, en entendre com el sistema pren decisions i, més important encara, en avaluar les possibles conseqüències perjudicials que aquestes decisions poden tenir. La qualitat de les dades, l’anonimització dels usuaris, la mitigació de desigualtats existents, i la prevenció de certes decisions i accions són alguns exemples de les dimensions a tenir en compte en el disseny ètic d’un sistema d’IA.

No obstant això, el disseny ètic té algunes limitacions. Concretament, el fonament del disseny ètic es basa en prevenir, d’entrada, situacions en què es puguin produir efectes ètics adversos que es volen evitar. No obstant això, a mesura que els sistemes d’IA es tornen més i més autònoms, la quantitat de possibles escenaris, decisions i cadenes d’efectes en què aquests sistemes hauran de prendre decisions augmenta exponencialment: cotxes automàtics, sistemes d’armament autònom, robots mèdics, tutors personalitzats per a l’educació… Aquest creixement en l’autonomia dels sistemes fa més i més difícil preveure, de forma anticipada i exhaustiva, tots els possibles casos en què les conseqüències ètiques d’una decisió s’han de tenir en compte. El disseny ètic a priori es torna, de sobte, insuficient. Tal com un ésser humà ha de ser capaç d’entendre la dimensió ètica de les seves accions i ha de poder avaluar, al moment, quina és la millor decisió a prendre (fins i tot quan es troba amb casos que mai havia considerat anteriorment), també una IA a la qual confiem decisions tan importants com l’acceptació d’un préstec, l’assignació d’una feina, o el futur de la nostra educació, hauria de ser capaç d’això.

El camp de la «moralitat artificial» (també anomenat «ètica de les màquines», «ètica computacional», o «moralitat computacional») estudia com integrar el raonament moral en la IA. Tenint en compte que, com més autonomia guanyen els sistemes d’IA, més difícil es torna usar el disseny ètic per preveure tots els possibles escenaris que siguin èticament rellevants, la moralitat artificial busca codificar la dimensió moral de les possibles decisions dins el propi sistema. Tal i com la IA fa servir nocions com «rendiment», o «utilitat» per decidir quina acció prendre, entendre i codificar la «moralitat» d’una decisió (entenen com aquesta afecta, beneficiosament o perjudicialment, als usuaris) permetria integrar un raonament ètic més versàtil en sistemes autònoms.

Dron sobrevolant un territori.

Així doncs, la dimensió ètica d’una IA equipada amb moralitat artificial no només dependria d’aquelles situacions que els enginyers haguessin pogut preveure d’entrada, sinó que podria, idealment, «entendre» les conseqüències morals de situacions genuïnament noves en què es trobés. A tall d’exemple, en el cas d’algoritmes que mostren prejudicis racials, el disseny ètic podria passar, entre d’altres opcions, per processar les dades abans de ser usades per l’algoritme amb l’objectiu d’eliminar qualsevol informació racial que pogués servir a la IA per trobar patrons injustos (com per exemple, concloure que els ciutadans d’una certa raça són més propensos a delinquir que els d’una altra raça). En canvi, la moralitat artificial no es basaria en «amagar» aquells camps que no s’haurien de considerar, sinó en implementar una IA que sigui capaç d’»entendre» que les conseqüències ètiques i morals d’usar aquests camps són indesitjables i que, per tant, no s’han de tenir en compte per a aquesta presa de decisions. Tal i com apunten els investigadors Caliskan, Bryson i Narayanan: «awareness is better than blindness».

No obstant això, el repte de la moralitat artificial no és només un repte tecnològic (tot i que també ho és!). D’entrada, cal entendre quins són els possibles riscos, beneficis i efectes perjudicials que es poden produir; això requereix un coneixement de diversos contextos, dels seus usuaris i de les possibles accions que puguin donar-se. Això sol necessitar, a més, un coneixement de la realitat social del moment, així com de les diferents desigualtats que hi pugui haver entre grups de població, zones geogràfiques, etc. A més, hi ha l’enorme repte conceptual d’identificar i representar de forma computacional la dimensió ètica d’una decisió, a més d’entendre com això es pot integrar en les fórmules matemàtiques que el sistema d’IA farà servir, finalment, per decidir quin curs d’acció segueix. Degut a la seva complexitat i interdisciplinarietat inherent, el disseny ètic i la moralitat artificial són alguns dels reptes de recerca que es proposen als estudiants del Màster en Enginyeria Computacional i Matemàtica de la UOC, així com del Doctorat en Tecnologies de l’Aprenentatge de la UOC.

Nena asiàtica saludant un robot.

La moralitat artificial podria ajudar a que els sistemes d’IA prenguessin decisions més justes i èticament beneficioses no només pels usuaris directes d’aquests sistemes, sinó també per a la resta de la societat. No obstant, encara queden moltes preguntes pendents que la moralitat artificial necessitarà respondre abans de poder-se posar en pràctica de forma general. Pot una màquina arribar a «entendre» la dimensió ètica i moral de les seves decisions? Si és que sí, fins on pot arribar? Podria contribuir això a «deshumanitzar» el camp de l’ètica? I, potser la pregunta més fonamental, i que vindria abans de totes les anteriors: és ètic posar números a l’ètica?

Joan Casas-Roma és investigador postdoctoral del grup SmartLearn de la Universitat Oberta de Catalunya (UOC) i Doctor en Societat de la Informació i el Coneixement per la UOC. Els seus interessos de recerca es centren en temes de Intel·ligència Artificial i Ètica, especialment dins la línia de la Moralitat Artificial. Actualment treballa en l’aplicació de IA, Ètica i Moralitat Artificial en el camp de l’educació online i dels sistemes de tutorització personalitzats.