Caminando por un mapa: El solucionismo tecnológico y los límites del lenguaje

9 marzo, 2021
Caminando por un mapa

(Més avall trobareu la versió en català d’aquest contingut.)

En el mundo actual, la digitalización masiva permite interconectar a nivel global prácticamente todos los ámbitos de nuestras vidas: trabajo, educación, ocio, sanidad… La inmensa cantidad de datos disponibles permite representar una especie de “fotografía digital” de la sociedad que permite tomar decisiones más globales, informadas y, idealmente, mejores. Sin embargo, esta gestión a gran escala implica que, cuando aparece un problema, este también es a gran escala. La solución requiere una herramienta capaz de lidiar con un reto de semejante tamaño: las decisiones automatizadas. El rápido crecimiento de estos procesos automatizados no está, sin embargo, libre de controversias, y el estudio de sus repercusiones éticas se ha convertido, recientemente, en un campo importante., Los estudiantes del Máster en Ingeniería Computacional y Matemática de la UOC, así como los del Doctorado en Tecnologías del Aprendizaje de la UOC, tienen la oportunidad de afrontar algunos de estos retos tan altamente interdisciplinarios como parte de su proyecto de investigación.

Raramente nos preguntamos por las limitaciones de la tecnología en la que basamos el futuro de nuestra sociedad.

En el contexto de pandemia global que vivimos actualmente podemos ver muchos ejemplos del uso de la tecnología en su prevención y gestión. Un caso concreto sería la oportunidad que se ha visto en el uso de smartphones y servicios de geolocalización como una puerta para automatizar la identificación de contactos considerados de riesgo. No obstante, tal y como señalan algunos estudios, la tecnología GPS tiene una serie de limitaciones que cuestionan la viabilidad de dicha aproximación con suficientes garantías. Estas limitaciones, sin embargo, no han impedido que varios paises hayan puesto en marcha sistemas parecidos que ya están tomando decisiones automatizadas que afectan a la población. De forma parecida, a diario se usan modelos de predicción para anticipar la mejor forma de afrontar la pandemia. Esto, frecuentemente, genera dilemas importantes: por ejemplo, los modelos sanitarios recomiendan unas medidas que poco se ajustan a las medidas señaladas por los modelos económicos. ¿Qué se debe priorizar? ¿Qué modelo se debe seguir? Unos modelos resaltan una parte del problema y, consecuentemente, apuntan a unas formas de solucionarlo, mientras que otros modelos representan una dimensión distinta del mismo conflicto.

Aunque el beneficio que aportan la tecnología y los modelos de predicción a problemas semejantes es inegable, pocas veces nos preguntamos si esas herramientas serán capaces de solucionar todo lo que se espera que resuelvan; dicho de otra forma, raramente nos preguntamos por las limitaciones que esa tecnología y esos modelos, en los que basamos el futuro de nuestra sociedad, puedan tener.

De la realidad al modelo: los límites de la representación

La idea de que todo problema actual se puede solucionar a través de la tecnología se conoce con el nombre de “solucionismo tecnológico”. Más allá de limitaciones que pueda haber en el diseño, o en la propia tecnología del momento, el solucionismo tecnológico hereda un problema que ya presentó en su momento el positivismo científico (la creencia de que el conocimiento auténtico sólo puede adquirirse a través de la ciencia): el problema de los límites de los modelos que utiliza.

Medir una maqueta con una regla.

Cualquier cosa que sea una representación (un modelo) tiene siempre unas limitaciones. Por ejemplo, una fotografía frontal de alguien, como representación del aspecto físico de esa persona, no captura su espalda. El hecho de que sea una imagen bidimensional establece una serie de límites físicos acerca de lo que puede representar y lo que no. Podemos, evidentemente, imaginar cómo será la espalda de esa persona, pero para ello tenemos que “trascender” la fotografía: tenemos que trascender los límites de esa representación e involucrar una nueva representación (nuestra imaginación) si queremos obtener más información acerca de lo representado. Del mismo modo, cualquier tipo de representación se encuentra siempre con unas limitaciones frente a lo que representa: un modelo de algo siempre acaba siendo más limitado que ese “algo” que modela.

En el campo de la representación del conocimiento a menudo se señala como el único mapa que no comportaría una pérdida de información, respecto al terreno que representa, sería un mapa a escala 1:1… ¡no hace faltar decir que no sería muy cómodo de llevar! Todo mapa, todo modelo de algo, identifica, señala y representa las características que se consideran más importantes de ese algo, pero por cada característica que se representa, se omiten incontables detalles que no se consideran importantes. Este equilibrio entre precisión y abstracción es lo que hace que un mapa, como representación simbólica de un terreno, tenga utilidad; lo mismo pasa con un modelo computacional, como representación simbólica que es de alguna situación.

Aunque el beneficio que aportan la tecnología y los modelos de predicción a problemas semejantes es inegable, pocas veces nos preguntamos si esas herramientas serán capaces de solucionar todo lo que se espera que resuelvan.

Para que un mapa sea útil debe “reducir” el tamaño del terreno que representa; para que un modelo sea útil debe “reducir” la complejidad de la situación que modela. Esta utilidad, sin embargo, siempre tiene un precio: omitir una serie de detalles que, quizás, serían relevantes al tener que tomar ciertas decisiones. Los retos detrás de la representación del conocimiento se exploran en algunas de las asignaturas del Grado de Ingeniería Informática de la UOC.

Más allá del eterno dilema entre precisión y practicidad, al explorar los límites de los modelos y la fidelidad con la que pueden representar el mundo nos topamos, inevitablemente, con otro muro aún más alto: los límites del lenguaje.

Wittgenstein y los límites del lenguaje

En el Tractatus Logico-Philosophicus, Ludwig Wittgenstein explora los límites de la investigación filosófica a través del estudio de los límites del lenguaje como frontera del pensamiento humano: lo que no se puede expresar a través del lenguaje no se puede “pensar”. Wittgenstein captura magistralmente esta idea con esta frase: “los límites de mi lenguaje son los límites de mi mundo”. Aunque su obra gira entorno al estudio del “lenguaje natural” (el lenguaje escrito o hablado) como representación de nuestros pensamientos, su reflexión se puede aplicar de forma generalizada a la relación entre una representación (un lenguaje) y lo representado: las partes de la realidad que no se pueden capturar en un modelo no pueden “entenderse” dentro de él.

Límites del lenguaje

A raíz de esto, la tecnología queda irremediablemente limitada por los límites de los modelos y lenguajes que utiliza (por ejemplo, los modelos computacionales y el lenguaje matemático). A pesar de que la tecnología mejora a velocidades vertiginosas, los límites de lo que el lenguaje tecnológico puede representar marcan la frontera de lo que esta podrá tener en cuenta y, por lo tanto, solucionar. Decisiones perjudiciales detrás de las que la justificación es “no hay constancia de eso en el sistema” abundan, lamentablemente, hoy en día. Si bien es cierto que, en muchos casos, eso señala la necesidad de ampliar ese “mapa tecnológico” existente con más datos y más campos, esa dirección asume que esa tecnología podrá, al final, representar todo lo que necesita para tomar la decisión correcta. Mientras tanto, ese modelo incompleto e imperfecto, ese mapa parcial, se sigue utilizando para automatizar decisiones que tienen un efecto real sobre el mundo, la sociedad y las personas que viven en ella.

Del modelo a la realidad: caminando por un mapa

El mayor riesgo tras la digitalización masiva y el solucionismo tecnológico se encuentra en aceptar y normalizar la tendencia de adaptar la realidad al modelo, y no al revés. En lugar de crear un modelo del mundo para entenderlo mejor y tomar mejores decisiones en él, el mundo empieza a confundirse con el modelo y acaba siendo este último, y no el mundo, el que determina lo que es importante y lo que no. Edward Abbey captura esa idea de forma sublime en “Desert solitaire”:

“(…) And thus through language create a whole world, corresponding to the other world out there. Or we trust it corresponds. Or, perhaps, like a German poet, we cease to care, becoming more concerned with the naming than with the things named; the former becomes more real than the latter. And so the world is lost again. No, the world remains, and it is we who are lost. Again. (…)”

Mapa que guía en un camino.

En lugar de crear un mapa para guiarnos por el mundo, dejamos el mundo de lado y empezamos a andar por el mapa; lo que tenía que servir para ayudarnos a salir de ese laberinto de posibilidades y decisiones que es el mundo real, se acaba convirtiendo en nuestro nuevo laberinto artificial. La sociedad se convierte poco a poco en cifras, gráficos, porcentajes, estadísticas; las personas se convierten en sus expedientes, en sus fotografías de Instagram, en sus perfiles de las redes sociales; el mundo se convierte en un mapa incompleto e impreciso del mundo.

Alguien podría estar leyendo este texto y pensar que se advoca por un rechazo de lo tecnológico, pero esto no es así. El problema no es la tecnología, ni la ciencia, ni los modelos computacionales: el reto, tal y como señaló Wittgenstein, es la inherente limitación que todo lenguaje, toda representación, tiene y siempre tendrá sobre la realidad que busca representar.

A pesar de que la tecnología mejora a velocidades vertiginosas, los límites de lo que el lenguaje tecnológico puede representar marcan la frontera de lo que esta podrá tener en cuenta y, por lo tanto, solucionar.

La solución no pasa, por supuesto, por rechazar todo lenguaje y toda representación. La solución está en entender y, sobretodo, recordar, especialmente frente a la pervasiva automatización en todas las capas de la sociedad, que quizás la tecnología no siempre será suficiente para representar todo lo que para el mundo, para la sociedad, para nosotros, es importante y es relevante. En la época de la mayor aceleración tecnológica, es crucial conservar una visión holística e interdisciplinaria del mundo y sus retos que nos permita tener el valor de lo humano siempre en el centro de nuestras decisiones para no olvidar que, más allá de la representación, está lo representado: la persona detrás del modelo.

Caminant per un mapa:
El solucionisme tecnològic i els límits del llenguatge

En el món actual, la digitalització massiva permet interconnectar a nivell global pràcticament tots els àmbits de les nostres vides: feina, educació, oci, sanitat… La immensa quantitat de dades disponibles permet representar una mena de «fotografia digital» de la societat que permet prendre decisions més globals, informades i, idealment, millors. No obstant això, aquesta gestió a gran escala implica que, quan apareix un problema, aquest també és a gran escala. La solució requereix una eina capaç de tractar amb un repte d’aquesta magnitud: les decisions automatitzades. El ràpid creixement d’aquests processos automatitzats no està, però, lliure de controvèrsies, i l’estudi de les seves repercussions ètiques s’ha convertit, recentment, en un camp important. Els estudiants del Màster en Enginyeria Computacional i Matemàtica de la UOC, així com els del Doctorat en Tecnologies de l’Aprenentatge de la UOC, tenen l’oportunitat d’afrontar alguns d’aquests reptes tan altament interdisciplinaris com a part del seu projecte de recerca.

En el context de pandèmia global que vivim actualment podem veure molts exemples de l’ús de la tecnologia en la prevenció i gestió de la situació d’emergència que en resulta. Un cas concret seria l’oportunitat que s’ha vist en l’ús de smartphones i serveis de geolocalització com una porta per automatitzar la identificació de contactes considerats de risc. No obstant això, tal com assenyalen alguns estudis, la tecnologia GPS té una sèrie de limitacions que qüestionen la viabilitat d’aquesta aproximació amb suficients garanties. Aquestes limitacions, però, no han impedit que diversos països hagin posat en marxa sistemes semblants que ja estan prenent decisions automatitzades que afecten la població. Així mateix, diàriament es fan servir models de predicció per anticipar la millor manera d’afrontar la pandèmia. Això, freqüentment, genera dilemes importants: per exemple, els models sanitaris recomanen unes mesures que poc s’ajusten a les mesures assenyalades pels models econòmics. Què s’ha de prioritzar? Quin model s’ha de seguir? Uns models ressalten una part del problema i, conseqüentment, apunten a unes formes de solucionar-ho, mentre que altres models representen una dimensió diferent del mateix conflicte.

Tot i que el benefici que aporten la tecnologia i els models de predicció a problemes semblants és innegable, poques vegades ens preguntem si aquestes eines seran capaces de solucionar tot el que s’espera que resolguin; dit d’una altra manera, rarament ens preguntem per les limitacions que aquesta tecnologia i aquests models, en els quals basem el futur de la nostra societat, puguin tenir.

De la realitat al model: els límits de la representació

La idea que qualsevol problema actual es pot solucionar a través de la tecnologia es coneix amb el nom de «solucionisme tecnològic». Més enllà de limitacions que hi pugui haver en el disseny, o fins i tot en la tecnologia del moment, el solucionisme tecnològic hereta un problema que ja va presentar en el seu moment el positivisme científic (la creença que el coneixement autèntic només pot adquirir-se a través de la ciència ): el problema dels límits dels models que utilitza.

Medir una maqueta con una regla.

Qualsevol cosa que sigui una representació (un model) té sempre unes limitacions. Per exemple, una fotografia frontal d’algú, com a representació de l’aspecte físic d’aquesta persona, no en captura l’esquena. El fet que sigui una imatge bidimensional estableix un conjunt de límits físics sobre el que pot representar i el que no. Podem, evidentment, imaginar com podria ser l’esquena d’aquesta persona, però per fer-ho hem de «transcendir» la fotografia: hem de transcendir els límits d’aquesta representació i involucrar una nova representació (la nostra imaginació) si volem obtenir més informació sobre allò representat. De la mateixa manera, qualsevol tipus de representació es troba sempre amb unes limitacions enfront del que representa: un model d’alguna cosa sempre acaba sent més limitat que aquesta «cosa» que modela.

En explorar els límits dels models i la fidelitat amb què poden representar el món ens topem, inevitablement, amb un altre mur encara més alt: els límits del llenguatge.

En el camp de la representació del coneixement sovint s’assenyala com l’únic mapa que no comportaria una pèrdua d’informació, respecte al terreny que representa, seria un mapa a escala 1:1… no cal dir que no seria gaire còmode de portar! Qualsevol mapa, qualsevol model d’alguna cosa, identifica, assenyala i representa les característiques que es consideren més importants d’aquesta cosa, però per cada característica que es representa, s’ometen incomptables detalls que no es consideren importants. Aquest equilibri entre precisió i abstracció és el que fa que un mapa, com a representació simbòlica d’un terreny, tingui utilitat; el mateix passa amb un model computacional, com a representació simbòlica que és d’alguna situació. Perquè un mapa sigui útil ha de «reduir» la mida del terreny que representa; perquè un model sigui útil ha de «reduir» la complexitat de la situació que modela. Aquesta utilitat, però, sempre té un preu: ometre un conjunt de detalls que, potser, serien rellevants a l’hora de prendre certes decisions. Els reptes darrere de la representació del coneixement s’exploren en algunes de les assignatures del Grau d’Enginyeria Informàtica de la UOC.

Més enllà de l’etern dilema entre precisió i practicitat, en explorar els límits dels models i la fidelitat amb què poden representar el món ens topem, inevitablement, amb un altre mur encara més alt: els límits del llenguatge.

Wittgenstein i els límits del llenguatge

En el Tractatus Logico-Philosophicus, Ludwig Wittgenstein explora els límits de la investigació filosòfica a través de l’estudi dels límits del llenguatge com a frontera del pensament humà: el que no es pot expressar a través del llenguatge no es pot «pensar». Wittgenstein captura magistralment aquesta idea amb aquesta frase: «els límits del meu llenguatge són els límits del meu món«. Encara que la seva obra gira entorn de l’estudi del «llenguatge natural» (el llenguatge escrit o parlat) com a representació dels nostres pensaments, la seva reflexió es pot aplicar de manera generalitzada a la relació entre una representació (un llenguatge) i allò representat: les parts de la realitat que no es poden capturar en un model no es poden «entendre» des dins del model.

Límites del lenguaje

Arran d’això, la tecnologia queda irremeiablement limitada pels límits dels models i llenguatges que utilitza (per exemple, els models computacionals i el llenguatge matemàtic). Tot i que la tecnologia millora a velocitats vertiginoses, els límits del que el llenguatge tecnològic pot representar marquen la frontera del que aquesta pot tenir en compte i, per tant, solucionar. Decisions perjudicials darrere de les quals la justificació és «no hi ha constància d’això en el sistema» abunden, lamentablement, avui dia. Si bé és cert que, en molts casos, això assenyala la necessitat d’ampliar aquest «mapa tecnològic» existent amb més dades i més camps, aquesta direcció assumeix que aquesta tecnologia podrà, al final, representar tot el que necessita per prendre la decisió correcta. Mentrestant, aquest model incomplet i imperfecte, aquest mapa parcial, se segueix utilitzant per automatitzar decisions que tenen un efecte real sobre el món, la societat i les persones que hi viuen.

Del model a la realitat: caminant per un mapa

El major risc darrere la digitalització massiva i el solucionisme tecnològic es troba en acceptar i normalitzar la tendència d’adaptar la realitat al model, i no a l’inrevés. En lloc de crear un model del món per entendre’l millor i prendre-hi millors decisions, el món comença a confondre’s amb el model i acaba sent aquest últim, i no el món, el que determina el que és important i el que no. Edward Abbey captura aquesta idea de manera sublim a «Desert solitaire»:

“(…) And thus through language create a whole world, corresponding to the other world out there. Or we trust it corresponds. Or, perhaps, like a German poet, we cease to care, becoming more concerned with the naming than with the things named; the former becomes more real than the latter. And so the world is lost again. No, the world remains, and it is we who are lost. Again. (…)”

Mapa que guía en un camino.

En lloc de crear un mapa per guiar-nos pel món, deixem el món de banda i comencem a caminar pel mapa; el que havia de servir per ajudar-nos a sortir d’aquest laberint de possibilitats i decisions que és el món real, s’acaba convertint en el nostre nou laberint artificial. La societat es converteix a poc a poc en xifres, gràfiques, percentatges, estadístiques; les persones es converteixen en els seus expedients, en les seves fotografies d’Instagram, en els seus perfils de les xarxes socials; el món es converteix en un mapa incomplet i imprecís del món.

Algú podria estar llegint aquest text i pensar que s’advoca per un rebuig de la tecnologia, però això no és així. El problema no és la tecnologia, ni la ciència, ni els models computacionals: el repte, tal com va assenyalar Wittgenstein, és la inherent limitació que tot llenguatge, tota representació, té i sempre tindrà sobre la realitat que busca representar.

En l’època de la major acceleració tecnològica, és crucial conservar una visió holística i interdisciplinària del món i els seus reptes que ens permeti mantenir el valor d’allò humà sempre al centre de les nostres decisions

La solució no passa, per descomptat, per rebutjar tot llenguatge i tota representació. La solució està en entendre i, sobretot, recordar, especialment davant de la pervasiva automatització en totes les capes de la societat, que potser la tecnologia no sempre serà suficient per representar tot el que per al món, per a la societat, per a nosaltres, és important i és rellevant. En l’època de la major acceleració tecnològica, és crucial conservar una visió holística i interdisciplinària del món i els seus reptes que ens permeti mantenir el valor d’allò humà sempre al centre de les nostres decisions per no oblidar que, més enllà de la representació, hi ha allò representat: la persona darrere del model.

Autor / Autora
Investigador postdoctoral del grup SmartLearn de la Universitat Oberta de Catalunya (UOC) y Doctor en Sociedad de la Información y el Conocimiento por la UOC. Sus intereses de investigación se centran en temas de Inteligencia Artificial y Ética, especialmente dentro de la línia de la Moralidad Artificial. Actualmente trabaja en la aplicación de IA, Ética y Moralidad Artificial en el campo de la educación online y los sistemas de tutorización personalizados.
Comentarios
Deja un comentario