Plataforma Distrito Cero: Avances en inteligencia artificial (I.A.). La empatía simulada.

martes, 9 de febrero de 2016

Avances en inteligencia artificial (I.A.). La empatía simulada.

Avances en inteligencia artificial (I.A.). La empatía simulada.

Ilustración: Sead Mujic

Referencia documental del artículo

Fuente original en alemán:
Götz Eisenberg: "Der Schein von Mitgefühl", publicado en nachdenkseiten.de el 4-2-2016 (URL: http://www.nachdenkseiten.de/?p=30852)

Traducción al español para blogdelviejotopo: Tucholskyfan Gabi.

Fuente de esta traducción: blogdelviejotopo.blogspot.com.es, 7-2-2016.

Uso de esta traducción: licencia CC BY-SA. Reproducir esta ficha documental, conservando los enlaces (hipervínculos) que figuran (tanto a este blog como a la fuente en alemán).
Imagen y negrita: añadidos nuestro.

________

Avances en inteligencia artificial (I.A.). La empatía simulada.

La investigación se emplea ya intensamente en desarrollar sistemas informáticos y robots dotados de inteligencia emocional. Y uno se pregunta el por qué de estos avances y si no es posible que una sociedad, entrada en razón, sepa pararlos. Los recursos intelectuales y económicos que en ello se vienen gastando mejor podrían destinarse a perseguir metas humanas y humanistas de verdadero fuste.

Un comentario de Götz Eisenberg

En el diario Süddeutsche Zeitung del 29.01.16 encontramos un artículo en la sección llamada ‘Inteligencia artificial’ firmado por Elisabeth André, catedrática de “Human Centered Multimedia” (algo así como Multimedia centrados en lo humano). Y muy al principio de su artículo leemos: “Para que cualquier acción resulte exitosa, los sentimientos son mucho más importantes de lo que cabe suponer”, sin abordar la cuestión de lo que hemos de entender por ‘acción exitosa’. Por ello, considera André, es deseable dotar los ordenadores de inteligencia artificial. Los sistemas informáticos que exclusivamente se orienten en criterios racionales, al interaccionar con las personas, alcanzan rápidamente sus límites. De modo que se está trabajando intensamente en simular mediante modelos adecuados la competencia emocional para poder implantarla en los sistemas de nueva generación. Siendo así que el usuario expresa sus estados anímicos mediante la mímica, gestos, posturas corporales y el lenguaje que el interlocutor/interactor mecánico ha de saber leer. Esto es, deberá saber compartir los sentimientos del usuario, ponerse en su lugar a la hora de sentirse éste estresado o enfadado, para poder responderle adecuadamente. Empleando sensores miniaturizados será posible captar y registrar sus conductas y comportamientos cotidianos de modo amplio y auténtico. En caso de un centro de llamadas (call center), por ejemplo, podría llegan a detectarse las características acústicas y prosódicas de quien llama, para saber el grado de su satisfacción con el servicio ofrecido. “Los sensores que se lleven en contacto con la piel podrán medir la conductancia cutánea, temperatura y el pulso que informarán sobre el grado de excitación de la persona. Los sensores de presión que se implanten en sillas detectarán si la persona, sentada en su mesa de trabajo, está relajada o estresada”. André refiere que aún no hay sistemas informáticos que sepan distinguir entre una sonrisa fingida y una verdadera, o reconocer una ironía.

Pero que llegará el momento en que los sistemas sabrán reaccionar a las emociones del usuario. Continúa André que ante unos simples reflejos de las emociones del usuario en un robot, ya cabría pensar en algo así como empatía; que la investigación ya se está planteando cómo lograr que los sistemas lleguen a expresar sus emociones de un modo natural, proponiendo implantes cutáneos en los robots para que puedan expresar de modo creíble las emociones básicas tales como duelo, rabia, alegría mediante la mímica de su semblante artificial. Un logro que, según André, aumentaría la naturalidad de los robots, y por tanto, su aceptación. Por los progresos en la simulación de la inteligencia artificial cabría esperar “que los artefactos interactivos del futuro se puedan dotar de capacidades emotivas refinadas, proporcionándole al humano que tiene en frente la ilusión de encontrarse ante individuos con sentimientos propios”.

Hasta aquí la referida catedrática. Leyendo su texto, no paré de preguntarme: ¿Y esto, de qué sirve? ¿Debemos o queremos llegar a esto? Habrá quienes lo querrán así. Detrás de semejantes investigaciones suele haber unos intereses económicos de envergadura, que en este campo otean unos mercados enormes. En la novela de Dave Eggers The Circle (esp. El Círculo) podemos leer hasta dónde puede llegar esta evolución, un escenario de verdadera pesadilla totalitaria. La señora André, como la científica que es, no se plantea ninguna de estas cuestiones, o al menos no las aborda en este artículo en el Süddeutsche Zeitung. Semejantes cuestiones se consideran no pertinentes, o paracientíficas. Heidegger nos sentencia lapidario: “La ciencia no piensa”. Investiga sin cuestionarse quién/es se benefician de sus avances y qué consecuencias sociales puedan traer. Max Horkheimer [1] decía: “Bajo el punto de vista puramente científico, el odio no es peor que el amor puesto que no hay ninguna razón por la que el placer de (hacer) sufrir sea distinto al placer de amar”. De la ‘Teoría crítica’ [2], mi generación ha ido aprendiendo que no todo lo que técnicamente resulte posible/factible se deba hacer o realizar. Escribe Adorno en sus Mínima Moralia (La sociedad emancipada): “Quizá la verdadera sociedad llegue a hartarse del desarrollo y, por pura libertad, deje sin aprovechar algunas posibilidades en lugar de pretender alcanzar, con desvariado ímpetu, ignotas estrellas”. [3]

Y me surge otra duda más, a saber, ¿por qué nos ofrece el Süddeutsche Zeitung en su suplemento cultural semejante texto afirmativo y sin crítica alguna? ¿Dónde queda su agudeza mental y actitud crítica que sí sabe manifestar en otras secciones donde escribe y firma, entre otros, Heribert Prantl? [4]

En sus Historias del señor Keuner [5], escribe Bertholt Brecht: “El señor Keuner poco sabía de la naturaleza humana (“Menschenkenntnis”) considerando que este saber sólo hace falta donde se da la explotación”. Según Brecht este conocimiento sobre los humanos lo necesita quien pretenda engañar a los demás o se proponga venderles algo que no necesitan. En adelante, las sillas donde se sentarán los candidatos solicitando un empleo, estarán equipadas de sensores que facilitarán datos sobre su resiliencia y resistencia al estrés. Las futuras centralitas informatizadas podrán detectar en la voz de quien llama su estado anímico y reaccionar adecuadamente. También se encuentra ya encaminada la robotización en materia de los cuidados de enfermos y ancianos, a no ser que la sociedad, vuelta a la razón, sepa oponerse y frenarlo.

A la vista de semejantes evoluciones ya se preguntaba Cees Nooteboom en su novela El Dia de todas las almas [6]: “Ni siquiera se cómo expresarlo. Tenemos ordenadores o somos ordenadores”. El cerebro humano, muchos contemporáneos lo toman ya por un ordenador lento y deficitario o por un buscador insuficiente. Günther Anders en los años cincuenta del siglo pasado, a la vista de los artilugios y la maquinaria que había ideado y logrado, ya se refería a la “vergüenza prometeica” del hombre y su “deseo de ser cosa”, frente a su propia defectuosa y caduca creaturalidad. El hombre como Prometeo, como creador del un mundo de máquinas, sostiene Anders, se encuentra en la penosa situación de sentirse constantemente inferior a lo hecho/fabricado, y por tanto, humillado [7].

Las modernas ciencias naturales, en su afán de llegar a dominar la naturaleza, han reducido el mundo a una serie de mecanismos y principios categóricos que cabe resumir en fórmulas matemáticas. Este modo de pensar, dice André Gorz [8] en su Crítica de la razón productivista (Catarata, 2008), acaba generando una máquina que:

“quedando sustituida el pensar/el acto reflexivo sobre la externalidad/superficialidad por la superficialidad de esta misma reflexión, entra a servir de punto de referencia para la mente humana: el ordenador, al mismo tiempo máquina calculadora e “inteligencia artificial”; máquina para componer música, para escribir poesía, diagnosticar enfermedades, traducir, hablar, etc. La capacidad para diseñar máquinas acaba por entenderse como máquina; la mente humana, capacitada para funcionar como una máquina, se reconoce en la máquina, al funcionar ésta como un humano, sin percatarse de que, en realidad, la máquina NO funciona como la mente humana, sino tan sólo como aquella mente que haya aprendido a funcionar como una máquina”.

El convertir a las personas en sujetos mercantiles y monetarios supone invalidar y empobrecerlas emocional y psíquicamente. Nuestra inteligencia social y emocional, esto es, la capacidad de sentirnos empáticos con otras personas, de sentir con ellas, de ver nuestra relación desde la perspectiva correcta, puede que no nos venga de nacimiento, pero sí se viene formando de buen grado a partir de muy tempranas vivencias. Para mejor o para peor, o en absoluto. Dadas las temperaturas gélidas que suelen predominar en las familias, que sólo lo son en apariencia, al vivir los integrantes, llenos de soledades, uno al lado de otro, el mundo interior se convierte en un paisaje glaciar lleno de sentimientos congelados.

Supeditando sus condiciones existenciales y vitales a los mercados, las personas van desarrollando cierta funcionalidad, eficacia, agilidad y flexibilidad – toda una serie de propiedades que les aportan unas ventajas en su diaria carrera de ratas. Ello implica además cierta dureza contra ellas mismas y los demás. Van perdiendo todas aquellas cualidades que se opongan a este afán y que hasta hace bien poco eran consideradas como humanamente deseables. Los seres humanos se van pareciendo a las máquinas que operan y en las que intentan meterse más y más. Vivir bajo las condiciones de un mercado desenfrenado genera un fenotipo de persona que se parece a los “psicópatas” tal y como los describen los psiquiatras Cleckley y Hare [9]: psíquicamente frígido, superficialmente encantador, asertivo, enfocado, sin escrúpulos, exclusivamente interesado en maximizar su propio beneficio y carente de empatía. Quien cuente con dichas propiedades, tiene las mejores perspectivas para ganar la lucha existencial neoliberal. Puede que algún día unos robots dotados de inteligencia emocional sean los últimos seres que conserven algunos rasgos humanos que pudieran haber “aprendido” de los últimos humanos. Al ocuparme del artículo de la señora André recordé un chiste perdido en las profundidades de mi memoria:

Un oficial de las SS en un campo de exterminio se dirige a un judío:
- Hoy deberías pasar a la cámara de gas, pero te doy una última oportunidad. Tengo un ojo de cristal y si detectas cuál es, te perdono la vida.
El judío le mira y dice:
- El izquierdo, Herr Obersturmbannführer.
- ¿Cómo lo has descubierto?
- Es que tiene la mirada más humana.

En los años sesenta del siglo pasado, el pedagogo Hans-Jochen Gamm editó un libro llamado El “Flüsterwitz” en el Tercer Reich (el chiste político transmitido en voz baja). En él Gamm sostenía la tesis que contra el ejercicio del dominio autoritario, más aún del poder en general, no existe nada mejor que recibirlo con risas y burlas. Para aquellos que no o ya no simpatizaban con el nacionalsocialismo, el contar semejantes chistes representaba un modo de resistencia subversiva, pero que no necesariamente ponía en peligro sus vidas. Aprendí de Gamm que la bufonada es una astuta variante de la protesta. El bufón al estilo de Till Eulenspiegel [10], practica y cultiva la resistencia de los pasitos pequeños y de ese modo puede sustraerse de la vergonzosa alternativa que sería convertirse en cómplice del sistema o ser engullido por él. Deberíamos ejercitar este tipo de bufonada sin falta. Me temo que dentro de nada nos será muy útil.

Götz Eisenberg

Traducción de
Tucholskyfan Gabi
Blog del viejo topo