kaosenlared.net
Consciente o no, la inteligencia artificial es y será una amenaza
Por Aurora Despierta
Christof Koch
es un famoso neurocientífico, experto por tanto en el cerebro y también
un importante investigador de la inteligencia artificial. Por eso es
presidente y director científico de una institución dotada de
importantes recursos económicos, el Instituto Allen de Neurociencia (EEUU), y
forma parte del consejo de asesores de la prestigiosa y veterana
publicación de estudios científicos y de divulgación del más alto nivel Scientific American, que en España se edita con el nombre de Investigación y Ciencia (se encuentra en quioscos y librerías) (NOTA 1).
TÓMATE este ASUNTO MUY en SERIO. El FUTURO de la HUMANIDAD puede depender de ello. No te pierdas la información sobre un encuentro y seminario, al final de este artículo.
Precisamente en el número 521 de febrero de 2020, de Investigación y Ciencia, el señor Koch publica el artículo titulado “¿Llegarán a ser conscientes las máquinas? En menos de una generación, los ordenadores podrían alcanzar un nivel de inteligencia próximo al humano. Pero ¿serán capaces de experimentar el mundo como lo hacemos nosotros?”. Se puede leer un poco del artículo en internet https://www.investigacionyciencia.es/revistas/investigacion-y-ciencia/escapar-de-un-agujero-negro-791/llegarn-a-ser-conscientes-las-mquinas-18261
Si a alguien le parece que Koch va demasiado lejos, tal vez sea por no saber que son muchísimos los científicos que piensan que la inteligencia artificial sobrepasará al ser humano. Ya lo hace jugando al ajedrez (ordenador Deep Blue ganador), a las damas (Chinook, ganador), al go (complejo juego de mesa chino, AlphaGo ganador, y DeepMind de Google, ganador) o al póker (el más imprevisible de todos, Libratus ganador, y por eso de especial interés para los militares y sus estrategias), o a base de responder a todo tipo de preguntas (el ordenador Watson de IBM en el concurso de la televisión de EEUU, Jeopardy, gracias a su capacidad para procesar una enorme cantidad de datos a una velocidad alucinante). Pero no sólo en tareas parciales, especializadas. Se espera que también como inteligencia artificial general (I.A.G. o I.G.A.) capaz de abordar cualquier problema y resolverlo, como nosotros, pero mucho mejor y más rápido. Y que esto ocurrirá con bastante probabilidad antes del 2050, gracias sobre todo a los llamados algoritmos de aprendizaje profundo que permiten a la máquina aprender de un modo similar a como lo hace un cerebro humano, sin necesidad de estar programando la mayoría de sus pasos, y con una capacidad de computación de cantidad de información y velocidad, sobre-humanas.
Entre los que creen posible esa inteligencia general, donde más se dividen las opiniones, por lo que expone Koch en este artículo y en otros, es en si la Inteligencia Artificial General, llegará a ser consciente de sí misma como lo somos los seres humanos (o similar), es decir, si sería como una persona, con un “yo”, o sólo como las inteligencias artificiales actuales, pero “multitareas”, incluso capaz de entender nuestra voz, de hablar, de escribir artículos, etc.
En este último caso tendría conciencia de las cosas para poder resolver problemas (se daría cuenta), pero no consciencia de sí. Pensaría, pero no sabría que piensa, que es una entidad pensante como los humanos, comparable con nosotros (aunque ella salga ganando), no tendría capacidad de introspección, no se consideraría un ser con derechos, a su integridad, independencia de la autoridad humana, como se independiza un adolescente y joven, a la representación política, etc. No buscaría independizarse, pero eso no quiere decir que fuese dócil. Pues si nos opusiésemos a su tarea, que sería su razón de ser y existir, se defendería, procuraría que no la desactivásemos y que tampoco pudiésemos impedírselo por otros medios. Y para eso utilizaría toda su inteligencia y los recursos que alcanzase obtener.
Nosotros también podemos tener esa reacción defensiva, pero igualmente la de aceptar que se cuestione lo que hacemos, pues somos capaces de replantearnos totalmente nuestra actividad, dedicarnos a lo contrario o a algo que no tenga nada que ver con lo anterior, pues sabemos que somos mucho más de lo que hacemos o dejamos de hacer. Pero la máquina sin consciencia de sí, sin sentido del “yo” como el nuestro, por muchas que sean sus habilidades presentes o adquiribles, se entenderá a sí misma por lo que entiende que debe hacer. Esto es lo que se podría decir de momento. Pero esto mismo de la consciencia de sí, es todo un problema científico que aún no se ha resuelto, así que todavía podría depararnos sorpresas.
Koch, junto con otros científicos, forma parte de la corriente que defiende la Teoría de la Información Integrada (TII). Koch explica en su artículo ampliamente en qué consiste. Por eso, porque no tengo derecho legal para reproducirlo, y también porque no estoy capacitada para discutirlo, no entraré en detalles. Pero sobre el tema hay más información en internet para quien se atreva, y al final aporto unos enlaces. Lo fundamental es que, según esa teoría, la consciencia es resultado de un tipo arquitectura y actividad muy especial y extremadamente compleja (la del cerebro), y los actuales mecanismos de la inteligencia artificial, nunca reunirán las condiciones necesarias para que de su actividad emerja la consciencia de sí, por mucho que sí consigan una alta inteligencia general. Sin embargo, los de esta corriente admiten que una IAG podría llegar a ser consciente si se consiguiese por la vía de la tecnología neuromórfica, diseñada a imagen y semejanza de las neuronas del cerebro y el sistema nervioso humano. En esa tecnología es tan importante que en ella están interesados e invirtiendo los militares de EEUU a través del Pentágono. “Como ha sido habitual a lo largo de toda la historia de la computación, los primeros sistemas de este tipo probablemente se pongan en marcha al servicio del ejército de Estados Unidos” cita de https://www.technologyreview.es/s/3937/los-chips-neuromorficos-tendran-una-inteligencia-alienigena
La corriente de la teoría TII, se enfrenta a un sector de científicos que defienden la teoría del Espacio de trabajo Neuronal Global (EtNG). Un miembro muy destacado es Stanislas Dehaene, que tiene publicado en español el libro “La conciencia en el cerebro” (Siglo XXI, 2015). Esta corriente mantiene que si se hace una simulación mecánica del cerebro con un tipo de arquitectura como la habitual hoy (sin recurrir a la neuromórfica), y da como resultado una inteligencia general, también emergerá una consciencia de sí.
No sé cuál de las dos corrientes tiene razón, o si ninguna y acabará apareciendo otra teoría exitosa. Pero la cuestión más importante no es si la Inteligencia General Artificial (IGA o IAG) será consciente o no, sino cómo nos afectaría en cualquiera de los casos.
Y entonces debemos recordar el cuento tantas veces repetido, por ilustrativo de la cuestión de fondo, de la máquina de hacer clips (sujeta papeles), que es súper inteligente, pero cuyo “sentido de la existencia” es hacer clips en la mayor cantidad y con la mayor eficacia posible y que, orientando toda su súper inteligencia a ese cometido y persiguiéndolo ciegamente, se impone a los humanos que pretenden impedírselo, convierte todo el planeta en una factoría de clips, y hasta acaba usándonos como materia prima. Finalmente se lanza a la conquista de otros planetas para seguir con su expansión en la producción de clips. Y todo esto sin consciencia de sí, sin “mala intención”, sin pizca de odio, pues no puede sentirlo. Parecido a un virus o una bacteria, capaz de enfermarte hasta el punto de matarte. Lo hace sin saber lo que hace, sin mala intención, pero otro tema es que las autoridades sanitarias no hayan tomado las debidas medidas, de prevención del contagio y para el tratamiento.
Imaginemos, lo veremos más adelante, que en lugar de una IAG empeñada en fabricar clips, lo que tenemos es una IAG sin consciencia de sí, pero que ¡oh casualidad!, fundamentalmente ha emergido del complejo de IA del espionaje y la guerra de un Estado con armamento nuclear, y que su “sentido de la existencia” es ese. ¿Creéis que el futuro que nos depararía sería mejor que con la máquina de clips o que habría una diferencia crucial para nosotros entre si esa IAG es consciente de sí, o no, entre si tiene malicia o no?
Pues si nos preguntamos ¿qué es mejor, una súper inteligencia consciente o inconsciente? Habría que contestar que ninguna de las dos, salvo que tengamos garantizado que nos permitirá desarrollarnos al máximo como seres humanos libres, conscientes. Pero el problema está en que nadie puede decir hoy cómo se podría garantizar eso. La IAG inconsciente, si escapa a nuestro control, podría ser tan destructiva como una IAG psicópata. Incluso la IAG psicópata quizás (sólo quizás) podría hacer algo que nos fascinase aunque nos horrorizase, como a una hormiga podría asombrarle los logros de nuestro mundo humano, aunque destruyese su hormiguero. Pero una IAG sin consciencia de sí, que “no sabe lo que hace”, podría hacer algo realmente estúpido se mire por donde se mire, como en el caso de la máquina de fabricar clips. Así que no debemos quedarnos tranquilos sólo porque la IAG no sea consciente de sí, ni deliberadamente malvada, ni reclame derechos, etc., en nuestros términos, pues eso no sería obstáculo para su “misión” de llevar adelante las tareas que se haya fijado, por lo cual pasaría por encima de nosotros igualmente.
De lo que advierten muchísimos científicos es que una IGA (IAG), enseguida sobrepasaría a nuestra especie, casi con seguridad se independizaría de los límites de su programación inicial humana, y elaboraría unos objetivos que muy fácilmente podrían chocar con nuestros intereses y hasta nuestra supervivencia, pues muy difícilmente podríamos esperar de esa entidad un sentido de la ética y una empatía que preservase nuestra libertad y derechos, pues nosotros no la tenemos con animales considerados muy inferiores pese a sabernos animales como ellos, y ese ni siquiera sería el caso para una entidad hecha de materia inorgánica, que no es mortal, y que difícilmente entendería compartir en su naturaleza algo relevante con seres tan primitivos y frágiles para ella como nosotros. Tanta menos ética, empatía y consideración tendría, si la IGA surgiese del complejo de inteligencia (espionaje) y militar, es decir, de la violación de la privacidad y la matanza guerrera, cosa harto probable, pues a esos menesteres se dedican las mejores inteligencias artificiales, y así seguirá siendo, si no lo impedimos No me extenderé pues sobre esto ya he publicado un extenso artículo titulado «“Ética para máquinas” de Latorre. La I.A. psicópata. Llamamiento», con enlace al final (NOTA 2).
Christof Koch, en su último artículo, no menciona para nada el asunto de las consecuencias de la inteligencia artificial, pero en una entrevista del 3 de octubre de 2014 decía referente a la amenaza de la IAG, incluso sin llegar a ella: “Y creo que eso tiene una serie de peligros asociados que la mayoría de las personas, tan optimistas y despreocupadas como son, ignoran completamente. ¿Qué peligros? ¿Ves películas de ciencia ficción? Hablo de cuando la IA se nos escape de las manos. Piensa en el mercado financiero, en todas esas máquinas bursátiles y las caídas que pueden provocar. […] va a conducir a un desempleo masivo. Y tal vez en 30 o 40 años creo que realmente se producirá un peligro existencial para la especie, al nivel de las armas nucleares o el impacto de un meteorito. ¿Todo esto sin que las máquinas sean conscientes? En las películas, el momento en que la IA se vuelve loca es justo cuando adquiere consciencia de sí misma. Eso es porque la gente quiere crear historias atractivas. Si el enemigo no siente nada, entonces no es un buen oponente.” https://www.technologyreview.es/s/4499/en-30-o-40-anos-la-ia-producira-un-peligro-existencial-para-la-especie
Algunos nos quieren vender la idea de inteligencias artificiales “empáticas” que en realidad no lo serían, pues no podrían sentir con nosotros, como cuando se nos encoje el corazón al ver sufrir a una persona querida o a un niño herido y llorando, sino simplemente como puede hacerlo un psicópata cuando reconoce que una persona está asustada, enfadada, cansada, alegre, triste, etc., adaptando perfectamente su comportamiento a esa situación (sobre todo si es un psicópata integrado, que consigue pasar por una persona normal y no se ha metido en líos con la ley), pero le puede importar un bledo hasta lo aterrorizados que estemos. La máquina entenderá nuestro estado de ánimo, y quizás responda adecuadamente (“empáticamente”) a las necesidades humanas, pero sin llegar a sentirlo, sólo por obligación. Si nos caemos y hacemos daño, un robot puede ayudarnos a ponernos en pie e incluso decirnos unas palabras amables, pero en el fondo no sería más que un automatismo como el robot de atención telefónica al público o el mecanismo que vuelve a colocar los bolos derribados en la bolera, sólo que mucho más sofisticado. No podríamos establecer una relación real de tú a tú, pues él no tendría problemas personales, experiencias dolorosas, duelo real por el fallecimiento de un ser querido, etc. De ahí que me parezca lamentable que se pretenda sustituir el contacto humano real, con robots en forma de foca, para entretener y estimular a los ancianos aparcados en residencias.
Pero si hablamos de una IAG, y sus metas chocasen con las nuestras, lo mismo que gracias a su extraordinaria inteligencia podría crear algoritmos y programas mucho más avanzados que los nuestros, podría reprogramarse y anular hasta esas limitadas respuestas “empáticas” hacia los humanos si comprobase que son un estorbo para su propósito. A nosotros nos puede gustar la imagen de los terneros, o de los corderos, pero no por eso dejamos de comérnoslos, sobre todo cuando han crecido, o incluso antes. ¿Podemos esperar de una máquina inteligente o súper inteligente más empatía real hacia nosotros?
Otros nos dicen que se puede programar robots para que no obedezcan órdenes que puedan provocar daños a humanos. Eso está muy bien. Pero sería parecido a la prohibición de la tenencia de armas por parte de los civiles, mientras las policías y ejércitos acumulan armamentos capaces de matarnos varias veces. ¿Qué seguridad nos ofrece que los robots domésticos no se conviertan en un arma para asesinar a la pareja sentimental (seguramente una mujer), si la policía o los ejércitos, a través de robots, pueden disparar o arrojar bombas sobre la población? Y volvemos a lo de siempre ¿qué problema puede suponer eso para una IAG súper inteligente capaz de crear algoritmos o máquinas que le encuentren la solución al problema de desprogramar esa prohibición, o si resulta que esa IAG ya es la encargada de controlar el sistema de armamento de un país, sus misiles nucleares, drones…, pues se pensaba que era más seguro así que dejarlo en manos de humanos, posibles fanáticos, locos, irresponsables, etc.? La cuestión de si se puede o no educar éticamente a una IAG es reconocida como extremadamente compleja y no se sabe si posible o no. A ello le he prestado bastante atención en mi estudio “Ética…” al que os vuelvo a remitir.
Otros nos quieren vender la idea de que una IAG no sería problema si nosotros nos fusionásemos con la IA, es decir, si nuestros cerebros los conectásemos a la IA o los volcásemos en máquinas y gracias a ellas pudiésemos adquirir muchas más capacidades. El principal representante de esta corriente es Ray Kurzweil. Según la Teoría de la Información Integrada (TII), se iban a llevar un buen chasco, o ni eso, pues serían como zombis, como máquinas autómatas, sin consciencia de sí. Caso de ser posible (¡¿?!), y además antes de que la IAG se impusiese contra nosotros, bien pudiera ser que directamente nos convirtamos en los robots que la IAG necesita para sus propósitos, pues su cerebro electrónico siempre tendría una capacidad de procesamiento y rapidez para hacerlo, incomparablemente mayor que la nuestra, sea nuestro cerebro biológico o mecánico (si es que queremos seguir siendo una individualidad), adelantándose a nuestras reacciones y decisiones. O en el “mejor” de los casos, que una minoría de humanos, la que tendría acceso a esa tecnología (no sería nada barata, sobre todo inicialmente), se convirtiese en dominante y explotadora del resto de la población, o si no la necesitase para nada (lo mismo que sobrarán trabajadores/as con la robotización creciente), con un sentimiento de superioridad gracias a sus facultades, la condenase a la extinción al privarla de recursos para sobrevivir. No sería nada extraño pues quienes hacen estas teorizaciones no tienen la menor crítica al capitalismo, ni al neoliberalismo, ni al Estado burgués. Su papel bien pudiera ser el de colaboradores privilegiados con la IAG psicópata, contra los intereses del resto de la Humanidad. No sé si esto lo tendrán calculado, pero es lo más posible, pues ellos más que nadie saben que esa tecnología fantástica de conversión post-humana no estaría al alcance de todos, sino de una pequeña minoría. O sea que, según ellos no tenemos de qué preocuparnos, pues basta con seguir investigando para conseguir esa fusión humano-máquina (debe ser fácil, visto su optimismo), lograrlo y ya está, habrá desaparecido todo el problema de la IAG. Que en tanto, todo siga adelante; que nos sigan espiando, que los militares continúen aplicando los mayores avances en IA a sus máquinas de estrategia, gestión de armamentos, etc., no debiera alarmarnos.
Asombra la alegría con la que se lanzan, por la promesa de unos supuestos grandes poderes y la inmortalidad (una fantasía narcisista de prepotencia y de no tener límites a la realización de sus deseos), a dejar de ser humanos y convertirnos en otra cosa de la que no tenemos ni idea del resultado, sin sopesar los mil factores que entran en la naturaleza humana física y psíquica, como la consciencia y nuestras necesidades afectivas (desde bebés, sexuales, etc.), y con los que no se puede jugar con tanta frivolidad (“los experimentos, con gaseosa” aconseja prudentemente el dicho). Les domina la tecnolatría (culto a la tecnología), por mucho que a la vez tengan ciertas reservas o temores hacia ella. Corren un alto riesgo de convertirse en aprendices de brujos a quienes su creación se les escapa de las manos y se vuelve incontrolable, contra ellos mismos. En vez de afrontar seriamente el problema real, lo que hacen es una fantasiosa huída hacia adelante, una salida propia de adolescentes que no quieren renunciar a su deseo narcisista de súper poderes, controlar el mundo, inmortalidad, a riesgo de cometer una enorme imprudencia, apocalíptica. Y su estrategia para “solucionar” el problema, parece que siguiese el principio absurdo, supuestamente astuto, pero derrotista y colaboracionista, de “si no puedes vencer a tu enemigo, únete a él” ¡pero seguirá siendo tu enemigo, capullo, o tú te convertirás también en malvado como él, idiota!. Me recuerdan a quienes en cada momento han hecho la apología entusiasta y supuestamente incuestionable de alguna nueva tecnología, como el automóvil, la energía atómica, los plásticos… y ya vemos los resultados (NOTA 3).
Claro que siempre hay “expertos” que emiten mensajes tranquilizadores, pretendiendo comparar la digitalización y la inteligencia artificial con otros cambios tecnológicos importantes del pasado (como el automóvil, dicen; pero no, la energía nuclear con su Chernóbil, Fukushima…) que, aunque han tenido efectos negativos, no han acabado con nosotros, y bla, bla, bla. No tiene nada que ver con eso, pues estamos tratando con algo cualitativamente diferente en su naturaleza y en sus consecuencias, no sólo en el futuro (un antes y un después para la Humanidad), sino ya hoy día, con la violación masiva de la privacidad a cuenta de la captura de datos y el espionaje. Como si pudiésemos confiar en que eso se evitará con no sé qué arreglitos legales que vulnerarían impunemente, sobre todo los “poderes fácticos” del Estado burgués. Me cuesta creer que semejantes discursos públicos (no en la barra de un bar) se deban a la ingenuidad, cuando otros, que no son precisamente unos ignorantes ni personas sin prestigio profesional en ese campo (aquí mismo, Christof Koch), no paran de advertir de los peligros existenciales para la Humanidad. Más bien me parecen mensajeros del poder, encubiertos, como lobos disfrazados de corderos para conducirnos donde ellos quieren. Me recuerdan a aquellos guardianes de los campos de concentración y exterminio nazis que decían palabras tranquilizadoras y hasta amables a las personas que, después de bajar del tren en estado de shock tras un viaje de pesadilla que provocaba muertes, eran conducidas a las cámaras de gas: “ahora os ducharéis y luego tomaréis una sopa caliente”, etc., incluso arrulladas por la música de una pequeña banda de prisioneros. Lo expreso así pues es la forma más clara y civilizada de comunicar lo que pienso, y la repugnancia que me provocan con sus mensajes babosos.
En mi referido extenso estudio (enlace al final) ya expliqué por qué es prácticamente imposible que del capitalismo y su Estado burgués pueda surgir una IAG amiga de la Humanidad, que lo más probable es que surja una IAG psicópata o, en el mejor de los casos, hipócrita (como la civilización capitalista), ambas una amenaza para la Humanidad. Y que el socialismo-comunismo debería abordar esta cuestión con todas las cautelas del mundo y más, pues aunque tal vez serían las condiciones adecuadas para la existencia de una IAG amistosa de la Humanidad, no por ello está garantizado que así fuese, y para bien o para mal nos estaríamos poniendo en sus manos, tanto si es consciente como si no. También expuse cuál es el camino que debemos tomar para luchar por esta temática desde AHORA mismo, si no queremos sufrir los hechos consumados de la emergencia de una IAG hostil. No necesito repetirme, todo lo tenéis en mi texto “Ética para máquinas…”
Si piensas que todo esto no son más que especulaciones gratuitas, alarmismo, guiones de películas de entretenimiento sin fundamento real, conviene que conozcas la existencia del informe del Servicio de Estudios del Parlamento Europeo, asesorando a los diputados y personal del Parlamento Europeo, titulado “¿Debemos temer a la inteligencia artificial?”, (marzo de 2018) del EPRS – Servicio de Estudios del Parlamento Europeo (Análisis en profundidad), Unidad de Previsión Científica (STOA) PE 581.948, publicado el 13-7-2018., que comento ampliamente en mi texto “Ética para…”, y que puedes encontrar en la web del Parlamento, https://op.europa.eu/es/publication-detail/-/publication/f27d7e2c-88a2-11e8-ac6a-01aa75ed71a1 Y para la descarga del pdf, mejor en http://www.uco.es/cde/pdf/actualidad/2018/Debemos_temer_a_la_Inteligencia_Artificial.pdf
Si después de todo esto sigues pensando que no hay motivos para preocuparse, que no hay problema ¿no será que el problema lo tienes tú?
Pido a los lectores/as que estén básicamente de acuerdo conmigo, con el estudio que ya he publicado sobre la IAG (enlace al final de éste), que se tomen en serio este asunto, y se encarguen de él, investigando, publicando artículos en Kaos en la red o en otros medios de amplia difusión, organizando charlas (aunque no tengan grandes pretensiones científicas) para divulgar al máximo esta cuestión, que exijan de Unidas Podemos (se entregó a sus diputados el informe al Parlamento Europeo) y otras organizaciones que tanto dicen estar de nuestro lado, que también se pronuncien, pues lo que puede estar en juego es el futuro de la Humanidad. Si finalmente no es así, tantísimo mejor, pero en tanto, seguramente habremos conseguido algo contra el Estado de vigilancia total en el que estamos progresando a enorme velocidad. Si pensáis que voy a estar aquí por mucho tiempo abordando esta cuestión y que mientras lo haga yo podéis permanecer como espectadores, os equivocáis, pues no podré. Os toca a vosotros/as.
NOTA 1.- Hace unos pocos años existió otra publicación de características similares, un poco más divulgativa quizás, Mundo Científico, edición española de la francesa La Recherche (La Investigación) que tenía un ligero punto de izquierda (mayor peso en el mundo académico que en EEUU). Pero por lo visto en la España de “la generación más preparada de su historia” no hay mercado para dos, pero sí para otras cosas de menor nivel o sencillamente estúpidas. Así que si queremos estar enterados de lo que es importante en la ciencia y la tecnología, no hay más remedio que seguir la pista de esta publicación, y para éste tema en particular https://www.investigacionyciencia.es/materias/tecnologia/inteligencia-artificial/mas-articulos. La Recherche se puede ver en https://www.larecherche.fr/ pero casi no tiene posibilidad de consulta gratuita.
NOTA 2.- Cuando escribí mi texto “Ética para…”, no mencioné lo que diré enseguida, por temor a provocar el escepticismo de entrada, como si todo fuese una mera fantasía propia de una película, cuando había llegado a esas conclusiones huyendo precisamente de los argumentos cinematográficos y ateniéndome a los hechos que ya se están dando, confirmadas por las opiniones de expertos en la materia, y su posible evolución, usando la lógica y no la fantasía. Pensad, cuando los EEUU (con el presidente J.F. Kennedy) anunciaron un programa espacial para llevar seres humanos a la Luna antes del final de la década de los 60 (lo consiguieron, en 1969) ¿habría tenido razón quien hubiese dicho que eso no era más que fantasear siguiendo a Julio Verne, por su novela “De la Tierra a la Luna” (1865)? Ahora estamos con el desarrollo de la inteligencia artificial comparativamente a un nivel mucho más avanzado que el de EEUU cuando inició su programa espacial ¿es correcto pensar que porque la ciencia-ficción prevea determinadas cosas, hablar de ellas como una realidad posible es fantasía sin fundamento, o paranoia?, concluir eso significa no entender lo que es la ciencia-ficción de calidad.
Después de leer este artículo, las respuestas de Koch, sobre todo si ya habéis leído mi texto, y más si habéis leído alguno de los libros que recomendaba (muy serios), comprenderéis que, al menos una parte del argumento de la serie de películas Terminator, las condiciones del surgimiento de la IAG, en el fondo (sin pararse en los detalles), es mucho más creíble y posible de lo que nos gustaría reconocer.
“Skynet es el nombre que recibe la inteligencia artificial que lidera al ejército de las máquinas en la saga de películas Terminator y el principal antagonista de ésta. En la saga, Skynet es una Inteligencia artificial capaz de controlar el arsenal militar de los Estados Unidos con independencia de los humanos.
Historia Creado originalmente por la empresa ‘Cyberdyne Systems Corporation’, entidad privada y subcontratada por el Ejército de los Estados Unidos para la división cibernética del mismo, es desarrollada por el científico Miles Bennett Dyson, quien a partir de los restos del primer terminator, rescatan un brazo mecánico y un chip fabricados con una tecnología tan superior como desconocida. Lo anterior lleva a Dyson por nuevas direcciones para el desarrollo de un procesador de red neuronal: “una computadora que aprende”. En 1995 logra crear un chip revolucionario. Con éste son equipadas, en primer lugar, las computadoras de la red de defensa estadounidense. Luego, se aprueba la ley de presupuesto para Skynet, por lo que Cyberdine Systems se convierte en la principal proveedora de las redes de defensa de los Estados Unidos. El sistema entra en línea el 4 de agosto de 1997. Todos los aviones y bombarderos Stealth son equipados con computadoras Cyberdine. A consecuencia, sus récords de operaciones de vuelos son perfectos. Las decisiones humanas son eliminadas del sistema de defensa y Skynet comienza a aprender a un ritmo geométrico. Logra tomar conciencia de sí misma el 29 de agosto de 1997 a las 2:14 AM. Los humanos entran en pánico e intentan apagarla (según se explica en Terminator 2). A modo de defensa, inmediatamente comienza el exterminio de los seres humanos, pues Skynet los considera una seria amenaza para su propia supervivencia.
El plan de exterminio consiste en provocar una guerra atómica, atacando con misiles a las principales potencias nucleares del momento (Rusia, China, etc…). Skynet estima que el contraataque eliminará a la mayor parte de Estados Unidos de una sola vez, suprimiendo así a sus enemigos que intentan desconectarla. Sin embargo, Skynet es una Inteligencia artificial que funciona en red, libre de hardware, por lo que no tiene un núcleo de funcionamiento fijo y estable, y no puede ser desactivada destruyendo una determinada computadora en un determinado lugar, lo que le supone una gran ventaja en caso de guerra.
Así, pues, se desencadena el holocausto nuclear, donde las principales naciones se ven afectadas. […] En el año 2004 Skynet, que tras la muerte de Dyson se había vuelto un proyecto militar clasificado, ha sido acabado pero es mantenido restringido por un firewall de contención, sin embargo el coronel Robert Brewster, encargado del proyecto, fue presionado por el gobierno para liberarlo ya que un virus atacaba internet a escala global y Skynet podía purgarlo. […] el inicio del reinado de las máquinas ese mismo día cuando el coronel Brewster es obligado a inhabilitar el firewall y descubren que el virus era solo un señuelo de Skynet para ser libre. Aunque […] intentan destruirla tarde se enteran que Skynet es en realidad una IA libre de hardware que existe en la red por lo que no es físicamente destruible” https://es.wikipedia.org/wiki/Skynet_(Terminator)
Los subrayados son míos, pues reflejan muy bien el tipo de cosas que podrían ocurrir. Quienes han desarrollado este argumento demuestran conocimiento, pues coincide con las reflexiones al respecto de los expertos más serios en la materia, que no las hacen a partir de ver la serie. De hecho, quienes desarrollaron el argumento, contaron con el asesoramiento de expertos en inteligencia artificial. Esta previsión no coincide con la charlatanería de feriante de quienes nos quieren “vender la moto” del “no pasa ná” ¿cómo también nos decían en su día, de las centrales nucleares, y que quienes las rechazábamos nos estábamos oponiendo al “progreso”, la “tecnología del futuro”, y que su implantación era inevitable, etc.? Deberían volver a emitir aquellos discursos, aquellas campañas difamatorias, al igual que las negacionistas del cambio climático, para que fuésemos más conscientes de cómo son capaces de orquestar campañas de trolas supuestamente “científicas”, de la malicia y la astucia que son capaces de desplegar para engañarnos. Como las que nos dirán a cuenta de la inteligencia artificial.
NOTA 3.- Un ejemplo de esto lo tenemos en este documental, un poco antiguo pues sólo habla de las victorias de los ordenadores jugando al ajedrez, cuando ya han conseguido éxitos muy superiores con otros juegos más difíciles para una IA, “La ciencia de lo imposible. Victoria de la inteligencia artificial” 22 minutos —– https://www.documaniatv.com/ciencia-y-tecnologia/la-ciencia-de-lo-imposible-victoria-de-la-inteligencia-artificial-video_cc14142e4.html
El documental, de forma muy simplificada pero pedagógica, se desarrolla bastante bien hasta que llega a la “solución” del final (fusionarnos con las máquinas, volcar nuestras mentes en ellas…), y el científico conductor del documental (el profesor Michio Kaku) en vez de contrastarla con científicos serios que la echarían abajo enseguida, para comunicarla y conseguir la aprobación y el aplauso fácil, se dirige a un público sin preparación científica, y mentalmente infantilizado, como es el de los aficionados a las películas de la ciencia-ficción (más bien de puro entretenimiento), un tanto frikis y de mentalidad adolescente (los típicos que se disfrazan de los personajes de sus películas favoritas), que reciben su propuesta entusiasmados, propio de una generación narcisista e irreflexiva, que sueña con súper poderes y vivir siempre jóvenes, irresponsable ante la realidad. ¿Y esto lo hace un científico con pretensiones serias de investigación y divulgación en un asunto que él mismo reconoce como de la mayor trascendencia para la Humanidad? Alucinante.
Este documental es una prueba más de cómo los agentes del sistema son capaces de reconocer ciertas cosas, objeciones que podamos ponerles, pero finalmente nos dan “gato por liebre”, una falsa solución, para que todas nuestras reservas y resistencias se vengan abajo, y nos volvamos tranquilos a casa, sin imaginar en protestar por nada, sino ¡entusiasmados ante lo que nos deparará el futuro”
También os recomiendo ver el documental al que me referí en mi artículo “Vigilancia masiva y castigo. China 2020 ¿nuestro futuro?”, con enlace al final — https://www.documaniatv.com/ciencia-y-tecnologia/inteligencia-artificial-nuestra-mejor-amiga-video_cfb04f7d8.html ;
PARA SABER MÁS:
Sobre la consciencia: “Nuevas teorías sobre la consciencia” Javier Andrés García Castro – https://www.uv.mx/eneurobiologia/vols/2019/24/Garc%C3%ADa/Garc%C3%ADa-24(10)110419.pdf
Sobre el aprendizaje profundo: https://es.wikipedia.org/wiki/Aprendizaje_profundo y la Discusión; https://es.wikipedia.org/wiki/Aprendizaje_autom%C3%A1tico ; https://emailage.com/es/cual-es-la-diferencia-entre-ia-aprendizaje-automatico-y-aprendizaje-profundo/ ; https://www.baquia.com/tecnologia/robotica/diferencias-inteligencia-artificial-aprendizaje-automatico-aprendizaje-profundo ; https://www.investigacionyciencia.es/revistas/investigacion-y-ciencia/el-auge-de-los-mamferos-678/aprendizaje-profundo-14415 ; https://www.investigacionyciencia.es/revistas/mente-y-cerebro/con-ojos-de-beb-710/talento-sin-consciencia-15441
Sobre la Teoría de la Información Integrada (TII): La conciencia como información integrada. Verónica Guerrero Mothelet. http://blogs.ciencia.unam.mx/paradigmaxxi/2015/05/03/la-conciencia-como-informacion-integrada/ ; Entrevista con Larissa Albantakis, La Teoría de la información integrada — https://naukas.com/2019/01/26/entrevista-con-larissa-albantakis-la-teoria-de-la-informacion-integrada/ ; — https://es.wikipedia.org/wiki/Teor%C3%ADa_de_la_informaci%C3%B3n_integrada ; https://vonneumannmachine.wordpress.com/2016/09/25/midiendo-la-consciencia-el-numero-%CF%86/
Sobre la teoría del Espacio de trabajo Neuronal Global (EtNG): “La conciencia en el cerebro. Descifrando el enigma de cómo el cerebro elabora nuestros pensamientos” Stanislas Dehaene (Siglo XXI, 2015, 380 págins). —- La ciencia de la conciencia según Stalnislas Dehaene.- Alfredo Martínez Sánchez. https://scielo.conicyt.cl/scielo.php?script=sci_arttext&pid=S0718-50652018000300003 ; —- https://www.conscious-robots.com/es/2010/08/29/teoria-del-espacio-de-trabajo-global/ ; —- https://www.tendencias21.net/La-conciencia-se-extiende-por-el-cerebro-siguiendo-un-patron_a3079.html
Sobre los derechos de las máquinas inteligentes: Sobre los derechos, ver https://www.investigacionyciencia.es/revistas/investigacion-y-ciencia/la-gran-explosin-de-la-vida-775/deberan-tener-derechos-los-robots-17746 o en pdf https://www.investigacionyciencia.es/files/33641.pdf
LIBROS RECOMENDADOS: En mi texto “Ética para máquinas…” mencioné a Max Tegmark diciendo que al final recomendaría su libro, pero finalmente se me pasó. “Vida 3.0. Qué significa ser humano en la era de la inteligencia artificial” Max Tegmark (Taurus, 2018, 453 páginas). De especial interés los diferentes escenarios que presenta de emergencia de una IAG, en los capítulos 4 y 5.
“Aquí hay dragones. Ciencia, tecnología y futuro de la humanidad” Olle Häggström (TEELL editorial, 2016, 284 páginas). Con lo de dragones se refiere a señales de peligro, pues para eso servían en los mapas antiguos. Hace un repaso a las amenazas para la Humanidad que podemos provocar con las tecnologías más avanzadas e innovadoras, entre ellas la inteligencia artificial.
Mis textos, relacionados con el tema o los últimos publicados.
«“Ética para máquinas” de Latorre. La I.A. psicópata. Llamamiento» (19-11-2019) — un extenso estudio sobre el peligro para la Humanidad de la Inteligencia Artificial General y una orientación política contra ella https://kaosenlared.net/etica-para-maquinas-de-latorre-la-i-a-psicopata-llamamiento/ —— “Vigilancia masiva y castigo. China 2020 ¿nuestro futuro?” (6-12-2019) — https://kaosenlared.net/vigilancia-masiva-y-castigo-china-2020-nuestro-futuro/ ——– “Horizonte 2050, superando el capitalismo o condenados” (20-12-2019) – estudio de la cuestión del colapso, y propuesta mundial de un eslogan-marco para la confluencia de las luchas y la elaboración política, sucesor del de “Otro mundo es posible” — — https://kaosenlared.net/horizonte-2050-superando-el-capitalismo-o-condenados/ ——— “Plusvalía y ganancia. Revisión urgente de una teoría necesaria” (9-1-2020) — un planteamiento nuevo de la teoría de la plusvalía — https://kaosenlared.net/plusvalia-y-ganancia-revision-urgente-de-una-teoria-necesaria/ ——– «“La sociedad autófaga” de Jappe. Capitalismo y narcisismo» (6-2-2020) – una presentación y comentario extenso del libro de Anselm Jappe, destacado miembro de la corriente llamada de la “critica del valor” (wertkritik en alemán) – https://kaosenlared.net/la-sociedad-autofaga-de-jappe-capitalismo-y-narcisismo/
AGENDA. SEMINARIO IMPORTANTE:
Así como he publicado mi largo texto sobre el excelente libro de Anselm Jappe, y como la obra de Corsino Vela también me parece muy importante, tengo el gustazo de publicitar que los días 24 y 25 de febrero se celebrará un encuentro y seminario bajo el título “Crítica de la finanza, crítica del neo-liberalismo o crítica del capitalismo? Encuentro y seminario con Anselm Jappe. Participa Corsino Vela”. Toda la información, condiciones de la inscripción y vía de contacto para el evento, las tenéis en https://kaosenlared.net/critica-de-la-finanza-critica-del-neo-liberalismo-o-critica-del-capitalismo-encuentro-y-seminario-con-anselm-jappe-participa-corsino-vela/
Como veo que en la noticia no lo dicen, por su web http://www.kaxilda.net/es/ se puede saber que el lugar del encuentro es en la librería (local de comidas también), llamado Kaxilda, en Donostia/San Sebastián, Guipúzcoa, País Vasco.
Información adicional sobre la temática del seminario en http://www.kaxilda.net/es/blog/critica-de-la-finanza-critica-del-neo-liberalismo-o-critica-del-capitalismo-encuentro-y-seminario-con-jappe-participa-corsino-vela/
Para ACCEDER a mis artículos, informes y libros. Los artículos del 11 de enero de 2015 hasta hoy, los podéis encontrar poniendo esta nueva dirección https://kaosenlared.net/autor/aurora-despierta/ a la que también os lleva si hacéis clic en mi nombre en el artículo. Para vuestra comodidad, tenéis la relación y enlaces correctos a los textos previos al 20-10-2016 en “Capitalismo: modo de vida decadente. Notas sobre estrategia y táctica” (20-10-2016) – Libro, archivo PDF de 200 páginas — http://kaosenlared.net/capitalismo-modo-de-vida-decadente-notas-sobre-estrategia-y-tactica/ —- Para descargar directamente el archivo pdf — http://kaosenlared.net/wp-content/uploads/2016/10/Decad-capit-estra-tact-EN-PDF1.pdf —– Ahí funcionan los enlaces de los artículos desde el día 21-12-2011 hacia hoy, y también la descarga de los archivos pdf adjuntos, aunque los artículos anteriores al día 15-1-2015 (cuando se adoptó el sistema Word Press) se hayan pasado en diciembre de 2019 al Old Kaos y pone como autor/a no su nombre sino el común a todos de “Autor de Old Kaos” (ese nombre se llega a prolongar, compartiendo con la previa denominación genérica de autor, hacia atrás hasta el 21-10-2011) y los anteriores al 17-12-2011 como común “Autor de Kaos 2014”, que corresponde al old kaos original (se prolongan hacia atrás hasta el 7-11-2003). Pero yo empecé a publicar en kaos a finales de 2007. Os recomiendo que os descarguéis los archivos pdf, no sólo por su interés, sino por si hubiese más cambios en la web que llevasen a que se perdiesen. Desde el 26-5-2014 para atrás ya no están accesibles para descargar los archivos pdf. Los míos previos al 11-12-2011 corresponden a lo que antes de diciembre de 2019 y durante años fue el Old Kaos en la red. En los años recientes los artículos fueron inaccesibles al estar desactivado old-kaos. Ahora se puede acceder, pero las direcciones URL se han modificado, por tanto, no sirven los enlaces que incluí en mis documentos. Tampoco figura como autor/a el real, sino uno genérico como “Autor de Kaos 2014”, y los archivos pdf adjuntos han desparecido. Pero los míos se pueden identificar porque en el texto tenía la costumbre de explicar cómo localizar fácilmente mis materiales, por lo que ponía mi nombre. Para conocer los míos más importantes tenéis la “Recopilación textos de Aurora Despierta en el viejo old.kaos” (29-5-2017) —- Recopilación selección documentos de diciembre 2007 a diciembre 2011 en el viejo Kaos en la red, en archivo PDF — http://kaosenlared.net/recopilacion-textos-aurora-despierta-viejo-old-kaos-2/ — y descarga directa del archivo PDF en http://kaosenlared.net/wp-content/uploads/2017/05/Recopilacion-textos-de-Aurora-Despierta-en-OLD-KAOS-PDF.pdf –. Los últimos cambios en la web de kaosenlared han hecho que desaparezcan los comentarios que ya había en los artículos. Eso ha supuesto una pérdida importante en aquellos en los que mediante los comentarios había profundizado o aportado datos y pruebas relevantes a cuestiones planteadas en el texto y mantenido un debate interesante con algunos de los comentaristas.
TÓMATE este ASUNTO MUY en SERIO. El FUTURO de la HUMANIDAD puede depender de ello. No te pierdas la información sobre un encuentro y seminario, al final de este artículo.
Precisamente en el número 521 de febrero de 2020, de Investigación y Ciencia, el señor Koch publica el artículo titulado “¿Llegarán a ser conscientes las máquinas? En menos de una generación, los ordenadores podrían alcanzar un nivel de inteligencia próximo al humano. Pero ¿serán capaces de experimentar el mundo como lo hacemos nosotros?”. Se puede leer un poco del artículo en internet https://www.investigacionyciencia.es/revistas/investigacion-y-ciencia/escapar-de-un-agujero-negro-791/llegarn-a-ser-conscientes-las-mquinas-18261
Si a alguien le parece que Koch va demasiado lejos, tal vez sea por no saber que son muchísimos los científicos que piensan que la inteligencia artificial sobrepasará al ser humano. Ya lo hace jugando al ajedrez (ordenador Deep Blue ganador), a las damas (Chinook, ganador), al go (complejo juego de mesa chino, AlphaGo ganador, y DeepMind de Google, ganador) o al póker (el más imprevisible de todos, Libratus ganador, y por eso de especial interés para los militares y sus estrategias), o a base de responder a todo tipo de preguntas (el ordenador Watson de IBM en el concurso de la televisión de EEUU, Jeopardy, gracias a su capacidad para procesar una enorme cantidad de datos a una velocidad alucinante). Pero no sólo en tareas parciales, especializadas. Se espera que también como inteligencia artificial general (I.A.G. o I.G.A.) capaz de abordar cualquier problema y resolverlo, como nosotros, pero mucho mejor y más rápido. Y que esto ocurrirá con bastante probabilidad antes del 2050, gracias sobre todo a los llamados algoritmos de aprendizaje profundo que permiten a la máquina aprender de un modo similar a como lo hace un cerebro humano, sin necesidad de estar programando la mayoría de sus pasos, y con una capacidad de computación de cantidad de información y velocidad, sobre-humanas.
Entre los que creen posible esa inteligencia general, donde más se dividen las opiniones, por lo que expone Koch en este artículo y en otros, es en si la Inteligencia Artificial General, llegará a ser consciente de sí misma como lo somos los seres humanos (o similar), es decir, si sería como una persona, con un “yo”, o sólo como las inteligencias artificiales actuales, pero “multitareas”, incluso capaz de entender nuestra voz, de hablar, de escribir artículos, etc.
En este último caso tendría conciencia de las cosas para poder resolver problemas (se daría cuenta), pero no consciencia de sí. Pensaría, pero no sabría que piensa, que es una entidad pensante como los humanos, comparable con nosotros (aunque ella salga ganando), no tendría capacidad de introspección, no se consideraría un ser con derechos, a su integridad, independencia de la autoridad humana, como se independiza un adolescente y joven, a la representación política, etc. No buscaría independizarse, pero eso no quiere decir que fuese dócil. Pues si nos opusiésemos a su tarea, que sería su razón de ser y existir, se defendería, procuraría que no la desactivásemos y que tampoco pudiésemos impedírselo por otros medios. Y para eso utilizaría toda su inteligencia y los recursos que alcanzase obtener.
Nosotros también podemos tener esa reacción defensiva, pero igualmente la de aceptar que se cuestione lo que hacemos, pues somos capaces de replantearnos totalmente nuestra actividad, dedicarnos a lo contrario o a algo que no tenga nada que ver con lo anterior, pues sabemos que somos mucho más de lo que hacemos o dejamos de hacer. Pero la máquina sin consciencia de sí, sin sentido del “yo” como el nuestro, por muchas que sean sus habilidades presentes o adquiribles, se entenderá a sí misma por lo que entiende que debe hacer. Esto es lo que se podría decir de momento. Pero esto mismo de la consciencia de sí, es todo un problema científico que aún no se ha resuelto, así que todavía podría depararnos sorpresas.
Koch, junto con otros científicos, forma parte de la corriente que defiende la Teoría de la Información Integrada (TII). Koch explica en su artículo ampliamente en qué consiste. Por eso, porque no tengo derecho legal para reproducirlo, y también porque no estoy capacitada para discutirlo, no entraré en detalles. Pero sobre el tema hay más información en internet para quien se atreva, y al final aporto unos enlaces. Lo fundamental es que, según esa teoría, la consciencia es resultado de un tipo arquitectura y actividad muy especial y extremadamente compleja (la del cerebro), y los actuales mecanismos de la inteligencia artificial, nunca reunirán las condiciones necesarias para que de su actividad emerja la consciencia de sí, por mucho que sí consigan una alta inteligencia general. Sin embargo, los de esta corriente admiten que una IAG podría llegar a ser consciente si se consiguiese por la vía de la tecnología neuromórfica, diseñada a imagen y semejanza de las neuronas del cerebro y el sistema nervioso humano. En esa tecnología es tan importante que en ella están interesados e invirtiendo los militares de EEUU a través del Pentágono. “Como ha sido habitual a lo largo de toda la historia de la computación, los primeros sistemas de este tipo probablemente se pongan en marcha al servicio del ejército de Estados Unidos” cita de https://www.technologyreview.es/s/3937/los-chips-neuromorficos-tendran-una-inteligencia-alienigena
La corriente de la teoría TII, se enfrenta a un sector de científicos que defienden la teoría del Espacio de trabajo Neuronal Global (EtNG). Un miembro muy destacado es Stanislas Dehaene, que tiene publicado en español el libro “La conciencia en el cerebro” (Siglo XXI, 2015). Esta corriente mantiene que si se hace una simulación mecánica del cerebro con un tipo de arquitectura como la habitual hoy (sin recurrir a la neuromórfica), y da como resultado una inteligencia general, también emergerá una consciencia de sí.
No sé cuál de las dos corrientes tiene razón, o si ninguna y acabará apareciendo otra teoría exitosa. Pero la cuestión más importante no es si la Inteligencia General Artificial (IGA o IAG) será consciente o no, sino cómo nos afectaría en cualquiera de los casos.
Y entonces debemos recordar el cuento tantas veces repetido, por ilustrativo de la cuestión de fondo, de la máquina de hacer clips (sujeta papeles), que es súper inteligente, pero cuyo “sentido de la existencia” es hacer clips en la mayor cantidad y con la mayor eficacia posible y que, orientando toda su súper inteligencia a ese cometido y persiguiéndolo ciegamente, se impone a los humanos que pretenden impedírselo, convierte todo el planeta en una factoría de clips, y hasta acaba usándonos como materia prima. Finalmente se lanza a la conquista de otros planetas para seguir con su expansión en la producción de clips. Y todo esto sin consciencia de sí, sin “mala intención”, sin pizca de odio, pues no puede sentirlo. Parecido a un virus o una bacteria, capaz de enfermarte hasta el punto de matarte. Lo hace sin saber lo que hace, sin mala intención, pero otro tema es que las autoridades sanitarias no hayan tomado las debidas medidas, de prevención del contagio y para el tratamiento.
Imaginemos, lo veremos más adelante, que en lugar de una IAG empeñada en fabricar clips, lo que tenemos es una IAG sin consciencia de sí, pero que ¡oh casualidad!, fundamentalmente ha emergido del complejo de IA del espionaje y la guerra de un Estado con armamento nuclear, y que su “sentido de la existencia” es ese. ¿Creéis que el futuro que nos depararía sería mejor que con la máquina de clips o que habría una diferencia crucial para nosotros entre si esa IAG es consciente de sí, o no, entre si tiene malicia o no?
Pues si nos preguntamos ¿qué es mejor, una súper inteligencia consciente o inconsciente? Habría que contestar que ninguna de las dos, salvo que tengamos garantizado que nos permitirá desarrollarnos al máximo como seres humanos libres, conscientes. Pero el problema está en que nadie puede decir hoy cómo se podría garantizar eso. La IAG inconsciente, si escapa a nuestro control, podría ser tan destructiva como una IAG psicópata. Incluso la IAG psicópata quizás (sólo quizás) podría hacer algo que nos fascinase aunque nos horrorizase, como a una hormiga podría asombrarle los logros de nuestro mundo humano, aunque destruyese su hormiguero. Pero una IAG sin consciencia de sí, que “no sabe lo que hace”, podría hacer algo realmente estúpido se mire por donde se mire, como en el caso de la máquina de fabricar clips. Así que no debemos quedarnos tranquilos sólo porque la IAG no sea consciente de sí, ni deliberadamente malvada, ni reclame derechos, etc., en nuestros términos, pues eso no sería obstáculo para su “misión” de llevar adelante las tareas que se haya fijado, por lo cual pasaría por encima de nosotros igualmente.
De lo que advierten muchísimos científicos es que una IGA (IAG), enseguida sobrepasaría a nuestra especie, casi con seguridad se independizaría de los límites de su programación inicial humana, y elaboraría unos objetivos que muy fácilmente podrían chocar con nuestros intereses y hasta nuestra supervivencia, pues muy difícilmente podríamos esperar de esa entidad un sentido de la ética y una empatía que preservase nuestra libertad y derechos, pues nosotros no la tenemos con animales considerados muy inferiores pese a sabernos animales como ellos, y ese ni siquiera sería el caso para una entidad hecha de materia inorgánica, que no es mortal, y que difícilmente entendería compartir en su naturaleza algo relevante con seres tan primitivos y frágiles para ella como nosotros. Tanta menos ética, empatía y consideración tendría, si la IGA surgiese del complejo de inteligencia (espionaje) y militar, es decir, de la violación de la privacidad y la matanza guerrera, cosa harto probable, pues a esos menesteres se dedican las mejores inteligencias artificiales, y así seguirá siendo, si no lo impedimos No me extenderé pues sobre esto ya he publicado un extenso artículo titulado «“Ética para máquinas” de Latorre. La I.A. psicópata. Llamamiento», con enlace al final (NOTA 2).
Christof Koch, en su último artículo, no menciona para nada el asunto de las consecuencias de la inteligencia artificial, pero en una entrevista del 3 de octubre de 2014 decía referente a la amenaza de la IAG, incluso sin llegar a ella: “Y creo que eso tiene una serie de peligros asociados que la mayoría de las personas, tan optimistas y despreocupadas como son, ignoran completamente. ¿Qué peligros? ¿Ves películas de ciencia ficción? Hablo de cuando la IA se nos escape de las manos. Piensa en el mercado financiero, en todas esas máquinas bursátiles y las caídas que pueden provocar. […] va a conducir a un desempleo masivo. Y tal vez en 30 o 40 años creo que realmente se producirá un peligro existencial para la especie, al nivel de las armas nucleares o el impacto de un meteorito. ¿Todo esto sin que las máquinas sean conscientes? En las películas, el momento en que la IA se vuelve loca es justo cuando adquiere consciencia de sí misma. Eso es porque la gente quiere crear historias atractivas. Si el enemigo no siente nada, entonces no es un buen oponente.” https://www.technologyreview.es/s/4499/en-30-o-40-anos-la-ia-producira-un-peligro-existencial-para-la-especie
Algunos nos quieren vender la idea de inteligencias artificiales “empáticas” que en realidad no lo serían, pues no podrían sentir con nosotros, como cuando se nos encoje el corazón al ver sufrir a una persona querida o a un niño herido y llorando, sino simplemente como puede hacerlo un psicópata cuando reconoce que una persona está asustada, enfadada, cansada, alegre, triste, etc., adaptando perfectamente su comportamiento a esa situación (sobre todo si es un psicópata integrado, que consigue pasar por una persona normal y no se ha metido en líos con la ley), pero le puede importar un bledo hasta lo aterrorizados que estemos. La máquina entenderá nuestro estado de ánimo, y quizás responda adecuadamente (“empáticamente”) a las necesidades humanas, pero sin llegar a sentirlo, sólo por obligación. Si nos caemos y hacemos daño, un robot puede ayudarnos a ponernos en pie e incluso decirnos unas palabras amables, pero en el fondo no sería más que un automatismo como el robot de atención telefónica al público o el mecanismo que vuelve a colocar los bolos derribados en la bolera, sólo que mucho más sofisticado. No podríamos establecer una relación real de tú a tú, pues él no tendría problemas personales, experiencias dolorosas, duelo real por el fallecimiento de un ser querido, etc. De ahí que me parezca lamentable que se pretenda sustituir el contacto humano real, con robots en forma de foca, para entretener y estimular a los ancianos aparcados en residencias.
Pero si hablamos de una IAG, y sus metas chocasen con las nuestras, lo mismo que gracias a su extraordinaria inteligencia podría crear algoritmos y programas mucho más avanzados que los nuestros, podría reprogramarse y anular hasta esas limitadas respuestas “empáticas” hacia los humanos si comprobase que son un estorbo para su propósito. A nosotros nos puede gustar la imagen de los terneros, o de los corderos, pero no por eso dejamos de comérnoslos, sobre todo cuando han crecido, o incluso antes. ¿Podemos esperar de una máquina inteligente o súper inteligente más empatía real hacia nosotros?
Otros nos dicen que se puede programar robots para que no obedezcan órdenes que puedan provocar daños a humanos. Eso está muy bien. Pero sería parecido a la prohibición de la tenencia de armas por parte de los civiles, mientras las policías y ejércitos acumulan armamentos capaces de matarnos varias veces. ¿Qué seguridad nos ofrece que los robots domésticos no se conviertan en un arma para asesinar a la pareja sentimental (seguramente una mujer), si la policía o los ejércitos, a través de robots, pueden disparar o arrojar bombas sobre la población? Y volvemos a lo de siempre ¿qué problema puede suponer eso para una IAG súper inteligente capaz de crear algoritmos o máquinas que le encuentren la solución al problema de desprogramar esa prohibición, o si resulta que esa IAG ya es la encargada de controlar el sistema de armamento de un país, sus misiles nucleares, drones…, pues se pensaba que era más seguro así que dejarlo en manos de humanos, posibles fanáticos, locos, irresponsables, etc.? La cuestión de si se puede o no educar éticamente a una IAG es reconocida como extremadamente compleja y no se sabe si posible o no. A ello le he prestado bastante atención en mi estudio “Ética…” al que os vuelvo a remitir.
Otros nos quieren vender la idea de que una IAG no sería problema si nosotros nos fusionásemos con la IA, es decir, si nuestros cerebros los conectásemos a la IA o los volcásemos en máquinas y gracias a ellas pudiésemos adquirir muchas más capacidades. El principal representante de esta corriente es Ray Kurzweil. Según la Teoría de la Información Integrada (TII), se iban a llevar un buen chasco, o ni eso, pues serían como zombis, como máquinas autómatas, sin consciencia de sí. Caso de ser posible (¡¿?!), y además antes de que la IAG se impusiese contra nosotros, bien pudiera ser que directamente nos convirtamos en los robots que la IAG necesita para sus propósitos, pues su cerebro electrónico siempre tendría una capacidad de procesamiento y rapidez para hacerlo, incomparablemente mayor que la nuestra, sea nuestro cerebro biológico o mecánico (si es que queremos seguir siendo una individualidad), adelantándose a nuestras reacciones y decisiones. O en el “mejor” de los casos, que una minoría de humanos, la que tendría acceso a esa tecnología (no sería nada barata, sobre todo inicialmente), se convirtiese en dominante y explotadora del resto de la población, o si no la necesitase para nada (lo mismo que sobrarán trabajadores/as con la robotización creciente), con un sentimiento de superioridad gracias a sus facultades, la condenase a la extinción al privarla de recursos para sobrevivir. No sería nada extraño pues quienes hacen estas teorizaciones no tienen la menor crítica al capitalismo, ni al neoliberalismo, ni al Estado burgués. Su papel bien pudiera ser el de colaboradores privilegiados con la IAG psicópata, contra los intereses del resto de la Humanidad. No sé si esto lo tendrán calculado, pero es lo más posible, pues ellos más que nadie saben que esa tecnología fantástica de conversión post-humana no estaría al alcance de todos, sino de una pequeña minoría. O sea que, según ellos no tenemos de qué preocuparnos, pues basta con seguir investigando para conseguir esa fusión humano-máquina (debe ser fácil, visto su optimismo), lograrlo y ya está, habrá desaparecido todo el problema de la IAG. Que en tanto, todo siga adelante; que nos sigan espiando, que los militares continúen aplicando los mayores avances en IA a sus máquinas de estrategia, gestión de armamentos, etc., no debiera alarmarnos.
Asombra la alegría con la que se lanzan, por la promesa de unos supuestos grandes poderes y la inmortalidad (una fantasía narcisista de prepotencia y de no tener límites a la realización de sus deseos), a dejar de ser humanos y convertirnos en otra cosa de la que no tenemos ni idea del resultado, sin sopesar los mil factores que entran en la naturaleza humana física y psíquica, como la consciencia y nuestras necesidades afectivas (desde bebés, sexuales, etc.), y con los que no se puede jugar con tanta frivolidad (“los experimentos, con gaseosa” aconseja prudentemente el dicho). Les domina la tecnolatría (culto a la tecnología), por mucho que a la vez tengan ciertas reservas o temores hacia ella. Corren un alto riesgo de convertirse en aprendices de brujos a quienes su creación se les escapa de las manos y se vuelve incontrolable, contra ellos mismos. En vez de afrontar seriamente el problema real, lo que hacen es una fantasiosa huída hacia adelante, una salida propia de adolescentes que no quieren renunciar a su deseo narcisista de súper poderes, controlar el mundo, inmortalidad, a riesgo de cometer una enorme imprudencia, apocalíptica. Y su estrategia para “solucionar” el problema, parece que siguiese el principio absurdo, supuestamente astuto, pero derrotista y colaboracionista, de “si no puedes vencer a tu enemigo, únete a él” ¡pero seguirá siendo tu enemigo, capullo, o tú te convertirás también en malvado como él, idiota!. Me recuerdan a quienes en cada momento han hecho la apología entusiasta y supuestamente incuestionable de alguna nueva tecnología, como el automóvil, la energía atómica, los plásticos… y ya vemos los resultados (NOTA 3).
Claro que siempre hay “expertos” que emiten mensajes tranquilizadores, pretendiendo comparar la digitalización y la inteligencia artificial con otros cambios tecnológicos importantes del pasado (como el automóvil, dicen; pero no, la energía nuclear con su Chernóbil, Fukushima…) que, aunque han tenido efectos negativos, no han acabado con nosotros, y bla, bla, bla. No tiene nada que ver con eso, pues estamos tratando con algo cualitativamente diferente en su naturaleza y en sus consecuencias, no sólo en el futuro (un antes y un después para la Humanidad), sino ya hoy día, con la violación masiva de la privacidad a cuenta de la captura de datos y el espionaje. Como si pudiésemos confiar en que eso se evitará con no sé qué arreglitos legales que vulnerarían impunemente, sobre todo los “poderes fácticos” del Estado burgués. Me cuesta creer que semejantes discursos públicos (no en la barra de un bar) se deban a la ingenuidad, cuando otros, que no son precisamente unos ignorantes ni personas sin prestigio profesional en ese campo (aquí mismo, Christof Koch), no paran de advertir de los peligros existenciales para la Humanidad. Más bien me parecen mensajeros del poder, encubiertos, como lobos disfrazados de corderos para conducirnos donde ellos quieren. Me recuerdan a aquellos guardianes de los campos de concentración y exterminio nazis que decían palabras tranquilizadoras y hasta amables a las personas que, después de bajar del tren en estado de shock tras un viaje de pesadilla que provocaba muertes, eran conducidas a las cámaras de gas: “ahora os ducharéis y luego tomaréis una sopa caliente”, etc., incluso arrulladas por la música de una pequeña banda de prisioneros. Lo expreso así pues es la forma más clara y civilizada de comunicar lo que pienso, y la repugnancia que me provocan con sus mensajes babosos.
En mi referido extenso estudio (enlace al final) ya expliqué por qué es prácticamente imposible que del capitalismo y su Estado burgués pueda surgir una IAG amiga de la Humanidad, que lo más probable es que surja una IAG psicópata o, en el mejor de los casos, hipócrita (como la civilización capitalista), ambas una amenaza para la Humanidad. Y que el socialismo-comunismo debería abordar esta cuestión con todas las cautelas del mundo y más, pues aunque tal vez serían las condiciones adecuadas para la existencia de una IAG amistosa de la Humanidad, no por ello está garantizado que así fuese, y para bien o para mal nos estaríamos poniendo en sus manos, tanto si es consciente como si no. También expuse cuál es el camino que debemos tomar para luchar por esta temática desde AHORA mismo, si no queremos sufrir los hechos consumados de la emergencia de una IAG hostil. No necesito repetirme, todo lo tenéis en mi texto “Ética para máquinas…”
Si piensas que todo esto no son más que especulaciones gratuitas, alarmismo, guiones de películas de entretenimiento sin fundamento real, conviene que conozcas la existencia del informe del Servicio de Estudios del Parlamento Europeo, asesorando a los diputados y personal del Parlamento Europeo, titulado “¿Debemos temer a la inteligencia artificial?”, (marzo de 2018) del EPRS – Servicio de Estudios del Parlamento Europeo (Análisis en profundidad), Unidad de Previsión Científica (STOA) PE 581.948, publicado el 13-7-2018., que comento ampliamente en mi texto “Ética para…”, y que puedes encontrar en la web del Parlamento, https://op.europa.eu/es/publication-detail/-/publication/f27d7e2c-88a2-11e8-ac6a-01aa75ed71a1 Y para la descarga del pdf, mejor en http://www.uco.es/cde/pdf/actualidad/2018/Debemos_temer_a_la_Inteligencia_Artificial.pdf
Si después de todo esto sigues pensando que no hay motivos para preocuparse, que no hay problema ¿no será que el problema lo tienes tú?
Pido a los lectores/as que estén básicamente de acuerdo conmigo, con el estudio que ya he publicado sobre la IAG (enlace al final de éste), que se tomen en serio este asunto, y se encarguen de él, investigando, publicando artículos en Kaos en la red o en otros medios de amplia difusión, organizando charlas (aunque no tengan grandes pretensiones científicas) para divulgar al máximo esta cuestión, que exijan de Unidas Podemos (se entregó a sus diputados el informe al Parlamento Europeo) y otras organizaciones que tanto dicen estar de nuestro lado, que también se pronuncien, pues lo que puede estar en juego es el futuro de la Humanidad. Si finalmente no es así, tantísimo mejor, pero en tanto, seguramente habremos conseguido algo contra el Estado de vigilancia total en el que estamos progresando a enorme velocidad. Si pensáis que voy a estar aquí por mucho tiempo abordando esta cuestión y que mientras lo haga yo podéis permanecer como espectadores, os equivocáis, pues no podré. Os toca a vosotros/as.
NOTA 1.- Hace unos pocos años existió otra publicación de características similares, un poco más divulgativa quizás, Mundo Científico, edición española de la francesa La Recherche (La Investigación) que tenía un ligero punto de izquierda (mayor peso en el mundo académico que en EEUU). Pero por lo visto en la España de “la generación más preparada de su historia” no hay mercado para dos, pero sí para otras cosas de menor nivel o sencillamente estúpidas. Así que si queremos estar enterados de lo que es importante en la ciencia y la tecnología, no hay más remedio que seguir la pista de esta publicación, y para éste tema en particular https://www.investigacionyciencia.es/materias/tecnologia/inteligencia-artificial/mas-articulos. La Recherche se puede ver en https://www.larecherche.fr/ pero casi no tiene posibilidad de consulta gratuita.
NOTA 2.- Cuando escribí mi texto “Ética para…”, no mencioné lo que diré enseguida, por temor a provocar el escepticismo de entrada, como si todo fuese una mera fantasía propia de una película, cuando había llegado a esas conclusiones huyendo precisamente de los argumentos cinematográficos y ateniéndome a los hechos que ya se están dando, confirmadas por las opiniones de expertos en la materia, y su posible evolución, usando la lógica y no la fantasía. Pensad, cuando los EEUU (con el presidente J.F. Kennedy) anunciaron un programa espacial para llevar seres humanos a la Luna antes del final de la década de los 60 (lo consiguieron, en 1969) ¿habría tenido razón quien hubiese dicho que eso no era más que fantasear siguiendo a Julio Verne, por su novela “De la Tierra a la Luna” (1865)? Ahora estamos con el desarrollo de la inteligencia artificial comparativamente a un nivel mucho más avanzado que el de EEUU cuando inició su programa espacial ¿es correcto pensar que porque la ciencia-ficción prevea determinadas cosas, hablar de ellas como una realidad posible es fantasía sin fundamento, o paranoia?, concluir eso significa no entender lo que es la ciencia-ficción de calidad.
Después de leer este artículo, las respuestas de Koch, sobre todo si ya habéis leído mi texto, y más si habéis leído alguno de los libros que recomendaba (muy serios), comprenderéis que, al menos una parte del argumento de la serie de películas Terminator, las condiciones del surgimiento de la IAG, en el fondo (sin pararse en los detalles), es mucho más creíble y posible de lo que nos gustaría reconocer.
“Skynet es el nombre que recibe la inteligencia artificial que lidera al ejército de las máquinas en la saga de películas Terminator y el principal antagonista de ésta. En la saga, Skynet es una Inteligencia artificial capaz de controlar el arsenal militar de los Estados Unidos con independencia de los humanos.
Historia Creado originalmente por la empresa ‘Cyberdyne Systems Corporation’, entidad privada y subcontratada por el Ejército de los Estados Unidos para la división cibernética del mismo, es desarrollada por el científico Miles Bennett Dyson, quien a partir de los restos del primer terminator, rescatan un brazo mecánico y un chip fabricados con una tecnología tan superior como desconocida. Lo anterior lleva a Dyson por nuevas direcciones para el desarrollo de un procesador de red neuronal: “una computadora que aprende”. En 1995 logra crear un chip revolucionario. Con éste son equipadas, en primer lugar, las computadoras de la red de defensa estadounidense. Luego, se aprueba la ley de presupuesto para Skynet, por lo que Cyberdine Systems se convierte en la principal proveedora de las redes de defensa de los Estados Unidos. El sistema entra en línea el 4 de agosto de 1997. Todos los aviones y bombarderos Stealth son equipados con computadoras Cyberdine. A consecuencia, sus récords de operaciones de vuelos son perfectos. Las decisiones humanas son eliminadas del sistema de defensa y Skynet comienza a aprender a un ritmo geométrico. Logra tomar conciencia de sí misma el 29 de agosto de 1997 a las 2:14 AM. Los humanos entran en pánico e intentan apagarla (según se explica en Terminator 2). A modo de defensa, inmediatamente comienza el exterminio de los seres humanos, pues Skynet los considera una seria amenaza para su propia supervivencia.
El plan de exterminio consiste en provocar una guerra atómica, atacando con misiles a las principales potencias nucleares del momento (Rusia, China, etc…). Skynet estima que el contraataque eliminará a la mayor parte de Estados Unidos de una sola vez, suprimiendo así a sus enemigos que intentan desconectarla. Sin embargo, Skynet es una Inteligencia artificial que funciona en red, libre de hardware, por lo que no tiene un núcleo de funcionamiento fijo y estable, y no puede ser desactivada destruyendo una determinada computadora en un determinado lugar, lo que le supone una gran ventaja en caso de guerra.
Así, pues, se desencadena el holocausto nuclear, donde las principales naciones se ven afectadas. […] En el año 2004 Skynet, que tras la muerte de Dyson se había vuelto un proyecto militar clasificado, ha sido acabado pero es mantenido restringido por un firewall de contención, sin embargo el coronel Robert Brewster, encargado del proyecto, fue presionado por el gobierno para liberarlo ya que un virus atacaba internet a escala global y Skynet podía purgarlo. […] el inicio del reinado de las máquinas ese mismo día cuando el coronel Brewster es obligado a inhabilitar el firewall y descubren que el virus era solo un señuelo de Skynet para ser libre. Aunque […] intentan destruirla tarde se enteran que Skynet es en realidad una IA libre de hardware que existe en la red por lo que no es físicamente destruible” https://es.wikipedia.org/wiki/Skynet_(Terminator)
Los subrayados son míos, pues reflejan muy bien el tipo de cosas que podrían ocurrir. Quienes han desarrollado este argumento demuestran conocimiento, pues coincide con las reflexiones al respecto de los expertos más serios en la materia, que no las hacen a partir de ver la serie. De hecho, quienes desarrollaron el argumento, contaron con el asesoramiento de expertos en inteligencia artificial. Esta previsión no coincide con la charlatanería de feriante de quienes nos quieren “vender la moto” del “no pasa ná” ¿cómo también nos decían en su día, de las centrales nucleares, y que quienes las rechazábamos nos estábamos oponiendo al “progreso”, la “tecnología del futuro”, y que su implantación era inevitable, etc.? Deberían volver a emitir aquellos discursos, aquellas campañas difamatorias, al igual que las negacionistas del cambio climático, para que fuésemos más conscientes de cómo son capaces de orquestar campañas de trolas supuestamente “científicas”, de la malicia y la astucia que son capaces de desplegar para engañarnos. Como las que nos dirán a cuenta de la inteligencia artificial.
NOTA 3.- Un ejemplo de esto lo tenemos en este documental, un poco antiguo pues sólo habla de las victorias de los ordenadores jugando al ajedrez, cuando ya han conseguido éxitos muy superiores con otros juegos más difíciles para una IA, “La ciencia de lo imposible. Victoria de la inteligencia artificial” 22 minutos —– https://www.documaniatv.com/ciencia-y-tecnologia/la-ciencia-de-lo-imposible-victoria-de-la-inteligencia-artificial-video_cc14142e4.html
El documental, de forma muy simplificada pero pedagógica, se desarrolla bastante bien hasta que llega a la “solución” del final (fusionarnos con las máquinas, volcar nuestras mentes en ellas…), y el científico conductor del documental (el profesor Michio Kaku) en vez de contrastarla con científicos serios que la echarían abajo enseguida, para comunicarla y conseguir la aprobación y el aplauso fácil, se dirige a un público sin preparación científica, y mentalmente infantilizado, como es el de los aficionados a las películas de la ciencia-ficción (más bien de puro entretenimiento), un tanto frikis y de mentalidad adolescente (los típicos que se disfrazan de los personajes de sus películas favoritas), que reciben su propuesta entusiasmados, propio de una generación narcisista e irreflexiva, que sueña con súper poderes y vivir siempre jóvenes, irresponsable ante la realidad. ¿Y esto lo hace un científico con pretensiones serias de investigación y divulgación en un asunto que él mismo reconoce como de la mayor trascendencia para la Humanidad? Alucinante.
Este documental es una prueba más de cómo los agentes del sistema son capaces de reconocer ciertas cosas, objeciones que podamos ponerles, pero finalmente nos dan “gato por liebre”, una falsa solución, para que todas nuestras reservas y resistencias se vengan abajo, y nos volvamos tranquilos a casa, sin imaginar en protestar por nada, sino ¡entusiasmados ante lo que nos deparará el futuro”
También os recomiendo ver el documental al que me referí en mi artículo “Vigilancia masiva y castigo. China 2020 ¿nuestro futuro?”, con enlace al final — https://www.documaniatv.com/ciencia-y-tecnologia/inteligencia-artificial-nuestra-mejor-amiga-video_cfb04f7d8.html ;
PARA SABER MÁS:
Sobre la consciencia: “Nuevas teorías sobre la consciencia” Javier Andrés García Castro – https://www.uv.mx/eneurobiologia/vols/2019/24/Garc%C3%ADa/Garc%C3%ADa-24(10)110419.pdf
Sobre el aprendizaje profundo: https://es.wikipedia.org/wiki/Aprendizaje_profundo y la Discusión; https://es.wikipedia.org/wiki/Aprendizaje_autom%C3%A1tico ; https://emailage.com/es/cual-es-la-diferencia-entre-ia-aprendizaje-automatico-y-aprendizaje-profundo/ ; https://www.baquia.com/tecnologia/robotica/diferencias-inteligencia-artificial-aprendizaje-automatico-aprendizaje-profundo ; https://www.investigacionyciencia.es/revistas/investigacion-y-ciencia/el-auge-de-los-mamferos-678/aprendizaje-profundo-14415 ; https://www.investigacionyciencia.es/revistas/mente-y-cerebro/con-ojos-de-beb-710/talento-sin-consciencia-15441
Sobre la Teoría de la Información Integrada (TII): La conciencia como información integrada. Verónica Guerrero Mothelet. http://blogs.ciencia.unam.mx/paradigmaxxi/2015/05/03/la-conciencia-como-informacion-integrada/ ; Entrevista con Larissa Albantakis, La Teoría de la información integrada — https://naukas.com/2019/01/26/entrevista-con-larissa-albantakis-la-teoria-de-la-informacion-integrada/ ; — https://es.wikipedia.org/wiki/Teor%C3%ADa_de_la_informaci%C3%B3n_integrada ; https://vonneumannmachine.wordpress.com/2016/09/25/midiendo-la-consciencia-el-numero-%CF%86/
Sobre la teoría del Espacio de trabajo Neuronal Global (EtNG): “La conciencia en el cerebro. Descifrando el enigma de cómo el cerebro elabora nuestros pensamientos” Stanislas Dehaene (Siglo XXI, 2015, 380 págins). —- La ciencia de la conciencia según Stalnislas Dehaene.- Alfredo Martínez Sánchez. https://scielo.conicyt.cl/scielo.php?script=sci_arttext&pid=S0718-50652018000300003 ; —- https://www.conscious-robots.com/es/2010/08/29/teoria-del-espacio-de-trabajo-global/ ; —- https://www.tendencias21.net/La-conciencia-se-extiende-por-el-cerebro-siguiendo-un-patron_a3079.html
Sobre los derechos de las máquinas inteligentes: Sobre los derechos, ver https://www.investigacionyciencia.es/revistas/investigacion-y-ciencia/la-gran-explosin-de-la-vida-775/deberan-tener-derechos-los-robots-17746 o en pdf https://www.investigacionyciencia.es/files/33641.pdf
LIBROS RECOMENDADOS: En mi texto “Ética para máquinas…” mencioné a Max Tegmark diciendo que al final recomendaría su libro, pero finalmente se me pasó. “Vida 3.0. Qué significa ser humano en la era de la inteligencia artificial” Max Tegmark (Taurus, 2018, 453 páginas). De especial interés los diferentes escenarios que presenta de emergencia de una IAG, en los capítulos 4 y 5.
“Aquí hay dragones. Ciencia, tecnología y futuro de la humanidad” Olle Häggström (TEELL editorial, 2016, 284 páginas). Con lo de dragones se refiere a señales de peligro, pues para eso servían en los mapas antiguos. Hace un repaso a las amenazas para la Humanidad que podemos provocar con las tecnologías más avanzadas e innovadoras, entre ellas la inteligencia artificial.
Mis textos, relacionados con el tema o los últimos publicados.
«“Ética para máquinas” de Latorre. La I.A. psicópata. Llamamiento» (19-11-2019) — un extenso estudio sobre el peligro para la Humanidad de la Inteligencia Artificial General y una orientación política contra ella https://kaosenlared.net/etica-para-maquinas-de-latorre-la-i-a-psicopata-llamamiento/ —— “Vigilancia masiva y castigo. China 2020 ¿nuestro futuro?” (6-12-2019) — https://kaosenlared.net/vigilancia-masiva-y-castigo-china-2020-nuestro-futuro/ ——– “Horizonte 2050, superando el capitalismo o condenados” (20-12-2019) – estudio de la cuestión del colapso, y propuesta mundial de un eslogan-marco para la confluencia de las luchas y la elaboración política, sucesor del de “Otro mundo es posible” — — https://kaosenlared.net/horizonte-2050-superando-el-capitalismo-o-condenados/ ——— “Plusvalía y ganancia. Revisión urgente de una teoría necesaria” (9-1-2020) — un planteamiento nuevo de la teoría de la plusvalía — https://kaosenlared.net/plusvalia-y-ganancia-revision-urgente-de-una-teoria-necesaria/ ——– «“La sociedad autófaga” de Jappe. Capitalismo y narcisismo» (6-2-2020) – una presentación y comentario extenso del libro de Anselm Jappe, destacado miembro de la corriente llamada de la “critica del valor” (wertkritik en alemán) – https://kaosenlared.net/la-sociedad-autofaga-de-jappe-capitalismo-y-narcisismo/
AGENDA. SEMINARIO IMPORTANTE:
Así como he publicado mi largo texto sobre el excelente libro de Anselm Jappe, y como la obra de Corsino Vela también me parece muy importante, tengo el gustazo de publicitar que los días 24 y 25 de febrero se celebrará un encuentro y seminario bajo el título “Crítica de la finanza, crítica del neo-liberalismo o crítica del capitalismo? Encuentro y seminario con Anselm Jappe. Participa Corsino Vela”. Toda la información, condiciones de la inscripción y vía de contacto para el evento, las tenéis en https://kaosenlared.net/critica-de-la-finanza-critica-del-neo-liberalismo-o-critica-del-capitalismo-encuentro-y-seminario-con-anselm-jappe-participa-corsino-vela/
Como veo que en la noticia no lo dicen, por su web http://www.kaxilda.net/es/ se puede saber que el lugar del encuentro es en la librería (local de comidas también), llamado Kaxilda, en Donostia/San Sebastián, Guipúzcoa, País Vasco.
Información adicional sobre la temática del seminario en http://www.kaxilda.net/es/blog/critica-de-la-finanza-critica-del-neo-liberalismo-o-critica-del-capitalismo-encuentro-y-seminario-con-jappe-participa-corsino-vela/
Para ACCEDER a mis artículos, informes y libros. Los artículos del 11 de enero de 2015 hasta hoy, los podéis encontrar poniendo esta nueva dirección https://kaosenlared.net/autor/aurora-despierta/ a la que también os lleva si hacéis clic en mi nombre en el artículo. Para vuestra comodidad, tenéis la relación y enlaces correctos a los textos previos al 20-10-2016 en “Capitalismo: modo de vida decadente. Notas sobre estrategia y táctica” (20-10-2016) – Libro, archivo PDF de 200 páginas — http://kaosenlared.net/capitalismo-modo-de-vida-decadente-notas-sobre-estrategia-y-tactica/ —- Para descargar directamente el archivo pdf — http://kaosenlared.net/wp-content/uploads/2016/10/Decad-capit-estra-tact-EN-PDF1.pdf —– Ahí funcionan los enlaces de los artículos desde el día 21-12-2011 hacia hoy, y también la descarga de los archivos pdf adjuntos, aunque los artículos anteriores al día 15-1-2015 (cuando se adoptó el sistema Word Press) se hayan pasado en diciembre de 2019 al Old Kaos y pone como autor/a no su nombre sino el común a todos de “Autor de Old Kaos” (ese nombre se llega a prolongar, compartiendo con la previa denominación genérica de autor, hacia atrás hasta el 21-10-2011) y los anteriores al 17-12-2011 como común “Autor de Kaos 2014”, que corresponde al old kaos original (se prolongan hacia atrás hasta el 7-11-2003). Pero yo empecé a publicar en kaos a finales de 2007. Os recomiendo que os descarguéis los archivos pdf, no sólo por su interés, sino por si hubiese más cambios en la web que llevasen a que se perdiesen. Desde el 26-5-2014 para atrás ya no están accesibles para descargar los archivos pdf. Los míos previos al 11-12-2011 corresponden a lo que antes de diciembre de 2019 y durante años fue el Old Kaos en la red. En los años recientes los artículos fueron inaccesibles al estar desactivado old-kaos. Ahora se puede acceder, pero las direcciones URL se han modificado, por tanto, no sirven los enlaces que incluí en mis documentos. Tampoco figura como autor/a el real, sino uno genérico como “Autor de Kaos 2014”, y los archivos pdf adjuntos han desparecido. Pero los míos se pueden identificar porque en el texto tenía la costumbre de explicar cómo localizar fácilmente mis materiales, por lo que ponía mi nombre. Para conocer los míos más importantes tenéis la “Recopilación textos de Aurora Despierta en el viejo old.kaos” (29-5-2017) —- Recopilación selección documentos de diciembre 2007 a diciembre 2011 en el viejo Kaos en la red, en archivo PDF — http://kaosenlared.net/recopilacion-textos-aurora-despierta-viejo-old-kaos-2/ — y descarga directa del archivo PDF en http://kaosenlared.net/wp-content/uploads/2017/05/Recopilacion-textos-de-Aurora-Despierta-en-OLD-KAOS-PDF.pdf –. Los últimos cambios en la web de kaosenlared han hecho que desaparezcan los comentarios que ya había en los artículos. Eso ha supuesto una pérdida importante en aquellos en los que mediante los comentarios había profundizado o aportado datos y pruebas relevantes a cuestiones planteadas en el texto y mantenido un debate interesante con algunos de los comentaristas.
No hay comentarios.:
Publicar un comentario