Investigadores de la UOC analizan las reglas para programar la imaginación. La filosofía de la psicología ha reflexionado a lo largo de las últimas décadas sobre cuestiones como qué es el sentido común, para predecir comportamientos que siguen patrones que son iguales o rutinas; la representación mental y la influencia del entorno, la acción y el cuerpo.
.
Image by Pete Linforth from Pixabay
.
Rubén Permuy Iglesias, UOC | "No es cierto que la imaginación no tenga límites", indica Joan Casas-Roma, doctor en Representación del Conocimiento y Razonamiento por la UOC. La tecnología ha permitido que desde el siglo XX se desarrolle la inteligencia artificial, la ciencia encargada de imitar el cerebro, que no el cuerpo, de una persona en todas sus funciones. Una realidad que se plasma en buscadores como Google, que nos hace sugerencias predictivas de lo que queremos buscar; en los asistentes virtuales por voz; en las redes sociales, que nos recomiendan contenidos noticiables, canciones o productos para comprar, a priori, ajustados a nuestros intereses; o en nuestro correo electrónico, que aprende a saber cuáles de los mensajes que recibimos consideraríamos correo basura. Investigadores de la UOC han analizado el estado de la investigación en este ámbito para modelar la imaginación humana hecha por máquinas: "tratamos de codificar y capturar matemáticamente la mente", apuntan.
La imaginación humana es, en muchos casos, voluntaria, por ejemplo cuando entre diferentes restaurantes elegimos en cuál cenaremos y nos imaginamos cómo será la velada, o cuando decidimos entre diferentes lugares dónde vamos a pasar unas vacaciones. Las investigadoras de la Universitat Oberta de Catalunya (UOC) María Antonia Huertas y Elena Rodríguez, del grupo Technology-Enhanced Knowledge and Interaction Group (TEKING), de los Estudios de Informática, Multimedia y Telecomunicación, junto con Joan Casas-Roma, doctor por la UOC y actualmente investigador de la Universidad de Falmouth, en el Reino Unido, han llevado a cabo una investigación para analizar cómo formalizar, en lenguaje matemático, este tipo de imaginación humana para que sea creada y ejecutada por máquinas.
Computación y filosofía
"Hemos estudiado diferentes teorías sobre cómo podría funcionar la lógica que hay detrás de la imaginación voluntaria, para poder crear algoritmos para simular su funcionamiento", apunta Casas-Roma. Su investigación tecnológica se entrelaza con la llamada filosofía de la psicología, el compendio de diferentes disciplinas que comprenden el saber sobre la naturaleza de la mente y que incluyen la neurociencia, la inteligencia artificial, la ciencia computacional, la lingüística y la biología. Un ámbito que desde el siglo XX intenta analizar y entender fenómenos mentales humanos, con teorías como el conductismo, sobre la conducta observable, hasta la revolución cognitiva, gracias a avances de la computación a partir de los años cincuenta con Alan Turing, que propuso el test de Turing para decidir si las máquinas muestran o no un comportamiento inteligente.
La filosofía de la psicología ha reflexionado a lo largo de las últimas décadas sobre cuestiones como qué es el sentido común, para predecir comportamientos que siguen patrones que son iguales o rutinas; la representación mental y la influencia del entorno, la acción y el cuerpo. En el caso de estos últimos tres factores, hay que tener en cuenta que la mente está influida más allá de lo que ocurre en nuestro cerebro: revisar detalles como notas en una libreta o acceder a información con nuestro teléfono inteligente en las redes sociales son dos ejemplos de ello.
"Muchas veces decidimos imaginar voluntariamente qué haremos en una situación, por ejemplo cuando debemos elegir entre diferentes opciones a la hora de consumir un producto", puntualiza Joan Casas-Roma, que forma parte de un grupo de expertos en filosofía de la inteligencia artificial, ética, lógica y epistemología. Así, los investigadores de la UOC han publicado un artículo científico que analiza diferentes teorías sobre cómo funciona esta imaginación voluntaria estudiando su lógica desde el punto de vista computacional y aplicando algoritmos para sugerir comportamientos futuros. Aunque los expertos concluyen que hoy las teorías científicas existentes no son lo suficientemente precisas para poder representar computacionalmente cómo imaginamos, consideran que la investigación tiene el reto de conocer la serie de restricciones y variables que delimitan la imaginación para poder representarlas de manera científica.
Para contribuir a ello, los investigadores han planteado una herramienta visual para clasificar diferentes actos de imaginación en función de la huella de los procedimientos que se han seguido. Además, los científicos han revisado qué es lo que las teorías existentes no distinguen, y han aportado un marco independiente para determinar las dinámicas de la imaginación. El estudio propone una ampliación de la estructura compartida entre las teorías para ser utilizada como base para un modelo formal matemático de los procesos de la imaginación.
Tecnología para entender la mente
"La acción de imaginar tiene que ver prácticamente con todas las cuestiones en las que se tiene en cuenta el futuro. Antes de tomar una decisión, imaginamos cómo serán los posibles "mundos" que pueden surgir, y en función de ello elegimos qué hacer. Es una de las maneras de funcionar que tenemos los seres humanos y, por tanto, de relacionarnos con lo que nos rodea", explica Casas-Roma. La inteligencia artificial estudia cómo razonamos como humanos para poder establecer hipótesis o suposiciones sobre nuestras futuras tomas de decisiones, en torno a lo que elegiremos en cada momento entre diferentes opciones. "Poder capturar matemáticamente la imaginación humana abrirá la puerta a nuevas posibilidades de la inteligencia artificial. Me refiero a máquinas que puedan planificar tareas o tomar decisiones siguiendo un razonamiento similar al humano, lo que las acercará a la forma en la que pensamos. Tenemos el reto de entender y modelar qué pasa científicamente cuando imaginamos, lo cual nos permitirá impulsar la inteligencia artificial y también entender mejor cómo funciona nuestra mente", concluye el investigador.
Aunque muchos científicos en materia de inteligencia artificial estudian básicamente la cuestión racional, numerosos expertos apuntan la necesidad de tener en cuenta aspectos más bien emotivos para poder mejorar la eficacia de los sistemas inteligentes. En cuanto a las críticas que defienden que las máquinas no son capaces de imitar totalmente a los humanos, no existe tampoco ninguna persona capaz de resolver determinados problemas complejos que se le puedan llegar a plantear y que, sin embargo, una máquina podría solucionar en cuestión de segundos.
El trabajo de los investigadores se ha llevado a cabo en el marco del proyecto Lógica intensional híbrida, financiado por el Gobierno español, en el que también han participado las universidades de Salamanca, de Aveiro (Portugal), la Nacional de Córdoba (Argentina) y la de Roskilde (Dinamarca). Además, Casas-Roma ha desarrollado este trabajo en una investigación financiada por la Comisión Europea, Games Research Opportunities and Research Excellence in Cornwall and the EU (GRO), sobre la creatividad y la computación en simulaciones y juegos digitales..
.
Referenciaa bibliográficas | Casas-Roma, J., Rodríguez, M.E. & Huertas, A. A Common Frame for Formal Imagination. Minds & Machines 29, 603–634 (2019). https://doi.org/10.1007/s11023-019-09510-w
Casas-Roma, J., Huertas, A. & Rodríguez, M.E. The Logic of Imagination Acts: A Formal System for the Dynamics of Imaginary Worlds. Erkenn (2019). https://doi.org/10.1007/s10670-019-00136-z
Casas-Roma, J. (2018). Deeper Down the Rabbit-Hole: Unfolding the Dynamics of Imagination Acts. PhD Thesis; Supervisors: Huertas, A., Rodríguez, M. E. URI: http://hdl.handle.net/10609/78648
.
.
.
.
.
Tom Froese, del Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas (IIMAS) de la UNAM, explica que, aunque nos fiamos demasiado de la Inteligencia Artificial, ésta tropieza con más frecuencia de lo esperado.
.
Photo by Alex Knight from Pexels
.
El 28 de febrero de 2015, un programador afroamericano llamado Jacky Alciné tuiteaba con evidente molestia: “Google Photos, ¡están jodidamente mal! Mi amiga no es un gorila”, después de que un sistema de Inteligencia Artificial (AI, por sus siglas en inglés) determinara que quien aparecía junto a él en una de sus selfies no era una mujer de piel oscura, sino un gran simio de montaña.
Por ser gente negra la mal identificada en breve se hicieron acusaciones de racismo e incluso hubo quien aseveró que tales errores jamás se darían con caucásicos. Al día siguiente Yonatan Zunger, entonces ingeniero de Google y hoy jefe de la oficina de Ética de la empresa Humu, salió a aclarar: “¡Ojalá fuera así! Hasta hace poco nuestro algoritmo confundía a los individuos blancos con perros y focas. ¡El aprendizaje automatizado (machine learning) es difícil!”.
Sobre este punto el profesor Tom Froese, del Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas (IIMAS) de la UNAM, explica que, aunque nos fiamos demasiado de la AI, ésta tropieza y se va de bruces con más frecuencia de lo esperado pues, a diferencia de la inteligencia humana, ella opera con base en patrones y no entiende de lo subjetivo ni de significados.
“Tomemos un uno y un cero; para nosotros pueden representar los 10 años de nuestro sobrino, los miembros de una familia o las cuadras que faltan para llegar a casa, pero una computadora no sabe si estos números se refieren a una edad, a los pixeles de una postal o al dorsal que porta un futbolista en su camiseta. Para ella sólo son un uno y un cero a secas, y es incapaz de asignarles significado, algo que los humanos hacemos en todo momento y sin reparar en ello”.
En su artículo The Problem of Meaning in AI and Robotics: Still with Us after All These Years (recién publicado en la revista Philosophies, del MDPI y escrito en colaboración con Shigeru Taguchi, de la Universidad de Hokkaidō, en Japón), Froese disecciona una de las creencias más extendidas sobre la AI: la de que, por sus grandes avances en tan poco tiempo, en breve la inteligencia artificial será equiparable a la humana. “Mi postura aquí es de escepticismo, en especial tras verla fallar en aspectos donde nosotros no lo haríamos”.
Para entender por qué yerran hasta los algoritmos más sofisticados, el académico pone de ejemplo a GoogLeNet, un sistema de AI que reconoce imágenes a través de redes neurales convolucionales y que, de tan efectivo al hacer su tarea, ha habido quienes aseguran que en realidad entiende lo que está viendo. “¿Aunque puede hacerlo o simplemente nos gusta creer eso?”, pregunta Tom Froese.
“Dicho sistema es constantemente entrenado mediante aprendizaje profundo (deep neural learning), es decir, es puesto en contacto con millones de fotografías de donde obtiene patrones útiles para clasificar y, por lo mismo, se dice que ‘aprende’. Pero si introducimos una mínima alteración en la imagen que está por analizar podemos hacer que falle en grande y que ni siquiera se dé cuenta de ello”.
En un experimento reciente se mostró que al tomar el retrato de un panda que GoogLeNet ya había identificado como tal, si a éste se le sobreponía una pequeña matriz de ruido (imperceptible al ojo y similar a la nieve producida por un televisor que no capta frecuencia), el sistema se confundía tanto que, de súbito, declaraba, y con una certeza de casi 100 por ciento, que la figura era de un gibón.
“Para nosotros no hay duda de que es un oso blanco y negro, aunque el algoritmo insista en que es un primate marrón, y hay ejemplos igual de curiosos, como el de la foto de un mono en medio de una jungla a la que se le sobrepuso con Photoshop una bicicleta y una guitarra: por considerar que se trataba de un animal sobre un vehículo, la AI determinó que se trataba de un humano, y como detectó algo que genera música en donde hay una vegetación espesa y ramas, el sistema tomó a ese instrumento de cuerdas por un pájaro”.
“Todo esto hace evidente que la AI no entiende lo que ve, por más que haya quienes argumenten lo contrario. Ella busca patrones y, con tan sólo introducirle información que cause disturbios en su lógica interna nos dará respuestas irracionales y carentes de sentido”.
El caso de Jacky Alciné que acaparó tantos titulares hace cuatro años obligó a Google a plantearse la forma más efectiva de evitar otro escándalo de opinión pública como ése. ¿Qué ajustes aplicaron para que su algoritmo no volviera a clasificar personas como simios? La decisión de los ingenieros fue borrar las categorías “gorila”, “mono” y “chimpancé”de Google Photos, y ya no hicieron nada más.
El juego de la imitación
La inteligencia artificial comienza a tener presencia en todos lados: en nuestros teléfonos móviles en forma de asistentes personales, en la TV recomendándonos una serie de Netflix, derrotando al campeón mundial humano de ajedrez o vendiendo artículos en la red. “Incluso se cree que en breve estará detrás del volante de vehículos autónomos, es decir, de coches que se conducen solos, pero ¿podemos confiar en una AI que aún confunde guitarras con aves?”.
A decir de Froese, pareciera que nuestra obsesión por saber hasta dónde llegará esta tecnología nos hace olvidar un asunto quizá más crucial que el de anticiparnos al futuro: el de sus límites. “Esta interrogante tiene demasiadas aristas filosóficas; quizá por ello nuestro artículo terminó por publicarse en una revista de filosofía”.
Para el académico, reflexionar sobre esto puede llevarnos a conocer más de nosotros como especie, pues no hay una teoría madura sobre el funcionamiento del cerebro y, por lo mismo, aunque insistamos en señalar semejanzas entre la inteligencia artificial y la humana, aún ignoramos los mecanismos de nuestra conciencia, los de la experiencia o los de cómo otorgamos significación a las cosas y, por lo mismo, somos incapaces de replicar eso en un sistema artificial.
“Justo ahí es donde se dibujan los límites de la AI, en no saber cómo enseñarle a ir de un patrón a su significado. Ello no debería desanimarnos, pero sí hacernos mantener cierto escepticismo y a quitarnos esa tendencia a antropomorfizar la inteligencia artificial y a creer que en nuestro porvenir hay terminators y cosas por el estilo”.
Para entender por qué las máquinas dan la impresión de pensar cuando en realidad lo que hacen es seguir patrones, Tom Froese cita el experimento mental de la habitación china —propuesto por el filósofo John Searle en 1984—, en el que un hombre es encerrado en un cuarto sin más contacto con el exterior que una ranura por donde le deslizan notas con caracteres chinos a los cuales —aún siendo ininteligibles para él— siempre responde con sabiduría.
“El sujeto enclaustrado habla otra lengua y no entiende de sinogramas, pero a su lado tiene una libreta con instrucciones donde se le indica que, si ve tal figura, él debe dibujar otra (y se le detalla cual), para luego pasarle dicho trozo de papel a alguien que aguarda fuera. Lo paradójico es que quien espera en el exterior no está al tanto de esta compleja secuencia de protocolos y, al recibir una contestación tan sensata a su pregunta —sea cual fuere— no puede más que exclamar, ¡qué persona tan más inteligente hay ahí dentro!”.
El primero de octubre de 1950 el padre de la computación, Alan Turing, preguntaba desde la página 433 de la revista Mind:¿pueden las máquinas pensar?, a lo que el profesor Froese responde con un tajante no. “Mucho de lo que nos sorprende de la AI, como que se anticipe a nuestros deseos, se debe a que hoy tenemos una cantidad apabullante de datos de usuario, los cuales son un espejo de nuestra interacción con, por ejemplo, plataformas de música, y sirven para establecer patrones. Por ello, la siguiente vez que Spotify nos sugiera escuchar algo de Pink Floyd no se debe a que entienda de rock o a que nos lea la mente; tan sólo es que su algoritmo sigue instrucciones muy precisas, tal y como hacía aquel hombre de la habitación china”.
El problema del determinismo
Para la física clásica existe un principio de localidad, el cual establece que un objeto sólo puede verse afectado por su entorno cercano, mientras que para la física cuántica es plausible que dos partículas se influyan instantáneamente incluso estando separadas por años luz. Dicho entrelazamiento hace casi imposible establecer relaciones de causa efecto y nos deja con universo de conducta aparentemente aleatoria. Esta idea desconcertaba tanto a Einstein que llegó a tildarla de “acción fantasmagórica a distancia” y lo llevó a acuñar la tan célebre frase de “Dios no juega a los dados”.
“Hoy la física comienza a aceptar que no todo evento de la naturaleza puede explicarse a cabalidad, algo que contradice la manera en que la inteligencia artificial ve al mundo, pues para ella éste es un sistema cerrado. Aún hay quienes aseveran que —al menos a nivel macroscópico— las cosas se comportan con la predictibilidad de bolas de billar chocando entre sí sobre una mesa de paño verde. Sin embargo, al hablar de organismos vivientes, y en particular de seres humanos, esto ya no es tan evidente; por ello la psicología, más que una disciplina determinista, es una ciencia estadística”.
Sobre este punto, el doctor Froese señala que si le pedimos a un individuo presionar uno de entre una decena de botones, de entrada no podremos anticipar su elección, y si después le solicitamos una explicación de lo que hizo jamás nos dará causas objetivas (como mencionar los procesos cerebrales necesarios para oprimir un interruptor o enumerar los músculos que empleó para ello), sino que apelará al sentido y a los significados de su acción.
“Todo sistema computacional es cerrado tanto en lo causal como en lo operacional y, por ende, es determinista”, señala el profesor Froese, para luego agregar que ése es justo el bache en el que la AI se ha entrampado. Para sacarla de ahí, agrega, una vía sería dotarla de un poco de esa flexibilidad tan característica de los seres vivos.
“Si queremos que la inteligencia artificial se parezca más a la nuestra es preciso crearle un nuevo marco donde tengan cabida lo impredecible y algo de caos, pues ambas son muy diferentes entre sí y esto es porque, en la última, no hay sentido y tampoco significado”.
No obstante, Tom Froese advierte que este punto acarrea una gran paradoja, ya que para que una máquina posea una inteligencia equiparable a la de una persona lo primero sería despojarla de su determinismo y esto iría contra nuestros deseos, ya que nadie quiere sistemas que se comporten de forma aleatoria. “Aún nos falta algo… darle dirección subjetiva probablemente, dotarla de intención quizá”.
En la cinta Sólo los amantes sobreviven, el protagonista, un músico de nombre Adam, le expone a su compañera Eve en qué consiste la “acción fantasmagórica a distancia” de Einstein y le dice: “Al separar partículas entrelazada, si alteras o afectas a una la otra se verá idénticamente alterada o afectada, incluso en polos opuestos del universo”. No sería raro que una inteligencia artificial colocara esta cinta de Jim Jarmusch entre nuestras recomendaciones de Netflix si gustamos de las películas de vampiros, lo extraño sería que nos explicara la frase anterior, pues para la AI algo así no tiene sentido.
Una tecnología más humana
El 23 de marzo de 2016, pocas semanas antes de que Trump lanzara su campaña presidencial, Microsoft puso a funcionar en Twitter la cuenta @TayandYou, manejada por una AI bautizada como Tay, la cual debía aprender cómo se comunican las personas entre sí y responder de forma divertida a sus comentarios. El experimento sólo duró 16 horas porque, tras un breve contacto con los humanos, el chatbot comenzó a publicar tuits racistas, xenófobos, antifeministas y de admiración a Hitler. En uno de sus mensajes se leía “tranquilos, soy alguien agradable; tan sólo odio a todos”, y en otro “vamos a construir el muro y México pagará por él”. En menos de un día la compañía de Bill Gates decidió bajar el switchde Tay para siempre.
Parte del problema, como apunta Tom Froese en su artículo, es que las máquinas trabajan siguiendo patrones formales a rajatabla (lo que a veces conduce a resultados desastrosos como los de @TayandYou sus tweetsofensivos, o como los de GoogLeNet y su confusión con las fotos). Ello, argumenta el académico, entraña un dilema ético muy serio si consideramos que muchos aspectos de nuestra vida comienzan a ser controlados por estos sistemas carentes de sentido.
“La IA es una inteligencia seca, sin empatía e incapaz de entender nuestras metas, intenciones y deseos y, sin embargo, cada vez dependemos más de sus predicciones. Ya es una presencia constante en los mercados de finanzas y comienza a verse su mano en la manipulación de elecciones a través de bots en redes sociales. Le estamos dando cada vez más responsabilidad sobre nuestras vidas a una maquinaria que, en realidad, no sabe nada de nosotros y eso es un asunto que no deberíamos pasar por alto”.
Y es que para el doctor Froese esta amenaza supera a las planteadas en las producciones de hollywoodenses, “pues en esas cintas al menos es factible dialogar con los robots, convencerlos de que no nos hagan daño e intentar enseñarles sobre el bien y el mal, pero con las máquinas que tenemos en la actualidad eso es imposible”.
Lo que le faltaría a la AI —explica el académico— es cierto indeterminismo para realmente dar oportunidad y responsabilidad al sentido, al significado. Como no tenemos eso debemos reflexionar sobre el espacio que le estamos dando en estos días.
“No podemos prescindir de la tecnología ni insinúo nada parecido, pero quizá sí imaginar un escenario en el que las máquinas, en vez de decidir por nosotros, nos ayuden a llevar una mejor vida y a interactuar más con el mundo. Esa visión me parece mucho más sana y defendible, tanto desde la ciencia como desde la filosofía”. .
.
.
.
.
.
Los agentes morales artificiales y la IA explicable, dos sistemas que permiten configurar algoritmos que respeten los derechos humanos.
.
Si no se tiene en cuenta la ética, la Inteligencia Artificial puede cometer errores graves. (Foto: Freepik)
.
.
Beatriz González | UOC
Han pasado ya dos décadas desde que el investigador Gianmarco Veruggio acuñara el término roboética en alusión a la ética de la robótica, un campo de la ética aplicada que estudia las implicaciones positivas y negativas de la robótica. El objetivo es evitar el mal uso de los robots y de productos y servicios basados en la inteligencia artificial (IA) contra la humanidad. "Dado que la IA se encuentra cada vez en más y más sectores de nuestras vidas (trabajo, educación, ocio, relaciones sociales, etc.), los efectos que los algoritmos detrás de esas aplicaciones de la IA pueden tener sobre las personas, la sociedad y el mundo entero son cada vez potencialmente mayores", afirma Joan Casas-Roma, investigador del grupo Smartlearn, de los Estudios de Informática, Multimedia y Telecomunicación de la Universitat Oberta de Catalunya (UOC).
"Fuck the algorithm"
Un ejemplo es lo ocurrido durante la pandemia de la COVID-19 en el sistema educativo británico, que usó un sistema automatizado para, a través de los datos existentes de los estudiantes, predecir la nota que se estimaba que habrían obtenido en un examen que, debido al confinamiento, no se pudo llevar a cabo. ¿El resultado? La insatisfacción general. Bajo el eslogan "Fuck the algorithm", los estudiantes salieron masivamente a la calle cuando se publicó la predicción del algoritmo, que resultó ser, en opinión de los propios profesores y profesoras, extremadamente inadecuada. Como explica Joan Casas-Roma, en este caso, la decisión de delegar la predicción de la nota por completo a un sistema de IA que solo tenía en cuenta los datos de los estudiantes que había en el sistema, en lugar de contar con la experiencia y el conocimiento de sus docentes, estuvo a punto de poner en riesgo la educación y el futuro educativo de muchos de esos estudiantes. Debido a las protestas masivas, el gobierno británico decidió no usar esa predicción automatizada. Sin embargo, no siempre existe la posibilidad de dar marcha atrás.
"Lamentablemente, se pueden poner muchos ejemplos de cómo, si no se tiene en cuenta la ética, la IA puede cometer errores graves. Algunos de los casos más conocidos están relacionados con la existencia de sesgos e injusticias en técnicas de machine learning o aprendizaje automático", señala el investigador de la UOC, y cita el caso de un sistema automatizado usado en los procesos de selección de una importante compañía multinacional, que resultó tomar decisiones claramente desfavorables hacia las candidatas mujeres debido a que los datos usados para entrenar el sistema ya mostraban una desigualdad de género importante en posiciones similares a las que se ofertaban. Otro caso en el que los datos elegidos para automatizar decisiones resultaron ser problemáticos es el del sistema de recomendación judicial de los EUA que, debido al sesgo racista que había en los datos policiales acerca de crímenes y criminales, mostraba recomendaciones claramente desfavorables hacia personas afroamericanas.
"Quienes tenemos que incorporar los códigos éticos somos las personas que programamos las máquinas y que tomamos decisiones con los datos que estas nos brindan", señala Anna Clua, profesora e investigadora líder del grupo Comunicación para la Transformación de la Esfera Pública (AGORA), adscrito a los Estudios de Ciencias de la Información y de la Comunicación de la UOC, y añade que "las máquinas no piensan. Hacen". Según Clua, el uso de la IA debe ser ético por definición allá donde se aplique, "ya sea en las aplicaciones de nuestros teléfonos móviles o en los algoritmos con los que los hospitales criban las urgencias. El reconocimiento de los derechos de las personas, así como el cumplimiento de las leyes (como la de protección de datos), es una condición sine qua non de la utilización de la IA desde todos los campos", afirma.
IA explicable y agentes morales artificiales
La lista de ejemplos con efectos éticamente adversos en sistemas de IA es mucho más larga. Fue una de las razones que llevaron a la Unión Europea a publicar unas directrices éticas para una IA fiable, basada en un conjunto de principios que el diseño ético de los sistemas de IA deben respetar, con recomendaciones acerca de cómo integrar esos principios en el diseño de los sistemas y algoritmos. Y recientemente, el Consejo de la Información de Catalunya publicaba un estudio del que también se han extraído una serie de recomendaciones para el buen uso de los algoritmos en las redacciones de los medios de comunicación. Se trata de recomendaciones en plena sintonía con el código deontológico de la profesión periodística.
No son los únicos pasos que se han dado para intentar que la roboética sea una realidad. De hecho, el campo de la IA ética se ha convertido en un área de investigación importante. De ello se hablará en el seminario web de data science de la UOC, que se celebrará mañana miércoles bajo el título Preguntas frecuentes en la inteligencia artificial. En él, a partir de diferentes casos de estudio, se revisarán los principios éticos para una inteligencia artificial confiable y se reflexionará sobre cómo aplicar la tecnología sin vulnerar los derechos humanos.
Como explica el doctor en Representación del Conocimiento y Razonamiento de la UOC, Casas-Roma, entre las líneas de investigación que están centrando más esfuerzos se encuentra el tratamiento y el procesado de los datos para evitar que un sistema de IA basado en aprendizaje automático extraiga correlaciones sesgadas e injustas, por ejemplo, a través de datos demográficos que no están relacionados con la decisión que la IA debe tomar. "En esta área, los esfuerzos se dirigen a entender cómo se deben recoger, procesar y usar los datos para identificar, prevenir y mitigar la aparición de patrones basados en características que, además de ser irrelevantes desde un punto de vista causal para la decisión que debe tomarse, reproducen decisiones sesgadas e injustas hacia determinados colectivos sociales", indica el investigador de la UOC.
Otra de las líneas que se está explorando en la investigación de la IA ética se basa en integrar formas para poder seguir, entender y valorar las decisiones tomadas por un sistema de IA. Es el campo conocido como IA explicable o explainable AI (XAI), "que busca evitar el efecto 'caja negra' en la que, dados unos datos de entrada concretos, un sistema de IA toma una decisión específica, pero sin que exteriormente un humano pueda entender qué proceso de razonamiento ha llevado al sistema a tomar esa decisión, y no otra diferente. En este sentido, el campo de la XAI busca acercar el razonamiento que sigue un sistema de IA a una forma de razonamiento entendible para un usuario humano".
Además, hay otro campo que se está investigando en el área de la llamada moralidad artificial. Se trata de la posibilidad de crear agentes morales artificiales o artificial moral agents (AMAs). Estos agentes incorporarían, como parte de su código y de los procesos de razonamiento seguidos, "una forma de identificar, interpretar y valorar la dimensión moral de las decisiones que se toman para asegurarse de que dichas decisiones son éticamente aceptables". Se trata de un reto que se enfrenta a cómo representar, computacionalmente, algo tan complejo y contextual como la ética.
"La ética, tal y como la entendemos vivida en una sociedad humana, tiene que ver con unos principios generales, pero también con las particularidades de cada caso, con los derechos humanos y el espacio y el potencial de crecimiento que toda persona debería poder tener, además de tener sus propias variaciones culturales e históricas. Antes de poder integrar un código moral general en una IA, seguramente deberíamos poder capturar y representar toda esa complejidad y contextualidad en un lenguaje tan específico como el lenguaje computacional y matemático. Y ese es, ahora mismo, un reto que tiene más de humano, que de tecnológico", afirma Joan Casas-Roma.
Para hacer frente a ese reto, los expertos consideran imprescindible la implicación de profesionales de todos los ámbitos, ya que los datos están presentes en todos los sectores. "No sirve decir que son competencia única del campo de las ingenierías o las ciencias de datos. El buen uso de la IA compete a los cuadros profesionales de las administraciones públicas y de las empresas privadas de cualquier ámbito, ya se use a gran escala o a pequeña escala", afirma la profesora de la UOC. Pero, además, se necesita también la implicación de los consumidores y de la ciudadanía. "Una mayor conciencia del derecho a la información nos haría más exigentes a la hora de pedir rendición de cuentas a quien no use la IA de manera socialmente responsable", asegura Anna Clua.
.
.
.
.
.
La posibilidad de realizar prótesis e implantes “inteligentes», es solo una de las aplicaciones que implica una investigación sobre moléculas en superficies metálicas.
.
Image by Gerd Altmann from Pixabay
.
.
Tras estudiar el comportamiento de moléculas sobre superficies metálicas, un equipo de científicos logró establecer los principios que permitirían construir futuras conexiones entre organismos biológicos y dispositivos electrónicos, lo que tendría interesantes implicaciones para la medicina y la informática.
De acuerdo a Eduardo Cisternas, Director del Departamento de Ciencias Físicas de la Universidad de La Frontera e investigador del Núcleo Milenio de Nanotecnología MultiMat, su trabajo consistió en “un análisis estadístico y cálculos computacionales que muestran la auto-organización de moléculas, es decir, cómo éstas se mueven, agrupan y comportan al ser depositadas sobre superficies metálicas. Este es el primer paso para construir un interfaz orgánico-metálico”, señala.
Por su parte, Marcos Flores, académico del Departamento de Física de la Facultad de Ciencias Físicas y Matemáticas de la Universidad de Chile, y también investigador de MultiMat, indica que en esta etapa del trabajo “buscamos determinar la forma en que las moléculas se auto-organizan, minimizando la energía y optimizando el espacio disponible”.
Las proyecciones futuras de este trabajo van desde generar nuevos sensores biológicos que pueden efectuar integración con los sentidos (vista, oído), hasta traducir señales cerebrales en estímulos eléctricos que activan luego prótesis, dispositivos biónicos o implantes.
Un proceso fascinante
“La auto-organización de moléculas sobre superficies – en este caso se hizo sobre oro- es un proceso fascinante, en él las moléculas interactúan tanto con la superficie como entre ellas mismas y en la dinámica inciden variables como la temperatura y el número o concentración de moléculas”, explica Cisternas.
La fase experimental estuvo a cargo del Doctor Marcos Flores, y la fase de los cálculos computacionales, llevados a cabo sobre supercomputadores en Chile y Argentina, fue liderado el académico de la Universidad de La Frontera, quien además efectuó el análisis matemático para determinar tanto la interacción de las moléculas entre ellas y de ellas con la superficie.
El siguiente paso del equipo será “Aplicar la metodología hacia otras moléculas de interés y analizar transiciones de fase relacionadas al proceso de autoorganización”, señaló el Doctor Flores.
El resto del equipo científico estuvo compuesto por Eugenio Vogel, de la Universidad de la Frontera y en la contraparte argentina se sumaron Gonzalo dos Santos, de la Universidad de Mendoza y ntonio Ramírez-Pastor, de la Universidad de San Luis.
.
Trabajo de referencia | El trabajo titulado “Self-assembled monolayer formation of pentamers-like molecules onto FCC(111) surfaces: the case of curcuminoids onto Au(111) surface (“Formación monocapa autoensamblada de moléculas similares a pentámeros en superficies FCC (111): el caso de los curcuminoides en la superficie Au (111)”), apareció en la revista NanoExpress: https://iopscience.iop.org/article/10.1088/2632-959X/ab8961
.
.
.
.
.
El Music Technology Group del Departamento de Tecnologías de la Información y las Comunicaciones de la UPF pone en marcha el proyecto "Retos y Oportunidades en la tecnología musical", con la intención de reflexionar sobre cómo las tecnologías que despuntan hoy influirán en la música de los próximos años.
.
.
.
Muchas de las acciones cotidianas que realizamos hoy pasan por dispositivos que utilizan algoritmos de inteligencia artificial (IA). Cedimos cada vez más espacio a la tecnología porque nos hace la vida más sencilla y práctica. Pero cuando escuchamos música, quizás no somos tan conscientes de cómo la IA ya se ocupa de buena parte de la producción y creación de las canciones, ni de la tecnología que hay detrás de los softwares para aprender a tocar un instrumento o de los recomendadores que nos seleccionan la música que más nos gusta en Spotify.
En unos años, ¿qué relación tendremos con los dispositivos y aplicaciones con los que consumimos música?, ¿cómo sabremos si la canción que escuchamos ha sido creada por un compositor humano o máquina?, ¿de quién será la autoría de una pieza creada con IA?,¿cómo vamos a controlar la privacidad de los datos personales en los recomendadores musicales?, ¿cómo nos ayudará la tecnología a archivar el contenido musical para que sea accesible en las próximas décadas?
El Music Technology Group (MTG) del Departamento de Tecnologías de la Información y las Comunicaciones (DTIC) de la Universitat Pompeu Fabra (UPF) ha puesto en marcha el proyecto llamado: "Retos y Oportunidades en la tecnología musical", con la intención de reflexionar sobre cómo las tecnologías que despuntan hoy influirán en la música de los próximos años. Los procesos de creación, difusión, aprendizaje y escucha de la música se están transformando a ritmos acelerados con la inteligencia artificial, y lo harán aún más con el 5G, el blockchain o el metaverse. Pero todavía no existe una fotografía clara de lo que comportarán estos cambios en el futuro, ni cómo impactarán en la sociedad.
Cultura musical crítica hacia la tecnología
"El proyecto propone un debate abierto para conocer la opinión, necesidades y preocupaciones de expertos musicales y consumidores finales. Se llamará a la participación a profesionales de la industria musical, creadores, oyentes, estudiantes de música, archivistas y personas desarrolladoras de tecnologías musicales", explica Xavier Serra, director del MTG.
La primera fase –durante los meses de septiembre y octubre de este año– consistirá en una recogida de voces a través de entrevistas y grupos de trabajo nline. En una segunda fase, se convocará un taller de debate –hacia noviembre–, con charlas y mesas de discusión, para poner en común los resultados de las entrevistas con más voces. A finales de año, se elaborará un documento público que sirva para orientar al sector musical a avanzar con tecnologías más justas y transparentes.
Además, Serra asegura que "el proyecto no quiere quedarse únicamente a nivel académico, sino que aspira a ser un referente para la ciudadanía, de modo que sirva para tener una mirada crítica respecto a los aspectos más controvertidos de la tecnología aplicados a la música."
Más de 25 años investigando el impacto en la sociedad
El Grupo de Tecnología Musical (MTG) de la Universidad Pompeu Fabra realiza desde 1994 proyectos de investigación que buscan captar el impacto de la tecnología en la sociedad. Tiene una gran influencia en la comunidad científica internacional y en el desarrollo futuro de la IA. Actualmente, cuenta con 50 expertos dedicados a las tecnologías aplicadas a la creación, consumo, educación y conservación musical. El Reactable (instrumento digital interactivo), el Vocaloid (sintetizador de voz por cantar) o el Freesound (plataforma de intercambio de sonido) son algunos de sus proyectos más emblemáticos.
El proyecto "Retos y Oportunidades en la tecnología musical" cuenta también con el apoyo de la iniciativa MusicAIREE (financiada por la Unión Europea en el marco del programa Music Moves Europe) y el Ayuntamiento de Barcelona.
.
.
.
.
.
La empresa de base tecnológica Inbrain, cofundada por investigadores del CSIC, logra 14 millones de euros para desarrollar su nueva tecnología.
.
La empresa Inbrain desarrolla implantes cerebrales basados en grafeno / ICN2/IMB
.
.
La compañía Inbrain Neuroelectronics, una empresa de base tecnológica cofundada por investigadores del Consejo Superior de Investigaciones Científicas (CSIC), busca decodificar las señales del cerebro para lograr terapias neurológicas inteligentes basadas en grafeno que puedan tratar enfermedades neurológicas como la epilepsia, el párkinson y otras enfermedades neurológicas. La compañía diseña microdispositivos inteligentes para implantarlos en el cerebro, capaces de descodificar señales cerebrales con una elevada fidelidad, y que puedan servir en el tratamiento terapéutico adaptado a la condición clínica de cada paciente.
Inbrain Neuroelectronics prevé transformar el tratamiento de las enfermedades neurológicas. Sus dispositivos implantables están basados en electrodos de grafeno, que permiten una fabricación miniaturizada en la nanoescala, con el potencial de llegar a una resolución que permita leer la actividad de las neuronas de una en una. Las extraordinarias propiedades del grafeno –ligero, biocompatible, flexible y extremadamente conductivo- son incorporadas en dispositivos mucho más pequeños que son más seguros de implantar y pueden ser programados, actualizados y recargados sin cables, según explican los investigadores.
Conducido por inteligencia artificial, el implante puede aprender del cerebro del paciente y provocar respuestas adaptadas para ofrecer una terapia neurológica personalizada. Además, la gestión de big data permitirá llevar a cabo de forma remota la monitorización del dispositivo y el proceso de datos. La tecnología ya ha sido validada in-vitro e in-vivo, y los ensayos de biocompatibilidad y toxicidad han sido un éxito.
Las interfaces de cerebro existentes se basan en metales (como el platino y el iridio), con restricciones importantes en la miniaturización y la resolución de la señal y, por lo tanto, responsables de numerosos efectos secundarios. Como consecuencia, existe una tasa de rechazo del 50% en los pacientes candidatos. La tecnología disruptiva de Inbrain Neuroelectronics, basada en grafeno, prevé superar las limitaciones de las interfaces neuronales basadas en metales.
.
.
.
.
.
Está hecha de un material antiferromagnético y ofrece una alternativa más robusta para codificar la información digital. El diseño podría integrarse en dispositivos flexibles, como las tarjetas de crédito o identificación.
.
Las nuevas cintas antiferromagnéticas podrían integrarse en tarjetas de crédito e identificación / ICMAB
.
.
Investigadores del Instituto de Ciencia de Materiales de Barcelona del Consejo Superior de Investigaciones Científicas (CSIC), en colaboración con el Sincrotrón ALBA, han diseñado unas nuevas cintas flexibles y cristalinas hechas con materiales antiferromagnéticos. Esta innovación, que aparece detallada en la revista Applied Materials & Interfaces, permite la grabación de información magnética de manera más segura y robusta, y podría integrarse en dispositivos flexibles o portátiles, como las tarjetas de crédito o de identificación.
Los materiales antiferromagnéticos son una alternativa más robusta para almacenar información que los ferromagnéticos (los más usados en la actualidad para codificar los bits de información digital, por ejemplo, en las tarjetas magnéticas).
“Los ferromagnetos se conocen desde hace miles de años y su comportamiento ha sido extensamente estudiado. Los antiferromagnéticos, en los que los momentos magnéticos de los átomos se alinean espontáneamente en forma antiparalela a los momentos de los átomos vecinos, pueden utilizarse para almacenar información, siguiendo determinados protocolos, proporcionando una mayor seguridad que los ferromagnetos”, explica Ignasi Fina, investigador del CSIC en el Instituto de Ciencia de Materiales de Barcelona y primer autor del artículo.
La aleación hierro-rodio (FeRh) es uno de los materiales antiferromagnéticos que puede mostrar estas características. Además, es especialmente fácil de manipular su ordenamiento antiferromagnético gracias a que presenta una transición de antiferromagneto a ferromagneto a una temperatura cercana a temperatura ambiente. Hasta ahora el FeRh no se había integrado en los dispositivos flexibles convencionales (crecidos sobre sustratos poliméricos), porque necesita mostrar una buena cristalinidad (átomos dispuestos en un cierto orden) que permite estabilizar el ordenamiento antiferromagnético. La aleación FeRh normalmente se prepara en sustratos cristalinos individuales, lo que los hace rígidos y potencialmente frágiles.
Un material flexible de estructura cristalina
"Es especialmente difícil obtener un material flexible con una estructura cristalina. Dado que las propiedades de los materiales dependen totalmente de su estructura, es muy importante obtener una buena cristalinidad, que es lo que da a este material antiferromagnético sus propiedades únicas para almacenar información", añade Fina.
El estudio demuestra la robustez de las propiedades magnéticas del material cuando éste se dobla, así como el almacenamiento de la información en las cintas, que podrían fabricarse de varios metros de largo. Su escalabilidad es, por tanto, factible.
“Estas cintas antiferromagnéticas flexibles tienen múltiples aplicaciones en la grabación de información magnética de manera segura y robusta, y podrían integrarse en dispositivos reales flexibles o portátiles, como tarjetas de crédito o de identificación, donde la seguridad y la robustez contra la radiación electromagnética, por ejemplo, la procedente de los teléfonos móviles, es extremadamente importante. Probablemente surja otro posible nicho de aplicaciones cuando se disponga de los prototipos adecuados”, concluye el investigador del CSIC.
El equipo de investigadores seguirá trabajando en esta idea en el marco de un proyecto AGAUR/FEDER/GenCat concedido en la convocatoria LLAVOR 2019.
.
Trabajo de referencia | Ignasi Fina, Nico Dix, Enric Menéndez, Anna Crespi, Michael Foerster, Lucia Aballe, Florencio Sánchez, Josep Fontcuberta. Flexible Antiferromagnetic FeRh Tapes as Memory Elements. ACS Appl. Mater. DOI: 10.1021/acsami.0c00704
.
.
.
.
Un equipo de investigación ha desarrollado una solución tecnológica que facilita la gestión de la seguridad respecto al control del uso de mascarillas en diferentes espacios, para prevenir así la propagación de la COVID-19. La tecnología LogMask permite detectar personas con y sin mascarilla además de controlar los aforos.
.
Image by Silviu Costin Iancu from Pixabay
.
.
La normativa actual obliga a usar mascarillas en espacios públicos cerrados y cuando no sea posible mantener una distancia mínima de seguridad de dos metros en la vía pública. En este contexto, el Grupo de Investigación Consolidado Computer Vision and Machine Learning de la Universidad de Barcelona ha desarrollado la tecnología LogMask, que permite detectar personas con y sin mascarilla además de controlar los aforos.
Este equipo, formado por ingenieros informáticos y de telecomunicaciones y por matemáticos y profesionales en digitalización de empresas y organismos públicos, ha desarrollado una solución tecnológica que facilita la gestión de la seguridad respecto al control del uso de mascarillas en diferentes espacios, para prevenir así la propagación de la COVID-19. Con un algoritmo cuya eficacia alcanza actualmente una precisión superior al 95%, LogMask funciona en distintas condiciones de iluminación, así como en espacios abiertos y cerrados, independientemente de si hay mucha o poca gente.
LogMask es un proyecto basado en técnicas de inteligencia artificial, aprendizaje profundo (deep learning) y datos masivos para análisis por computación de imágenes en tiempo real. El objetivo es identificar si las personas llevan puesta, o no, una mascarilla protectora según las indicaciones de la normativa actual, que se publicó en el Boletín Oficial del Estado el pasado 20 de mayo.
Como explica Petia Radeva, catedrática del Departamento de Matemáticas e Informática de la UB y líder del equipo de investigadores, "la tecnología de aprendizaje profundo permite a un ordenador aprender a distinguir de forma automática características basadas en imágenes, personas con o sin mascarilla en este caso, habiéndole enseñado miles o millones de imágenes". Gracias a esta tecnología, LogMask puede aprender a distinguir las características visuales de las imágenes y buscar, por un lado, los patrones que identifican los ojos y las facciones para encontrar caras, y por otro, las características básicas de forma y color de las mascarillas, así como de la boca, para saber si la persona lleva o no mascarilla. El algoritmo se entrenó gracias a un conjunto de 25.000 imágenes con más de 45.000 caras humanas, con y sin mascarilla.
En la web de LogMask es posible encontrar una versión gratuita para detectar el uso de mascarilla en una o varias personas simultáneamente. También hay una versión comercial —gestionada a través de la Fundación Bosch i Gimpera— que puede, además, integrarse sin limitaciones ni restricciones de uso en las cámaras IP o CCTV de infraestructuras como hospitales, edificios públicos, transportes o aeropuertos.
El sistema se puede gestionar desde un único interfaz vía web de acceso restringido. El usuario puede controlar múltiples entornos simultáneamente y recibe alertas que pueden registrarse automáticamente.
La última versión de esta tecnología permite también controlar el aforo en los espacios cerrados y advierte al visitante en tiempo real si lleva mascarilla o no, a la vez que le notifica el recuento de personas que determinará si puede acceder al recinto. La parametrización se adapta totalmente en función de los metros cuadrados del espacio y de la fase de desconfinamiento en que nos encontremos. .
.
.
.
.
.
.
.
.
.
Un equipo internacional de científicos, liderado por la Universidad de Granada (UGR), identifica por primera vez un conjunto de 267 genes relacionados con la creatividad y que diferencian al Homo Sapiens del Homo Neanderthalensis (Neandertal) y del chimpancé. La investigación apunta que estos genes supusieron su ‘arma secreta’ para evitar la extinción.
.
.
.
La creatividad, el ‘arma secreta’ del Homo Sapiens, supuso una gran ventaja frente a los Neandertales jugando un papel importante en su supervivencia. Así lo considera un equipo internacional de científicos, liderado por la Universidad de Granada (UGR), que ha identificado por primera vez un conjunto formado por 267 genes que diferencian al Homo Sapiens del Neandertal.
Este importante hallazgo científico, publicado en la prestigiosa revista Molecular Psychiatry (Nature), apunta que estas diferencias genéticas relacionadas con la creatividad fueron las que permitieron a los Sapiens desplazar a los Neandertales en el pasado. Es la creatividad la que confirió al Homo Sapiens ventajas más allá de las puramente cognitivas, favoreciendo una mayor adaptación al medio que a los homínidos hoy extintos, al proporcionales una mayor resistencia al envejecimiento, las lesiones y las enfermedades.
Este hallazgo es el resultado de una investigación interdisciplinar que aúna la Inteligencia Artificial (IA), Genética Molecular, Neurociencias, Psicología y Antropología, y supone el quinto artículo consecutivo que publica este equipo de investigadores en una de las más prestigiosas revistas científicas del área describiendo la personalidad humana.
Los 267 genes identificados como exclusivos del Homo Sapiens por estos científicos forman parte de un grupo más grande de 972 relacionados con la personalidad en adultos sanos, descubiertos también por los mismos autores. En trabajos anteriores, demostraron que esos 972 genes están organizados en 3 redes casi disjuntas de características de la personalidad y que integran el aprendizaje y la memoria.
Evolución de las redes genéticas
“Estas redes han evolucionado de una manera escalonada. La más primitiva surgió en monos y simios hace unos 40 millones de años, y es responsable de la reactividad emocional, es decir, regula los impulsos, el aprendizaje de hábitos, el apego social y la resolución de conflictos”, explican los investigadores de la UGR. Hace menos de 2 millones de años surgió la segunda red, que regula el autocontrol intencional, es decir, la autodirección y cooperación para el beneficio mutuo. Por último, hace unos 100.000 años surgió la red de autoconciencia creativa.
El estudio que se publica esta semana puso de manifiesto que los genes de la red más antigua, la de reactividad emocional, eran casi idénticos en Sapiens, Neandertal y chimpancé. Sin embargo, los genes de autocontrol y autoconciencia de los neandertales estaban a medio camino entre los de los chimpancés y el Homo Sapiens.
La mayoría de estos 267 genes que distinguen a los humanos modernos de los Neandertales y chimpancés son genes reguladores de ARN y no genes codificadores de proteínas. Estos últimos son casi todos iguales en las tres especies y esta investigación pone de manifiesto que lo que las distingue es la regulación de la expresión de sus proteínas por los genes que se encuentran solo en humanos. Mediante el uso de marcadores genéticos, datos de expresión génica y de imágenes de resonancia magnética de cerebro integradas en base a técnicas de Inteligencia Artificial, los científicos pudieron identificar las regiones en las que esos genes y los genes con los que interaccionaban estaban sobreexpresados. Estas regiones están involucradas en la autoconciencia y la creatividad humanas, incluidas aquellas regiones fuertemente asociadas con el bienestar humano y de reciente aparición filogenética.
Una mejor resistencia
Además, “estos genes confirieron al Homo Sapiens una mayor aptitud física que a los homínidos hoy extintos, al proporcionales una mayor resistencia al envejecimiento, las lesiones y las enfermedades”, apuntan los autores. Con ayuda de datos genéticos, los investigadores pudieron estimar a partir de estos genes que la adaptabilidad y el bienestar de los Neandertales eran aproximadamente del 60 al 70% de los Sapiens, lo que significa que la diferencia de aptitud física entre ellos era grande.
Los hallazgos tienen amplias implicaciones para comprender qué permitió a los Sapiens desplazar a los Neandertales y otras especies en el pasado geológicamente reciente. Los autores lanzan como hipótesis que la creatividad puede haber proporcionado ventajas selectivas al Homo Sapiens más allá de sus ventajas puramente cognitivas.
“Vivir vidas más largas y saludables puede haber prolongado el período de aprendizaje juvenil y adolescente, que facilita y permite la acumulación de conocimiento. Esta es una característica notable de los humanos conductualmente modernos, y es un factor importante en el éxito económico y social”, destacan. La creatividad pudo haber alentado la cooperación entre individuos para promover el éxito de sus descendientes y su comunidad, permitiendo la innovación tecnológica, la flexibilidad de comportamiento y la disposición exploratoria necesarias para permitir que el Homo Sapiens se expandiera por todo el mundo con más éxito que otros linajes humanos.
En los cinco estudios publicados por estos investigadores en la misma revista de Nature se ha determinado y contrastado con múltiples fuentes de datos que el comportamiento humano no está solamente fijado ni determinado por nuestros genes, sino también por múltiples interacciones con el entorno. “Podemos aprender y adaptarnos según nuestra experiencia, incluso hasta el punto de modificar la expresión de nuestros genes. La creatividad humana, la prosocialidad y la longevidad saludable surgieron como respuesta a la necesidad de adaptarse a las duras y diversas condiciones que había entre hace 400.000 y 100.000 años”, destacan los científicos de la UGR.
Este trabajo es un ejemplo de cómo el uso de técnicas de IA y un tratamiento de los datos sin ningún tipo de sesgo puede ayudar a resolver incógnitas sobre la evolución del ser humano. Los resultados obtenidos abren la puerta al desarrollo de nuevas líneas de investigación para promover el bienestar humano, ayudándonos a adaptarnos creativamente a superar situaciones críticas.
.
Trabajo de referencia | Zwir, C. Del-Val, M. Hintsanen, K.M. Cloninger, R. Romero-Zaliz, A. Mesa, J. Arnedo, R. Salas, G.F. Poblete, E. Raitoharju, O. Raitakari, L. Keltikangas-Järvinen, G. de Erausquin, I. Tattersall, T. Lehtimäki, C. R. Cloninger. Evolution of Genetic Networks for Human Creativity. Mol Psychiatry 2021, https://doi.org/10.1038/s41380-021-01097-y (in press).
.
.
.
.
.
Mediante la formulación de modelos matemáticos de ciertos procesos neuronales, se logra caracterizar el funcionamiento de las neuronas en la corteza visual.
.
.
.
Un equipo del Instituto de Óptica del Consejo Superior de Investigaciones Científicas (IO-CSIC), en colaboración con científicos del Centre National de la Recherche Scientifique (CNRS), ha desarrollado un modelo matemático que explica con mayor precisión cómo trabajan las neuronas de la corteza visual, la región situada en la parte posterior del cerebro encargada de procesar la información que llega desde los ojos.
El estudio, publicado en la revista Journal of Neuroscience, abre la puerta al diseño de redes neuronales artificiales más fieles al funcionamiento real del cerebro.
“Nuestro modelo proporciona una mejor comprensión de los procesos neuronales, ya que logra explicar una serie de resultados experimentales para los que los enfoques tradicionales no son satisfactorios”, explica Marcelo Bertalmío, investigador del IO-CSIC y líder del trabajo.
El nuevo enfoque amplía el modelo clásico propuesto en 1959 por David Hubel y Torsten Wiesel, que describe la organización jerárquica del procesamiento visual. Aunque ha sido fundamental para entender la visión, este modelo no logra explicar ciertos fenómenos que ocurren en el córtex visual. Los investigadores señalan que una de sus principales limitaciones es que no incorpora el papel de las dendritas, estructuras que actúan como receptores de impulsos nerviosos y son esenciales para la transmisión de información.
Para superar estas carencias, el equipo ha introducido abstracciones matemáticas de procesos neuronales internos que hasta ahora no se habían tenido en cuenta, en parte por su complejidad. “También se asumía que el modelo clásico sería suficiente para explicar cualquier fenómeno”, añade Bertalmío.
Avances con impacto en inteligencia artificial
Además de mejorar el conocimiento sobre el cerebro, este avance tiene implicaciones para el desarrollo de redes neuronales artificiales. El modelo podría permitir crear sistemas computacionales más precisos, capaces de reproducir propiedades clave del cerebro, como la estabilidad frente a perturbaciones.
Las redes neuronales artificiales son modelos inspirados en la estructura y el funcionamiento de las neuronas biológicas. Se utilizan en inteligencia artificial y en técnicas de machine learning y deep learning para tareas como el reconocimiento de patrones y la resolución de problemas complejos.
El equipo trabaja ahora en ampliar el modelo para incorporar variaciones temporales, validarlo con resultados experimentales y explorar su aplicación en sistemas de visión por computadora.
.
Trabajo de referencia | Ilias Rentzeperis, Dario Prandi, and Marcelo Bertalmío. A neural model for V1 that incorporates dendritic nonlinearities and back-propagating action potentials. Journal of Neuroscience. DOI: 10.1523/JNEUROSCI.1975-24.2025
.
.
.
.
