saltar a contenido

Fundación Ramón Areces

Comprometidos con el progreso, la investigación, la educación y la cultura

Notas de prensa

"El principal reto radica en dotar a los robots de sentido común"

Publicado el 09/05/2017

Ramón López de Mántaras, Director del Artificial Intelligence Research Institute (IIIA-CSIC), en la Jornada 'Robótica e Inteligencia artificial'

"Si no dotamos a futuras inteligencias artificiales y robots de sentido común, no lograremos que las máquinas lleguen a tener una inteligencia parecida a la humana". Así lo ha expresado hoy Ramón López de Mántaras, director del Artificial Intelligence Research Institute (IIIA-CSIC), en la jornada sobre 'Robótica e inteligencia artificial' que organiza la Fundación Ramón Areces. "Por muy inteligentes que lleguen a ser las máquinas, su inteligencia será distinta de la humana y ajena a los valores humanos. Por este motivo, es necesario reflexionar si realmente queremos dotar de autonomía completa a futuros sistemas de inteligencia artificial", ha añadido.

El objetivo de esta jornada es analizar los retos y peligros que suponen estas tecnologías. "Será crucial que los sistemas de Inteligencia Artificial (IA) hagan lo que queremos que hagan pero de forma adecuada" señala el coordinador de la jornada, Avelino Corma. "Por ejemplo, pensemos en un sistema de IA controlando nuestro coche o en un robot humanoide doméstico. Si pedimos a nuestro coche autónomo que nos lleve al aeropuerto lo más rápido posible, no querremos llegar perseguidos por coches de policía a 180 Km por hora. Igualmente, si salimos de casa después de haber instruido a nuestro robot que nos prepare una comida rica en proteínas pero hemos olvidado comprar carne, al volver a casa no querremos descubrir que nuestro gato ha desaparecido", advierte Corma.

Estos ejemplos hipotéticos muestran que sistemas de IA que han sido programados para hacer algo beneficioso podrían hacerlo de manera equivocada debido a su falta de sentido común y a su falta de una cultura basada en valores. "Las futuras inteligencias artificiales podrán ser muy buenas cumpliendo sus objetivos, pero si estos objetivos no están alineados con los nuestros, tendremos muchos problemas", señala el coordinador. "En el ejemplo de la comida, el robot no entiende que el valor sentimental de un gato es mucho más importante que su valor nutricional. Dotar de conocimientos de sentido común y de valores a los sistemas de IA es extremadamente difícil. A pesar de los recientes progresos espectaculares en IA, nadie tiene ni idea de cómo solucionar dichos problemas", ha explicado Corma durante su intervención en la Fundación Ramón Areces.

"Si tradicionalmente los robots estaban confinados en las fábricas, en un futuro cercano encontraremos robots en el ámbito social: asistiendo a discapacitados y personas mayores, haciendo de recepcionistas o dependientes en centros comerciales, actuando como compañeros de juego de jóvenes y adultos, e incluso ejerciendo de niñeras y maestros", explica Carme Torras, del Institut de Robòtica i Informàtica Industrial (CSIC-UPC). "Estos robots asistenciales plantean atractivos retos de investigación tecnocientífica: deben ser fáciles de manejar por personas no-expertas, intrínsecamente seguros, capaces de manipular no sólo objetos rígidos sino también deformables, tolerantes a percepciones y acciones imprecisas y, sobre todo, altamente adaptables a entornos no predefinidos y dinámicos", añade.

A juicio de Torras, los robots asistenciales plantean también cuestiones éticas, "especialmente cuando la creciente autonomía en la toma de decisiones de los robots entra en conflicto con la libertad y dignidad humanas". También preocupa su influencia sobre nuestras capacidades cognitivas y afectivas a largo plazo. En este punto, Torras se pregunta: "¿Cuáles mejoraran, cuáles se extinguirán y qué nuevas aparecerán?" Algunas de estas cuestiones ya han sido tratadas en obras de ciencia-ficción. "Es necesario fomentar el debate sobre el rol que el ser humano y el robot deben jugar en este pas à deux al que estamos irremisiblemente abocados", concluye esta experta.

Por su parte, Daniel Villatoro, Data Enablers Lead en Vodafone Group, ha titulado su intervención 'Cómo hacer el mal con datos'. En ella, ha explicado que "el análisis de datos personales comportamentales se ha transformado en una prioridad de aplicación comercial para cualquier corporación, con la nueva peculiaridad de la precisión y la velocidad con la que se genera nuevo conocimiento sobre sus clientes a nivel individual". Villatoro ha advertido de cómo "su mal uso puede tener consecuencias drásticas". Durante su charla, ha repasado el alcance que han tenido algunos de estos errores por parte de corporaciones como Facebook o NY Taxi, "con el fin de concienciar sobre la responsabilidad y buenas prácticas de esta nueva disciplina científica, tal y como es la protección de la identidad de los individuos o el correcto uso de la visualización de datos".

Síguenos en

  • Twitter
  • Facebook
  • Flickr
  • Youtube
  • Slideshare

© 2007 Fundación Ramón Areces Todos los derechos reservados.

c/ Vitruvio, 5. 28006 Madrid (España) | Teléfono: 91 515 89 80 | C.I.F.: G-28459311