Desde SIRI hasta los vehículos autónomos, la Inteligencia Artificial (IA) y la Robótica están progresando rápidamente. La IA actual es IA débil porque únicamente puede realizar tareas muy específicas. Sin embargo, el objetivo a largo plazo es crear IA general. Mientras que la IA débil en algunos casos ya supera, a los humanos en bastantes tareas específicas (jugar al ajedrez, buscar en Internet, conducir vehículos, reconocimiento facial, etc.), la IA general eventualmente superaría a los humanos en cualquier tarea cognitiva. A corto plazo, el objetivo de disponer de sistemas de IA beneficiosos para la sociedad motiva la investigación en muchas áreas y particularmente en temas como verificación, validez, seguridad y control.

Será crucial que los sistemas de IA hagan lo que queremos que hagan pero de forma adecuada. Por ejemplo, pensemos en un sistema de IA controlando nuestro coche o en un robot humanoide doméstico. Si pedimos a nuestro coche autónomo que nos lleve al aeropuerto lo más rápido posible no querremos llegar perseguidos por coches de policía a 180 Km por hora, y si salimos de casa después de haber instruido a nuestro robot que nos prepare una comida rica en proteínas pero hemos olvidado comprar carne, al volver a casa no querremos descubrir que nuestro gato ha desaparecido.

Estos ejemplos hipotéticos muestran que sistemas de IA que han sido programados para hacer algo beneficioso podrían hacerlo de manera equivocada debido a su falta de sentido común y a su falta de una cultura basada en valores. Las futuras inteligencias artificiales podrán ser muy buenas cumpliendo sus objetivos, pero si estos objetivos no están alineados con los nuestros, tendremos muchos problemas. En el ejemplo de la comida, el robot no entiende que el valor sentimental de un gato es mucho más importante que su valor nutricional. Dotar de conocimientos de sentido común y de valores a los sistemas de IA es extremadamente difícil. A pesar de los recientes progresos espectaculares en IA, nadie tiene ni idea de cómo solucionar dichos problemas. De hecho hay serias dudas de que estos problemas puedan ser resueltos. A corto plazo, los riesgos que plantea la IA son de naturaleza diferente. De hecho, actualmente ya estamos confrontados a riesgos con respecto a la privacidad, la autonomía y el desempleo. Son muchas las preguntas que podemos hacernos. Por ejemplo: ¿Debemos desarrollar armas letales? ¿Qué queremos que suceda con la automatización de puestos de trabajo? ¿Las máquinas inteligentes nos reemplazarán o trabajaremos en equipo con ellas? Esperemos que las presentaciones en este seminario nos den la ocasión de pensar y debatir acerca de estas y otras preguntas sobre las realidades, las promesas y los riesgos de la IA y la Robótica.