José Ángel Olivas reflexiona sobre los límites éticos de la inteligencia artificial en CMM
El docente de la Escuela Superior de Informática de Ciudad Real, con formación en filosofía e informática, participó en un coloquio de actualidad tecnológica junto a la vicepresidenta de la Asociación de Inteligencia Artificial de Castilla-La Mancha.
El profesor José Ángel Olivas Varela, de la Escuela Superior de Informática (ESI) de la Universidad de Castilla-La Mancha, fue entrevistado recientemente por Castilla-La Mancha Media (CMM) para analizar algunos de los dilemas éticos más candentes que plantea la inteligencia artificial en la sociedad actual. La entrevista, en formato de coloquio junto a Valeria Aragón, vicepresidenta de la Asociación de IA de Castilla-La Mancha, abordó cuatro grandes ejes temáticos.
Vehículos autónomos y responsabilidad social El punto de partida fue la polémica generada por los robotaxis en San Francisco, que protagonizan incidentes al no saber gestionar situaciones imprevistas. Olivas subrayó que la dificultad no es solo técnica: «La autonomía es difícil de gestionar, y éticamente tampoco es fácil determinar la fiabilidad de los sistemas a priori». El profesor, que vivió en Berkeley durante la fase experimental de estos vehículos, alertó sobre el impacto social de introducir inteligencia autónoma en espacios públicos compartidos sin una reflexión suficiente.
«Dead bots»: el negocio del duelo El coloquio abordó también la proliferación en China de avatares digitales de personas fallecidas. Olivas planteó preguntas fundamentales que aún no tienen respuesta legal ni ética: ¿quién es el dueño de los datos de un fallecido?, ¿quién puede decidir activar o desactivar su réplica digital? Advirtió del riesgo de mercantilizar el duelo, perturbando un proceso profundamente humano en beneficio de empresas, y trazó un paralelismo con otras dependencias que puede generar la IA, como las parejas virtuales o los consejeros algorítmicos para adolescentes.
Sesgos e IA en la selección de personal Otro bloque central fue la discriminación algorítmica. Olivas explicó con claridad que un sistema de IA entrenado con datos históricos sesgados —por edad, sexo, raza u otras variables— perpetúa y amplifica esas desigualdades sin advertirlo. Mencionó la regulación europea (AI Act) y señaló la importancia de la explicabilidad y la auditoría de los sistemas, un ámbito al que él mismo dedica parte de su actividad investigadora: «Auditar un programa de inteligencia artificial no es como auditar un programa convencional, porque las posibles respuestas de un sistema de IA son infinitas».
Creatividad, autoría y arte generativo Por último, el debate giró en torno al uso de la IA para completar obras inacabadas de grandes compositores o para generar creaciones «al estilo de» artistas históricos. Olivas fue contundente: la IA carece de creatividad genuina porque «vive del pasado», de patrones ya observados. Puede producir obras que imitan a Beethoven, pero nunca tendrá «la chispa que hace a Beethoven genial». Abogó por distinguir con nitidez entre una obra atribuida a un autor y una obra generada algorítmicamente siguiendo sus patrones, y advirtió de que confundir ambas supone «bajar nuestro nivel cultural».
