Tras los ataques yihadistas que hubo en Europa, las redes recogieron mensajes de contenido xen\u00f3fobo hacia el mundo \u00e1rabe. En aquel momento el estudiante de Ingenier\u00eda Inform\u00e1tica de la UCLM Andr\u00e9s Montoro pens\u00f3 en c\u00f3mo se podr\u00eda medir la intensidad de ese odio, para lo que cre\u00f3 un software que valorara los contenidos. Su labor le vali\u00f3 la matr\u00edcula como trabajo fin de grado, con el apoyo de los profesores de la UCLM Ad\u00e1n Nieto, de Derecho, y Jos\u00e9 \u00c1ngel Olivas, de Inform\u00e1tica e integrante del grupo de investigaci\u00f3n Smile, y puede convertirse en un proyecto de investigaci\u00f3n a gran escala, para lo que se ha solicitado financiaci\u00f3n al Gobierno regional.
\u00abLos delitos de odio son un tema bastante candente con el control que hay sobre lo que se publica en internet\u00bb, explic\u00f3 Montoro. Hasta ahora la revisi\u00f3n de mensajes se podr\u00eda efectuar de forma humana, pero el n\u00famero es cada vez mayor y ah\u00ed es donde es necesaria la inteligencia artificial para revisar el contenido, cribar y remarcar a los propietarios d\u00f3nde puede haber un posible delito. Por ejemplo, en Alemania ya se dan 24 horas a medios, incluidas las redes sociales, para que eliminen contenidos que inciten al odio.
El inicio de una aplicaci\u00f3n de este tipo parte de su aprendizaje, que se hizo a trav\u00e9s de un experimento lanzado a los alumnos de derecho de la facultad del que a se extrajo la ontolog\u00eda del dominio, una serie de t\u00e9rminos relacionados que tienen que ver en este caso con el odio. Se logr\u00f3 as\u00ed una aplicaci\u00f3n similar a las ya existentes y que se fundamentan en la sintaxis y la sem\u00e1ntica. \u00abNosotros empleamos dichas t\u00e9cnicas de procesamiento de lenguaje natural para la detecci\u00f3n del mensaje que luego posteriormente clasificamos seg\u00fan su intensidad haciendo uso de an\u00e1lisis de sentimientos y l\u00f3gica borrosa\u00bb. A este elemento se uni\u00f3 el uso del art\u00edculo 510 del C\u00f3digo Penal, el plan de acci\u00f3n del Rabat y el propio conocimiento del experto para construir una taxonom\u00eda, un mapa de conocimiento.
\u00abSe trata de un modelo para detectar la intensidad del discurso del odio con una serie de variables que afectan al mensaje\u00bb, resume Montoro. En este sentido para cada escrito se analiza si adem\u00e1s de al odio se incita a la violencia al pedir que se act\u00fae contra un colectivo o si existe un clima en el que estos mensajes pueden tener mayor o menor calado. Adem\u00e1s es clave el emisor y la difusi\u00f3n, los compartidos del mensaje. Al sumar el contenido con los metadatos se crea \u00abun sistema de inteligencia artificial\u00bb que funciona con l\u00f3gica borrosa, aquella en la que no hay absolutos, y que permite analizar una comunicaci\u00f3n para saber \u00aben qu\u00e9 grado un mensaje es potencialmente delictivo\u00bb, explic\u00f3 Olivas.
La labor del egresado y de los profesores puede convertirse, si se termina aprobando, en un proyecto de investigaci\u00f3n de amplia envergadura con varios doctores implicados en crear una tecnolog\u00eda clave para el futuro de las redes sociales. Hay que tener en cuenta que un software de este tipo servir\u00eda tanto para monitorizar la web y hacer un cribado de mensajes de odio, como para hacer una valoraci\u00f3n jur\u00eddica de esas comunicaciones y saber qu\u00e9 es y qu\u00e9 no es odio. Permitir\u00eda conocer los \u2018l\u00edmites\u2019 del odio, porque al igual que con el humor, tambi\u00e9n hay frontera entre lo que es opini\u00f3n y lo que es delito. \u00abEn derecho penal el discurso del odio es muy ambiguo por la libertad de expresi\u00f3n, a los juristas les cuesta ponerse de acuerdo pero hemos proporcionado una forma medible de identificar el odio\u00bb.<\/p>\n\n\n\n