IA et désinformation : le risque de fausses données
La Intelligence artificielle (IA) elle est de plus en plus intégrée dans notre vie quotidienne, faisant des progrès extraordinaires dans divers domaines. Loin de la vision dystopique que nous avons vue dans des films comme Blade Runner, 2001 : L'Odyssée de l'espace et Terminator, la réalité est que l'IA a le potentiel de profiter à la société d'innombrables façons, bien que son développement et son application ne soient pas sans défis. .
L'un des exemples les plus frappants de la présence croissante de l'IA est le logiciel de dialogue récemment publié, ChatGPT, qui utilise des techniques d'apprentissage avancées pour mener une conversation significative, comme le ferait un humain. Au Campus Ciudad Real, une équipe de chercheurs travaille depuis des années dans le domaine de l'IA. Parmi eux se trouve le professeur José Angel Olivas, qui a également étudié avec le créateur de la logique floue, Lotfi Zadeh, un pilier fondamental de l'IA, et le professeur Francisco Pascual Romero, tous deux appartiennent à la groupe de recherche sur le sourire de l'Ecole Supérieure d'Informatique de la Université de Castilla-La Mancha.
Olivas rappelle que l'intelligence artificielle est avec nous depuis bien plus longtemps que la plupart ne le pensent. Cependant, l'augmentation de la puissance de calcul ces dernières années a permis le traitement de modèles jusqu'alors impossibles à manipuler. Cela a facilité le développement de technologies telles que ChatGPT, qui nécessitent de grandes quantités de données et une puissance de calcul élevée pour générer des réponses.
Cependant, il convient de garder à l'esprit que les données utilisées par l'IA ne sont pas toujours parfaites. ChatGPT, par exemple, est basé sur des données collectées sur Internet, qui peuvent inclure des informations erronées ou même de fausses informations. Pour lui, il est essentiel d'être prudent et critique avec les informations fournies par l'IA, comme il convient de le faire avec toute source d'information.
Olivas insiste sur le fait que l'IA, en elle-même, ne présente pas de dangers, tant que les données qu'elle utilise sont traitées correctement. Les progrès de l'IA et de la génération d'images peuvent conduire à la création de fausses images ou "deepfakes", il est donc nécessaire d'adapter nos protocoles et d'être conscient de ces risques potentiels.
Il est important de se rappeler que la technologie n'est qu'un outil et qu'elle doit toujours être complétée par la perspicacité humaine. À titre d'exemple, Olivas se souvient d'incidents survenus lorsque des conducteurs faisaient aveuglément confiance à leurs indications GPS au lieu d'utiliser leur propre jugement.
Malgré ces défis, l'IA est à l'origine de changements positifs dans de nombreux domaines, notamment l'éducation et le monde des affaires. Dans l'éducation, par exemple, l'IA permet d'inverser les rôles traditionnels, en apportant les devoirs en classe au lieu de les faire à la maison. En termes commerciaux, Olivas suggère que les entreprises pourraient avoir besoin de spécialiser davantage les rôles professionnels pour s'adapter aux changements induits par l'IA.
