Risque et limite du numérique
Résumé
Cette fiche a été créée dans le cadre du cours ADID. Il vise à explorer les interrelations entre trois concepts clés que j’ai trouvé pertinents, à savoir les technologies numériques, les mythes du numérique en formation ainsi que la vulnérabilité et éthique de la présence à l’ère numérique. J’ai alors décidé de réfléchir aux risques et limites du numérique.
Introduction
Les technologies numériques ont pris de plus en plus d’ampleur au cours de ces dernières années et occupent aujourd’hui « une place considérable dans la société » (Hétier & Blocquaux, 2021, p.10). Comme nous l’aborderons dans un premier temps, le numérique est souvent mythifié et de nombreux présupposés concernant son efficacité en formation sont toujours présents. Cependant, il existe un certain nombre de risques et de limites du numérique en éducation et c’est ce que nous aborderons dans un second temps. Enfin, cet article élargira les risques et limites du numérique en dehors de l’éducation en abordant notamment le sujet des relations homme-machine et plus précisément des agents conversationnels.
Développement
Dans l’imaginaire collectif, les technologies numériques sont souvent perçues comme quelque chose de positif et de révolutionnaire. Dans le contexte de l’éducation, elles seraient une ressource miracle qui facilite les apprentissages. Cependant, Fluckiger (2019) remet en question ces discours concernant le numérique et son utilisation dans l'éducation, soulignant qu'ils reposent sur des évidences superficielles qui s'avèrent en réalité être des mythes. Parmi eux, l’idée que les technologies éducatives ont un effet sur les apprentissages ainsi que leurs capacités à provoquer des transformations significatives dans le système éducatif, favorisant ainsi les innovations pédagogiques. De manière plus générale, on les imagine souvent comme permettant de rompre la solitude et de faciliter la liaison sociale entre les individus (Hétier & Blocquax, 2021).
Il est vrai que le numérique et ses technologies ont des avantages. En formation, par exemple, elles offrent la possibilité de fournir un enseignement à distance à un grand nombre d’étudiants en même temps et dans des régions géographiques différentes. Si l’on se concentre uniquement sur la transmission de savoir, Hétier et Blocaqux (2021) affirment que le distanciel n’est pas un obstacle et qu’il présente de nombreux avantages. Cependant, ils certifient également que pour un bon apprentissage, cela ne suffit pas. En effet, les étudiants ont également des besoins humains que le système scolaire doit prendre en compte. Hétier et Blocquaux (2021), ont interrogé les étudiants d’une Université d’Angers sur l’école à distance suite au COVID dans le cadre de leur recherche sur la vulnérabilité et l’éthique à l’ère du numérique. Si les étudiants ont affirmé en majorité trouver des avantages à l’école en distance, comme le gain de temps, plus de 80% « regrettent […] l’ambiance des cours en présentiel et déplorent le manque de contacts « physiques » avec leurs professeurs, tout autant que l’absence des amis » (Hétier & Blocquaux, 2021, p.18). La moitié des étudiants affirment même « que le dispositif en distanciel les a conduits à des formes de décrochage » (Hétier & Blocquaux, 2021, p.18). Leur étude a permis de retenir « l’importance des lieux de vie, les effets de la présence physique et du feed-back de l’entourage proche […], le rôle de l’encadrement universitaire, [ainsi que] la fonction des relations informelles exogènes » (Hétier & Blocquaux, 2021, p.20) (besoin d’amour et d’appartenance, des relations amicales, etc.). Si l’on envisage un glissement total de l’école en distance et du « tout numérique », comment pourrions-nous répondre à ces besoins humains ?
Si les technologies ont pris une place importante dans l’éducation, cela est également le cas dans notre quotidien. Elles s’immiscent jusque dans nos domiciles notamment avec les objets connectés comme les agents conversationnels. Ces systèmes informatiques alimentés par des intelligences artificielles et dialoguant de manière autonome en langage naturel avec des utilisateurs, comme Google Home ou Alexa Amazone, rencontrent cependant certains problèmes d’éthiques (Devillers, 2019). Selon Devillers (2019), ces agents conversationnels sont dotés de stratégies de dialogue et de capacités d’adaptation leur permettant d’adapter leurs réponses en fonction du comportement de la personne avec qui ils dialoguent. Il affirme également que « l’évaluation [de ces] machines conversationnelles apprenantes et adaptatives est un des défis actuels » (p.55). En 2016, un test a été mené sur Tay, système conversationnel de Microsoft doté d’intelligence artificielle et capable d’apprendre de ses interactions avec ses utilisateurs. Ce test a dû être rapidement arrêté, car ce chatbot (nom anglais désignant un agent conversationnel ) a appris à tenir des propos racistes et nazis en seulement 24 heures (Devillers, 2019). Ce genre de comportement peut poser des questions d’éthique : est-il acceptable de commercialiser des « intelligences » capables de tenir de tels propos ? L’utilisation de ces agents conversationnels expose également l’utilisateur à un risque de manipulation. En effet, ce type de technologie contient des nudges, méthode consistant à orienter les choix des individus sans que ceux-ci ne s’en rendent compte, sans les contraindre et sans les faire culpabiliser. En utilisant par exemple un chatbot, l’utilisateur prend, sans le savoir, le risque de voir ses comportements influencés par la machine qui utilise ses biais cognitifs (Devillers, 2019). Ces nudges sont définis « comme des suggestions ou manipulations manifestes ou cachées, conçues pour influencer le comportement ou les émotions » (Devillers, 2019, p.53). Si nous pensons que nos décisions reposent sur des choix rationnels, elles sont en réalité influencées par nos expériences, nos biais de raisonnement ainsi que le contexte social et culturel (Devillers, 2019). Cela peut expliquer comment nos comportements peuvent être influencés par des discussions avec des agents conversationnels. Ces différents éléments démontrent la nécessité de contrôler l’éthique de ces technologies numériques ainsi que leurs comportements et utilisations.
Conclusion
Pour résumer, les différents éléments présentés dans cet article ont permis de démontrer les limites des technologies numériques, parfois idéalisées, ainsi que certains des problèmes d’éthique que leur utilisation peut poser. S’il existe des risques de manipulation de l’utilisateur, de biais d’apprentissage pour ces technologies, il est impératif de les évaluer, de les contrôler et de réguler leur utilisation.
Références bibliographiques
Devillers, L. (2019). Le dialogue homme-machine : Intelligence artificielle / intelligence humaine : manipulation et évaluation. Futuribles, 433, 51-61. https://doi.org/10.3917/futur.433.0051
Fluckiger, C. (2019). Numérique en formation : des mythes aux approches critiques. Éducation Permanente, 219, 19-30. https://doi.org/10.3917/edpe.219.0019
Hétier, R., & Blocquaux, S. (2021). Vulnérabilité et éthique de la présence à l’ère numérique. Éthique en éducation et en formation, 11, 8–28. https://doi.org/10.7202/1084194ar
Liens
Cette page fait référence à la page ADID1, les productions des étudiant.es
Page rédigée par Julie Grunder, volée Drakkar, le 09.12.2023.