L'impact éthique et juridique de l'utilisation de ChatGPT dans l'évaluation scolaire

L'utilisation d'outils IA dans l'éducation nationale française

Dans un monde éducatif en constante évolution, de plus en plus de professeurs explorent l'utilisation de l'intelligence artificielle pour faciliter leurs tâches administratives. Une professeure, par exemple, a confié à ChatGPT la correction des copies de ses élèves pendant plusieurs mois. Cependant, cette expérience a soulevé des questions cruciales sur les implications juridiques et éthiques de l'utilisation de telles technologies dans le domaine éducatif.

Une confiance déplacée dans la technologie

Confiant en la capacité de l'algorithme à traiter et à évaluer les copies, beaucoup de professeurs, y compris cette professeure, ont trouvé une économie de temps exponentielle. Toutefois, ce scénario a pris une tournure inattendue lorsque l'algorithme a commencé à exercer un pouvoir considérable sur le barème de notation. Cela soulève des préoccupations non seulement sur la fiabilité des systèmes d'évaluation automatisés, mais également sur la responsabilité juridique en cas d'erreurs d'évaluation.

Conséquences juridiques de l'automatisation

Du point de vue juridique, l'utilisation d'un outil s'appuyant sur l'IA dans le processus de notation présente plusieurs défis :

• Qui est responsable si un étudiant reçoit une note injuste en raison d'une maladresse algorithmique ?

La loi sur la protection des données personnelles peut également être mise en jeu, car la plupart des systèmes d'IA, y compris ChatGPT, nécessitent un accès aux informations des étudiants pour fonctionner, ce qui pourrait compromettre leur vie privée.

De plus, le droit à une évaluation équitable est fondamental dans le secteur éducatif. Cela entraîne une question importante :

• Les étudiants ont-ils le droit de contester une note attribuée par une machine ?

En effet, si un professeur se décharge entièrement de ses responsabilités sur un algorithme, cela peut être vu comme une abdication de ses obligations éthiques et professionnelles.

Par ailleurs, le ministère de l’Éducation nationale a publié un cadre d’usage de l’IA en éducation. Ce document précise des principes : « l’IA peut assister l’enseignant, mais ne doit pas remplacer complètement le geste pédagogique humain, en particulier dans l’évaluation ». Sans oublier, que le cadre d’usage prévoit que l’IA ne doit être utilisée « que si aucune autre solution moins coûteuse écologiquement ne répond de façon satisfaisante ».

De ce fait, il existe un danger lié aux limites techniques des outils utilisant la technologie de l’IA qui sont :

• Le fait de produire des erreurs,

• Reproduire des biais,

• Ne pas être en mesure d'interpréter certaines réponses.

En effet, les outils génératifs ne sont pas infaillibles, comme l’ont constaté déjà plusieurs enseignants qui ont relevé des variations injustifiées dans les notes ou une incapacité de l’IA à comprendre des subtilités linguistiques.

Sur le plan juridique, l’utilisation d’une IA dans la correction des élèves reste sous la responsabilité pleine et entière de l’enseignant(e). Ainsi, en cas de préjudice, comme par exemple :

• Des élèves reçoivent une évaluation erronée cela peut engager la responsabilité professionnelle de l'enseignant(e) et entraîner éventuelles des suites disciplinaires au sein de l’établissement.

Sans oublier, que le cadre d’usage du ministère de l'Éducation nationale est très clair sur le fait que l’IA doit "assister" l'enseignant, mais en aucun cas "le remplacer". Cela rejoint donc l’idée éthique qu’un enseignant ne peut absolument pas se décharger à 100% de sa mission pédagogique, dont la notation des élèves constitue l’un des éléments essentiels.

La protection des données des élèves

Lorsqu’on transmet des copies d’élèves à un outil utilisant la technologie de l'IA, il peut y avoir des implications concernant la protection des données. En effet, selon la nature des données envoyées :

• Des copies manuscrites scannées

• des données personnelles d’élèves

Il faut pouvoir s’assurer que ledit l’outil respecte le règlement général sur la protection des données (RGPD). En effet, il ne faut pas bafouer :

• Le droit à la vie privée

• La sécurisation des données

• Le consentement éventuel des élèves et de leurs représentants légaux

• Minimisation des données et de l'information

Par ailleurs, le cadre d’usage du ministère de l'Éducation nationale met clairement en garde sur l’opacité des systèmes d’IA concernant le fonctionnement opaque dans l'origine parfois de leurs données d’entraînement.

Éthique de l'utilisation d'une IA dans l'enseignement

Éthiquement, le recours à une IA pour corriger les copies n'est pas sans complications. En effet, les algorithmes, même ceux qui prétendent être impartiaux, peuvent être biaisés, reflétant ainsi des préjugés qui peuvent fausser l'évaluation des étudiants. Cela soulève donc des questions en matière d'équité, ainsi que sur l'inclusivité des méthodes d'évaluation.

De plus, la dépendance à l'égard de l'IA peut mener à un affaiblissement de l'interaction humaine dans l'éducation. De ce fait, l'évaluation ne doit pas reposer uniquement sur des critères quantitatifs ; l'analyse des copies et la prise en compte des nuances et des contextes spécifiques à chaque étudiant restent des compétences essentielles que seuls les humains peuvent offrir.

Enjeux juridiques et éthiques majeurs dans l'Éducation nationale

Par conséquent, bien que l'automatisation des corrections par des systèmes d'IA comme ChatGPT puisse sembler avantageuse pour les enseignants, elle entraîne un mélange complexe de défis juridiques et éthiques. Néanmoins, à mesure que nous avançons dans l'intégration de la technologie dans l'éducation, il est primordial que les institutions prennent des mesures pour garantir que les droits des étudiants soient respectés et que l'intégrité pédagogique soit préservée.

Cet article a été co-écrite par un humain et une intelligence artificielle. Pour plus d'informations lisez nos CGU.