Politique de gouvernance de l'IA de la Fondation WITS

1. Dans quels domaines WITS utilise-t-il l'IA ?

WITS utilise l'IA dans deux contextes spécifiques. Ces deux contextes sont limités, clairement délimités et peuvent faire l'objet d'un contrôle.

1.1 Le copilote éducateur IA (bêta)

Co-Pilot est un assistant basé sur l'intelligence artificielle qui génère des ébauches d'activités pédagogiques pour les enseignants mettant en œuvre le programme WITS. Il prend en compte le niveau scolaire, une stratégie WITS ou LEADS (telle que “ S'éloigner ” ou “ En discuter ”) et, éventuellement, une note contextuelle fournie par l'enseignant. Il renvoie un projet de plan de cours conforme à la pédagogie WITS.

Le Co-Pilote est actuellement disponible en version bêta supervisée dans 15 à 20 écoles qui ont choisi de participer. Il n'est pas disponible pour tous les abonnés, et le contenu généré est examiné par Amrita Singh (coordonnatrice du programme) avant que toute sortie ne soit référencée extérieurement.

1.2 La ligne d'assistance vocale

Lorsque des enseignants ou des membres du personnel scolaire appellent la ligne d'assistance WITS, les appels peuvent être pris en charge par un assistant vocal basé sur l'IA pour les demandes courantes (questions relatives au compte, rubriques de la FAQ, recherche de ressources). Les demandes plus complexes sont transférées à un membre de l'équipe ou enregistrées pour être examinées par un intervenant humain.

L'assistant vocal ne gère pas les données des étudiants et n'a pas accès aux comptes des abonnés au-delà de l'identification de l'appelant par son numéro de téléphone.

2. Ce que WITS ne fait pas en matière d'IA

Pour être clair sur les limites :

• WITS n'utilise pas l'IA pour évaluer, noter ou attribuer des notes aux élèves
• Le programme WITS n'utilise pas l'intelligence artificielle pour prendre des décisions concernant les élèves à titre individuel (orientation, mesures disciplinaires, classification comportementale, recommandations d'accompagnement).
• WITS n'utilise pas l'IA pour analyser les travaux ou les communications des élèves
• WITS n'utilise pas les données des élèves ni les enregistrements en classe pour entraîner ses modèles d'IA
• WITS ne partage pas les données des élèves avec les fournisseurs d'IA, quelle que soit la manière dont le système est utilisé.
• WITS n'utilise pas l'IA pour générer des communications destinées aux parents sans vérification humaine.

C'est voulu. Le Co-Pilote a pour but de réduire la charge de travail des éducateurs lors de la préparation des leçons. Il ne s'étend pas à l'évaluation ou à la notation des élèves.

3. Où les données sont traitées

3.1 L'architecture de Co-Pilot

Lorsqu'un éducateur soumet une demande de génération Co-Pilot, la demande suit le pipeline suivant :

1. Le navigateur de l'enseignant envoie la requête (note, stratégie, remarque facultative) à lessons.wits.foundation, hébergé sur une infrastructure canadienne gérée par la Fondation WITS.
2. Le service de routage WITS (LiteLLM) sélectionne le modèle d'IA approprié
3. Le modèle renvoie le texte généré au service WITS
4. Le service formate et renvoie le plan de leçon à l'éducateur

Pour la période bêta, les modèles d'IA sous-jacents utilisés sont :

Azure Canada Est est une région Microsoft située à Toronto, en Ontario. Les données traitées dans cette région restent au Canada et sont soumises aux engagements de résidence des données canadiennes en vertu des accords Azure Canada de Microsoft.

WITS offre la possibilité d'opter pour un modèle auto-hébergé fonctionnant sur l'infrastructure de WITS (GPU NVIDIA Tesla T4 situé en Colombie-Britannique). Lorsque cette option est activée, le processus de génération ne sort pas du matériel contrôlé par WITS.

3.2 Architecture du support vocal

La ligne d'assistance téléphonique utilise Twilio pour la téléphonie, ElevenLabs pour la synthèse vocale (fournisseur basé aux États-Unis, aucune donnée à caractère personnel n'est transmise) et Azure OpenAI pour la compréhension du langage naturel (région Canada Est). Les transcriptions des appels sont stockées dans le système d'assistance Zammad, hébergé sur l'infrastructure de WITS au Canada.

4. Quelles données vont aux systèmes d'IA

Le Co-Pilote reçoit uniquement :

• Niveau scolaire (un chiffre de 1 à 12 ou “ K ”)
• Nom de la stratégie « WITS » ou « LEADS » (l'une des neuf valeurs fixes)
• Note contextuelle facultative (texte libre, rédigé par l'enseignant)

Le copilote ne reçoit pas :

• Noms des élèves, âges, ou toute information d'identification
• Dossiers académiques ou données comportementales des étudiants
• Le nom de l'éducateur, le nom de l'école ou le district (ceux-ci sont transmis uniquement pour enregistrer l'utilisation, pas au modèle d'IA lui-même)
• Tous les fichiers, images ou pièces joints téléchargés
• Historique de conversation au-delà de la demande actuelle

Si un éducateur saisit des informations spécifiques à un élève dans la note contextuelle facultative, ces données sont transmises au modèle d'IA. L'interface Co-Pilot affiche un avertissement clair avant la soumission, demandant aux éducateurs de ne pas entrer d'informations identifiant les élèves. Le respect de cet avertissement relève de la responsabilité professionnelle de l'éducateur.

5. Conservation des données

À l'issue de la période de conservation, les données sont définitivement supprimées des systèmes de WITS. La conservation des données sur Microsoft Azure est régie par les conditions de traitement des données propres à Microsoft, que WITS a examinées et acceptées dans le cadre du contrat d'abonnement Azure.

6. Révision humaine

Le Co-Pilot est supervisé pendant toute la période bêta. Spécifiquement :

• Pré-lancement curation les plans de cours générés pendant la bêta sont examinés par Amrita Singh avant d'être présentés comme recommandés sur le portail
• Surveillance par école : Les établissements participant à la phase bêta disposent d'un interlocuteur WITS désigné qui examine chaque mois les données d'utilisation agrégées et les résultats.
• Rapport utilisateur : chaque sortie de Co-Pilot inclut un lien “ Signaler un problème ” qui envoie un e-mail au personnel du programme. Les problèmes sont examinés dans les 5 jours ouvrables.
• Remplacer : Il est rappelé aux éducateurs que le contenu généré est une ébauche et que le jugement pédagogique reste celui de l'éducateur.

À l'heure actuelle, WITS ne met pas les données de Co-Pilot à disposition en temps réel pour les abonnés ne faisant pas partie de la version bêta. Toute extension au-delà du groupe bêta nécessite l'accord d'Andy Telfer et une réévaluation de cette politique.

7. Biais, sécurité et qualité

7.1 Contenu inapproprié

Co-Pilot utilise les filtres de sécurité des contenus d’Azure OpenAI, qui bloquent la génération de contenus comportant des scènes de violence explicites, à caractère sexuel, incitant à la haine ou à l’automutilation. Ces filtres ne sont pas configurables par WITS. Si une génération est bloquée, l’éducateur reçoit un message générique indiquant : “ Veuillez reformuler votre demande ”.

De plus, WITS a mis en place des limites thématiques qui empêchent le modèle de générer du contenu sortant de son champ d'application (comme des conseils juridiques, des diagnostics médicaux ou des commentaires politiques).

7.2 Précision

Les plans de cours générés sont des ébauches. WITS ne garantit pas que chaque plan généré soit adapté d'un point de vue pédagogique sans avoir été revu. Les enseignants sont tenus de lire et d'adapter le document généré au contexte de leur classe. L'interface Co-Pilot affiche une bannière indiquant cette exigence sur chaque document généré.

7.3 Biais

Les modèles d'IA peuvent refléter les biais présents dans leurs données d'entraînement. WITS en est conscient et met en œuvre les mesures de protection suivantes :

• Le copilote a reçu l'instruction via une invite système d'utiliser un langage inclusif et culturellement adapté.
• Les exemples et les références figurant dans le contenu généré sont tirés de la littérature et des ressources approuvées par WITS.
• Le contenu autochtone est signalé pour examen humain avant sa publication ou sa recommandation
• Les éducateurs en phase bêta sont interrogés trimestriellement sur les biais perçus dans les résultats

Si des problèmes de partialité sont détectés, WITS modifiera l'invite du système et, si nécessaire, empêchera le modèle de générer du contenu dans les catégories concernées jusqu'à ce que les corrections soient validées.

8. Droit de retrait et droits d'accès

8.1 Pour les éducateurs

Les enseignants peuvent choisir de ne plus utiliser Co-Pilot à tout moment. Cette décision n'entraîne aucune sanction ni aucune réduction des autres services WITS. En cas de désinscription, le compte de l'utilisateur n'aura plus accès à la version bêta et l'historique des interactions avec Co-Pilot sera supprimé dans un délai de 30 jours.

Les éducateurs peuvent demander une copie de leur historique de génération de Co-Pilot en envoyant un e-mail à [email protected]. Les demandes sont traitées dans un délai de 30 jours.

8.2 Pour les écoles et les districts

Un directeur d'école ou un administrateur de district peut demander que tous les éducateurs de son école ou de son district soient exclus de la version bêta de Co-Pilot. Ces demandes sont honorées dans un délai de 5 jours ouvrables.

Les équipes chargées des achats au niveau des districts peuvent solliciter une session d'examen technique et juridique auprès du personnel de WITS avant d'adopter toute fonctionnalité basée sur l'IA. Veuillez contacter [email protected] pour prendre rendez-vous.

8.3 Pour les parents

Les parents qui souhaitent obtenir des informations sur l'utilisation de l'IA dans la classe WITS de leur enfant doivent contacter directement leur école. WITS n'entretient pas de relation directe avec les familles.

9. Réponse aux incidents

En cas d'incident lié à l'IA (fuite de données, divulgation involontaire, indisponibilité prolongée, génération de contenus préjudiciables malgré les mesures de protection mises en place), WITS s'engage à :

• Contenir l'incident dans les 24 heures suivant sa détection
• Informer les écoles concernées dans les 72 heures
• Fournir un rapport d'incident écrit dans les 14 jours
• Signaler au Commissariat à la protection de la vie privée du Canada et aux organismes de réglementation provinciaux de la protection de la vie privée si des renseignements personnels sont impliqués

La procédure d'intervention en cas d'incident WITS fait l'objet d'un document distinct et est révisée chaque année.

10. Cadres de conformité

Cette politique s'aligne sur les cadres canadiens et internationaux suivants :

• Loi sur la protection des renseignements personnels et les documents électroniques (LPRPDE)
• Loi sur la protection des renseignements personnels de la Colombie-Britannique (LPRP C-B)
• La législation anti-pourriel du Canada (CASL) pour les communications par courriel générées par l’IA
• Les “ Principes pour des technologies d’IA générative responsables, dignes de confiance et protectrices de la vie privée ” du Commissariat à la protection de la vie privée du Canada (décembre 2023)
• La directive du Conseil du Trésor du Canada sur la prise de décision automatisée (le cas échéant, étant donné que WITS ne prend actuellement aucune décision automatisée concernant des personnes physiques)

WITS fait appel à BLG (Borden Ladner Gervais LLP) pour assurer le suivi juridique continu de ses déploiements d'IA et de la conformité en matière de protection de la vie privée.

11. Modifications de cette politique

La présente politique fait l'objet d'une révision au moins une fois par an et chaque fois qu'une modification substantielle est apportée à un système d'IA dans les produits WITS. Les modifications sont communiquées aux abonnés par e-mail au moins 30 jours avant leur entrée en vigueur.

L'historique des versions est conservé dans le journal des modifications de la politique.

12. Contact

Annexe A : Glossaire

IA (Intelligence artificielle) : un logiciel capable d'effectuer des tâches qui requièrent généralement l'intelligence humaine, telles que la compréhension du langage ou la génération de texte. Les systèmes d'IA utilisés par WITS reposent sur des modèles linguistiques de grande envergure.

Bêta : une mise à disposition limitée et contrôlée d'une fonctionnalité auprès d'un petit groupe d'utilisateurs avant sa mise à disposition générale.

Co-pilote : l'assistant de préparation de cours WITS, basé sur l'IA.

LiteLLM : un service logiciel qui achemine les requêtes vers différents modèles d'IA. WITS utilise LiteLLM pour déterminer quel modèle traite quelle requête et pour assurer la cohérence de la journalisation et du contrôle d'accès.

LLM (modèle linguistique de grande envergure) : un système d'IA entraîné sur de grands volumes de texte afin de générer un langage semblable à celui des humains. Parmi les exemples cités par WITS figure notamment Azure OpenAI GPT-4o.

LPRPDE / PIPA BC : Lois canadiennes et de la Colombie-Britannique régissant la manière dont les organisations traitent les renseignements personnels.

Instruction système : instructions internes fournies à un modèle d’IA qui déterminent son comportement. La consigne du système WITS Co-Pilot oriente le modèle vers un contenu inclusif, adapté à l’âge et conforme aux principes WITS.

Annexe B : Référence technique pour les examinateurs des marchés

Cette section fournit la profondeur technique dont un DSI de district ou un responsable de la protection de la vie privée pourrait avoir besoin.

B.1 Schéma de flux de données

Navigateur de l'enseignant
    POST HTTPS {note, stratégie, remarque}
[lessons.wits.foundation - infrastructure WITS, Colombie-Britannique, Canada]
    Valide le JWT (l'enseignant doit être un abonné authentifié et avoir accepté la version bêta)
    Enregistre la requête dans PostgreSQL CT104
    POST HTTPS vers le proxy LiteLLM
[Proxy LiteLLM - infrastructure WITS, Colombie-Britannique, Canada]
    Sélectionne le modèle selon la règle de routage (par défaut : Azure GPT-4o)
    POST HTTPS vers le point de terminaison Azure OpenAI
[Azure OpenAI - Microsoft Canada Est, Toronto, Ontario]
    Traite la requête
    Renvoie le texte généré
[Proxy LiteLLM]
    Renvoie la réponse au service « lessons »
[lessons.wits.foundation]
    Enregistre la réponse, applique la charte graphique au PDF de la leçon
    Renvoie la réponse au navigateur de l'enseignant

B.2 Authentification et autorisation

• L'enseignant doit être titulaire d'un abonnement WITS en cours de validité.
• Le compte de l’éducateur doit avoir le drapeau d’activation bêta activé
• Les demandes de génération utilisent un JWT à durée de vie courte émis par le portail WITS
• Le JWT contient l'identifiant utilisateur, l'identifiant de l'établissement (NocoDB) et l'indicateur « beta », signés à l'aide de la clé privée WITS.
• Le service CT119 valide la signature et l'expiration du JWT avant de transférer.

B.3 Piste d'audit

Chaque requête de génération est enregistrée avec :

• Horodatage (UTC)
• Identifiant utilisateur (WordPress)
• Identifiant scolaire (NocoDB)
• Stratégie et note
• Hachage d'une note de contexte facultative (et non de la note elle-même)
• Modèle sélectionné
• Temps de réponse
• Utilisation des jetons (entrée/sortie)

Les données d'audit sont interrogeables par le personnel du programme et examinables dans les résumés de conformité mensuels.

B.4 Réseau et infrastructure

Infrastructure WITS liée au Co-Pilot :

• CT119 (lessons.wits.foundation) : Application FastAPI, Python 3.12, s'exécute sur un cluster Proxmox à Burnaby, C.-B.
• CT104 (PostgreSQL 17) : base de données pour les journaux d'audit, s'exécutant sur le même cluster
• CT106 (proxy LiteLLM) : routage des modèles, s'exécute sur le même cluster
• CT110 (Ollama, en option) : inférence de modèle locale sur un GPU NVIDIA T4, utilisée si Azure n'est plus disponible

Tout le trafic entre le navigateur de l'enseignant et le site lessons.wits.foundation est chiffré selon le protocole TLS 1.2 ou une version supérieure. Tout le trafic entre les services WITS et Azure est chiffré selon le protocole TLS. Aucune donnée n'est transmise en clair.