1.A.3.1. Coneix els riscos principals i els principis bàsics de protecció de dades i ús responsable de la IA, d’acord amb la normativa vigent i l’entorn educatiu.

El Reglament (UE) 2024/1689, aprovat el juny de 2024, estableix normativa harmonitzada per al desenvolupament i ús de la IA a Europa. El reglament abasta diferents àmbits, incloent-hi l’educació i la formació professional, on estableix que no es pot utilitzar la IA per alguns usos per considerar que tenen un risc inaceptable:

1. Sistemes d’IA destinats a ser utilitzats per determinar l’accés o l’admissió de persones físiques a centres educatius i de formació professional de tots els nivells, o per distribuir les persones físiques entre aquests centres.
2. Sistemes d’IA destinats a ser utilitzats per avaluar els resultats de l’aprenentatge, també quan aquests resultats s’utilitzin per orientar el procés d’aprenentatge de les persones físiques en centres educatius i de formació professional de tots els nivells.
3. Sistemes d’IA destinats a ser utilitzats per avaluar el nivell educatiu adequat que ha de rebre una persona o al qual podrà accedir, en el context dels centres educatius i de formació professional, o dins d’aquests, a tots els nivells.
4. Sistemes d’IA destinats a ser utilitzats per al seguiment i la detecció de comportaments prohibits per part de l’alumnat durant els exàmens, en el context dels centres educatius i de formació professional o dins d’aquests a tots els nivells.