En aquesta etapa el docent pren consciència dels riscos ètics associats a l’ús de la IA i adquireix una mirada crítica en relació amb aquesta tecnologia. Reconeix que la IA no és neutral, sinó que reflecteix interessos i biaixos dels qui la dissenyen, i comprèn la importància de preservar l’agència humana. Manté una actitud crítica envers els resultats generats per la IA i coneix conceptes com la transparència, explicabilitat i retiment de comptes. Aplica principis ètics bàsics, vetlla per la propietat intel·lectual i identifica quan un contingut ha estat generat amb IA.
Blocs d’indicadors
2.A.1. Comprensió de l’agència humana
Reconeix que la preservació de l’agència humana és clau en l’ús de la IA i els riscos de delegar-li, en excés, la responsabilitat de les interaccions i els resultats.
Indicadors
2.A.1.1 🟨 És conscient que la IA està dissenyada per persones i corporacions amb biaixos i interessos comercials que poden entrar en conflicte amb l’ètica i els drets fonamentals.
2.A.1.2 🟨 Entén els riscos d’una dependència excessiva de la IA, com ara la delegació cognitiva i l’acompanyament inadequat en l’àmbit emocional o psicològic.
2.A.1.3 🛠️ Comprèn què és la rendició de comptes, amb responsables humans identificats en totes les fases de disseny, aplicació i explotació de la IA.
2.A.2. Comprensió crítica de la IA
Fa un ús reflexiu de la IA i contrasta la informació generada.
Indicadors
2.A.2.1 🛠️ Manté una actitud crítica davant els resultats generats per la IA i en reconeix les limitacions i els possibles errors o biaixos
2.A.2.2 🛠️ És conscient del risc de l’antropomorfització de la IA i evita atribuir-li intencions o qualitats humanes.
2.A.2.3 🛠️ Coneix conceptes clau com la transparència i l’explicabilitat de la IA.
2.A.2.4 🛠️ Contrasta la informació proporcionada per la IA amb altres fonts fiables i l’avalua a partir del seu criteri professional.
2.A.3. Ús ètic de la IA
Reconeix els valors ètics implicats en l’ús de la IA, com els drets fonamentals, la transparència i l’explicabilitat, la justícia i l’equitat, la seguretat i la no maleficència, la responsabilitat i la rendició de comptes, la privacitat, l’autonomia i la sostenibilitat.
Indicadors
2.A.3.1 🛠️ Identifica els valors ètics (els drets fonamentals, els principis i els valors democràtics, la diversitat cultural i social, l’equitat, la bretxa digital, la proporcionalitat, l’impacte social i laboral, etc.) en l’ús de la IA.
2.A.3.2. 🛠️ És conscient de l’impacte que té l’ús de la IA en el medi ambient, en coneix la petjada ecològica i energètica i en limita l’ús a situacions en què aporti un valor significatiu.
2.A.3.3 🛠️ Coneix què és la justícia algorítmica i aplica estratègies de correcció o cerca alternatives més ètiques quan els resultats de la IA vulneren drets fonamentals, la diversitat cultural i social o generen discriminacions segons criteris d’equitat i inclusió.
2.A.3.4 🛠️ Vetlla pel respecte a la propietat intel·lectual i als drets d’autoria en els materials facilitats a eines d’IA, com ara textos, imatges o treballs de l’alumnat.
2.A.3.5 🟨 Informa de manera transparent quan el contingut ha estat generat totalment o parcialment amb eines d’IA.