Anonimització o pseudonimització de dades
La IA sovint necessita grans volums de dades per entrenar models i fer prediccions. Si aquestes dades contenen informació personal identificable (nom, DNI, correu, direcció…), hi ha riscos específics de vulnerar la privacitat. A part de les pràctiques il·lícites (venda de dades) i el risc de robatori de dades (hacking), en l’àmbit de la IA hi ha el risc que els models filtrin les dades de manera involuntària.
Eines per anonimitzar o pseudoanonimitzar les dades.
L’anonimització elimina completament els identificadors, mentre que la pseudonimització els substitueix per codis o pseudònims, reduint molt la possibilitat d’identificar a una persona concreta.
Per exemple, si tenim un full de càlcul amb registres d’aquest tipus on volem extreure informació de diferents maneres (nombre d’alumnes de 2ESO que tenen rebuts pendents, alumnes que han fet tingut més de 2 faltes d’assistència, etc):
| Nom | DNI | Curs | Faltes d’assistència | Pagaments pendents |
| Pere Cullera | 555123456-B | 2ESOA | 12 | Sí |
| Lidia Forquilla | 555987654-B | 1ESOB | 8 | No |
Exemple d’anonimització:
L’anonimització de les dades elimina qualsevol dada que pugui identificar a les persones, fent impossible la recuperació de les identitats inicials.
Per algunes consultes no és necessari identificar a la persona. Per exemple: nombre d’alumnes de 2n d’ESO que tenen rebuts pendents o mitjana de faltes d’assistència en tot un nivell de l’ESO, etc. En aquest cas, només cal eliminar les columnes que identifiquin a l’alumnat abans de compartir-les amb els sistemes IA.
| Curs | Faltes d’assistència | Pagaments pendents |
| 2ESOA | 12 | Sí |
| 1ESOB | 8 | No |
Exemple de pseudonimització:
La pseudonimització permet arribar a la identitat d’una persona combinant dades de diverses fonts. Si només compartim una part de les dades amb la IA, aquestes dades no estaran associades a cap persona en concret.
Per algunes consultes sí que és necessari identificar a la persona. Per exemple: llista d’alumnat de 2n d’ESO que tenen més de 5 faltes d’assistència i tenen pagaments pendents. En aquests casos, cal separar la taula en dues, establint un identificador que no tingui cap relació amb les dades personals de l’alumnat.
Taula privada (NO es pot compartir amb sistemes IA)
| Identificador | Nom | DNI |
| 1 | Pere Cullera | 555123456-B |
| 2 | Lidia Forquilla | 555987654-B |
Taula pública (es pot compartir amb sistemes IA)
| Identificador | Curs | Faltes d’assistència | Pagaments pendents |
| 1 | 2ESOA | 12 | Sí |
| 2 | 1ESOB | 8 | No |
Per aprendre més:
- Anonimització i pseudoanonimització de dades (Escola d’Administració Pública de Catalunya)
Desactivació de la memòria persistent
La memòria en un sistema d’IA conversacional fa referència a la capacitat del model per emmagatzemar, recuperar i utilitzar informació sobre l’usuari o la conversa més enllà d’un únic intercanvi. Podem trobar 2 tipus de memòries:
1. Memòria a curt termini (contextual)
Capacitat de recordar els missatges de la conversa actual.
- 🟢 Permet a l’assistent seguir el fil de la conversa, entendre preguntes relacionades i donar respostes coherents.
- 🟢 Aquesta memòria desapareix quan s’acaba la sessió o quan s’esborra el context.
- 🟠 En alguns assistents, com Gemini, revisors humans poden analitzar les dades i les respostes en un termini de 72 hores per millorar el model.
👉 Si volem tenir un grau més alt de privacitat, podeu fer servir assistents que no demanen cap identificació com Lumo o Duck.ai.
2. Memòria a llarg termini (persistent)
Capacitat per guardar informació sobre l’usuari (nom preferit, interessos, estil de resposta, etc.) entre converses diferents.
- 🟢 Ofereix una experiència personalitzada i contínua al llarg del temps.
- 🟠 Pot haver-hi revisors humans analitzant les respostes de l’assistent, cosa que els permet veure les dades que has introduït.
- 🟠 Permet que la IA pugui elaborar un perfil sobre la persona que fa servir l’assistent habitualment.
- 🔴 S’han produït errors en alguns xatbots que han permès veure converses d’usuaris des d’internet. Més informació (revisada).
Com desactivar la memòria persistent
Cerqueu una opció Memòria, Activitat o similar dins del perfil de l’usuari o de la configuració general.
En el cas de ChatGPT, feu clic sobre el compte de l’usuari i aneu a Configuració, Personalització:
Per defecte Gemini manté 18 mesos el contingut de les converses. Es pot reduir aquest temps o desactivar que guardi l’activitat fent clic a la barra lateral Activitat -> Activitat en les aplicacions de Gemini -> Desactivar. Podeu eliminar
⚠️ Tot i que el registre d’activitat estigui desactivat, Google adverteix que desa la informació 72 hores i que, durant aquell temps, la pot “processar”. Això implica que pot ser revisada per un revisor humà o servir per entrenar la IA.
En Copilot aneu a la configuració i desactiveu Personalització i memòria. Podeu esborrar la memòria existent i l’historial d’activitat en les opcions corresponents.
👉 La configuració a Copilot està una mica amagada (juny 2025). Podeu trobar-la al compte, fent clic a l’usuari o, de vegades, apareix al peu.
Deepseek no té la funcionalitat de memòria persistent habilitada de moment ni està previst en el seu full de ruta (juny 2025). Per tant, al tancar la finestra de la consulta actual, s’eliminen totes les dades associades.
⚠️ Tot i així, és molt recomanable NO compartir dades personals, ja que un eventual mal funcionament d’aquests sistemes podrien generar filtracions momentànies entres usuaris.
Restricció de l’entrenament
L’entrenament de la intel·ligència artificial consisteix a ensenyar a un sistema a reconèixer patrons mitjançant grans volums de dades. Les dades són molt valuoses per a les empreses que creen les aplicacions d’IA i, per defecte, tenen activat que utilitzaran totes les dades per entrenar els seus models. Això implica riscos de privacitat. Les dades poden ser utilitzades per fer un perfil de l’usuari o, si és produeix un incident de seguretat, les dades poden ser robades.
Per tant, en entorns educatius, es recomana desactivar l’entrenament de dades:
En el cas de ChatGPT, podeu desactivar que entreni al model amb les vostres dades a Compte -> Configuració -> Control de dades -> Millora el model per tothom.
Per defecte Gemini manté 18 mesos el contingut de les converses. Es pot reduir aquest temps o desactivar que guardi l’activitat fent clic a la barra lateral Activitat -> Activitat en les aplicacions de Gemini -> Desactivar. Podeu eliminar
⚠️ Tot i que el registre d’activitat estigui desactivat, Google adverteix que desa la informació 72 hores i que, durant aquell temps, la pot “processar”. Això implica que pot ser revisada per un revisor humà o servir per entrenar la IA.
En Copilot aneu al compte, Privadesa i desactiveu Entrenament de models al text i Entrenament dels models a la veu.
👉 La configuració a Copilot està una mica amagada (juny 2025). Podeu trobar-la al compte, fent clic a l’usuari o, de vegades, apareix al peu.
Aneu a My Perfil -> Profile (a la barra lateral, a baix de tot) -> Settings i desactiveu Improve the model for everyone.
