Ètica i aspectes legals

Aquest esborrany presenta diversos aspectes significatius que busquen protegir els drets i llibertats individuals enfront dels riscos inherents a l’ús de la IA. Promet ser un punt d’inflexió en l’establiment de normes i directrius per al ús de la IA.

• Destaca la prohibició del reconeixement facial, especialment en relació amb la creació de bases de dades biomètriques, amb l’objectiu de preservar la privadesa i evitar el risc de discriminació i vigilància massiva.

• A més, s’estableix la prohibició de l’ús de software de reconeixement d’emocions en entorns com les agències de seguretat, els controls fronterers i els entorns educatius, amb l’objectiu de garantir el respecte per la intimitat i la dignitat de les persones.

• Una altra mesura important contemplada en aquest marc de regulació és la prohibició dels sistemes IA de puntuació social, que classifiquen les persones en funció del seu comportament social, el seu estatus socioeconòmic o altres característiques personals, amb l’objectiu d’evitar la discriminació i preservar la igualtat d’oportunitats.

• Així mateix, es preveu la vigilància dels sistemes IA aplicats a àrees crítiques com la sanitat i la política per garantir la seguretat, la responsabilitat i la fiabilitat d’aquestes aplicacions. Això implica la necessitat d’avaluar i controlar els riscos associats a la IA en aquests àmbits sensibles.

• Pel que fa al chatGPT, es fa èmfasi en l’obligatorietat d’indicar que el contingut ha sigut generat per IA, amb l’objectiu d’evitar la confusió i assegurar que els usuaris siguin conscients que estan interactuant amb una màquina.

• Finalment, s’estableixen mesures per evitar la generació i publicació de contingut il·legal o protegit per drets d’autor mitjançant aquests sistemes.

Document adoptat durant la Segona Assemblea Mundial de l’ONU sobre IA a Beijing el maig de 2021, destaca els principis ètics essencials per al desplegament i ús de la IA: igualtat, diversitat, sostenibilitat i responsabilitat.

• Insisteix en la necessitat que l’aplicació de la IA sigui compatible amb els drets humans, la diversitat cultural, la igualtat de gènere i la sostenibilitat mediambiental, per evitar biaixos i assegurar la representativitat. Aquesta guia proporciona una base per al desenvolupament responsable de la IA en l’àmbit educatiu, assegurant els beneficis per als estudiants i promocionant una educació de qualitat per a tots.

• Destaca el paper positiu de la IA en l’accés als recursos educatius, la personalització de l’aprenentatge i la detecció precoç de problemes. I per afrontar els reptes i aprofitar els avantatges de la IA en l’àmbit educatiu es fa necessari un enfocament integral i la necessitat d’adaptar els sistemes educatius en tres àmbits clau:
  • Primer, cal aprendre amb la IA utilitzant-la, fomentant el desenvolupament d’altres intel·ligències i capacitats per complementar-la i exercitar l’anàlisi crític, la curiositat i altres habilitats humanes.
  • Segon, cal aprendre sobre la IA, promovent l’adquisició de competències prèvies en IA, alfabetització bàsica en IA, competències digitals, pensament crític, treball en equip i competències ètiques.
  • I, finalment, cal preparar-se per a la IA, assegurant que tots els ciutadans comprenguin el potencial impacte de la IA en la vida humana per poder exercir un control democràtic i prendre decisions informades basades en valors ètics i coneixement.

• Això requereix revisar de forma dinàmica les funcions i competències dels docents, fortificant els programes de formació, integrant la IA en els plans d’estudis i transformant les metodologies per millorar l’aprenentatge. És essencial desenvolupar capacitats docents per treballar eficaçment en entorns amb IA, utilitzant eines d’IA per donar suport a l’aprenentatge adaptatiu, avaluar les competències dels estudiants i facilitar avaluacions a gran escala i a distància.

Document que ofereix un conjunt de principis i recomanacions per a un ús ètic de la IA en l’educació.

• El document destaca la necessitat de transparència en els sistemes d’IA utilitzats, assegurant que els estudiants, els docents i altres actors implicats puguin comprendre com s’apliquen els algoritmes i quins són els criteris utilitzats per prendre decisions.

• Es posa especial èmfasi en la protecció de la privacitat dels estudiants i la seguretat de les seves dades, així com en evitar la discriminació i els biaixos en l’ús de la IA en l’avaluació i la presa de decisions educatives. Per tot això, es recomana que els sistemes d’IA siguin transparents i explicables per garantir la imparcialitat i la justícia.

• A més, es destaca la importància de la formació dels docents en l’àmbit de la intel·ligència artificial, proporcionant-los recursos i capacitació per utilitzar eficaçment les eines d’IA en les seves pràctiques educatives, fomentant així l’aprenentatge personalitzat i l’adaptabilitat als diferents estils d’aprenentatge dels estudiants.

Document que ofereix una visió detallada sobre la integració de la intel·ligència artificial (IA) en l’àmbit educatiu. L’objectiu principal és adoptar un enfocament humanista que fomenti les habilitats i els valors necessaris per a un desenvolupament sostenible de la IA i una col·laboració efectiva entre humans i màquines.

• La guia destaca l‘impacte significatiu que pot tenir la IA en l’educació, millorant l’accés als recursos educatius, personalitzant l’aprenentatge i adoptant mètodes d’ensenyament innovadors.

• No obstant això, també es posa èmfasi en l’ús ètic i responsable de la IA, incloent-hi la inclusió, la diversitat, l’equitat i la privacitat com a factors clau.

• Se subratlla la importància de centrar-se en habilitats humanes com el pensament crític, la comunicació, la col·laboració i la creativitat en la implementació de la IA a les escoles.

• Es promou l’Objectiu de Desenvolupament Sostenible 4 (ODS 4) de l’ONU, que busca garantir una educació inclusiva, equitativa i de qualitat per a tothom. L’informe alerta sobre el repte de gestionar el volum de dades personals recopilades en el context de la IA, especialment en relació amb la privacitat dels estudiants. I també es destaca la preocupació pels biaixos socials generats per les màquines d’IA en termes de gènere, llibertat, discapacitat, situació socioeconòmica, ètnia i cultura. Per això, es recomana establir lleis de protecció de dades i marcs reguladors per a assegurar un ús ètic, equitatiu i transparent de la IA.

• Finalment, la guia destaca la importància de proporcionar formació als docents perquè puguin comprendre i utilitzar adequadament les eines i aplicacions d’IA en la seva pràctica educativa. Això implica la creació de programes de desenvolupament professional per als docents, així com l’accés a recursos i suports que permetin una integració efectiva i beneficiosa de la IA en l’aprenentatge dels estudiants.

Proporcionen orientació sobre l’ús ètic de la IA i les dades en l’àmbit educatiu.

• El document destaca la importància de la privacitat i la protecció de les dades personals dels estudiants, així com la inclusió i l’equitat en l’aplicació de la IA.

• S’insta als educadors a adquirir una comprensió crítica de la IA i a utilitzar-la de manera responsable i transparent.

• Les directrius subratllen la importància de garantir la participació i el consentiment informats dels estudiants, i promouen l’ús de la IA com una eina per millorar l’aprenentatge i el desenvolupament dels estudiants.

• Finalment, tot i reconèixer els beneficis de la IA, es ressalta la importància de mantenir l’aspecte humà de l’educació, mantenint un equilibri entre la IA i les interaccions humanes.

Guia per a un ús ètic de la IA que destaca la importància de la transparència en els sistemes d’IA utilitzats en l’educació, assegurant que estudiants, docents i altres actors implicats puguin comprendre com s’apliquen els algoritmes i quins són els criteris utilitzats per prendre decisions.

• Posa l’èmfasi en la protecció de la privacitat i la seguretat de les dades dels estudiants, evitant així possibles riscos i abusos.

• A més, subratlla la necessitat d’evitar la discriminació i els biaixos en l’ús de la IA en l’avaluació i la presa de decisions educatives i recomana fixar com a objectiu la consecució d’una educació inclusiva, equitativa i de qualitat per a tots, utilitzant la IA com una eina per millorar l’aprenentatge de manera justa.

• Per últim, assenyala la importància de la personalització de l’aprenentatge mitjançant l’ús de la IA, adaptant els recursos i els mètodes educatius a les necessitats individuals dels estudiants; i insta a la formació dels docents en matèria d’IA i a fomentar una relació humana responsable entre les persones i les màquines.

És una guia que ofereix un pla d’estudis complet per a l’ensenyament de la intel·ligència artificial als estudiants des de l’educació preescolar fins a la secundària. Destaca que el pla d’estudis ofereix una estructura clara per a cada grau educatiu, amb objectius d’aprenentatge específics i activitats pràctiques.

• S’inclouen recursos didàctics variats, com ara llibres de text, vídeos, jocs i activitats interactives, per enriquir l’experiència d’aprenentatge dels estudiants.

• A més, el document subratlla que aquest pla d’estudis promou el pensament crític, la resolució de problemes, la col·laboració i la creativitat, ja que els estudiants treballen en equips per resoldre reptes i projectes relacionats amb la IA.

• També es fa èmfasi en l’ètica i la responsabilitat en l’ús de la IA, incloent la discussió sobre qüestions ètiques i la importància de considerar els impactes socials i els possibles biaixos de la IA.

Aborda sobretot la importància de l’ètica i subratlla la necessitat de desenvolupar polítiques i marcs ètics per garantir un ús responsable de la IA en l’educació.

• S’assenyala que la IA pot millorar l’aprenentatge personalitzat, l’accés a l’educació i la inclusió, però també planteja desafiaments com la protecció de la privacitat i l’equitat.

• Subratlla la importància de la formació dels docents perquè puguin comprendre i utilitzar adequadament les eines d’IA.

• A més, insta a promoure un enfocament humanista en la integració de la IA a l’educació, fomentant habilitats com el pensament crític i la col·laboració.

• En resum, l’informe destaca la necessitat de considerar l’ètica en l’ús de la IA en l’educació i promou una visió equilibrada i responsable per a un futur sostenible.

Aborda el desafiament global de la regulació de la IA. L’objectiu principal és establir un marc normatiu que asseguri l’ús ètic, responsable i inclusiu de la IA en diferents àmbits de la societat.

• La recomanació destaca la importància de la transparència i la responsabilitat en l’ús de la IA. Insta els governs i les organitzacions a adoptar mesures per garantir que els algoritmes siguin explicables i que es puguin comprendre les decisions preses per la IA.

• També incideix en la necessitat d’establir mecanismes de responsabilitat i rendició de comptes per als sistemes d’IA, de manera que les persones puguin ser protegides en cas de resultats perjudicials o discriminació.

• Un altre aspecte clau és la promoció de la col·laboració internacional i el treball conjunt entre els països per afrontar els reptes ètics i legals de la IA. S’encoratja l’intercanvi de coneixements, les bones pràctiques i la cooperació en la creació de marcs reguladors.

• La recomanació també subratlla la importància de garantir la protecció de les dades personals i la privacitat en el context de la IA. S’insta a establir polítiques i normatives clares per assegurar el consentiment informat, el control de les dades i la seguretat de la informació.

Insta als Estats membres a protegir els drets individuals en el context del perfilatge automàtic de dades personals.

• Destaca especialment la importància de la transparència, responsabilitat i proporcionalitat en l’ús del perfilatge, així com el consentiment informat, el dret a l’explicació i el dret a rebutjar o oposar-se al perfilatge.

• Per últim, subratlla la necessitat de garantir la seguretat i confidencialitat de les dades personals, realitzar avaluacions d’impacte en la protecció de dades i establir mecanismes de supervisió i control per assegurar el compliment de les normes de protecció de dades en aquest àmbit.

Aborda el tema de les decisions preses per sistemes d’intel·ligència artificial (IA) i proporciona orientació per abordar els riscos i les implicacions ètiques d’aquestes decisions. Incideix en la importància de la transparència, la responsabilitat i la rendició de comptes en la implementació de la IA, i s’insta a garantir la privacitat i la protecció de les dades personals en aquests processos automatitzats.

El document també emfatitza la necessitat de promoure la participació ciutadana i la inclusió en la presa de decisions relacionades amb la IA, així com la importància d’establir marcs legals i normatius per abordar els reptes emergents en aquest àmbit.

Es tracta d’ un dossier que proporciona una anàlisi i fa recomanacions sobre com informar adequadament pel que fa a la IA. En aquest sentit, destaca la importància de garantir una comunicació clara, precisa i accessible sobre aquesta tecnologia per a tots els públics, evitant el sensacionalisme o la desinformació.

• Per tant, es proposen principis ètics fonamentats en els drets humans com a marc per a la informació sobre la IA, incloent la transparència, la responsabilitat, la no discriminació i el respecte a la privacitat.

• Així mateix, s’aborden temes com els efectes socials i ètics de la IA, la regulació adequada i la participació ciutadana en les decisions relacionades amb la seva implementació.

• L’objectiu final del document és promoure una informació sobre la IA basada en els drets humans, que fomenti la comprensió, el debat informat i la presa de decisions responsables en aquest àmbit. Tots aquests aspectes poden ser també aplicats i tinguts en compte a l’educació per garantir una comunicació transparent i respectuosa sobre l’ús de la IA, protegint la privacitat dels estudiants i evitant la discriminació.

En aquesta declaració 29 països es comprometen a cooperar per evitar els riscos derivats de l’aplicació de la IA.

Com es pot llegir en el comunicat del govern britànic, els països accepten la necessitat urgent de comprendre i gestionar de forma colectiva els riscos potencials a través d’un nou esforç conjunt per garantir que la IA es desenvolupa i desplega de forma segura.