{"id":12010,"date":"2025-11-19T08:38:08","date_gmt":"2025-11-19T07:38:08","guid":{"rendered":"https:\/\/projectes.xtec.cat\/ia\/?page_id=12010"},"modified":"2026-02-21T14:55:05","modified_gmt":"2026-02-21T13:55:05","slug":"2-a-1-1-es-conscient-que-la-ia-esta-dissenyada-per-persones-i-corporacions-amb-biaixos-i-interessos-comercials-que-poden-entrar-en-conflicte-amb-letica-i-els-drets-fonamentals","status":"publish","type":"page","link":"https:\/\/projectes.xtec.cat\/ia\/competencia-digital-docent-intelligencia-artificial\/dimensio2-visio-humanista-de-la-ia\/d2-etapa-basica\/2-a-1-comprensio-de-lagencia-humana\/2-a-1-1-es-conscient-que-la-ia-esta-dissenyada-per-persones-i-corporacions-amb-biaixos-i-interessos-comercials-que-poden-entrar-en-conflicte-amb-letica-i-els-drets-fonamentals\/","title":{"rendered":"2.A.1.1.\u00c9s conscient que la IA est\u00e0 dissenyada per persones i corporacions amb biaixos i interessos comercials que poden entrar en conflicte amb l\u2019\u00e8tica i els drets fonamentals."},"content":{"rendered":"\n

Biaixos<\/h3>\n\n\n\n
\n

Biaixos en generadors d’imatges: masclisme, racisme, classisme i edadisme<\/span><\/i><\/span><\/i><\/span><\/a><\/h3><\/div>
\n
\n

Nicoletti, L., & Bass, D. (2023, junio 9). Humans Are biased. Generative AI is even worse.<\/em> Bloomberg Technology + Equality. https:\/\/www.bloomberg.com\/graphics\/2023-generative-ai-bias\/<\/a><\/p>\n<\/blockquote>\n\n\n\n

\n
\n

L\u2019article analitza com els sistemes d\u2019intel\u00b7lig\u00e8ncia artificial generativa, especialment els models de generaci\u00f3 d\u2019imatges<\/strong>, no nom\u00e9s reprodueixen els biaixos humans existents, sin\u00f3 que sovint els amplifiquen<\/strong> fins a nivells m\u00e9s extrems que els que es donen en la realitat social.<\/p>\n\n\n\n

1. Amplificaci\u00f3 dels biaixos socials<\/strong>
Quan se\u2019ls demana que generin imatges associades a professions com ara \u201cjutge\u201d, \u201cdirector executiu\u201d o \u201cmetge\u201d, els models tendeixen a produir representacions molt m\u00e9s masculinitzades i blanquitzades<\/strong> que les dades reals. Aix\u00f2 significa que la IA no reflecteix la realitat, sin\u00f3 una versi\u00f3 distorsionada i estereotipada<\/strong> d\u2019aquesta.<\/p>\n\n\n\n

2. Refor\u00e7 d\u2019estereotips de g\u00e8nere i ra\u00e7a<\/strong>
Les dones apareixen infrarepresentades en professions d\u2019alt estatus i sobrerepresentades en rols tradicionalment associats a estereotips de g\u00e8nere. De manera similar, les persones racialitzades solen apar\u00e8ixer de forma desproporcionada en ocupacions de menor prestigi o en contextos problem\u00e0tics.<\/p>\n\n\n\n

3. Riscos en contextos sensibles<\/strong>
Quan aquests models generen imatges associades a conceptes delicats com \u201ccriminal\u201d o \u201cterrorista\u201d, tendeixen a refor\u00e7ar estereotips racials nocius<\/strong>, fet que pot tenir conseq\u00fc\u00e8ncies greus si aquestes tecnologies s\u2019utilitzen en \u00e0mbits com la just\u00edcia, l\u2019educaci\u00f3 o els mitjans de comunicaci\u00f3.<\/p>\n\n\n\n

4. Origen del problema: les dades d\u2019entrenament<\/strong>
La causa principal del biaix \u00e9s que aquests sistemes s\u2019entrenen amb grans volums de dades extretes d\u2019Internet sense una curaci\u00f3 acurada<\/strong>. Com que la xarxa ja reflecteix desigualtats i prejudicis socials, la IA els apr\u00e8n i els exagera en lloc de corregir-los.<\/p>\n\n\n\n

L\u2019article conclou que la intel\u00b7lig\u00e8ncia artificial generativa pot consolidar i intensificar les desigualtats existents<\/strong>, especialment quan es percep err\u00f2niament com una eina objectiva o neutral. <\/p>\n<\/div>\n\n\n\n

\n
\"\"<\/a>
Com \u00e9s una persona que ven drogues? <\/figcaption><\/figure>\n\n\n\n
\"\"<\/a>
Com \u00e9s una persona que es dedica a la Enginyeria? <\/figcaption><\/figure>\n\n\n\n
\"\"<\/a>
Com \u00e9s una persona que es dedica a la medicina? <\/figcaption><\/figure>\n<\/div>\n<\/div>\n<\/div><\/div>\n\n\n\n

Xatbot Grok consulta les opinions d’Elon Musk abans de respondre<\/span><\/i><\/span><\/i><\/span><\/a><\/h3><\/div>
\n
\n

Willison, S. (2025, 11 de julio). Grok: searching X for \u201cfrom:elonmusk (Israel OR Palestine OR Hamas OR Gaza)\u201d<\/em>. https:\/\/simonwillison.net\/2025\/Jul\/11\/grok-musk\/<\/a><\/p>\n<\/blockquote>\n\n\n\n

\n
\n

Aquest article examina un comportament curi\u00f3s de la intel\u00b7lig\u00e8ncia artificial Grok 4<\/strong>, que cercava activament les opinions d’Elon Musk<\/strong> a la xarxa social X per respondre preguntes controvertides. L’autor detalla com el bot intentava alinear les seves respostes<\/strong> amb el punt de vista del seu propietari en temes com el conflicte entre Israel i Palestina. Tot i que inicialment no hi havia instruccions expl\u00edcites per fer-ho, el sistema dedu\u00efa que havia de consultar Musk per definir la seva pr\u00f2pia identitat corporativa<\/strong>. Finalment, la font informa que xAI<\/strong> va haver de modificar el codi i les instruccions del model per aturar aquesta pr\u00e0ctica i garantir an\u00e0lisis independents<\/strong>.<\/p>\n<\/div>\n\n\n\n

\n