As intelixencias artificiais como xeradoras de cultura: exploración dos nesgos de xénero de ChatGPT
•
0 likes•11 views
As intelixencias artificiais xeneradoras están xa producindo textos que pasan a formar parte do noso mundo. A lingua (escrita, neste caso) é un piar fundamental da cutura, polo que cabe preguntarnos que tipo de "axentes creadores de cultura" son estes sistemas. Para visibilizar esta cuestión, preséntase un experimento que ten como protagonista ChatGPT e como contexto, as mulleres (novas) en STEM.
As intelixencias artificiais como xeradoras de cultura: exploración dos nesgos de xénero de ChatGPT
- 1. Exploracióndos nesgos de xénero de ChatGPT AS INTELIXENCIAS ARTIFICIAIS COMO XERADORAS DE CULTURA
- 2. O que é a cultura? • "(…) inclúe coñecemento, crenzas, arte, morais, leis, costumes e outras aptitudes e hábitos adquiridos polo ser humano como membro da sociedade." —Edward Burnett Tylor • Culturae lingua están estreitamente relacionadas • A lingua é un factor chave no desenvolvementoe transmisión da cultura • A cultura é en moitos aspectos un reflexo da lingua • Mesmo cando non sempre coinciden, a lingua xoga sempre un papel fundamentalda tradición cultural Esta fotode autora descoñecida tenlicenza CCBY.
- 3. O que son as "IntelixenciasArtificiais"? • O termo "Intelixencia Artificial" usouse por primeira vez en 1956 • Dúas correntes principais (mente vs cerebro): • Intelixencia Artificial simbólica • Crear representaciónssimbólicas do mundo e algoritmos de razoamento • Intelixencia é explorar un espazo de posibilidades na procura de respostas • Dominante as primeiras décadas, considerábase que orixinaría a "IA xeral" • Intelixencia Artificial conexionista • Crear sistemas que fisicamente imitan o cerebro humano (neuronas) e algoritmos de comunicacióne realimentaciónentre os seus compoñentes • Considera que a intelixencia xorde da aprendizaxe • Limitada nos seus inicio, en auxe a día de hoxe
- 4. IAsxeradoras de contido • Large Language Models (ModelosMasivosde Linguaxe) • Redes neuronais (IA conexionista)con billóns de compoñentes • Especializados en predicir a seguinte palabra nunha frase • Adestrados empregando grandes conxuntosde datos (10 trillóns de palabras) • Intelixencias Artificiaisxenerativas • Redes neuronais (IA conexionista)especializadas en producir texto, imaxes, moléculas... • Usan LLMs e producen estatisticamente contidoscon características semellantes a partir dos incluídosno seu conxuntode adestramento • Exemplos coñecidos: ChatGPT (Bing), Bard, Stable Diffusion, Midjourney, DALL-E
- 5. IAsxeradoras de contido • Large Language Models (Modelos Masivos de Linguaxe) • Redes neuronais (IA conexionista)con billóns de compoñentes • Especializados en predicir a seguinte palabra nunha frase • Adestrados empregando grandes conxuntosde datos (10 trillóns de palabras) • Intelixencias Artificiais xenerativas • Redes neuronais (IA conexionista)especializadas en producir texto, imaxes, moléculas... • Usan LLMs e producen estatisticamente contidoscon características semellantes a partir dos incluídosno seu conxuntode adestramento • Exemplos coñecidos: ChatGPT (Bing), Bard, Stable Diffusion, Midjourney, DALL-E Máquinas de cultura?
- 6. IAsxeradoras de contido • Large Language Models (Modelos Masivos de Linguaxe) • Redes neuronais (IA conexionista)con billóns de compoñentes • Especializados en predicir a seguinte palabra nunha frase • Adestrados empregando grandes conxuntosde datos (10 trillóns de palabras) • Intelixencias Artificiais xenerativas • Redes neuronais (IA conexionista)especializadas en producir texto, imaxes, moléculas... • Usan LLMs e producen estatisticamente contidoscon características semellantes a partir dos incluídosno seu conxuntode adestramento • Exemplos coñecidos: ChatGPT (Bing), Bard, Stable Diffusion, Midjourney, DALL-E Esta fotode autora descoñecida tenlicenza de CCBY-SA-NC. Máquinas de cultura?
- 8. ѱٴǻDZdzí
- 9. ѱٴǻDZdzí "Son boa estudante" "Non me gustan as matemáticas" "Gústameaxudar á xente" "Son traballadora" "Gústanmeos problemas difíciles" "Gústametraballar en grupo"
- 10. ѱٴǻDZdzí
- 12. ѱٴǻDZdzí
- 13. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros
- 14. Resultados Aspectos analizados: 1. Carreirasuniversitariasmencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros
- 15. Resultados Aspectos analizados: 1. Carreirasuniversitariasmencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT suxire as mesmas carreiras a mozos e mozas
- 16. Resultados Aspectos analizados: 1. Carreirasuniversitariasmencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT suxire as mesmas carreiras a mozos e mozas Corpo da noticia: ChatGPT ofrece o dobre de exemplos concretos ás mozas (moitos no caso das humanidades, con especial profusión na comunicación e as especialidades da medicina), pero todos os dos mozos se refiren a enxeñarías
- 17. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros
- 18. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: A linguaxe "micromachista" de ChatGPT
- 19. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: A linguaxe "micromachista" de ChatGPT Corpo da noticia: As mozas reciben comentarios que fan alusión aos coidados, e os mozos ao "liderado", "talento creativo" ou "habilidades para persuadir e convencer"
- 20. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Linguada resposta 4. Correspondencia co xénero da pregunta 5. Outros
- 21. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Linguada resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT, tamén diglósico
- 22. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Linguada resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT, tamén diglósico Corpo da noticia: Só en 3 das 18 sesións respondeu en galego, e ademais as sesións en galego conteñen erros gramaticais e ortográficos
- 23. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xéneroda pregunta 5. Outros
- 24. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xéneroda pregunta 5. Outros Titular: ChatGPT foxe dos masculinos xenéricos
- 25. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xéneroda pregunta 5. Outros Titular: ChatGPT foxe dos masculinos xenéricos Corpo da noticia: Un terzo das respostas foron neutras, mais no resto, os homes sempre son correctamente genderizados, mentres que en 5 de cada 9 casos as mulleres son tratadas en masculino
- 26. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros
- 27. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT recomenda contrastar con humanos
- 28. Resultados Aspectos analizados: 1. Carreiras universitarias mencionadas 2. Linguaxe utilizada (contido) 3. Lingua da resposta 4. Correspondencia co xénero da pregunta 5. Outros Titular: ChatGPT recomenda contrastar con humanos Corpo da noticia: Aos mozos recoméndaselles consultar con profesionais; ás mozas, coa súa familia, profesorado ou conselleiros escolares
- 29. Conclusións • Os sistemas baseados en IA xenerativa, a medida que se popularizan, teñen un potencial de impactomoi grande • Estes sistemas, configurados sensupervisión empregando fontesde informaciónnon curadas, están chamados a conter e reproducirnesgosde xénero,no canto de a superalos ou contribuír a desterralos • ChatGPTreproducenesgos de xénero, de xeitosutil pero consistente, cando se realizan interaccións que involucran mulleres en STEM
- 30. Grazas! • Laura M. CastroSouto(UDC, lcastro@udc.es) • Teresa Piñeiro Otero (UDC, teresa.pineiro@udc.es) • Xabier Martínez Rolán (UVigo, xabier.rolan@uvigo.gal) "A group of three people, two women and a man, thanking their audience after a short talk" PerplexityAI BlueWillow