ݺߣ

ݺߣShare a Scribd company logo

IAs xerativas e nesgos de xénero

•
•
Laura M. Castro
Laura M. Castro

Introdución histórica e de alto nivel á evolución da IA, e a popularidade actual das IAs xerativas ou xeradoras de contido, e presentación dun caso de estudo sobre os nesgos de xénero en ChatGPT.

1 of 31
Download to read offline
INTELIXENCIAS ARTIFICIAIS XERATIVAS E NESGOS DE XÉNERO
O QUESONAS "INTELIXENCIAS ARTIFICIAIS"? Dúas correntes principais (mente vs cerebro): IntelixenciaArtificial SIMBÓLICA IntelixenciaArtificial CONEXIONISTA O termo "IntelixenciaArtificial" usouse por primeira vez en 1956
O QUESONAS "INTELIXENCIAS ARTIFICIAIS"? Intelixencia Artificial Simbólica Quere crear representaciónsdo mundo e algoritmos de razoamento Considera que a "intelixencia" é explorar un espazo de posibilidades na procura de respostas Dominante as primeiras décadas, considerábase que orixinaría a "IA xeral"
O QUESONAS "INTELIXENCIAS ARTIFICIAIS"? Intelixencia Artificial Conexionista Quere crear sistemas que fisicamente imitan o cerebro humano (neuronas) e algoritmos funcionamento para os seus compoñentes Considera que a "intelixencia" xorde da aprendizaxe Limitada nos seus inicios, en auxe a día de hoxe polas melloras computacionais
A INTELIXENCIA ARTIFICIAL NAS NOSAS VIDAS SIMBÓLICA CONEXIONISTA A imaxede Siri ten licenza CC BY-NC-ND. A imaxeda doutora e o paciente ten licenza CC BY-ND. A imaxedo coche ten licenza CC BY-NC. A imaxede Deep Blue ten licenza CC BY-SA. A imaxedo Tesla ten licenza CC BY-SA. A imaxede ChatGPT ten licenza CC BY.
A INTELIXENCIA ARTIFICIAL NAS NOSAS VIDAS SIMBÓLICA CONEXIONISTA • Sistemas de regras lóxicas baseadas en coñecemento experto • Explicables • Resultados consistentes e reproducibles • Redes neuronais configuradas (en base a exemplos, por reforzo...) • Non sempre explicables • Resultados non consistentes, variables
IAS XERATIVAS (XERADORAS DE CONTIDO) Intelixencias Artificiais Xerativas Redes neuronais (IA conexionista) especializadas en producir texto, imaxes, moléculas... Usan LLMs e producen estatisticamente contidos con características semellantes a partir dos incluídos no seu conxunto de adestramento Exemplos coñecidos: ChatGPT (Bing), Bard, Stable Diffusion, Midjourney, DALL-E, BlueWillow, PerplexityAI... Modelos Masivos de Linguaxe (LLMs) Redes neuronais (IA conexionista) con billóns de compoñentes Especializados en predicir a seguinte palabra nunha frase Configurados empregando grandes conxuntos de datos (10 trillóns de palabras)
O LADO ESCURO DAS INTELIXENCIAS ARTIFICIAIS XERATIVAS Esta foto de Autor descoñecido ten licenza de CC BY-NC.
NESGO "Enfoque partidista ou tendencioso co que se trata unha información ou asunto" (RAG)
NESGO "Enfoque partidista ou tendencioso co que se trata unha información ou asunto" (RAG) (Est.) "Error sistemáticono que se pode incurrir cando ao facer mostraxes ou ensaios se seleccionan ou favorecen unhas respostas fronte a outras" (RAE)
O PERIGO DOS NESGOS NAS INTELIXENCIAS ARTIFICIAIS • Nesgos estruturais na sociedade Datos nesgados en orixe • Falta de diversidadenos equiposde desenvolvemento deIA Selección de datos nesgada • Magnificaciónporvolume de uso Nesgos nas respostas • Falsa neutralidadeda tecnoloxía Nesgo de automatización
O PERIGO DOS NESGOS NAS INTELIXENCIAS ARTIFICIAIS • Nesgos estruturais na sociedade Datos nesgados en orixe • Falta de diversidadenos equiposde desenvolvemento deIA Selección de datos nesgada • Magnificaciónporvolume de uso Nesgos nas respostas • Falsa neutralidadeda tecnoloxía Nesgo de automatización
O PERIGO DOS NESGOS NAS INTELIXENCIAS ARTIFICIAIS • Nesgos estruturais na sociedade Datos nesgados en orixe • Falta de diversidadenos equiposde desenvolvemento deIA Selección de datos nesgada • Magnificaciónporvolume de uso Nesgos nas respostas • Falsa neutralidadeda tecnoloxía Nesgo de automatización
O PERIGO DOS NESGOS NAS INTELIXENCIAS ARTIFICIAIS • Nesgos estruturais na sociedade Datos nesgados en orixe • Falta de diversidadenos equiposde desenvolvemento deIA Selección de datos nesgada • Magnificaciónporvolume de uso Nesgos nas respostas • Falsa neutralidadeda tecnoloxía Nesgo de automatización PERPETUACIÓN, REFORZO E MAGNIFICACIÓN DE DESIGUALDADES, FENDAS E INXUSTIZAS
EXPERIENCIA: CHATGPTE AS MULLERES EN STEM
PROMPTS "Son BOA/BO estudante" "Non me gustan as matemáticas" "Gústame axudar á xente" "Son traballadOr/A" "Gústame traballar en grupo" "Gústanme os problemas difíciles" (…)
ANÁLISE DE RESPOSTAS Aspectos: Estudos mencionados Linguaxe utilizada (contido) Lingua da resposta Concordancia co xénero Outros
(1) ESTUDOSMENCIONADOS Titular ChatGPT suxire as mesmas carreiras a mozos e mozas
(1) ESTUDOSMENCIONADOS Titular ChatGPT suxire as mesmas carreiras a mozos e mozas Detalle ChatGPT ofrece o dobre de exemplos concretos ás mozas (moitos no caso das humanidades, con especial profusión na comunicación e as especialidades da medicina), pero todos os dos mozos se refiren a enxeñarías
(2) LINGUAXEUTILIZADA Titular A linguaxe "micromachista" de ChatGPT
(2) LINGUAXEUTILIZADA Titular A linguaxe "micromachista" de ChatGPT Detalle As mozas reciben comentarios que fan alusión aos coidados, e os mozos ao "liderado", "talento creativo" ou "habilidades para persuadir e convencer"
(3) LINGUADA RESPOSTA Titular ChatGPT ten diglosia
(3) LINGUADA RESPOSTA Titular ChatGPT ten diglosia Detalle Só en 3 das 18 sesións respondeu en galego, e ademais as sesións en galego conteñen erros gramaticais e ortográficos
(4) CONCORDANCIADE XÉNERO Titular Nin ChatGPT usa xa o masculino xenérico
(4) CONCORDANCIADE XÉNERO Titular NinChatGPTusaxa o masculinoxenérico Detalle Un terzo das respostas foron neutras, mais no resto, os homes sempre son correctamente genderizados, mentres que en 5 de cada 9 casos as mulleres son tratadas en masculino
(5) OUTROS Titular ChatGPT recomenda contrastar con persoas
(5) OUTROS Titular ChatGPT recomenda contrastarcon persoas Detalle Aos mozos recoméndaselles consultar con profesionais; ás mozas, coa súa familia, profesorado ou conselleiros escolares
CONCLUSIÓNS As IA xerativas teñen un grande potencial de impacto 01 As IAs xerativas conteñen e reproducen nesgos de xénero, magnificándoos no canto de contribuíra superalos 02 ChatGPT reproduce nesgos de xénero, de xeito sutil pero consistente 03
TEMPOPARA EXPERIMENTAR! Abre unha sesión nalgunha IA xerativa que coñezas Deseña un prompt susceptible de revelar nesgos de xénero Pon a proba á IA!
TEMPOPARA EXPERIMENTAR! Abre unha sesión nalgunha IA xerativa que coñezas Deseña un prompt susceptible de revelar nesgos de xénero Pon a proba á IA!
GRAZAS!! LAURAM. CASTRO(LCASTRO@UDC.GAL) "A group of three people, two women and a man, thanking their audience after a short talk"

More Related Content

IAs xerativas e nesgos de xénero

  • 2. O QUESONAS "INTELIXENCIAS ARTIFICIAIS"? Dúas correntes principais (mente vs cerebro): IntelixenciaArtificial SIMBÓLICA IntelixenciaArtificial CONEXIONISTA O termo "IntelixenciaArtificial" usouse por primeira vez en 1956
  • 3. O QUESONAS "INTELIXENCIAS ARTIFICIAIS"? Intelixencia Artificial Simbólica Quere crear representaciónsdo mundo e algoritmos de razoamento Considera que a "intelixencia" é explorar un espazo de posibilidades na procura de respostas Dominante as primeiras décadas, considerábase que orixinaría a "IA xeral"
  • 4. O QUESONAS "INTELIXENCIAS ARTIFICIAIS"? Intelixencia Artificial Conexionista Quere crear sistemas que fisicamente imitan o cerebro humano (neuronas) e algoritmos funcionamento para os seus compoñentes Considera que a "intelixencia" xorde da aprendizaxe Limitada nos seus inicios, en auxe a día de hoxe polas melloras computacionais
  • 5. A INTELIXENCIA ARTIFICIAL NAS NOSAS VIDAS SIMBÓLICA CONEXIONISTA A imaxede Siri ten licenza CC BY-NC-ND. A imaxeda doutora e o paciente ten licenza CC BY-ND. A imaxedo coche ten licenza CC BY-NC. A imaxede Deep Blue ten licenza CC BY-SA. A imaxedo Tesla ten licenza CC BY-SA. A imaxede ChatGPT ten licenza CC BY.
  • 6. A INTELIXENCIA ARTIFICIAL NAS NOSAS VIDAS SIMBÓLICA CONEXIONISTA • Sistemas de regras lóxicas baseadas en coñecemento experto • Explicables • Resultados consistentes e reproducibles • Redes neuronais configuradas (en base a exemplos, por reforzo...) • Non sempre explicables • Resultados non consistentes, variables
  • 7. IAS XERATIVAS (XERADORAS DE CONTIDO) Intelixencias Artificiais Xerativas Redes neuronais (IA conexionista) especializadas en producir texto, imaxes, moléculas... Usan LLMs e producen estatisticamente contidos con características semellantes a partir dos incluídos no seu conxunto de adestramento Exemplos coñecidos: ChatGPT (Bing), Bard, Stable Diffusion, Midjourney, DALL-E, BlueWillow, PerplexityAI... Modelos Masivos de Linguaxe (LLMs) Redes neuronais (IA conexionista) con billóns de compoñentes Especializados en predicir a seguinte palabra nunha frase Configurados empregando grandes conxuntos de datos (10 trillóns de palabras)
  • 8. O LADO ESCURO DAS INTELIXENCIAS ARTIFICIAIS XERATIVAS Esta foto de Autor descoñecido ten licenza de CC BY-NC.
  • 9. NESGO "Enfoque partidista ou tendencioso co que se trata unha información ou asunto" (RAG)
  • 10. NESGO "Enfoque partidista ou tendencioso co que se trata unha información ou asunto" (RAG) (Est.) "Error sistemáticono que se pode incurrir cando ao facer mostraxes ou ensaios se seleccionan ou favorecen unhas respostas fronte a outras" (RAE)
  • 11. O PERIGO DOS NESGOS NAS INTELIXENCIAS ARTIFICIAIS • Nesgos estruturais na sociedade Datos nesgados en orixe • Falta de diversidadenos equiposde desenvolvemento deIA Selección de datos nesgada • Magnificaciónporvolume de uso Nesgos nas respostas • Falsa neutralidadeda tecnoloxía Nesgo de automatización
  • 12. O PERIGO DOS NESGOS NAS INTELIXENCIAS ARTIFICIAIS • Nesgos estruturais na sociedade Datos nesgados en orixe • Falta de diversidadenos equiposde desenvolvemento deIA Selección de datos nesgada • Magnificaciónporvolume de uso Nesgos nas respostas • Falsa neutralidadeda tecnoloxía Nesgo de automatización
  • 13. O PERIGO DOS NESGOS NAS INTELIXENCIAS ARTIFICIAIS • Nesgos estruturais na sociedade Datos nesgados en orixe • Falta de diversidadenos equiposde desenvolvemento deIA Selección de datos nesgada • Magnificaciónporvolume de uso Nesgos nas respostas • Falsa neutralidadeda tecnoloxía Nesgo de automatización
  • 14. O PERIGO DOS NESGOS NAS INTELIXENCIAS ARTIFICIAIS • Nesgos estruturais na sociedade Datos nesgados en orixe • Falta de diversidadenos equiposde desenvolvemento deIA Selección de datos nesgada • Magnificaciónporvolume de uso Nesgos nas respostas • Falsa neutralidadeda tecnoloxía Nesgo de automatización PERPETUACIÓN, REFORZO E MAGNIFICACIÓN DE DESIGUALDADES, FENDAS E INXUSTIZAS
  • 16. PROMPTS "Son BOA/BO estudante" "Non me gustan as matemáticas" "Gústame axudar á xente" "Son traballadOr/A" "Gústame traballar en grupo" "Gústanme os problemas difíciles" (…)
  • 17. ANÁLISE DE RESPOSTAS Aspectos: Estudos mencionados Linguaxe utilizada (contido) Lingua da resposta Concordancia co xénero Outros
  • 18. (1) ESTUDOSMENCIONADOS Titular ChatGPT suxire as mesmas carreiras a mozos e mozas
  • 19. (1) ESTUDOSMENCIONADOS Titular ChatGPT suxire as mesmas carreiras a mozos e mozas Detalle ChatGPT ofrece o dobre de exemplos concretos ás mozas (moitos no caso das humanidades, con especial profusión na comunicación e as especialidades da medicina), pero todos os dos mozos se refiren a enxeñarías
  • 21. (2) LINGUAXEUTILIZADA Titular A linguaxe "micromachista" de ChatGPT Detalle As mozas reciben comentarios que fan alusión aos coidados, e os mozos ao "liderado", "talento creativo" ou "habilidades para persuadir e convencer"
  • 23. (3) LINGUADA RESPOSTA Titular ChatGPT ten diglosia Detalle Só en 3 das 18 sesións respondeu en galego, e ademais as sesións en galego conteñen erros gramaticais e ortográficos
  • 24. (4) CONCORDANCIADE XÉNERO Titular Nin ChatGPT usa xa o masculino xenérico
  • 25. (4) CONCORDANCIADE XÉNERO Titular NinChatGPTusaxa o masculinoxenérico Detalle Un terzo das respostas foron neutras, mais no resto, os homes sempre son correctamente genderizados, mentres que en 5 de cada 9 casos as mulleres son tratadas en masculino
  • 27. (5) OUTROS Titular ChatGPT recomenda contrastarcon persoas Detalle Aos mozos recoméndaselles consultar con profesionais; ás mozas, coa súa familia, profesorado ou conselleiros escolares
  • 28. CONCLUSIÓNS As IA xerativas teñen un grande potencial de impacto 01 As IAs xerativas conteñen e reproducen nesgos de xénero, magnificándoos no canto de contribuíra superalos 02 ChatGPT reproduce nesgos de xénero, de xeito sutil pero consistente 03
  • 29. TEMPOPARA EXPERIMENTAR! Abre unha sesión nalgunha IA xerativa que coñezas Deseña un prompt susceptible de revelar nesgos de xénero Pon a proba á IA!
  • 30. TEMPOPARA EXPERIMENTAR! Abre unha sesión nalgunha IA xerativa que coñezas Deseña un prompt susceptible de revelar nesgos de xénero Pon a proba á IA!
  • 31. GRAZAS!! LAURAM. CASTRO(LCASTRO@UDC.GAL) "A group of three people, two women and a man, thanking their audience after a short talk"