Lívia Ruback, da Unicamp, durante webinar Armadilhas e vieses no uso de Inteligência Artificial
Em um cenário em que o uso de ferramentas de Inteligência Artificial generativas é cada vez mais comum em todas as áreas, como usar essas ferramentas de forma ética e responsável? Com essa pergunta em mente, especialistas das áreas de educação e tecnologia discorreram sobre as principais armadilhas e vieses no uso da IA e apresentaram algumas soluções para mitigar o problema durante um webinar Armadilhas e vieses no uso de Inteligência Artificial, realizado pela MetaRed TIC Brasil e Semesp, nesta terça, 22.
Mais do que uma ferramenta técnica, a IA generativa não pode e não deve ser utilizada sem supervisão ou definição de políticas institucionais claras. Essa é a conclusão da professora da Faculdade de Tecnologia (FT) da Unicamp, Lívia Ruback, e do pesquisador da Florida Gulf Coast University, localizada nos Estados Unidos, Leandro Nunes.
Para Lívia Ruback, o primeiro passo para um melhor uso da IA de forma geral, inclusive na educação, é entender o que pode dar de errado nos processos de aprendizado das máquinas e quais os seus impactos. “Vários exemplos já mostraram que essas ferramentas podem amplificar preconceitos já existentes na sociedade, como discriminação racial, de gênero ou etária”, apontou a professora da Unicamp.
No caso específico da educação, Lívia Ruback alertou que, se por um lado, a IA permite que as IES forneçam suporte extra para alunos suscetíveis à evasão escolar, por exemplo, por outro, a ferramenta pode afetar a percepção dos educadores em relação ao potencial de determinados estudantes. “Esses cálculos de evasão são feitos a partir de dados das atividades, do comportamento dos alunos e de dados socioeconômicos que podem apresentar falta de representatividade, comprometendo as predições”, citou.
“Eliminar completamente esse problema é uma tarefa muito difícil, mas existem soluções que podem mitigá-lo”, decretou ela. “É preciso aliar soluções computacionais e não computacionais”, explicou. “Utilizar dados de referência balanceados por gênero e raça ajuda esses modelos a aprender de modo a não impactar minorias subrepresentadas”, disse. “O uso de métricas alternativas para avaliar justiça, transparência e explicabilidade dos modelos são outras soluções”, acrescentou.
No caso das soluções não computacionais, Lívia Ruback listou uma regulação mais eficiente, a multidisciplinaridade e mais diversidade e inclusão na área de tecnologia, tanto no ambiente acadêmico como no mercado de trabalho. “Essas abordagens combinadas ajudam a mudar esse cenário discriminatório”, finalizou.
Pesquisa global
Leandro Nunes, da Florida Gulf Coast University, durante webinar Armadilhas e vieses no uso de Inteligência Artificial
O pesquisador Leandro Nunes começou sua fala lançando uma pergunta provocadora: quando a IA faz a tarefa, quem está aprendendo? Em seguida, ele apresentou alguns dos principais uso das ferramentas de Inteligência Artificial generativa na área de educação, listando inclusão e acessibilidade, criação de materiais didáticos, análise de dados, suporte à criatividade, atendimento e acompanhamento de alunos, entre outros.
Ele listou também uma série de aplicações da IA no processo de aprendizagem dos alunos, como apoio à escrita, estudo dirigido, tirar dúvidas em tempo real, planejamento pessoal, redução da ansiedade, entre outras. Nunes apresentou ainda alguns dados da pesquisa Cheggy Global, cujo objetivo foi entender as percepções, experiências e perspectivas de estudantes universitários de todo o mundo em relação a temas como o uso da IA generativa, saúde mental, carreiras, finanças e ensino superior. Foram ouvidos mais de 11 mil estudantes de 15 países, inclusive do Brasil.
“De acordo com os dados da pesquisa, 80% dos estudantes ouvidos usam IA generativa para estudar”, afirmou Leandro Nunes. “29% dos estudantes ouvidos recorrem primeiro para a IA em caso de necessidade de ajuda”, complementou. “Entre os que não usam IA, a maioria alega questões como preocupação com a falta de ética no uso ou erros nas respostas geradas. Restrições na políticas das IES é outro fator apontado pelos estudantes”.
Segundo Nunes, entre as preocupações com o uso da IA generativa na educação, tanto entre IES, estudantes e docentes, estão pontos como plágio, falsificação de competências, homogeneização do pensamento, dependência, falta de fontes e ilusão de aprendizado. “São armadilhas autorais, cognitivas, pedagógicas, institucionais e éticas”, listou ele.
Para finalizar, Nunes apontou oito soluções sugeridas para minimizar essas armadilhas: abordar a ilusão de aprendizado, superar a dependência cognitiva, estabelecer políticas institucionais, promover a transparência algorítmica, prevenir o plágio, manter a autoria, aprofundar pensamento e garantir respostas precisas.
