Inteligência artificial generativa: ética e responsabilidade

9 de maio de 2025

Como aproveitar todo o potencial da tecnologia na educação para enriquecer o aprendizado.

Segundo pesquisa global da Unesco, realizada com mais de 450 escolas e universidades, menos de 10% das instituições de ensino têm políticas institucionais e/ou diretrizes formais sobre o uso de aplicações de inteligência artificial generativa, sobretudo por conta da falta de regulamentações nacionais. A tecnologia pode ser uma aliada na educação, ajudando a transformar significativamente o aprendizado, além de oferecer ferramentas criativas e inovadoras para personalização de conteúdo, criação de materiais didáticos e suporte a alunos e professores. No entanto, seu uso também traz desafios éticos que precisam ser considerados com cuidado para garantir uma aplicação responsável.

Por isso, é importante que professores, gestores e demais profissionais que atuam na educação se apropriem do conhecimento sobre a utilização da inteligência artificial no cenário brasileiro, para que tanto alunos quanto educadores possam fazer uso consciente das ferramentas ou mesmo optarem por não as utilizar ao avaliarem as necessidades e potencialidades locais, ainda que o diálogo envolva o contexto global.

Inteligência artificial generativa: como minimizar desafios

Aqui estão alguns pontos centrais para uma abordagem ética e responsável da IAG na educação:

• Privacidade e proteção de dados

É essencial garantir que o processamento de dados seja tratado de forma segura e anônima, respeitando as leis de privacidade, como a LGPD (Lei Geral de Proteção de Dados) no Brasil, para o uso de IAG.

• Equidade no acesso

A tecnologia deve ser utilizada para promover a inclusão, a fim de se evitar a ampliação de desigualdades. O acesso à IAG deve garantir que alunos de diferentes contextos socioeconômicos possam se beneficiar, como, por exemplo, dispositivos e infraestrutura tecnológica adequada.

• Transparência e entendimento

É preciso garantir a transparência em relação ao funcionamento das ferramentas de inteligência artificial generativa. Alunos, pais e educadores precisam entender como os algoritmos funcionam, como são feitas as recomendações e as limitações dessas tecnologias. Isso evita a desinformação, para que todos os envolvidos tenham confiança na sua utilização.

• Prevenção de viés

Para garantir uma abordagem ética no uso das ferramentas de inteligência artificial generativa, é necessário que desenvolvedores e educadores estejam atentos para eliminar vieses que possam levar à discriminação com base em gênero, raça, classe social, entre outros fatores.

• Relação entre humanos e tecnologia

A interação humana continua sendo fundamental no desenvolvimento cognitivo, emocional e social dos alunos. Portanto, a IAG deve ser usada como uma ferramenta complementar à educação, não como um substituto do papel dos professores.

• Responsabilidade social e educativa

As instituições de ensino devem adotar uma abordagem ética ao implementar o uso da IAG, para que sejam priorizados o bem-estar e o desenvolvimento integral de cada aluno. Importante garantir que os estudantes consigam entender o impacto da inteligência artificial em suas vidas e na sociedade, incentivando discussões sobre ética e o uso consciente da tecnologia.

• Desenvolvimento de habilidades críticas

Entre as vantagens, a IAG pode ser usada para desenvolver habilidades de pensamento crítico, criatividade e resolução de problemas, porém, é importante que os alunos sejam incentivados a questionar a confiabilidade das informações geradas por sistemas automatizados e a desenvolver autonomia no aprendizado.

Recentemente, a Unesco (Organização das Nações Unidas para a Educação, a Ciência e a Cultura) disponibilizou o primeiro guia para orientar o uso de ferramentas de inteligência artificial generativa na educação.

Quer saber como a tecnologia está transformando a avaliação escolar? Leia nosso artigo!

Fontes:
https://porvir.org/guia-regulamentacao-uso-inteligencia-artificial/
https://tecnologia.ig.com.br/colunas/jorge-muzy/2024-02-19/desafios-eticos-era-da-inteligencia-artificial-generativa.html
https://unesdoc.unesco.org/ark:/48223/pf0000390241
https://jornal.usp.br/artigos/inteligencia-artificial-na-educacao-vislumbrar-possibilidades-e-minimizar-desafios/