by Laura Silva Maria
Imagem gerada por IA - Chat GPT
A aplicação prática da Inteligência Artificial (IA) na
educação deverá ter um impacto benéfico em todos os seus intervenientes:
professores, aprendentes e famílias. Não obstante, deveremos estar conscientes
dos potenciais riscos e efeitos negativos associados, pondo em causa a ética na
educação, assim como a ética dos dados e, desta forma, comprometendo valores
básicos preconizados na Declaração Universal dos Direitos Humanos
(1948).
Um aspeto prioritário do Plano de Ação para a Educação
Digital (2021-2027), é a necessidade de haver “conteúdos de elevada qualidade,
ferramentas intuitivas e plataformas seguras, respeitando a privacidade e as
normas éticas.” Assim como um “bom conhecimento e compreensão das tecnologias
com utilização intensiva de dados, como a IA.”(Comissão Europeia, 2020).
Como pode a utilização de
ferramentas baseadas em IA generativa ampliar a aprendizagem autónoma e aberta
sem reforçar desigualdades, reduzir a agência do estudante (aprendente) ou
colocar em risco critérios de rigor académico?
A resposta a esta questão carece de uma
contextualização mais generalizada sobre a utilização de sistemas de IA nas
instituições educativas.
Imagem gerada por IA - Chat GPT
Planeamento a nível da instituição sobre a adequabilidade da utilização de IA
A implementação de um sistema de IA numa instituição
educativa deverá partir de uma reflexão cuidada entre os diversos
intervenientes, analisando o contexto educativo e as necessidades, de forma a
que seja tomada uma decisão consciente e ponderada.
Deverão ser avaliados os impactos benéficos na
instituição, nos professores, nos aprendentes e no processo de
ensino-aprendizagem, da mesma forma que terão de ser equacionados os perigos e
os riscos inerentes. A comunicação e colaboração com outras instituições, assim
como a análise de atuais sistemas de IA e de dados pode facilitar a compreensão
da temática. O acompanhamento por um fornecedor de sistema de IA é essencial
para ajudar a controlar o funcionamento do sistema. O perito pode facilitar a
introdução gradual do sistema, permitindo uma monitorização constante e
avaliação dos riscos.
Compreender o que é a IA e a
relação com a ética dos dados na educação
Imagem gerada por IA - Chat GPT
Para uma utilização responsável e consciente da IA, antes de mais, os seus utilizadores terão de compreender o que é a IA, como funciona e qual a sua relação com os dados.
Os dados recolhidos pelos sistemas de inteligência
artificial são disponibilizados por todos nós que navegamos na Internet.
Através da nossa pegada digital vamos fornecendo uma vasta quantidade de dados,
que são utilizados por software “treinado” para reformular a
informação obtida, sendo capaz de criar resultados de acordo com as
solicitações dos humanos.
Na educação, a análise do rastreio dos dados
educativos através da inteligência artificial é benéfica para a compreensão do
estado da arte em determinado contexto educativo e, consequentemente,
desenvolver um planeamento estratégico para dar resposta a determinadas
fragilidades identificadas. Ao contexto escolar acresce a recolha de um
elevado número de dados de professores, alunos e famílias, associados aos
processos administrativos. Assim sendo, a instituição deverá assegurar a
confidencialidade no armazenamento dos dados educativos de modo a garantir a
sua utilização ética de acordo com o Regulamento Geral sobre a Proteção de
Dados (RGPD).
Informação e formação
Para garantir a transparência dos processos inerentes
à implementação de sistemas de IA nas instituições escolares, todos os
intervenientes deverão estar informados. A instituição deve comunicar com
os pais e com os alunos, garantindo o envolvimento de toda a comunidade
escolar. Os professores devem manter-se atualizados, de forma a garantir a
explicabilidade do processo.
Sendo a IA um mundo muito vasto e complexo, os
educadores não deverão sentir-se na obrigação de dominar esta temática na
totalidade e de forma aprofundada. Deverão sim, centrar-se na forma como em
contexto educacional se pode beneficiar da utilização da IA de forma crítica,
segura, inclusiva e ética.
O papel do professor
O professor deverá encarar a IA como uma aliada que o
poderá auxiliar em tarefas como a utilização ética da IA dos dados, atividades
de ensino-aprendizagem promotoras de criatividade e espírito crítico e
atividades de avaliação. A utilização de IA em tarefas administrativas e
automatizadas libertará o professor das mesmas, tendo mais tempo e
disponibilidade para atividades significativas com os alunos.
Diretrizes europeias sobre a
utilização ética de IA na educação
Tendo presente os cuidados prévios a ter com a
implementação de sistemas de IA numa escola, deverão ser tidos em conta as
orientações e normativos europeus sobre a utilização ética da IA na educação.
Os valores e princípios estabelecidos pelo direito internacional reforçam a
necessidade de garantir a dignidade humana em todas as fases do ciclo de vida
dos sistemas de IA e não apenas aquando da sua implementação na escola.
Defendem a inclusão, diversidade, igualdade e bem-estar físico e mental de
todos os intervenientes. Alertam para o perigo de distorções ou vieses que
podem comprometer a justiça e igualdade, podendo resultar em discriminação e
exclusão. Assim sendo, deverão ser tomadas medidas de mitigação de riscos
através de uma monitorização e avaliação contínua dos impactos. A transparência
e explicabilidade ao longo de todo o processo, garante a todos um tratamento
ético e justo dos seus dados pessoais.
As instituições escolares, ao refletirem sobre as
quatro considerações que servem de base à utilização ética da IA - ação humana,
equidade, humanidade e escolha justificada – assim como ao analisarem as
perguntas inerentes aos sete requisitos essenciais para uma IA de confiança
(Comissão Europeia, 2022), asseguram uma utilização adequada da IA na sua
instituição, pelos professores e pelos aprendentes. Assim sendo, estão reunidas
as condições para garantir que os aprendentes utilizem ferramentas
baseadas em IA generativa de forma a ampliar a aprendizagem autónoma e aberta
sem reforçar desigualdades e sem reduzir a sua agência ou colocar em risco
critérios de rigor académico.
Que princípios e práticas deve um
código de boas práticas incluir para usar a IA generativa como instrumento de
estruturação da aprendizagem em contextos de educação aberta e digital,
assegurando transparência e autoria, qualidade académica, inclusão e proteção
dos dados?
Os compromissos a assumir no âmbito deste código
de boas práticas deverão ser direcionados para os diferentes
intervenientes:
Instituição
● Garantir os pré-requisitos para a implementação do sistema, reforçando a
segurança das infraestruturas;
● Monitorizar e avaliar o processo ao longo de todo o ciclo de
implementação;
● Facilitar formação aos professores no âmbito do regulamento de
utilização, literacia e ética da IA;
● Promover ações de informação junto das famílias e comunidade escolar,
garantindo a transparência e explicabilidade do processo;
● Assegurar uma implementação ética da IA e dos dados, respeitando as
normas RGPD.
Professor
● Manter-se informado e frequentar formação que o capacite para a
utilização ética e responsável da IA no processo de ensino e aprendizagem;
● Utilizar recursos de forma ética e responsável respeitando as normas
sobre direito de autor e direitos conexos;
● Respeitar a política de privacidade e segurança dos dados de forma a não
partilhar dados sensíveis;
● Garantir a equidade nas condições de acesso dos aprendentes a
ferramentas de IA.
Aluno/aprendente
● Utilizar as ferramentas de IA generativa de acordo com as indicações do
professor;
● Em caso de utilização de ferramentas de IA identificar a fonte, a data e
a forma como a informação foi utilizada para a realização da tarefa;
● Utilizar as ferramentas de IA de forma ética e crítica no processo de
aprendizagem, respeitando as normas sobre direito de autor e direitos conexos;
● Utilizar
a IA como ponto de partida ou complemento e nunca em substituição do próprio
pensamento crítico e criativo;
● Ter
consciência de que a IA pode conter erros, pelo que a informação deverá ser
sempre confirmada com fontes fidedignas;
● Ter
consciência de que os tutores virtuais são máquinas inteligentes sem sentido
empático.
Reflexões finais
Com o desenvolvimento acelerado da tecnologia, as
potencialidades da inteligência artificial aumentam exponencialmente. Da mesma
forma, os resultados tornam-se mais fiáveis, não só em termos de conteúdos, mas
igualmente no que concerne à ética e proteção de dados, havendo requisitos
obrigatórios para o desenvolvimento de sistemas de IA que asseguram a sua
fiabilidade.
É imprescindível que todos os intervenientes na
educação e formação (professores, formadores, diretores, investigadores), se
mantenham atualizados, de forma a poderem acompanhar o ritmo da evolução e
estarem aptos a capacitar os aprendentes para uma utilização autónoma,
responsável, crítica e ética da inteligência artificial, sem comprometer o
rigor académico.
Consulta
de Chat GPT na procura de Linhas orientadoras para a utilização da
inteligência artificial na Universidade Aberta, para a sua
referenciação APA.
Referências
APA
European Commission. (2022). Ethical guidelines for educators on
using artificial intelligence. European Education Area. https://education.ec.europa.eu/focus-topics/digital-education/action-plan/ethical-guidelines-for-educators-on-using-ai
European
Union. (s.d.). Ethical guidelines on the use of artificial intelligence
(AI) [Vídeo]. EC Audiovisual Service. https://audiovisual.ec.europa.eu/en/video/I-232180?lg=EN&sublg=pt
European
Commission. (2022). Orientações éticas para educadores sobre a
utilização de inteligência artificial (IA) e de dados no ensino e na
aprendizagem (Nr. de catálogo NC-07-22-649-PT-N; ISBN
978-92-76-54204-9) [PDF]. Publications Office of the European Union. https://op.europa.eu/pt/publication-detail/-/publication/d81a0d54-5348-11ed-92ed-01aa75ed71a1/language-pt
European
Commission. (2020). Plano de ação para a educação digital [Página
web]. European Education Area. https://education.ec.europa.eu/pt-pt/focus-topics/digital-education/plan
UNESCO.
(2022). Recomendação sobre a ética da inteligência artificial [Documento
normativo]. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000381137_por
Universidade
Aberta. (2024). Linhas orientadoras para a utilização da inteligência
artificial na Universidade Aberta (Despacho nº 64/R/2024).
Universidade Aberta, Lisboa.
