CNE define o que pode e o que não pode no uso de IA por escolas e universidades

O Conselho Nacional de Educação (CNE) aprovou nesta terça-feira (1º) diretrizes para o uso de inteligência artificial (IA) na educação. Entre outros pontos, as normas estabelecem níveis de risco para a utilização da tecnologia em diferentes atividades educacionais. Agora, o documento segue para homologação do Ministério da Educação (MEC).O CNE elaborou uma escala de risco para orientar escolas e universidades no uso da inteligência artificial. Os níveis variam de “baixo risco” até “risco excessivo ou incompatível com as finalidades educacionais”, a depender da aplicação. As redes de ensino terão até 12 meses para se adequar às normas após a homologação do texto.A intenção do conselho é orientar gestores e instituições para um uso responsável dessas ferramentas, sem prejuízos aos estudantes.Veja abaixo as atividades vinculadas a cada nível de risco:Os usos considerados de baixo risco são, em geral, aqueles relacionados ao planejamento e à organização, sem impacto direto em avaliações ou decisões acadêmicas. Entre eles:organização de materiais didáticos;apoio à acessibilidade;revisão textual sem finalidade avaliativa;ferramentas auxiliares de planejamento;sistemas sem perfilização individual significativa.O CNE classificou como risco moderado os usos que promovem algum nível de interação com os estudantes. Nessa categoria estão mecanismos de apoio à aprendizagem, produção de conteúdo e fornecimento de feedback. Nesses casos, é obrigatória a revisão humana e o monitoramento frequente.sistemas de tutoria;ferramentas de feedback formativo;assistentes institucionais;apoio à produção textual;mecanismos de recomendação acadêmica sem efeito decisório automático.Foram classificadas como atividades de alto risco aquelas que podem impactar a vida acadêmica dos estudantes ou restringir direitos, como processos de seleção automatizada. A resolução também inclui aplicações que envolvam tratamento de dados sensíveis.sistemas de correção automatizada de avaliações com repercussão acadêmica;“proctoring biométrico”, ferramenta que utiliza IA para verificar características físicas dos estudantes em tempo real;perfilização acadêmica individualizada;sistemas relacionados à seleção, certificação, concessão de benefícios ou análise disciplinar;aplicações que envolvam tratamento de dados pessoais sensíveis ou inferências comportamentais relevantes.“O juízo avaliativo é do professor, ele não pode ser substituído pela IA. São decisões que afetam o futuro do estudante e tem que haver mediação humana”, afirmou o relator do texto, Celso Niskier.O grau mais alto de alerta, definido pelo CNE como risco excessivo ou incompatível com as finalidades educacionais, inclui atividades que, segundo o colegiado, podem ser discriminatórias e resultar em violações de direitos dos estudantes.Nessa categoria, o conselho inclui:sistemas de pontuação social;vigilância emocional;exploração de vulnerabilidades de estudantes;perfilização psicológica ou biométrica para fins classificatórios ou disciplinares;decisões exclusivamente automatizadas com efeitos relevantes sobre promoção, retenção, certificação, permanência, concessão de benefícios ou desligamento.Para evitar esses riscos, o parecer destaca a importância da atuação dos professores em todo o processo de uso da inteligência artificial nas escolas e universidades. As diretrizes ressaltam a necessidade de protagonismo pedagógico dos docentes na adoção dessas ferramentas.Após a aprovação, o presidente do CNE, Cesar Callegari, afirmou que a medida representa um marco para a educação e exigirá engajamento dos sistemas de ensino.“É um material de grande importância pela complexidade do tema tratado, transformando um assunto de alta complexidade em algo bastante didático. É um avanço importante. Estamos em um momento em que nunca foi tão importante compreender o nosso próprio processo de pensamento. A interação com a máquina, com a ferramenta, exige um passo muito mais ousado”, disse.The post CNE define o que pode e o que não pode no uso de IA por escolas e universidades appeared first on InfoMoney.