Regulamento para a Inteligência Artificial aprovado no Parlamento Europeu

Proposto pela Comissão Europeia em abril de 2021, e tendo recebido o acordo político em dezembro de 2023, o Regulamento para a IA foi finalmente aprovado pelo Parlamento Europeu no dia 13 de março de 2024.

O âmbito da lei agora aprovada é vasto, cobrindo desde programas que filtram emails indesejados (spam), a sistemas utilizados no diagnóstico de doenças ou na gestão das redes energéticas. Abrange ainda plataformas como o ChatGPT, que utilizam modelos treinados com enormes quantidades de dados recolhidos automaticamente da Internet para replicar atividades humanas, como produzir texto, código informático ou ilustrações.

O Regulamento oferece uma classificação para os sistemas de IA com diferentes requisitos e obrigações adaptados a uma "abordagem baseada no risco". Alguns sistemas de IA que apresentam riscos "inaceitáveis" são proibidos. Uma vasta gama de sistemas de IA de "alto risco" que podem ter um impacto negativo na saúde e na segurança das pessoas ou nos seus direitos fundamentais são autorizados, mas sujeitos a um conjunto de requisitos e obrigações para aceder ao mercado da EU. Neste contexto, são proibidos sistemas que usam reconhecimento facial para seguir e identificar pessoas em tempo real e programas que classificam indivíduos, colocando-os em categorias específicas.

O novo Gabinete para a IA (AI Office), que foi anunciado em fevereiro, será o centro dos conhecimentos especializados em IA em toda a União Europeia e desempenhará um papel fundamental na aplicação da nova lei.

Proposta de Regulamento do Parlamento Europeu e do Conselho 

QUE ESTABELECE REGRAS HARMONIZADAS EM MATÉRIA DE INTELIGÊNCIA ARTIFICIAL (REGULAMENTO INTELIGÊNCIA ARTIFICIAL) E ALTERA DETERMINADOS ATOS LEGISLATIVOS DA UNIÃO

Regulamento dos Serviços Digitais em síntese – Medidas para proteger as crianças e jovens online

Para ajudar as crianças e jovens a compreender melhor os seus direitos online, foi publicada uma versão síntese do “Regulamento dos Serviços Digitais em síntese – Medidas para proteger as crianças e jovens online”.

O Regulamento dos Serviços Digitais (Digital Services ACT) é uma legislação da União Europeia que estabelece regras para os serviços digitais, com o objetivo de criar um ambiente online mais seguro para todos os utilizadores, especialmente para as crianças e jovens.

Destaque-se que esta regulamentação dos serviços digitais tem sido amplamente debatida e incluído os jovens europeus nesse debate. Um exemplo disso foi a conferência Safer Internet Forum 2023, que reuniu decisores políticos, investigadores, representantes da indústria, a rede dos Centros de Internet Segura, durante a qual a Comissão Europeia e a European School Net promoveram diversas reuniões de trabalho e definiram um grupo de foco que inclui jovens de alguns países, no qual Portugal também está representado.

Assista ao vídeo, onde o embaixador europeu do programa Better Internet for Kids e Líder Digital, João Lopes, explica o que é o Digital Services ACT para ficarmos a conhecer melhor este regulamento.

As implicações do uso de tecnologias de IA generativa na educação e no desenvolvimento infantil

O documento "O que pais e educadores precisam de saber sobre aplicações suportadas por Inteligência Artificial" da SEGURANET aborda de forma abrangente as implicações do uso de tecnologias de IA generativa na educação e no desenvolvimento infantil. A análise crítica deste documento considerará os pontos positivos, negativos, aplicações práticas e a relevância do conteúdo apresentado.

O que pais e educadores precisam de saber sobre aplicações suportadas por Inteligência Artificial

A tecnologia “não compete” pelo lugar dos professores

 

A garantia é do diretor de Educação do grupo Inspired Education, que assegura ao JE que as salas de aula vão continuar a precisar de um professor. As tecnologias trazem muitas vantagens, reconhece, mas as crianças precisam do “toque pessoal” que só os professores podem dar.

...

De acordo com Mark Snell, a tecnologia desempenha hoje um papel “muito importante” no sistema educativo, mas esta “deve ser usada de forma correta”. Com ferramentas que vão desde os óculos de Realidade Virtual até à Inteligência Artificial (IA), o leque de possibilidades é hoje muito vasto, mas o profissional do sector garante que “as bases não mudaram e não vão mudar”, quando questionado sobre o que antevê para os próximos 20 anos.

Mark Snell: A tecnologia “não compete” pelo lugar dos professores

O ChatGPT também tem opinião sobre a reformulação dos ciclos de escolaridade

"Unificar o 1º com o 2º Ciclo do Ensino Básico pode ter várias vantagens e desvantagens.

Vantagens:

1. Maior continuidade no processo de aprendizagem dos alunos, facilitando a transição entre os ciclos.
2. Possibilidade de personalização do processo educativo, adaptando-o às necessidades individuais de cada aluno.
3. Integração de diferentes disciplinas e áreas de conhecimento, promovendo uma abordagem mais holística no ensino.
4. Maior flexibilidade na organização do currículo, permitindo uma maior diversidade de atividades e projetos multidisciplinares.
5. Melhor aproveitamento dos recursos educativos, como espaço físico, materiais e professores, que podem ser compartilhados entre os dois ciclos.

Desvantagens:

1. Diferenças de desenvolvimento e maturidade entre os alunos do 1º e 2º Ciclo, que podem dificultar a adaptação ao novo sistema.
2. Possível sobrecarga de trabalho para os professores, que terão que lidar com alunos de idades e níveis de aprendizagem diferentes.
3. Risco de despersonalização do ensino, com a perda da atenção às necessidades individuais dos alunos.
4. Dificuldade de articulação entre os diferentes níveis de ensino, podendo afetar a coerência e sequencialidade do currículo.
5. Possíveis resistências por parte dos professores e da comunidade educativa, que podem não estar preparados para uma mudança tão significativa no sistema de ensino.

Em resumo, a unificação dos dois ciclos do Ensino Básico pode trazer benefícios em termos de continuidade, personalização e diversificação do ensino, mas também apresenta desafios em relação à adaptação dos alunos e professores, articulação curricular e gestão dos recursos educativos. É importante analisar cuidadosamente as vantagens e desvantagens antes de implementar essa mudança no sistema educativo."

Inteligência Artificial Responsável na Educação - Desafio Éticos e Oportunidades

Numa realidade social e educativa em constante evolução, a presença e a influência dos sistemas de Inteligência Artificial (IA) tornam-se cada vez mais proeminentes. Este documento, "Inteligência Artificial Responsável na Educação - Desafios Éticos e Oportunidades", e que surge no seguimento do documento “Inteligência Artificial Responsável na Educação - Um Compromisso de Excelência” explora as considerações éticas sobre a integração da IA neste campo crucial. Desde o reconhecimento facial até a os algoritmos de aprovação, refletiremos sobre as diferentes facetas da IA que poderão moldar a nossa realidade.

Exploraremos diversas áreas de pesquisa em ética na IA, oferecendo uma visão abrangente e prática de como a tecnologia está a ser utilizada na Educação. Para cada área, destacaremos uma tecnologia ou setor específico que incorpora a IA com a partilha de exemplos concretos de casos de utilização.

Este documento,elaborado com o suporte do curso code.org “AI Research Areas”,servirá como um guia essencial não apenas para compreender o papel crucial da IA na Educação, mas também para ajudar os professores a perceberem a realidade da IA para além do contexto educacional. Assim é nosso compromisso aprofundar o conhecimento e fornecer um ponto de partida robusto para explorar a realidade da IA

Inteligência Artificial Responsável na Educação - Desafio Éticos e Oportunidades

Inteligência Artificial Responsável na Educação - Um Compromisso de Excelência

Regulamento dos Serviços Digitais (RSD) e Orientações éticas sobre a utilização da Inteligência Artificial de dados

Medidas para proteger as crianças e os jovens em linha

Metadados da publicação

Pergunta-se como é que a UE o protege na Internet? As novas regras introduzidas no Regulamento dos Serviços Digitais (RSD) visam criar um mundo em linha mais justo e mais seguro. Procuram reduzir o volume de conteúdos e produtos ilegais disponíveis, combater os riscos a que as crianças e os jovens estão sujeitos, como a ciberintimidação, e simplificar as condições gerais. 

Esta brochura explica, de maneira simples, o que o RSD estabeleceu para proteger as crianças e os jovens com menos de 18 anos.

Regulamento dos Serviços Digitais (RSD) em síntese

Orientações éticas para educadores sobre a utilização da inteligência artificial (IA) e de dados no ensino e na aprendizagem

Sabia que a IA na educação já não é uma realidade distante? De facto já utilizamos a IA, por exemplo, para aprender línguas estrangeiras ou para executar tarefas diferenciadas em contextos de ensino e aprendizagem personalizados. A IA oferece claramente um grande potencial na educação, mas precisa de uma análise de impacto aprofundada e pode suscitar considerações éticas.

Estas orientações apresentam alguns exemplos concretos e casos de utilização genéricos, identificam considerações e requisitos éticos e destacam as competências emergentes e os termos ou técnicas essenciais a desenvolver no domínio da educação.

Pode utilizar as orientações com os alunos na sala de aula, incentivar os professores a utilizá-las e os pais a consultá-las e a divulgarem que a IA na educação já chegou!

Orientações éticas para educadores sobre a utilização da inteligência artificial (IA) e de dados no ensino e na aprendizagem

Vídeo para promover o lançamento das Diretrizes Éticas sobre o uso de inteligência artificial (IA) e dados no ensino e aprendizagem para Educadores.

Suplemento de IA ao Quadro Europeu de Competência Digital para Educadores (DigCompEDU)

O projeto europeu Pioneiros da IA na Educação e Formação acaba de lançar o Suplemento de IA ao Quadro Europeu de Competência Digital para Educadores (DigCompEDU), que descreve as aptidões e competências dos professores e formadores relacionados com Inteligência Artificial (IA) na Educação.

O suplemento IA na Educação agora criado procura completar e aperfeiçoar o atual quadro DigCompEdu da União Europeia, integrando competências críticas relacionadas com IA na educação, reconhecendo que a IA está a transformar rapidamente os processos de ensino e aprendizagem e que os educadores e formadores têm de estar equipados com competências para compreender, avaliar e utilizar as tecnologias de IA de forma eficaz e responsável.

O documento integra as competências de IA nas seis áreas-chave: Envolvimento Profissional, Recursos Digitais, Ensino e Aprendizagem, Avaliação, Capacitação dos estudantes e Promoção da Competência Digital dos estudantes. São exploradas aplicações de IA, oferecidas atividades para o desenvolvimento de competências, sugeridos níveis de progressão de competências, identificando possíveis desafios e fornecendo estratégias para os ultrapassar. As principais competências de IA destacadas incluem a literacia de dados, o pensamento computacional, a conceção de programas curriculares baseados em IA, a utilização ética da IA e a preparação dos estudantes para um futuro dominado pela IA.

Suplemento ao Quadro DigCompEdu - Definição das Aptidões e Competências dos Educadores em Matéria de IA na Educação 

Explorando a Inteligência Artificial: Práticas educativas para o 1.º Ciclo do Ensino Básico

A Inteligência Artificial (IA) é uma temática emergente na sociedade atual. É um campo em permanente evolução, ao mesmo tempo fascinante e inquietante, na medida em que a sua evolução é geradora de futuro. A Educação de hoje requer o desenvolvimento de competências, relacionadas com a IA, desde a escolaridade básica. Preparar os alunos para viver num mundo incerto, implica repensar o modelo de escola e uma aposta na inovação das práticas pedagógicas.

Explorando a Inteligência Artificial: Práticas educativas para o 1.º Ciclo do Ensino Básico

União Europeia terá a primeira lei sobre inteligência artificial

A lei da IA é uma iniciativa legislativa emblemática com potencial para promover o desenvolvimento e a adoção de IA segura e fiável em todo o mercado único da UE por intervenientes privados e públicos. A ideia principal é regular a IA com base na capacidade desta última de causar danos à sociedade seguindo uma abordagem "baseada no risco": quanto maior o risco, mais rígidas são as regras. Como a primeira proposta legislativa desse tipo no mundo, ela pode estabelecer um padrão global para a regulação de IA em outras jurisdições, assim como o GDPR fez, promovendo assim a abordagem europeia para a regulação de tecnologia no cenário mundial.

Principais elementos do acordo provisório

Em comparação com a proposta inicial da Comissão, os principais novos elementos do acordo provisório podem ser resumidos do seguinte modo:

• regras sobre modelos de IA de uso geral de alto impacto que podem causar risco sistêmico no futuro, bem como sobre sistemas de IA de alto risco
• um sistema revisto de governação com alguns poderes de execução a nível da UE
• alargamento da lista de proibições, mas com a possibilidade de utilização da identificação biométrica à distância pelas autoridades policiais em espaços públicos, sob reserva de salvaguardas
• uma melhor proteção dos direitos através da obrigação de os implementadores de sistemas de IA de alto risco realizarem uma avaliação de impacto dos direitos fundamentais antes de colocarem um sistema de IA em utilização.

Lei de inteligência artificial: Conselho e Parlamento fecham acordo sobre as primeiras regras para IA no mundo

Reimaginar a Escola na era da Inteligência Artificial

Na chamada Era da Inteligência Artificial, a proposta a ser discutida é reimaginar a escola hoje e estabelecer imediatamente os caminhos de sua mudança, para que se construa um futuro também específico e coletivamente elaborado, que tenha como fundamentos a justiça social e o bem comum.

A mudança do paradigma do ensino rumo ao paradigma da aprendizagem pede a reformulação dos problemas e soluções modelares relacionados à ação da escola, para que as realizações científicas reconhecidas estejam alinhadas às demandas da Sociedade da Informação. 

Incluem-se nessa revolução científica os professores, gestores, equipes administrativas, políticos e tecnocratas formuladores de políticas públicas, pesquisadores, formadores de docentes, estudantes e demais comunidades comprometidas com o locus educacional. 

 Em tempos de convergência digital, as pessoas aprendem, de formas diferentes, a onipresença das telas no cotidiano; e a atenção crescente dada aos conteúdos e interações, que aquelas proporcionam, mudam a maneira como o cérebro percebe e processa a informação

Nesse contexto, é plausível imaginar que o advento da internet, das redes sociais, dos games e as mudanças na indústria do entretenimento, geradas pela convergência digital, impactem o aprender, tanto com efeitos positivos quanto negativos. Todas essas tecnologias passam a ser diretamente transformadas com a chegada da Inteligência Artificial Generativa.

A INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO, DESAFIOS DA REGULAÇÃO

Que género de impacto têm já as novas tecnologias e a inteligência artificial nas nossas sociedades?

"Hoje vivemos mesmo numa segunda era da idade digital"

"A inteligência artificial está a passar de uma ferramenta de análise de dados e previsões para uma IA generativa, em que geram novos conteúdos, novas ideias, novas escritas, novos vídeos, novas fotos".

Don Tapscott é co-fundador e presidente executivo do Blockchain Research Institute e professor adjunto do INSEAD e Chanceler Emérito da Trent University, em Ontário, onde serviu como Chanceler entre 2013 e 2019. Este especialista canadiano descreve o que designa de «segunda era da Idade Digital», e o papel do Blockchain nela. Fala também sobre o potencial de uma Web 3.0, na qual poderemos possuir e monetizar os nossos próprios dados. O escritor analisa o atual estado de evolução da inteligência artificial como uma forma de IA generativa, bem como impacto da internet e da tecnologia moderna nas nossas sociedades.

Medindo riscos e ameaças, Tapscott defende a necessidade de um «contrato social» para a era digital, numa conversa que vale a pena ouvir.

A inteligência artificial na educação: ameaças e oportunidades para o ensino-aprendizagem

As ferramentas de inteligência artificial generativa (como o ChatGPT, Bard, DALL-E) têm vindo a proliferar nos últimos tempos gerando textos, código, imagens, fotografias ou outro tipo de conteúdos com uma precisão assinalável. Este evento procurou abrir um espaço de discussão que proporcionasse alguma reflexão sobre esta nova realidade e discutisse o impacto que estas novas plataformas de Inteligência Artificial (IA) terão nos modelos educativos atuais. Importa também perceber de que forma se deve posicionar o ensino perante a proliferação deste tipo de ferramentas de IA e quais as implicações desta nova realidade do ponto de vista pedagógico.

A Inteligência Artificial na Educação - Ameaças e oportunidades para o processo ensino-aprendizagem

Aprendizagem com Inteligência Artificial

O mais recente relatório do Conselho da Europa sobre a relação entre a Inteligência Artificial e a Educação (IA&ED), ARTIFICIAL INTELLIGENCE AND EDUCATION A critical view through the lens of human rights, democracy and the rule of law, devido à reconhecida e amplamente promovida intrusão da primeira face à segunda, vem requerer vigilância, cautela, apelando ao “superior interesse do aluno”.

Uma abordagem sobre a aprendizagem com Inteligência Artificial disponível, em dois excelentes artigos, disponíveis no blogue da RBE. 

As ligações entre a Inteligência Artificial e a Educação (IA&ED)

Desafios-chave para a Inteligência Artificial na Educação