| CAPÍTULO I – DISPOSIÇÕES PRELIMINARES |
- Retira do alcance da Lei o sistema de inteligência artificial:
- Usado por pessoa natural para fim exclusivamente particular e não econômico.
- Atividades de investigação, pesquisa, testagem e desenvolvimento de sistemas, aplicações ou modelos de IA antes de serem colocados em circulação no mercado ou colocados em serviço, salvo a testagem em condições especiais.
- Aos serviços que se limitem ao provimento de infraestrutura de armazenamento e transporte de dados empregados em sistemas de inteligência artificial.
|
- Prevê que o Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA) regulamentará regimes simplificados, envolvendo flexibilização de obrigações regulatórias, nos seguintes casos:
- Padrões e formatos abertos e livres, com exceção daqueles considerados de alto risco
- Incentivo à inovação e à pesquisa científica e tecnológica no ambiente produtivo, com vistas à capacitação tecnológica, ao alcance da autonomia tecnológica e ao desenvolvimento do sistema produtivo nacional e regional do País;
- Projetos de interesse público, e aos que atendam as prioridades das políticas industrial, de ciência tecnologia e inovação e à solução dos problemas brasileiros.
|
- Altera e inclui dentre os fundamentos de sistema de inteligência artificial no Brasil:
- integridade da informação mediante a proteção e a promoção da confiabilidade, precisão e consistência das informações para o fortalecimento da liberdade de expressão, acesso à informação e dos demais direitos fundamentais;
- proteção de direitos de autor e conexos, de direitos de propriedade intelectual e ao segredo comercial e industrial;
- cooperação internacional para o desenvolvimento e o atendimento a padrões técnicos e a regimes de obrigações nacionais e internacionais.
|
- Altera dispositivos de princípios da boa-fé:
- supervisão e determinação humana efetiva e adequada no ciclo de vida da inteligência artificial, considerando o grau de risco envolvido;
- transparência e explicabilidade, observado o segredo comercial e industrial, considerada a participação de cada agente na cadeia de valor de IA;
|
- Altera as seguintes definições:
- desenvolvedor de sistema de IA: o termo é substituído por “desenvolvedor”.
- discriminação abusiva ou ilícita: para prever que é qualquer ação cujo efeito seja anular ou restringir, de forma abusiva ou ilícita, o exercício de um ou mais direitos ou liberdades.
- avaliação preliminar: processo simplificado de autoavaliação para classificar o grau de risco de sistemas de IA antes de sua utilização ou comercialização, assegurando o cumprimento das obrigações legais.
- integridade da informação: resultado de um ecossistema informacional que garante de acesso a informações confiáveis, diversas e precisas, promovendo a liberdade de expressão.
- autenticação biométrica: verificação da identidade individual por meio de características biométricas comparadas a um modelo previamente armazenado.
- Inclui as seguintes definições:
- introduzir ou colocar em circulação no mercado: disponibilização inicial de sistemas de IA para usuários, de forma paga ou gratuita.
- contexto de uso: utilização específica de como e em que condições o sistema de IA será utilizado.
- risco sistêmico: impactos adversos significativos de sistemas de IA de propósito geral ou generativa sobre direitos fundamentais individuais e sociais.
- Exclui do texto a definição de “encarregado.”
|
| CAPÍTULO II – DOS DIREITOS |
Dos Direitos da Pessoa e Grupos Afetados por Sistema de IA
- Altera a redação de dispositivo sobre os direitos da pessoa e grupos afetados por sistema de IA para suprimir a previsão de informação prévia quanto às interações com sistemas de inteligência artificial. Além disso, prevê que as informações serão fornecidas com uso de ícones ou símbolos uniformizados facilmente reconhecíveis, sem prejuízo de outros formatos
- Exclui o direito da pessoa e grupos afetados à determinação e à participação humana, levando em conta o contexto, o nível de risco do sistema e o estado da arte do desenvolvimento tecnológico.
|
Dos Direitos da Pessoa e Grupos Afetados por Sistema de IA de Alto Risco
- Renomeia a Seção II para dispor sobre os direitos da pessoa e grupos afetados por sistema de ia de alto risco, retirando da redação previsão de direitos às pessoas ou grupos que produzirem efeitos jurídicos relevantes ou de alto risco.
- Acrescenta novo parágrafo ao art. 6º para dispor que os direitos previstos nesta seção serão implementados considerando o estado da arte do desenvolvimento tecnológico, devendo o agente do sistema de IA sempre implementar medidas eficazes e proporcionais.
- Estabelece procedimento para acesso à informação considerando o porte do agente, em especial no caso de micro e pequenas empresas e startups.
|
| CAPÍTULO III – DA CATEGORIA DOS RISCOS |
Avaliação preliminar
- Dispõe que o agente de IA poderá realizar avaliação preliminar para determinar o grau de risco do sistema de IA antes de sua utilização.
- A avaliação, baseada em critérios técnicos e no estado da arte, é considerada uma boa prática e pode trazer benefícios, como tratamento prioritário em processos de conformidade.
- O agente de IA pode solicitar informações a outros agentes para realizar a avaliação, respeitando segredos comerciais e industriais.
- Os resultados da avaliação podem ser usados para demonstrar conformidade com requisitos legais de segurança, transparência e ética.
- Autoridades competentes podem exigir a realização ou acesso a essas avaliações, para fins de avaliação de risco do sistema, preservando informações confidenciais.
|
Alto Risco
- Altera redação para considerar de alto risco o sistema de IA empregado para as seguintes finalidades e contextos de usos:
- aplicação como dispositivos de segurança na gestão e no funcionamento de infraestruturas críticas, desde que não sejam determinantes para o resultado ou decisão, funcionamento ou acesso a serviço essencial;
- sistema de IA utilizadas na educação, a fim de restringir essa categorização a sistemas aplicados como fator determinante na seleção de estudantes ou para avaliação no progresso acadêmico, permitindo usos administrativos.
- curadoria e distribuição automatizada em grande escala de conteúdo por provedores de internet, visando maximizar o tempo de uso e engajamento, pode representar riscos relevantes à liberdade de expressão, acesso à informação e outros direitos fundamentais.
- No entanto, sistemas de IA usados como tecnologia intermediária, sem influenciar decisões ou resultados, ou limitados a tarefas processuais, não são considerados de alto risco.
- Sistemas de IA usados como tecnologia intermediária, sem influenciar decisões ou resultados, ou limitados a tarefas processuais, não são considerados de alto risco.
- Caberá ao SIA identificar novas hipóteses de aplicação de alto risco, considerando alguns critérios.
- Exclui critério de a implementação ser em larga escala, levando em consideração o número estimado de pessoas afetada e a extensão geográfica, bem como a sua duração de frequência de uso.
- Prevê critério de extensão e probabilidade dos riscos do sistema de IA, incluindo as medidas de mitigação adotadas e considerando os benefícios esperados.
- Prevê risco à integridade da liberdade de expressão.
- As autoridades setoriais, no âmbito de suas atribuições, devem:
- estabelecer listas sobre hipóteses classificadas ou não classificadas como de alto risco dentro das finalidades e contextos definidos nesta Lei.
- indicar, em lista, casos de utilização de sistemas ou aplicações de sistemas de IA de alto risco ou não.
- Os distribuidores devem garantir que os sistemas de IA atendam às normas de governança antes de serem comercializados. Autoridades competentes podem credenciar organismos para avaliar e classificar riscos desses sistemas.
- Na classificação de IA de alto risco, devem ser consideradas as consequências jurídicas, assegurar proporcionalidade e equidade, respeitar obstáculos dos agentes de IA e prever transição para cumprimento eficiente, protegendo os direitos das pessoas afetadas.
|
| CAPÍTULO IV – DA GOVERNANÇA DOS SISTEMAS DE INTELIGÊNCIA ARTIFICIAL |
- Altera disposição geral para prever que os agentes de IA deverão garantir a segurança dos sistemas e o atendimento dos direitos de pessoas ou grupos afetados, nos termos do regulamento.
|
Medidas de Governança para Sistemas de Alto Risco
- Passa a dispor que o desenvolvedor de IA de sistemas de alto risco e o aplicador no caso de utilização de alto risco, ao introduzir ou colocar em circulação no mercado, deverão adotar medidas de governança e processos internos.
- Estabelece que caberá às autoridades setoriais definir as hipóteses em que as obrigações estabelecidas em regulamento serão flexibilizadas ou dispensadas, de acordo com o contexto de atuação do agente de IA na cadeia de valor do sistema de IA.
- Os agentes na cadeia de valor de um sistema de IA devem cooperar, compartilhando informações e oferecendo suporte técnico para cumprir as obrigações, respeitando o sigilo comercial.
- As medidas de governança devem ser adequadas à fase do ciclo de vida do sistema em questão. Caso o aplicador ou distribuidor faça modificações substanciais ou altere a finalidade de um sistema de IA, serão considerados desenvolvedores para os efeitos da lei.
- A autoridade competente, em parceria com o CRIA, oferecerá uma biblioteca de softwares para facilitar o cumprimento da obrigação de sinalização, adotando padrões internacionais.
- O uso de conteúdo sintético em obras artísticas, culturais ou de entretenimento poderá ser sinalizado sem comprometer a qualidade da obra, como nos créditos ou metadados, desde que não represente risco de disseminação de informações falsas.
|
Medidas de Governança Aplicadas pelo Poder Público
- Retira da ANPD e prevê que caberá a autoridade competente definir prazo para adequação dos Sistemas de IA de alto risco já implementados pelo poder público quando da publicação da presente Lei.
|
Avaliação de Impacto Algorítmico
- A avaliação de impacto algorítmico de sistemas de IA é responsabilidade do desenvolvedor ou aplicador que introduzir colocar o sistema em circulação, sempre que o sistema ou seu uso for de alto risco, considerando o papel do agente na cadeia.
- Os desenvolvedores de sistemas de IA de alto risco deverão compartilhar com as autoridades competentes e autoridades setoriais as avaliações preliminares e de impacto algorítmico.
- O agente de IA pode solicitar informações aos demais agentes da cadeia, respeitando sigilos industriais, para realizar a avaliação de impacto algorítmico. A avaliação deve ser feita antes da introdução ou circulação do sistema, considerando o contexto específico.
- As autoridades setoriais definirão quando a avaliação poderá ser flexibilizada, levando em conta o contexto e o papel de cada agente, além das normas gerais da autoridade competente.
- Estabelece que os agentes de IA que tiverem conhecimento de risco ou impacto inesperado que apresentem a direitos de pessoas naturais, comunicarão o fato à autoridade competente e aos outros agentes na cadeia para que sejam tomadas todas as medidas cabíveis.
- Caberá à autoridade competente e às autoridades setoriais estabelecer as hipóteses em que a participação pública será necessária.
- A avaliação de impacto algorítmico será realizada em momento anterior à introdução ou colocação em circulação no mercado, bem como consistirá em processo interativo contínuo, executado ao longo de todo o ciclo de vida dos sistemas de IA de alto risco.
|
Medidas de Governança para Sistemas de Inteligência Artificial de Propósito Geral e Generativa
- Prevê que o desenvolvedor de sistema de propósito geral e generativa deverá realizar avaliação preliminar dos sistemas, a fim de identificar os seus respectivos níveis de risco esperados, inclusive potencial risco sistêmico.
- Dispõe que o desenvolvedor deve garantir a descrição do modelo de IA de finalidade geral; documentar os testes e análises realizadas a fim de identifica e gerenciar os riscos razoavelmente previsíveis; e publicar um resumo do conjunto de dados utilizados no treinamento do sistema.
- Os desenvolvedores poderão formular e aderir a códigos de boas práticas para demonstrar conformidade às obrigações estipuladas.
- Os desenvolvedores de sistemas, disponibilizados como recurso para desenvolvimento de serviços para terceiros por meio de APIs ou outras integrações, devem cooperar com os demais agentes de IA durante a prestação do serviço, para mitigar riscos e garantir o cumprimento dos direitos estabelecidos na lei.
|
Da Acreditação, Certificação e Avaliação de Conformidade
- Inclui nova seção para estabelecer que a autoridade competente e as autoridades setoriais podem credenciar organismos de avaliação nacionais ou internacionais especializados em governança de IA para verificar o cumprimento das medidas exigidas.
- Caberá ao SIA definir o período de validade e os requisitos para renovação da acreditação. A avaliação de conformidade deve ser eficiente e compatível com o mercado, sem comprometer a qualidade.
- Critérios gerais para acreditação serão definidos pela autoridade competente, com critérios específicos em conjunto com as autoridades setoriais.
- Um registro público e atualizado dos organismos acreditados será mantido, e estes estarão sujeitos a monitoramento e reavaliações periódicas.
- A avaliação de conformidade poderá ser realizada em diferentes níveis, conforme a complexidade e risco dos sistemas de IA.
- Acordos de cooperação internacional também poderão ser estabelecidos para reconhecer avaliações realizadas em outros países.
|
| CAPÍTULO IX – DA SUPERVISÃO E FISCALIZAÇÃO |
Sistema Nacional de Regulação e Governança de Inteligência Artificial
- Passa a determina que, na qualidade de coordenadora do SIA, cabe à autoridade competente:
- recebimento e tratamento de denúncias anônimas, estabelecendo mecanismos de reserva de identidade do denunciante;
- elaborar relatórios anuais acerca de suas atividades.
- Também competirá às autoridades setoriais celebrar, a qualquer momento, compromisso com agentes de IA para eliminar irregularidade, incerteza jurídica ou situação contenciosa no âmbito de processos administrativos.
|
Das Atribuições e Poderes da Autoridade Competente
- Exclui das atribuições da autoridade competente a possibilidade de determinar ao agente de IA de alto risco que realize auditoria externa e independente. Além do recebimento e tratamento de denuncias anônimas, estabelecendo mecanismos de reserva de identidade ou denunciante.
- Suprime dispositivo que previa que os regulamentos e as normas editadas pela autoridade competente serão precedidos de consulta pública.
|
Das Sanções Administrativas
- Inclui dispositivo para determinas que a autoridade competente e as autoridades setoriais podem realizar investigações conjuntas sobre sistemas de IA de alto risco em casos de suspeita de violação de princípios, direitos e deveres previstos na lei.
- Os órgãos do SIA devem comunicar ao CADE qualquer informação relevante para a aplicação da Lei 12.529/2011 (Sistema Brasileiro de Defesa da Concorrência). O CADE pode, dentro de suas atribuições, ordenar o acesso aos conjuntos de dados de treino, validação e teste de sistemas de IA de alto risco, caso haja indícios de infrações à ordem econômica.
|
| CAPÍTULO X – FOMENTO À INOVAÇÃO SUSTENTÁVEL |
Ambiente regulatório experimental (sandbox regulatório)
- Inclui dispositivo para dispor que o sandbox tecnológico facilita o desenvolvimento, teste e validação de sistemas inovadores de IA por um período limitado antes de sua introdução no mercado, de forma segura.
- Também estabelece que a autoridade competente e as autoridades setoriais podem, individualmente ou em colaboração, suspender a aplicação de normas regulatórias em programas de ambiente regulatório experimental para entidades ou grupos regulados.
- Prevê às Instituições Científicas Tecnológicas e de Inovação (ICTs) públicas e privadas acesso prioritário aos ambientes de testagem.
|
Diretrizes para proteção ao trabalho e aos trabalhadores
- Exclui a previsão de que a autoridade competente, as autoridades setoriais que compõe o SIA e CRIA desenvolvam normativos para definição de políticas públicas.
- Inclui dentre as diretrizes o incentivo à expansão de data centers sustentáveis de alta capacidade para IA no Brasil, e à criação de centros multidisciplinares para pesquisa, desenvolvimento e inovações em IA.
|
Direitos de autor e conexos
- O desenvolvedor de IA que utilizar conteúdo protegido por direitos autorais deve divulgar publicamente, por meio de um sumário em site de fácil acesso ou conforme regulamento, quais conteúdos protegidos foram usados no treinamento dos sistemas de IA.
- Não constitui ofensa aos direitos de autor e conexos a utilização automatizada de conteúdos protegidos, desde que não concorra com a exploração normal das obras e conteúdos protegidos. A regra não se aplica a instituições vinculadas, coligadas ou controladas por entidades com fins lucrativos que forneçam ou operem sistemas de IA ou que tenham participação acionária entre elas.
- Retira a previsão de que a atividades de mineração de textos e dados que envolva dados pessoais estará sujeita à Lei Geral de Proteção de Dados Pessoais.
- A proibição de usar obras e conteúdos protegidos em bases de dados de IA após o treinamento não isenta o agente de IA de responsabilidade por perdas e danos.
- O cálculo da remuneração pela utilização de conteúdos protegidos por direitos autorais aos respectivos titulares deve considerar os princípios da razoabilidade e da proporcionalidade e elementos relevante, tais como:
- a complexidade do sistema de IA desenvolvido,
- o ciclo de realização econômica dos sistemas de IA
- o valor relativo da obra ao longo do tempo
- A utilização de conteúdos de imagem, áudio, voz ou vídeo que retratem ou identifiquem pessoas naturais pelos sistemas de IA deverá respeitar os direitos da personalidade, na forma prevista no Código Civil e na legislação pertinente.
|
| CAPÍTULOS XI – DA ATUAÇÃO DO PODER PÚBLICO |
Disposições Gerais
- Inclui nas diretrizes de a atuação da União, dos Estados, do Distrito Federal e dos Municípios no desenvolvimento da IA no Brasil:
- Promoção de investimentos em inteligência artificial para resolver problemas do Brasil, impulsionando o desenvolvimento e fortalecendo o sistema produtivo nacional e regional, com foco na autonomia tecnológica e competitividade no mercado interno e internacional.
|
| CAPÍTULO XII – DAS DISPOSIÇÕES FINAIS |
- Estabelece que o SIA regulamentará regimes simplificados, flexibilizando obrigações regulatórias para promover o desenvolvimento tecnológico nacional, nos casos de padrões abertos, fomento à inovação e pesquisa, projetos de interesse público, e parcerias público-privadas ou com instituições de ciência e tecnologia.
- O objetivo é capacitar tecnologicamente o país, alcançar autonomia tecnológica e impulsionar o sistema produtivo nacional e regional. O Poder Executivo estabelecerá incentivos econômicos para esses casos.
|
