PL 2338/2023 – Inteligência Artificial | SF: Novas emendas + Pauta do Plenário Externa Caixa de entrada

Esperidião Amin (PP/SC)

Dá nova redação aos arts. 62, 63,e 64

• Dispõe que a utilização de obras protegidas por direitos autorais no desenvolvimento de IA é permitida sob condições específicas: (i) não pode ter como objetivo principal a reprodução ou disseminação da obra original;  (ii) o agente de IA não deve compartilhar a obra, salvo para verificação de resultados ou pesquisas relacionadas; e (iii) o material deve ser acessado legalmente.
• Prevê que o uso de conteúdos protegidos em mineração de textos e dados para pesquisa ou desenvolvimento de IA não configura violação, desde que as cópias sejam mantidas em segurança e usadas pelo tempo estritamente necessário. Mineração envolvendo dados pessoais está sujeita à LGPD.
• Estabelece que os titulares de direitos podem reservar suas obras para impedir mineração de dados por IA, exceto para pesquisa científica, desde que a reserva seja expressa e compreensível para sistemas computacionais. Nesses casos, será necessária autorização prévia para a mineração.

Suprime o art. 65

• Dispõe sobre o uso de imagens, áudios, vozes ou vídeos que identifiquem pessoas por sistemas de IA deve respeitar os direitos da personalidade previstos no Código Civil e na legislação aplicável.

Dá nova redação aos arts. 31 e 41 do substitutivo

• Desenvolvedores de IA generativa devem adotar medidas para identificar, analisar e mitigar riscos antes de disponibilizar o sistema comercialmente. Além disso, agentes de IA devem informar, em prazo razoável, às autoridades competentes sobre incidentes graves de segurança que representem riscos à vida, infraestrutura, propriedade, meio ambiente ou direitos fundamentais.

Exclui o inciso XV do art. 2º, o inciso XXII, do art. 4º, o inciso XIII do art. 14 e o inciso XI do art. 15

Acrescenta o inciso V no art. 58

• Dentre as medidas de fomento, inclui a de garantir a revisão humana em decisões automatizadas que instituem punições disciplinares e dispensa de trabalhadores.

Dá nova redação o inciso XIII do art. 14

• Prevê que Sistemas de inteligência artificial de alto risco incluem aqueles usados para curadoria, difusão, recomendação e distribuição automatizada de conteúdo em larga escala por provedores de internet, visando maximizar o tempo de uso e engajamento, quando apresentarem riscos relevantes à liberdade de expressão, acesso à informação e outros direitos fundamentais.

Acrescenta o inciso XI no art.15

• Prevê que a regulamentação deve adotar como critério o risco à integridade da informação, liberdade de expressão, o processo democrático e ao pluralismo político.

Acrescenta novo artigo ao substitutivo

• Dispõe que o desenvolvedor de IA generativa deve adotar medidas para identificar, analisar e mitigar riscos relacionados a direitos fundamentais, meio ambiente, integridade da informação, liberdade de expressão e acesso à informação antes de comercializar o sistema. Deve também fornecer, quando solicitado em processo administrativo, material que comprove essas medidas.

Acrescenta novo artigo ao substitutivo

• Obras geradas com contribuição criativa humana suficiente por ferramentas de IA são protegidas pela Lei de Direitos Autorais.
• Conteúdos criados exclusivamente por IA, sem contribuição humana significativa, não têm essa proteção.

Insere novo parágrafo ao art. 64, renumerando-se o parágrafo único para § 1º:

• Prevê que os titulares devem poder exercer facilmente o direito previsto no caput deste artigo, para cada obra individualmente e por meios automatizados

Dá nova redação ao inciso II do § 1º do art. 64

• O sandbox deve garantir que a remuneração pela gestão coletiva seja calculada com base nos princípios de razoabilidade e proporcionalidade, considerando fatores como a complexidade do sistema de IA, o porte do agente, o ciclo econômico, o grau de uso dos conteúdos, o valor da obra ao longo do tempo e os efeitos concorrenciais em relação aos conteúdos originais.

Dá nova redação ao § 5º do art. 18

• Dispõe que caso o aplicador ou distribuidor realizem modificação substancial ou estrutural em um sistema de IA, será considerado desenvolvedor para os efeitos desta Lei.

Suprime o §8º do art. 25, do 5º substitutivo

• Estabelece que caberá à autoridade competente e às autoridades setoriais estabelecer as hipóteses em que a participação pública será necessária, assim como as hipóteses em que poderá ser realizada de maneira simplificada, indicando os critérios para esta participação.

Dá nova redação ao art. 15

• Regulamentação e Classificação de Sistemas de IA de Alto Risco deverá considerar se o uso do sistema ou a aplicação envolvem decisões autônomas em contextos críticos, com a possibilidade de intervenção humana para evitar danos; bem como se os benefícios da IA incluem melhorias na segurança, eficiência, inovação e desenvolvimento econômico.
• Não são considerados de alto risco sistemas que não representem riscos significativos à saúde, segurança ou direitos fundamentais, como aqueles usados para tarefas restritas, melhorar atividades humanas, detectar padrões sem substituir avaliações humanas, ou avaliar processos internos para melhorar eficiência ou segurança.

Dá nova redação ao § 4º do art. 63

• Se aplica ao sandbox à mineração de dados, por entidades públicas ou privadas, quando utilizados exclusivamente no contexto de sistemas de inteligência artificial para combate a ilícitos civis e criminais, que atentem contra direitos de autor e conexos.

Dá nova redação a Seção IV do Capítulo IV

• Prevê que a avaliação de impacto algorítmico é uma medida de governança para sistemas de IA de alto risco, com riscos adicionais identificados pelas autoridades setoriais. Para os sistemas que possuem a obrigação de realizar a Avaliação de Impacto Algorítmico, os desenvolvedores devem compartilhar a avaliação com as autoridades competentes, registrando riscos, benefícios, medidas de mitigação e sua efetividade.
• Caberá à autoridade competente e às autoridades setoriais estabelecerem as hipóteses em que a Avaliação poderá ser realizada de maneira simplificada, considerando o tipo de agentes de sistemas de IA.
• A avaliação deve ser realizada antes da introdução do sistema no mercado e atualizada durante seu ciclo de vida, com possíveis simplificações conforme o tipo de agente.

Dá nova redação ao § 3º do art. 18

• Os agentes na cadeia de valor de um sistema de IA devem cooperar, compartilhando informações e assistência necessárias para cumprir as obrigações estabelecidas, respeitando o sigilo industrial e comercial.

Acrescenta o inciso V ao art. 13

• São vedados o desenvolvimento, a implementação e o uso de sistemas de IA que possibilitem a produção, disseminação ou facilitem a criação de material que caracterize ou represente abuso ou exploração sexual de crianças e adolescentes.

Dá nova redação aos arts. 62, 63,e 64

• Estabelece que os desenvolvedores de IA podem utilizar obras protegidas por direitos autorais no desenvolvimento de sistemas, desde que: não seja o objetivo principal reproduzir ou disseminar a obra; não compartilhem cópias com terceiros, exceto para verificação ou pesquisa; e tenham legalmente acessado o material.
• A utilização automatizada de conteúdos protegidos em processos de mineração de textos e dados não viola direitos autorais, desde que mantidas as cópias em segurança e pelo tempo necessário, e se seguir as normas de proteção de dados pessoais.
• O titular dos direitos pode reservar seus direitos para impedir a mineração, exceto para pesquisa científica, sendo necessário obter autorização quando a reserva for válida.

Suprime o art. 65

• Dispõe sobre o uso de imagens, áudios, vozes ou vídeos que identifiquem pessoas por sistemas de IA deve respeitar os direitos da personalidade previstos no Código Civil e na legislação aplicável.

Suprima o Capítulo II

• Trata dos Direitos da Pessoa e Grupos Afetados por Sistema de IA; e daqueles que Produz Efeitos Jurídicos Relevantes ou de Alto Risco

Dá nova redação ao o § 1º do art. 1º

• Prevê que a Lei não se aplica ao sistema de inteligência artificial: (i) utilizado em processos empresariais, comerciais ou industriais internos ou intermediários; (ii) que não se relacionem e não interajam com pessoas naturais; e (iii) que não gerem risco.

Dá nova redação ao§ 3º do art. 50

• Determina que, em caso de sanção relacionada ao tratamento de dados pessoais ou relações de consumo envolvendo IA, as sanções previstas nesta Lei não podem ser aplicadas cumulativamente com as previstas na Lei Geral de Proteção de Dados Pessoais ou no Código de Defesa do Consumidor, quando se referirem às mesmas condutas, devendo prevalecer as disposições desta Lei.

Dá nova redação ao inciso XI do art. 3º

• Inclui dentre os princípios de boa-fé a mitigação de riscos sistêmicos e danos.

Dá nova redação ao inciso XI do art. 3º

• Inclui dentre os princípios de boa-fé: (i) supervisão e determinação humana efetivas e adequadas no ciclo de vida da inteligência artificial, nos casos de alto risco; (ii) diligência devida e auditabilidade ao longo de todo o ciclo de vida do sistema de inteligência artificial, de acordo com o estado da arte do desenvolvimento tecnológico, nos casos de alto risco.

Apresenta emenda substitutiva ao projeto

• Restringe as definições aos termos de IA, consumidor, fornecedor e operador de IA, distingue entre IA supervisionada e não supervisionada, além de dispor sobre sistema de recomendação de conteúdo e sistema de geração de conteúdo.
• Dispõe que o desenvolvimento e o uso da inteligência artificial têm como fundamento o equilíbrio entre o avanço tecnológico e a centralidade da pessoa humana.
• A lei garante que o uso de IA respeite direitos constitucionais, como transparência, explicabilidade das decisões e privacidade. A regulamentação especificará níveis de supervisão conforme os riscos da aplicação e o contexto. O uso de IA não será regulamentado em casos de baixa complexidade ou risco.
• Define responsabilidades de fornecedores e operadores de IA, incluindo danos ao consumidor, e determina que sistemas de IA em recomendação ou geração de conteúdo adotem medidas para evitar danos, proteger menores e garantir transparência.
• A lei também aborda as responsabilidades legais relacionadas ao conteúdo gerado por IA e entra em vigor 45 dias após sua publicação.

Altera a redação dos incisos XIV e XVI do art. 4º

• Pessoa ou grupo afetado: pessoa natural ou grupo que sofram graves prejuízos em decorrência direta de um SIA.
• Avaliação de impacto algorítmico: processo de análise dos efeitos da implementação e uso de sistemas de IA, avaliando impactos sobre direitos fundamentais, desenvolvimento tecnológico, inovação, benefícios socioeconômicos e políticas públicas. A avaliação define o grau de risco da aplicação, considerando impactos positivos e negativos, propondo, quando necessário, medidas para mitigar os efeitos negativos e potencializar os positivos.

Suprime o inciso XI do art. 3º

• Exclui dentre os princípios de boa-fé a não maleficência e proporcionalidade entre os métodos empregados e as finalidades determinadas e legítimas do sistema de inteligência artificia.

Dá nova redação ao § 3º do art. 5º

• Prevê que pessoas afetadas por sistemas de Inteligência Artificial não abrangidos por esta Lei podem solicitar o exercício dos direitos listados neste artigo ao responsável pela aplicação do sistema.