O Senado aprovou na ter\u00e7a-feira (10) o projeto que regulamenta a intelig\u00eancia artificial (IA) no Brasil. A mat\u00e9ria segue agora para a an\u00e1lise da C\u00e2mara dos Deputados. O texto se apresenta como um marco regulat\u00f3rio com regras para o desenvolvimento e o uso de sistemas de IA. Entre os dispositivos est\u00e1 um que prev\u00ea a prote\u00e7\u00e3o dos direitos dos criadores de conte\u00fado e obras art\u00edsticas.\u00a0A vota\u00e7\u00e3o foi conduzida pelo senador Weverton (PDT-MA).
O texto aprovado nesta ter\u00e7a-feira \u00e9 um substitutivo do senador Eduardo Gomes (PL-TO) que tem como base o\u00a0PL 2.338\/2023, projeto de lei apresentado por Rodrigo Pacheco, presidente do Senado. E esse projeto, por sua vez, surgiu a partir de um anteprojeto elaborado por uma comiss\u00e3o de juristas.
O substitutivo tamb\u00e9m engloba dispositivos sugeridos em outras sete propostas \u2014 inclusive no\u00a0PL 21\/2020, j\u00e1 aprovado pela C\u00e2mara dos Deputados \u2014 e em dezenas de emendas de diversos senadores.
Antes de chegar ao Plen\u00e1rio do Senado, a mat\u00e9ria tramitou na comiss\u00e3o tempor\u00e1ria sobre o tema, onde foram realizadas 14 audi\u00eancias p\u00fablicas com a participa\u00e7\u00e3o da sociedade civil e de diversos setores (tanto da iniciativa p\u00fablica como privada), al\u00e9m de especialistas em tecnologia e inova\u00e7\u00e3o.
A vers\u00e3o aprovada nesta ter\u00e7a-feira manteve fora da lista de sistemas considerados de alto risco os algoritmos\u00a0das redes sociais \u2014 decis\u00e3o que atendeu a pedidos dos senadores oposicionistas\u00a0Marcos Rog\u00e9rio (PL-RO), Izalci Lucas (PL-DF) e Mecias de Jesus (Republicanos-RR)\u00a0e que provocou o lamento de alguns parlamentares governistas.
Por outro lado, o texto atendeu a uma demanda dos senadores governistas ao manter o dispositivo que prev\u00ea a prote\u00e7\u00e3o dos direitos dos criadores de conte\u00fado e obras art\u00edsticas. Esses foram dois pontos que geraram maior dificuldade de entendimento entre os dois blocos.
O senador Carlos Viana (Podemos-MG), que foi o presidente da comiss\u00e3o tempor\u00e1ria, considerou o texto aprovado como um resultado do consenso, dentro do que foi poss\u00edvel, e avaliou que a proposta traz avan\u00e7os, sobretudo ao colocar o ser humano como o princ\u00edpio \u201cde todas as coisas\u201d, na centralidade das decis\u00f5es.\u00a0Ele ainda enfatizou que o substitutivo n\u00e3o faz qualquer men\u00e7\u00e3o a trechos que possam ser percebidos como possibilidade de censura em redes sociais. No entanto, Viana ressaltou que a proposta atribuiu responsabilidades aos sistemas que desenvolvem intelig\u00eancia artificial sobre as ferramentas a serem disponibilizadas \u00e0 sociedade brasileira.
\u2014 Foi um relat\u00f3rio em que n\u00f3s conseguimos chegar a um consenso quanto \u00e0 maior parte das coloca\u00e7\u00f5es trazidas pelos senadores e pelas senadoras. E\u00a0 [buscamos garantir] o respeito ao ser humano; o princ\u00edpio da privacidade. A possibilidade de que uma pessoa, quando v\u00edtima de uma determinada tecnologia, ela automaticamente tenha acesso para entender de onde isso veio, como aconteceu e, principalmente, possa se defender daquilo que est\u00e1 sendo colocado. E ali n\u00e3o h\u00e1 uma linha sobre censura ao que se escreve em rede social. As pessoas s\u00e3o livres para colocar a sua opini\u00e3o, as suas ideias, as suas propostas. O projeto n\u00e3o tira absolutamente qualquer liberdade de grupos se manifestarem em rede social.
Emendas
Relator da mat\u00e9ria, Eduardo Gomes acatou duas emendas sugeridas pelo senador Esperidi\u00e3o Amin (PP-SC). Uma delas busca evitar v\u00edcio de iniciativa quanto ao Sistema Nacional de Regula\u00e7\u00e3o e Governan\u00e7a de Intelig\u00eancia Artificial (SIA) \u2014 que dever\u00e1 ser criado para fiscalizar o cumprimento das regras a serem seguidas pelos desenvolvedores de tecnologia. O SIA, de acordo com o texto, ser\u00e1 coordenado pela Autoridade Nacional de Prote\u00e7\u00e3o de Dados (ANPD). A emenda torna a cria\u00e7\u00e3o do \u00f3rg\u00e3o autorizativa, j\u00e1 que \u00e9 fun\u00e7\u00e3o privativa do presidente da Rep\u00fablica criar entidades ou conselhos.
A outra emenda de Esperidi\u00e3o Amin recomenda que a SIA leve em considera\u00e7\u00e3o requisitos, que podem ser adotadas ou n\u00e3o pelo \u00f3rg\u00e3o, sobre sistemas que possam ser identificados como n\u00e3o sendo de alto risco e que possam ser considerados, inclusive, para oferecer agilidade aos servi\u00e7os prestados pelos \u00f3rg\u00e3os p\u00fablicos. A inten\u00e7\u00e3o, segundo o senador de Santa Catarina, \u00e9 deixar claro o que \u00e9 legal e permitido.\u00a0
\u00a0\u2014 Isso aqui n\u00e3o \u00e9 restritivo; isso aqui ajuda a delinear o que \u00e9 alto risco, que sempre ser\u00e1 subjetivo. N\u00f3s estamos complementando com balizas\u00a0 \u2014 disse Esperidi\u00e3o Amin.
De acordo com tais requisitos, n\u00e3o seriam de alto risco, por exemplo, os sistemas destinados a desempenhar uma tarefa processual restrita; a melhorar o resultado de uma atividade humana que \u00e9 realizada sem o uso da intelig\u00eancia artificial; a detectar padr\u00f5es de tomada de decis\u00f5es ou desvios em rela\u00e7\u00e3o a padr\u00f5es de tomada de decis\u00e3o; a executar uma tarefa preparat\u00f3ria no contexto de uma avalia\u00e7\u00e3o.\u00a0
Eduardo Gomes, ao classificar o substitutivo como o \u201ctexto poss\u00edvel\u201d e que esse \u00e9 um primeiro passo, considerando que o assunto demanda constante atualiza\u00e7\u00e3o legislativa, disse que a constru\u00e7\u00e3o coletiva da proposta possibilitou um texto que mant\u00e9m a liberdade de express\u00e3o no pa\u00eds, mas que tamb\u00e9m permite o desenvolvimento de sistemas que estimulem a competitividade e o ambiente de neg\u00f3cios.\u00a0
\u2014 Esse projeto n\u00e3o \u00e9 de esquerda, n\u00e3o \u00e9 de direita. \u00c9 da humanidade. Precisa manter os direitos de debate no sistema bicameral, indo \u00e0 C\u00e2mara e voltando para um novo debate no Senado. E n\u00f3s estamos cumprindo com a nossa obriga\u00e7\u00e3o, principalmente, de garantir os direitos autorais, que ficam vinculado aos artistas, \u00e0queles que fazem a arte, mas s\u00e3o igualmente necess\u00e1rios para os profissionais liberais, para a comunidade acad\u00eamica (\u2026). Os advogados, os m\u00e9dicos, toda a sociedade que precisa entender que qualquer uso de material que produz e que, principalmente, gera recursos deve estabelecer o direito sagrado \u00e0 cria\u00e7\u00e3o (\u2026).
Voto contr\u00e1rio
Durante o debate que antecedeu a aprova\u00e7\u00e3o do substitutivo, o senador Eduardo Gir\u00e3o (Novo-CE) chegou a apresentar requerimento sugerindo que o substitutivo fosse discutido em sess\u00e3o de debates tem\u00e1ticos antes de ser votado. Segundo ele, a mat\u00e9ria estaria sendo votada de forma \u201ca\u00e7odada\u201d e alguns aspectos do texto ainda despertam d\u00favidas entre os parlamentares, como a cria\u00e7\u00e3o do SIA e as compet\u00eancia do coordenador do sistema. Gir\u00e3o disse temer que a proposta possa conter como alguma tentativa de censura da opini\u00e3o p\u00fablica ou possa impedir o desenvolvimento dessa tecnologia.\u00a0
\u2014 O relat\u00f3rio n\u00e3o atende \u00e0 evolu\u00e7\u00e3o tecnol\u00f3gica necess\u00e1ria. \u00c9 uma quest\u00e3o primordial que a gente fa\u00e7a uma legisla\u00e7\u00e3o que esteja alinhada com o que est\u00e1 acontecendo no mundo. E, segundo especialistas, eu n\u00e3o sou especialista, eu reconhe\u00e7o minha insignific\u00e2ncia, mas eles est\u00e3o falando que n\u00f3s estamos fazendo um dos marcos regulat\u00f3rios mais atrasados do planeta \u2014 argumentou Gir\u00e3o, que declarou voto contr\u00e1rio \u00e0 proposta, assim como o senador Magno Malta (PL-ES).
O pedido de Gir\u00e3o, por\u00e9m, foi indeferido pelo presidente do Senado. Rodrigo Pacheco ressaltou que j\u00e1 havia ocorrido uma sess\u00e3o tem\u00e1tica sobre o assunto no Plen\u00e1rio da Casa, e tamb\u00e9m lembrou que a comiss\u00e3o tempor\u00e1ria presidida por Carlos Viana havia promovido\u00a014 audi\u00eancias p\u00fablicas sobre o tema.
Riscos
O texto divide os sistemas de intelig\u00eancia artificial (IA) em n\u00edveis de risco, oferecendo uma regulamenta\u00e7\u00e3o distinta para os de alto risco, a depender do impacto do sistema na vida humana e nos direitos fundamentais. Tamb\u00e9m pro\u00edbe o desenvolvimento de aplica\u00e7\u00f5es de IA que apresentem “risco excessivo”. Essas classifica\u00e7\u00f5es tamb\u00e9m estiveram entre os dispositivos que geraram controv\u00e9rsias nos debates da comiss\u00e3o tempor\u00e1ria.
Al\u00e9m disso, uma das principais\u00a0altera\u00e7\u00f5es da \u00faltima vers\u00e3o do texto, em rela\u00e7\u00e3o \u00e0s vers\u00f5es iniciais, \u00e9 o car\u00e1ter facultativo da avalia\u00e7\u00e3o preliminar dos sistemas de IA, estabelecido pelo relator, Eduardo Gomes, a partir de emenda da senadora Mara Gabrilli (PSD-SP).
O objetivo dessa avalia\u00e7\u00e3o preliminar \u00e9 determinar o grau de risco do sistema, que depender\u00e1 de suas finalidades e do seu impacto. Ela deve ser realizada pelos pr\u00f3prios agentes \u2014 isto \u00e9, os desenvolvedores, fornecedores ou aplicadores do sistema, conforme o caso \u2014, antes da disponibiliza\u00e7\u00e3o do sistema no mercado.
De acordo com o substitutivo, a avalia\u00e7\u00e3o preliminar s\u00f3 ser\u00e1 obrigat\u00f3ria para os sistemas generativos e de prop\u00f3sito geral. Para os demais casos, ela ser\u00e1 facultativa, mas ser\u00e1 considerada uma medida de boa pr\u00e1tica, podendo resultar em benef\u00edcios para os agentes (como prioridade em avalia\u00e7\u00f5es de conformidade).
Direitos autorais
Os senadores mantiveram no texto a prote\u00e7\u00e3o dos direitos dos criadores de conte\u00fado e obras art\u00edsticas.\u00a0
O substitutivo estabelece que conte\u00fados protegidos por direitos autorais poder\u00e3o ser utilizados em processos de “minera\u00e7\u00e3o de textos” para o desenvolvimento de sistemas de IA por institui\u00e7\u00f5es de pesquisa, de jornalismo, museus, arquivos, bibliotecas e organiza\u00e7\u00f5es educacionais.\u00a0No entanto, o material precisa ser obtido de forma leg\u00edtima e sem fins comerciais. Al\u00e9m disso, o objetivo principal da atividade n\u00e3o pode ser a reprodu\u00e7\u00e3o, exibi\u00e7\u00e3o ou dissemina\u00e7\u00e3o da obra usada, e a sua utiliza\u00e7\u00e3o deve se limitar ao necess\u00e1rio para alcan\u00e7ar a finalidade proposta \u2014 e os titulares dos direitos n\u00e3o podem ter seus interesses econ\u00f4micos prejudicados injustificadamente.\u00a0O titular de direitos autorais poder\u00e1 proibir o uso de conte\u00fados de sua propriedade nas demais hip\u00f3teses.
O texto tamb\u00e9m prev\u00ea que o uso de conte\u00fados protegidos por direitos autorais em processos de minera\u00e7\u00e3o, treinamento e desenvolvimento de sistemas de intelig\u00eancia artificial disponibilizados comercialmente dar\u00e1 direito de remunera\u00e7\u00e3o aos titulares dos respectivos direitos.
J\u00e1 o uso de imagem e voz de pessoas por sistemas de IA dever\u00e1 respeitar os direitos da personalidade, conforme previstos no C\u00f3digo Civil.
Isso significa que qualquer utiliza\u00e7\u00e3o desse material precisa de consentimento pr\u00e9vio e n\u00e3o pode causar danos \u00e0 honra, \u00e0 reputa\u00e7\u00e3o ou \u00e0 intimidade das pessoas. A viola\u00e7\u00e3o dessas garantias pode resultar em a\u00e7\u00f5es judiciais e pedidos de indeniza\u00e7\u00e3o.
Artistas como o ator Paulo Betti, as cantoras Marina Sena, Kell Smith, Paula Fernandes, o cantor Otto e a produtora Paula Lavigne estiveram no Plen\u00e1rio acompanhando a vota\u00e7\u00e3o da proposta.\u00a0Apesar de reconhecerem o papel da intelig\u00eancia artificial e o avan\u00e7o natural dos processos tecnol\u00f3gicos, eles refor\u00e7aram a necessidade de aliar tecnologia \u00e0 criatividade, respeitando a subjetividade humana.
\u2014 Ningu\u00e9m est\u00e1 aqui lutando contra a intelig\u00eancia artificial, porque a intelig\u00eancia artificial a gente entende como uma tecnologia que veio tamb\u00e9m para trazer progresso. Mas a gente entende que, se h\u00e1 empresas ganhando bilh\u00f5es com isso, essas empresas precisam arcar com as consequ\u00eancias e precisam arcar com essa minera\u00e7\u00e3o de dados que fazem com a nossa obra, com a nossa vida. E n\u00e3o s\u00f3 a nossa vida, mas a vida de toda a popula\u00e7\u00e3o brasileira \u2014 disse Marina Sena em coletiva de imprensa.
Mesmo com alguns senadores governistas lamentando o fato de o substitutivo n\u00e3o incluir os algoritmos\u00a0das redes sociais na lista de sistemas considerados de alto risco, os parlamentares da base do governo em geral consideraram o texto aprova equilibrado e com avan\u00e7os, como no trecho que garante a prote\u00e7\u00e3o dos direitos autorais.
\u2014 Em qualquer tipo de atividade econ\u00f4mica existe o insumo que \u00e9 fundamental, e quem coordena aquela atividade tem de pagar por ele. No caso da intelig\u00eancia artificial, o principal insumo \u00e9 a criatividade, \u00e9 o que cada um foi capaz de criar, e que vai ser minerado pela empresa que vai desenvolver o programa de intelig\u00eancia artificial, que tamb\u00e9m ter\u00e1 de pagar por isso por conta da criatividade que as pessoas inserem na sua produ\u00e7\u00e3o musical, liter\u00e1ria, no que quer que seja \u2014 disse o senador Humberto Costa (PT-PE).\u00a0
Trabalhadores\u00a0
De acordo com o substitutivo, os cidad\u00e3os ter\u00e3o assegurados os direitos a explica\u00e7\u00e3o e revis\u00e3o humana das decis\u00f5es que tiverem impacto jur\u00eddico relevante. E, no caso de uso de sistemas que fa\u00e7am identifica\u00e7\u00e3o biom\u00e9trica, dever\u00e1 haver a garantia de prote\u00e7\u00e3o contra discrimina\u00e7\u00e3o direta, indireta, ilegal ou abusiva.
\u2014 Para garantir sistemas de intelig\u00eancia artificial que protejam direitos \u00e9 essencial o escrut\u00ednio p\u00fablico dos regulados e dos reguladores por meio de participa\u00e7\u00e3o p\u00fablica. \u00c9 necess\u00e1ria, sim, a participa\u00e7\u00e3o social no arranjo de fiscaliza\u00e7\u00e3o e integridade da informa\u00e7\u00e3o. Outra dimens\u00e3o \u00e9 a prote\u00e7\u00e3o aos trabalhadores e \u00e0s trabalhadoras. N\u00e3o podemos excluir regras que garantam a supervis\u00e3o humana em decis\u00f5es automatizadas de puni\u00e7\u00f5es disciplinares e dispensas \u2014 afirmou a senadora Teresa Leit\u00e3o (PT-PE).
Integridade da informa\u00e7\u00e3o\u00a0
O substitutivo retirou do texto um artigo que previa o risco \u00e0 integridade da informa\u00e7\u00e3o, \u00e0 liberdade de express\u00e3o, ao processo democr\u00e1tico e ao pluralismo pol\u00edtico como crit\u00e9rio para regulamenta\u00e7\u00e3o e identifica\u00e7\u00e3o \u2014 pelo SIA \u2014 de novas hip\u00f3teses de IA de alto risco. N\u00e3o houve acordo sobre esse artigo entre governistas e oposicionistas.
Tamb\u00e9m ficou de fora o trecho que atribu\u00eda \u00e0 IA generativa a responsabilidade sobre a integridade da informa\u00e7\u00e3o. Para senadores da oposi\u00e7\u00e3o, esse artigo poderia funcionar como mecanismo para o controle da liberdade de express\u00e3o e do acesso \u00e0 informa\u00e7\u00e3o.
Em seu voto, o relator da mat\u00e9ria, Eduardo Gomes, concordou com os argumentos desses parlamentares. \u201cConforme j\u00e1 asseverado, a liberdade de express\u00e3o se apresenta como premissa b\u00e1sica a qualquer sociedade democr\u00e1tica, e o texto ora relatado jamais poderia ser utilizado para afetar essa prerrogativa\u201d, afirmou Eduardo Gomes em seu parecer, ao explicar a retirada do artigo.\u00a0
Risco excessivo
O substitutivo pro\u00edbe o desenvolvimento e o uso de sistemas com determinadas caracter\u00edsticas ou finalidades, por considerar que representam risco excessivo. Entre eles est\u00e3o os chamados sistemas de armas aut\u00f4nomas (SAA), isto \u00e9, que podem selecionar e atacar alvos sem interven\u00e7\u00e3o humana.
A proposta tamb\u00e9m pro\u00edbe o uso de t\u00e9cnicas subliminares e a explora\u00e7\u00e3o de vulnerabilidades de pessoas ou grupos para induzir comportamentos danosos \u00e0 sa\u00fade e \u00e0 seguran\u00e7a.
Al\u00e9m disso, pro\u00edbe sistemas que tenham o objetivo de possibilitar a produ\u00e7\u00e3o e a dissemina\u00e7\u00e3o de material que caracterize ou represente abuso ou explora\u00e7\u00e3o sexual de crian\u00e7as e adolescentes.
O texto ainda pro\u00edbe a avalia\u00e7\u00e3o de tra\u00e7os de personalidade e caracter\u00edsticas de comportamento para prever a realiza\u00e7\u00e3o de crimes. E impede a classifica\u00e7\u00e3o de indiv\u00edduos com base em seu comportamento social ou personalidade para determinar, de forma ileg\u00edtima e desproporcional, o acesso a bens, servi\u00e7os e pol\u00edticas p\u00fablicas.
O uso de c\u00e2meras para identificar pessoas em tempo real em espa\u00e7os p\u00fablicos s\u00f3 ser\u00e1 permitido para busca de v\u00edtimas de crimes ou pessoas desaparecidas, para recapturar fugitivos, cumprir mandados de pris\u00e3o ou medidas restritivas, investigar e reprimir crimes em flagrante nos casos de delitos cuja pena de pris\u00e3o seja superior a dois anos e instruir inqu\u00e9rito ou processo criminal com autoriza\u00e7\u00e3o do juiz, quando a prova n\u00e3o puder ser feita por outros meios.
Alto risco
O substitutivo classifica como sistemas de intelig\u00eancia artificial de alto risco, que estar\u00e3o sujeitos a regras mais r\u00edgidas, aqueles que vierem a ser utilizados em determinadas atividades, como:
ve\u00edculos aut\u00f4nomos;
controle de tr\u00e2nsito e gest\u00e3o de abastecimento de \u00e1gua e eletricidade quando houver perigo para a integridade f\u00edsica das pessoas ou risco de interrup\u00e7\u00e3o dos servi\u00e7os de forma il\u00edcita ou abusiva;
sele\u00e7\u00e3o de estudantes para acesso \u00e0 educa\u00e7\u00e3o e \u00e0 progress\u00e3o acad\u00eamica;
tomada de decis\u00f5es sobre recrutamento, avalia\u00e7\u00e3o, promo\u00e7\u00e3o e demiss\u00e3o de trabalhadores;
avalia\u00e7\u00e3o de crit\u00e9rios para aferir a elegibilidade a servi\u00e7os e pol\u00edticas p\u00fablicas;
investiga\u00e7\u00e3o de fatos e aplica\u00e7\u00e3o da lei quando houver riscos \u00e0s liberdades individuais, no \u00e2mbito da administra\u00e7\u00e3o da Justi\u00e7a;
gest\u00e3o de prioridade em servi\u00e7os de emerg\u00eancia, como os de bombeiros e assist\u00eancia m\u00e9dica;
estudo anal\u00edtico de crimes;
diagn\u00f3sticos m\u00e9dicos;
controle de fronteiras;
reconhecimento de emo\u00e7\u00f5es por identifica\u00e7\u00e3o biom\u00e9trica;
an\u00e1lise de dados para preven\u00e7\u00e3o da ocorr\u00eancia de crimes.
Conforme j\u00e1 mencionado, a classifica\u00e7\u00e3o dos algoritmos de distribui\u00e7\u00e3o de conte\u00fado de redes sociais como sistemas de alto risco foi exclu\u00edda do relat\u00f3rio por Eduardo Gomes, atendendo a pedidos dos senadores Marcos Rog\u00e9rio, Izalci Lucas e Mecias de Jesus. \u201cAp\u00f3s profundo debate, a previs\u00e3o anterior mostrou-se excessivamente gen\u00e9rica, considerando que a imprecis\u00e3o t\u00e9cnica pode ter repercuss\u00f5es indesej\u00e1veis para setores importantes, vinculados inclusive \u00e0 prote\u00e7\u00e3o de direitos fundamentais\u201d, justificou o relator.
De acordo com o texto, sistemas usados como ferramentas intermedi\u00e1rias e que n\u00e3o influenciem decis\u00f5es relevantes n\u00e3o ser\u00e3o considerados de alto risco. E o agente de sistemas de IA poder\u00e1 solicitar a revis\u00e3o da classifica\u00e7\u00e3o de seu sistema, caso discorde dela.
Ainda segundo o relat\u00f3rio de Eduardo Gomes, a lista de aplica\u00e7\u00f5es e usos de sistemas de IA considerados de alto risco n\u00e3o deve ser fechada ou definitiva. O objetivo \u00e9 que a lista seja “aberto-exemplificativa”, ou seja, que tenha exemplos, mas permita a inclus\u00e3o de novas situa\u00e7\u00f5es no futuro, de acordo com mudan\u00e7as ou avan\u00e7os.
Avalia\u00e7\u00e3o de impacto
O texto prev\u00ea que, quando um sistema de IA for classificado como de alto risco, dever\u00e1 ser realizada a avalia\u00e7\u00e3o de impacto algor\u00edtmico por profissionais com conhecimentos t\u00e9cnicos, cient\u00edficos, regulat\u00f3rios e jur\u00eddicos.
A avalia\u00e7\u00e3o de impacto algor\u00edtmico verificar\u00e1 os riscos aos direitos fundamentais conhecidos e previs\u00edveis, os benef\u00edcios do sistema, a probabilidade e a gravidade de eventuais consequ\u00eancias adversas e os esfor\u00e7os necess\u00e1rios para mitig\u00e1-las, as medidas de transpar\u00eancia e a l\u00f3gica do sistema.
As conclus\u00f5es dessas avalia\u00e7\u00f5es dever\u00e3o ser p\u00fablicas e disponibilizadas em banco de dados mantido pela autoridade competente. Um regulamento\u00a0 dever\u00e1 determinar a periodicidade da revis\u00e3o dessa avalia\u00e7\u00e3o. Caso, ap\u00f3s a introdu\u00e7\u00e3o do sistema no mercado, os agentes descubram novos riscos aos direitos dos indiv\u00edduos, devem comunic\u00e1-lo \u00e0s autoridades competentes e \u00e0s pessoas afetadas.
A proposta determina que os agentes dos sistemas de IA dever\u00e3o ter estruturas internas de governan\u00e7a para garantir a seguran\u00e7a do sistema e o atendimento dos direitos das pessoas afetadas.
J\u00e1 os sistemas de alto risco precisar\u00e3o, al\u00e9m disso, documentar a realiza\u00e7\u00e3o de testes de confiabilidade e seguran\u00e7a; mitigar eventuais vieses discriminat\u00f3rios; adotar ferramentas de registro autom\u00e1tico de opera\u00e7\u00e3o para avaliar seu desempenho e apurar eventuais resultados discriminat\u00f3rios;\u00a0e adotar medidas que permitam explicar os resultados obtidos.\u00a0A eventual ocorr\u00eancia de incidentes graves de seguran\u00e7a dever\u00e1 ser comunicada em prazo adequado \u00e0 autoridade competente, a qual poder\u00e1 determinar provid\u00eancias a serem tomadas.
IA generativa e sistemas de prop\u00f3sito geral
Os sistemas conhecidos como generativos e de prop\u00f3sito geral ter\u00e3o regras espec\u00edficas.\u00a0Antes de esses sistemas serem disponibilizados no mercado, seus agentes devem realizar a avalia\u00e7\u00e3o preliminar para classifica\u00e7\u00e3o de risco. Devem tamb\u00e9m demonstrar que identificaram e mitigaram poss\u00edveis riscos aos direitos fundamentais, ao meio ambiente, \u00e0 liberdade de express\u00e3o, \u00e0 integridade da informa\u00e7\u00e3o e ao processo democr\u00e1tico. Esses sistemas devem ser concebidos de modo a reduzir o uso de energia e outros recursos e a produ\u00e7\u00e3o de res\u00edduos. Tamb\u00e9m s\u00f3 poder\u00e3o processar dados em conformidade com as exig\u00eancias legais.
Conte\u00fados sint\u00e9ticos como textos, imagens, v\u00eddeos e \u00e1udios produzidos ou modificados por meio de IA dever\u00e3o conter identificador \u2014 que poder\u00e1 ser disponibilizado na forma de metadados \u2014 para que se possa verificar a sua autenticidade e a sua proveni\u00eancia. O texto aprovado prev\u00ea a regulamenta\u00e7\u00e3o (em parceria com a iniciativa privada, profissionais de pesquisa e a sociedade civil) de formas de identificar e rotular esses conte\u00fados.
San\u00e7\u00f5es administrativas e responsabilidade civil
A infra\u00e7\u00e3o das normas contidas no substitutivo poder\u00e1 sujeitar desenvolvedores, fornecedores e aplicadores de sistemas de intelig\u00eancia artificial a multas de at\u00e9 R$ 50 milh\u00f5es ou a 2% do faturamento bruto do grupo ou conglomerado por infra\u00e7\u00e3o.
Outras san\u00e7\u00f5es previstas s\u00e3o advert\u00eancia, proibi\u00e7\u00e3o de tratar determinados dados e suspens\u00e3o parcial ou total, tempor\u00e1ria ou permanente do desenvolvimento, fornecimento ou opera\u00e7\u00e3o do sistema.
O texto prev\u00ea que a responsabiliza\u00e7\u00e3o civil por danos causados por sistemas de intelig\u00eancia artificial estar\u00e1 sujeita \u00e0s regras previstas no C\u00f3digo Civil ou no C\u00f3digo de Defesa do Consumidor, conforme o caso. Caber\u00e1 a invers\u00e3o do \u00f4nus da prova quando for muito oneroso para a v\u00edtima comprovar o nexo de causalidade entre a a\u00e7\u00e3o humana e o dano causado pelo sistema.
Autoridade Nacional de Prote\u00e7\u00e3o de Dados
O substitutivo prev\u00ea que diversos \u00f3rg\u00e3os dever\u00e3o trabalhar em conjunto com o intuito de organizar, regular e fiscalizar o mercado da intelig\u00eancia artificial.
O texto estabelece a Autoridade Nacional de Prote\u00e7\u00e3o de Dados (ANPD) como a autoridade competente para impor san\u00e7\u00f5es, aplicar multas, expedir normas sobre as formas e requisitos de certifica\u00e7\u00e3o, os procedimentos da avalia\u00e7\u00e3o de impacto algor\u00edtmico e para a comunica\u00e7\u00e3o de graves incidentes.\u00a0
A ANPD tamb\u00e9m dever\u00e1 se manifestar sobre processos normativos dos \u00f3rg\u00e3os reguladores e exercer\u00e1 compet\u00eancia normativa, regulat\u00f3ria e sancionat\u00f3ria quanto ao uso de IA para atividades econ\u00f4micas que n\u00e3o tiverem \u00f3rg\u00e3o regulador espec\u00edfico.
A ANPD tamb\u00e9m zelar\u00e1 pelos direitos fundamentais, estimular\u00e1 a ado\u00e7\u00e3o de boas pr\u00e1ticas, receber\u00e1 den\u00fancias e representar\u00e1 o Brasil em organismos internacionais da \u00e1rea.
Al\u00e9m disso, a ANPD coordenar\u00e1 o Sistema Nacional de Regula\u00e7\u00e3o e Governan\u00e7a de Intelig\u00eancia Artificial (SIA), que ser\u00e1 criado e integrado por \u00f3rg\u00e3os estatais de regula\u00e7\u00e3o setorial, entidades de autorregula\u00e7\u00e3o e de certifica\u00e7\u00e3o, pelo Conselho de Coopera\u00e7\u00e3o Regulat\u00f3ria de Intelig\u00eancia Artificial (Cria) e pelo Comit\u00ea de Especialistas e Cientistas de Intelig\u00eancia Artificial (Cecia).
Entre as atribui\u00e7\u00f5es do Sistema Nacional de Regula\u00e7\u00e3o e Governan\u00e7a de Intelig\u00eancia Artificial (SIA) est\u00e3o a regulamenta\u00e7\u00e3o dos sistemas de alto risco, o refor\u00e7o das compet\u00eancias das autoridades setoriais e da ANPD, a harmoniza\u00e7\u00e3o da atua\u00e7\u00e3o dos \u00f3rg\u00e3os reguladores e a realiza\u00e7\u00e3o de estudos peri\u00f3dicos, com o envio ao Congresso Nacional, a cada quatro anos, de parecer sobre a necessidade de aprimoramentos na legisla\u00e7\u00e3o sobre intelig\u00eancia artificial.
O Conselho de Coopera\u00e7\u00e3o Regulat\u00f3ria de Intelig\u00eancia Artificial (Cria), que tamb\u00e9m ser\u00e1 coordenado pela ANPD, ser\u00e1 um f\u00f3rum permanente de comunica\u00e7\u00e3o com \u00f3rg\u00e3os e entidades da administra\u00e7\u00e3o p\u00fablica respons\u00e1veis pela regula\u00e7\u00e3o de setores espec\u00edficos, a fim de harmonizar e facilitar o trabalho da autoridade competente. Sua composi\u00e7\u00e3o ser\u00e1 definida em regulamento.
J\u00e1 o Comit\u00ea de Especialistas e Cientistas de Intelig\u00eancia Artificial (Cecia) ser\u00e1 criado para orientar e supervisionar o desenvolvimento e aplica\u00e7\u00e3o da IA a partir de regras e crit\u00e9rios estabelecidas em regulamento.
As autoridades setoriais poder\u00e3o estabelecer regras para o uso de intelig\u00eancia artificial no \u00e2mbito de suas compet\u00eancias. A elas caber\u00e1 receber a avalia\u00e7\u00e3o de impacto algor\u00edtmico e detalhar as listas de sistemas de alto risco.
Em parceria com o Minist\u00e9rio do Trabalho, todas essas autoridades dever\u00e3o produzir diretrizes para reduzir potenciais riscos aos trabalhadores (especialmente no que se refere a perda de emprego e de oportunidade de carreira) e potencializar os impactos positivos.
Poder p\u00fablico
Os sistemas de IA utilizados pelo poder p\u00fablico, al\u00e9m de implementar as medidas previstas para todos os demais sistemas, dever\u00e3o registrar quem os usou, em que situa\u00e7\u00e3o e para qual finalidade. Dever\u00e3o ser empregados, preferencialmente, sistemas interoper\u00e1veis, de modo a evitar a depend\u00eancia tecnol\u00f3gica e propiciar a continuidade dos sistemas desenvolvidos ou contratados.
Os cidad\u00e3os ter\u00e3o assegurados os direitos a explica\u00e7\u00e3o e revis\u00e3o humana das decis\u00f5es que tiverem impacto jur\u00eddico relevante. No caso de uso de sistemas que fa\u00e7am identifica\u00e7\u00e3o biom\u00e9trica, dever\u00e1 haver a garantia de prote\u00e7\u00e3o contra discrimina\u00e7\u00e3o direta, indireta, ilegal ou abusiva.
No caso de a avalia\u00e7\u00e3o de impacto algor\u00edtmico de um sistema usado pelo poder p\u00fablico identificar riscos que n\u00e3o possam ser eliminados ou mitigados, o uso dever\u00e1 ser interrompido.
O governo tamb\u00e9m dever\u00e1 zelar pela prote\u00e7\u00e3o dos trabalhadores afetados pelos sistemas de IA, buscando adapt\u00e1-los e requalific\u00e1-los, al\u00e9m de promover o letramento digital da popula\u00e7\u00e3o a fim de que os cidad\u00e3os fa\u00e7am o melhor uso poss\u00edvel da intelig\u00eancia artificial.
O poder p\u00fablico dever\u00e1 incentivar a inova\u00e7\u00e3o em intelig\u00eancia artificial, procurando contratar solu\u00e7\u00f5es inovadoras que promovam a cultura nacional e a l\u00edngua portuguesa, e definindo crit\u00e9rios distintos para sistemas ofertados por micro e pequenas empresas e startups nacionais.
Direitos dos afetados
O substitutivo assegura uma s\u00e9rie de direitos \u00e0s pessoas que forem afetadas pelos sistemas de intelig\u00eancia artificial:
direito \u00e0 informa\u00e7\u00e3o pr\u00e9via de que est\u00e1 interagindo com sistemas de IA;
direito \u00e0 privacidade e a prote\u00e7\u00e3o de dados pessoais;
direito \u00e0 n\u00e3o discrimina\u00e7\u00e3o il\u00edcita e \u00e0 corre\u00e7\u00e3o de vieses discriminat\u00f3rios diretos, indiretos, ilegais ou abusivos;
uso de linguagem simples e clara quando destinados a crian\u00e7a e adolescentes, idosos ou pessoas com defici\u00eancia.
As pessoas afetadas por sistemas de alto risco ter\u00e3o, adicionalmente, os seguintes direitos:
direito \u00e0 explica\u00e7\u00e3o sobre a decis\u00e3o tomada pelo sistema de intelig\u00eancia artificial;
direito \u00e0 contesta\u00e7\u00e3o das decis\u00f5es;
direito a revis\u00e3o humana das decis\u00f5es, considerando o contexto e o risco associado.
A supervis\u00e3o humana ter\u00e1 como objetivo prevenir e minimizar os riscos para os direitos e as liberdades das pessoas. Para isso, os supervisores devem poder intervir no sistema. Quando essa supervis\u00e3o for comprovadamente imposs\u00edvel ou exigir esfor\u00e7o desproporcional, ela n\u00e3o ser\u00e1 exigida, mas os agentes dever\u00e3o implementar medidas alternativas eficazes.
Boas pr\u00e1ticas
Os desenvolvedores e fornecedores de sistemas poder\u00e3o adotar c\u00f3digos de conduta para assegurar o cumprimento dos dispositivos da futura lei. A ades\u00e3o a esses c\u00f3digos ser\u00e1 considerada indicativo de boa-f\u00e9 por parte do agente nos casos em que for aplicada san\u00e7\u00e3o administrativa.
A autoridade competente poder\u00e1 credenciar associa\u00e7\u00f5es de agentes e especialistas em governan\u00e7a de IA para que concedam certifica\u00e7\u00e3o da ado\u00e7\u00e3o de boas pr\u00e1ticas de governan\u00e7a. Os agentes tamb\u00e9m poder\u00e3o criar entidades de autorregula\u00e7\u00e3o.
Vig\u00eancia
O texto prev\u00ea que a maioria dos dispositivos do substitutivo dever\u00e1 entrar\u00e1 em vigor 730 dias (ou seja, dois anos) depois da publica\u00e7\u00e3o da lei. No entanto, as regras sobre sistemas generativos e de uso geral, sobre as aplica\u00e7\u00f5es proibidas de sistemas de IA e sobre os direitos de autor dever\u00e3o entrar em vigor 180 dias ap\u00f3s a publica\u00e7\u00e3o da lei.
J\u00e1 a organiza\u00e7\u00e3o e as atribui\u00e7\u00f5es dos \u00f3rg\u00e3os reguladores do mercado de IA, com exce\u00e7\u00e3o das san\u00e7\u00f5es aplic\u00e1veis, ter\u00e3o vig\u00eancia imediata. O mesmo vale para as medidas de incentivo \u00e0 sustentabilidade e \u00e0s pequenas empresas.
Est\u00e3o fora da regulamenta\u00e7\u00e3o os sistemas usados por pessoas f\u00edsicas com finalidade exclusivamente particular, os que forem voltados \u00e0 defesa nacional, os que forem voltados ao desenvolvimento e \u00e0 testagem de aplica\u00e7\u00f5es de IA e ainda n\u00e3o tiverem sido disponibilizados no mercado e os que se limitarem a prover infraestrutura para os dados de outros sistemas de intelig\u00eancia artificial.
Com a aprova\u00e7\u00e3o do PL 2.338\/2023, ficam considerados prejudicados os\u00a0seguintes projetos de lei:\u00a0PL 21\/2020,\u00a0PL 5.051\/2019,\u00a0PL 5.691\/2019,\u00a0PL 872\/2021,\u00a0PL 3.592\/2023,\u00a0PL 210\/2024\u00a0e\u00a0PL 266\/2024.
Fonte: Ag\u00eancia Senado<\/p>\n\n\n\n
Marcos Oliveira\/Ag\u00eancia Senado\u203a<\/p>\n","protected":false},"excerpt":{"rendered":"
O Senado aprovou na ter\u00e7a-feira (10) o projeto que regulamenta a intelig\u00eancia artificial (IA) no Brasil. A mat\u00e9ria segue agora para a an\u00e1lise da C\u00e2mara dos Deputados. O texto se apresenta como um marco regulat\u00f3rio com regras para o desenvolvimento e o uso de sistemas de IA. Entre os dispositivos est\u00e1 um que prev\u00ea a …<\/p>\n","protected":false},"author":4,"featured_media":6109,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[31],"tags":[],"_links":{"self":[{"href":"https:\/\/revisaonews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/6108"}],"collection":[{"href":"https:\/\/revisaonews.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/revisaonews.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/revisaonews.com.br\/index.php?rest_route=\/wp\/v2\/users\/4"}],"replies":[{"embeddable":true,"href":"https:\/\/revisaonews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=6108"}],"version-history":[{"count":1,"href":"https:\/\/revisaonews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/6108\/revisions"}],"predecessor-version":[{"id":6110,"href":"https:\/\/revisaonews.com.br\/index.php?rest_route=\/wp\/v2\/posts\/6108\/revisions\/6110"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/revisaonews.com.br\/index.php?rest_route=\/wp\/v2\/media\/6109"}],"wp:attachment":[{"href":"https:\/\/revisaonews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=6108"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/revisaonews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=6108"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/revisaonews.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=6108"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}