Regulamentação da IA exige foco na centralidade humana, aponta debate

Em uma audiência pública realizada nesta quinta-feira (26/10/2023), senadores e especialistas destacaram a importância de centralizar os princípios da igualdade de direitos, não discriminação e o foco no elemento humano no projeto de lei que visa regulamentar o uso da Inteligência Artificial (IA). O debate foi promovido pela Comissão Temporária sobre Inteligência Artificial no Brasil (CTIA) e enfatizou a necessidade de equilibrar a criação de uma norma que ofereça segurança jurídica, sem prejudicar o desenvolvimento da educação, da tecnologia e a criação de novos negócios no país.

O Projeto de Lei 2.338/2023 está em tramitação na CTIA e é relatado pelo senador Eduardo Gomes (PL-TO), tendo sua origem em um anteprojeto elaborado por uma comissão de juristas.

O senador Marcos Pontes (PL-SP) enfatizou a importância de estabelecer um marco regulatório para o setor de IA, observando que a norma não deve limitar o desenvolvimento tecnológico no país. Ele ressaltou a necessidade de colocar o ser humano no centro das discussões e considerar questões éticas, o uso de dados pessoais e a não discriminação na criação de regras para a IA.

Por outro lado, o senador Izalci Lucas (PSDB-DF) expressou preocupação de que o Brasil possa ficar para trás na inovação tecnológica se o projeto de lei ampliar responsabilidades para efeitos que ainda são desconhecidos, uma vez que a regulamentação está sendo discutida antes de se compreender completamente os desenvolvimentos em IA.

Ecossistema regulatório

Estela Aranha, assessora especial de Direitos Digitais do Ministério da Justiça e Segurança Pública (MJSP), destacou o desafio de adequar as regras com garantias fundamentais a um contexto que requer normas dinâmicas, levando em consideração as particularidades do Brasil. Ela enfatizou a necessidade de criar um ecossistema regulatório abrangente e adaptado às especificidades do país.

Transparência

Cynthia Picolo, diretora do Laboratório de Políticas Públicas e Internet (Lapin), e Patrícia Peck, presidente do Instituto Istart de Ética e Cidadania Digital, enfatizaram a importância de estabelecer regras que assegurem a transparência no uso da IA. Elas sugeriram que o projeto de lei deve incluir requisitos específicos para a divulgação de informações sobre o impacto ambiental, consumo de energia e a localização dos dados usados nos sistemas de IA.

Responsabilidades

Rodrigo Badaró, conselheiro nacional do Ministério Público (CNMP), destacou a necessidade de levar em consideração as particularidades éticas, culturais, sociais e econômicas do Brasil ao criar a regulamentação da IA. Ele manifestou preocupação com a pressa em regular a IA devido ao medo da inovação, ressaltando que o Brasil possui desafios específicos que requerem uma abordagem adaptada.

Adriana Rollo, líder da Comissão Especial de Regulação de Inteligência Artificial da Associação Internacional de Inteligência Artificial (A2IA), expressou preocupações com a lógica da responsabilidade civil no projeto de lei, citando casos em que desenvolvedores de IA podem ser responsabilizados mesmo após terem saído da cadeia de distribuição de um sistema de IA.

Questões laborais

Os especialistas também destacaram a necessidade de estabelecer parâmetros para o gerenciamento de trabalho via algoritmo. Eles argumentaram que o avanço da “plataformização de trabalho” deve envolver a participação dos trabalhadores na elaboração desses sistemas e considerar as condições de trabalho, como no caso de motoristas de aplicativos de transporte, onde algoritmos determinam corridas.

Discriminação algorítmica

Fernanda Rodrigues, coordenadora de pesquisa do Instituto de Referência em Internet e Sociedade (Iris), defendeu que a regulamentação da IA deve ir além de princípios e valores e levar em consideração os riscos específicos do Brasil, como o histórico escravocrata do país. Ela destacou que sistemas de IA não devem replicar o racismo estrutural presente em alguns setores, como segurança pública. Marcela Mattiuzo, conselheira do Instituto Brasileiro de Estudos de Concorrência, Consumo e Comércio Internacional (Ibrac), apoiou essa abordagem, enfatizando a necessidade de regulamentação que dialogue com o direito das pessoas afetadas.

*Com informações da Agência Senado.