05/06/2023 – 16:50
Pedro França/Agência Senado
Ministro Ricardo Cueva (E): algumas ameaças são inaceitáveis, como a hierarquização social
A regulamentação da inteligência artificial (IA) é necessária e emergencial, em especial diante dos riscos reais e iminentes. Essa foi uma das constatações da primeira reunião de trabalho dos novos integrantes do Conselho de Comunicação Social (CCS) do Congresso Nacional, que debateu nesta segunda-feira (5) o marco legal da IA.
Em 2022, uma comissão de juristas foi formada no Senado para estudar o tema e propor a regulamentação, que agora está ambientada no Projeto de Lei 2338/23, apresentado pelo senador Rodrigo Pacheco (PSD-MG).
Presidente do CCS, o advogado e editor-chefe do portal jurídico Migalhas, Miguel Matos, disse que “há 20 anos resolvemos não estabelecer esses regramentos para a internet e hoje vemos que talvez tenhamos errado um pouco”, em alusão à necessidade de se regulamentar esse campo da ciência da computação.
Ministro do Superior Tribunal de Justiça (STJ) e presidente da comissão de juristas do Senado destinada a discutir a inteligência artificial, Ricardo Villas Bôas Cueva explicou que o colegiado foi inicialmente formado para analisar projetos sobre o tema aprovados na Câmara em 2020. O trabalho — realizado de fevereiro a dezembro de 2022 — culminou em um projeto de marco legal encampado pelo Senado.
Cueva destacou que a proposta tem vários objetivos, entre eles: o escopo da IA; princípios éticos na utilização da tecnologia; definição da necessidade de que os algoritmos tenham transparência e que sejam explicáveis; assegurar direitos e garantias dos afetados pela IA; e implementação de medidas para o combate à discriminação.
A ideia é a criação de um marco legal para estabelecer os direitos para a proteção do elo mais vulnerável, ou seja, as pessoas afetadas. O segundo eixo consiste, a partir do modelo europeu, definir alguns riscos, classificá-los e com base neles impor deveres de conduta. O ministro enfatizou que algumas ameaças são inaceitáveis, como a hierarquização social.
O presidente da comissão de juristas lembrou que uma das questões mais complexas é a da responsabilidade civil, por isso, é preciso graduá-la de acordo com os riscos. Cueva salientou ainda que o projeto é flexível e que permite ser adequado às novas tecnologias. Para o ministro, haverá agências dedicadas a regular a IA em cada setor.
Proposta da Câmara
Relatora da comissão de juristas sobre a inteligência artificial, Laura Schertel disse que, com a apresentação do PL 2338/23, será possível amadurecer a proposta de um marco geral.
“Conseguimos perceber os benefícios da inteligência artificial, mas também conseguimos perceber de forma rápida as suas falhas”, afirmou a relatora, ao chamar atenção para os riscos reais, como erros, discriminações e ampliação de desinformação.
Há uma grande preocupação sobre os impactos da IA sobre as várias áreas, mas uma das que mais merece atenção é a da comunicação social, de acordo com a relatora. Entre os impactos dos direitos fundamentais da IA, ela apontou igualdade, liberdade, devido processo legal, privacidade e proteção de dados, que demonstram, em linhas gerais, o porquê de se precisar de uma regulação.
Segundo Laura Schertel, o projeto apresentado no Senado traz direitos e transparências que não estão no PL 21/20, de autoria do deputado licenciado Eduardo Bismarck (PDT-CE). Ela defendeu uma “regulamentação horizontal associada a uma coordenação central”. A proposta de Bismarck, já aprovada pela Câmara e em tramitação no Senado, estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil.
ChatGPT
Matemático e professor do Departamento de Filosofia da Universidade Estadual da Campinas (Unicamp), Walter Carnielli considera que o que está acontecendo hoje com a inteligência artificial “é um tsunami”.
Ele mencionou o caso do ChatGPT, assistente virtual de inteligência que ele considera uma “inteligência muito boa”, mas que também apresenta casos de “alucinação”, como a impossibilidade de fazer cálculos matemáticos e a geração de informações errôneas.
Questionado, o professor disse que a própria inteligência artificial pode ajudar a conter as fake news, mas que não enxerga interesse das big techs para fazê-lo.
Professora do Programa de Tecnologia da Inteligência e Design Digital da Pontifícia Universidade Católica de São Paulo (PUC-SP), Dora Kaufman salientou que o ChatGPT trouxe o IA para a pauta; mas para a acadêmica, a “repercussão alertando sobre o risco de extinção da humanidade” ainda está no plano da ficção científica.
A professora sugeriu que o Senado crie uma comissão que levante como a IA está sendo usada no Brasil e quais são os danos reais. Para esse debate, Dora diz ser essencial a participação de agências regulatórias setoriais, como do sistema bancário e financeiro, que usa a IA há muitos anos, assim como da sociedade.
Ela também defendeu que é preciso capacitar o cidadão do século 21 para entender, ao menos, a lógica do funcionamento desse sistema e disse que o PL 2338 “é um excelente ponto de partida”, mas apelou para que o Senado não precipite a discussão, ao considerar que “o processo é tão importante quanto o resultado”.
Comunicação e informação
O professor do Departamento de Comunicação Social da Universidade Estadual Paulista (Unesp) Juliano Carvalho defendeu que o setor de comunicação e informação passe a ser uma área de interesse prioritário no marco legal.
Ele destacou a natureza do trabalho jornalístico e problemas como os relacionados à questão ética. Carvalho também destacou os “ecossistemas de desinformação que alimentam a produção de conteúdo que podem levar a opiniões e a desastres como capacidade para ampliar notícias falsas e gerar deep fakes (criação de vídeos e áudios falsos por meio de inteligência artificial).
O professor defendeu ainda o direito autoral e divergiu de algumas colocações ao dizer que, na sua opinião, a IA, da forma como se apresenta hoje, não vai combater as fake news.
“Não estamos falando de coisas triviais. O ChatGPT em três meses alcançou 100 milhões de usuários”, afirmou. “Não acredito numa comunicação que não seja mediada humanamente, porque a nossa história, o nosso legado, a nossa língua depende fundamentalmente das escolhas que nós estamos fazendo”, disse Carvalho.
A reunião teve a participação de diversos conselheiros, entre eles a da representante do audiovisual, Sonia Santana, que demonstrou preocupação com a segurança, o acesso à informação e a extinção dos postos de trabalho.
Da Redação – RS
Com informações da Agência Senado
