Conheça os 5 principais pontos do Marco Legal da Inteligência Artificial e como essa legislação vai impactar o uso da tecnologia por empresas
O Marco Legal da Inteligência Artificial (IA) é um conjunto de leis e regulamentações destinadas a orientar o desenvolvimento, uso e impacto da IA na sociedade. Com o avanço rápido da tecnologia, como podemos observar com o uso do ChatGPT, Alexa, entre outros modelos que utilizam, especialmente a IA, tornou-se essencial estabelecer diretrizes claras para garantir que a IA seja desenvolvida e utilizada de maneira ética, responsável e segura.
Este marco legal aborda uma variedade de questões, incluindo privacidade, transparência, responsabilidade e viés algorítmico.
O que é o Marco Legal da Inteligência Artificial?
O Projeto de Lei 2338/2023 tem como objetivo proteger os direitos fundamentais e garantir a implementação de sistemas seguros e confiáveis, em benefício da pessoa humana, do regime democrático e do desenvolvimento científico e tecnológico.
A legislação quer garantir direitos para proteção do usuário impactado pela IA e oferecer ferramentas de governança e de um arranjo institucional de fiscalização e supervisão para o desenvolvimento tecnológico.
Quais são os 5 principais pontos?
São cinco os pontos principais do projeto:
- Princípios;
- Direitos dos afetados;
- Classificação de riscos;
- Obrigações e requisitos de governança;
- Supervisão e Responsabilização.
As regras variam para sistemas de alto risco — como a gestão de infraestruturas críticas, a exemplo de áreas como segurança, educação, formação, recrutamento, entre outros — e risco excessivo — para induzir comportamentos prejudiciais –, avaliação que será feita pelo poder público.
Empresas serão fiscalizadas
A proposta vai impactar as empresas, pois abrange serviços como o do ChatGPT, o popular robô de bate-papo (chatbot) gratuito capaz de produzir texto e trazer informações sobre assuntos diversos; além de ferramentas de aprendizado de máquina (machine learning) usado por bancos, empresas de seguranças, dentre outras áreas.
Uma pesquisa recente encomendada pela IBM, com dados de 2022, revelou que 41% das empresas no Brasil já implementaram ativamente a inteligência artificial (IA) em alguns setores. Na América Latina, a tecnologia é usada pelas companhias principalmente para detecção de segurança/ameaças (44%), atendimento eletrônico aos clientes (44%) e marketing e vendas (30%).
Segurança de Dados
Uma das principais preocupações em torno da IA é a privacidade dos dados. Com a capacidade de coletar, analisar e interpretar grandes quantidades de dados, os sistemas de IA podem comprometer a privacidade das pessoas se não forem devidamente regulamentados. O Marco Legal da IA pode estabelecer padrões para a coleta e uso de dados, garantindo que as informações pessoais sejam protegidas e que o consentimento adequado seja obtido antes da utilização desses dados.
Confiança Através da Transparência
Além disso, a transparência é fundamental para garantir a confiança na IA. Os algoritmos de IA muitas vezes operam como “caixas-pretas”, o que significa que é difícil entender como eles tomam decisões. Isso levanta preocupações sobre discriminação e injustiça. O Marco Legal da IA pode exigir que os desenvolvedores forneçam transparência sobre como seus algoritmos funcionam, permitindo uma auditoria independente e explicação das decisões tomadas pela IA.
Responsabilidade Social
A responsabilidade também é uma questão crucial. Quando a IA é usada para tomar decisões importantes que afetam as pessoas, como concessão de crédito, contratação ou sentenças judiciais, é essencial garantir que haja prestação de contas quando algo der errado. O Marco Legal da IA pode atribuir responsabilidades claras aos desenvolvedores, usuários e proprietários de sistemas de IA, garantindo que eles sejam responsabilizados por quaisquer danos causados por seus sistemas.
Algoritmos preconceituosos?
Outra preocupação importante é o viés algorítmico. Os algoritmos de IA podem refletir preconceitos e estereótipos presentes nos dados dos quais são treinados, resultando em decisões discriminatórias. O Marco Legal da IA pode exigir a mitigação do viés algorítmico, através da diversificação dos conjuntos de dados, avaliação regular dos algoritmos quanto a viés e a implementação de medidas para corrigir quaisquer tendências discriminatórias.
Além dessas questões, o Marco Legal da IA também pode abordar temas como segurança cibernética, proteção da propriedade intelectual, impacto no emprego e regulação de sistemas autônomos, como veículos autônomos e drones.
No entanto, criar um Marco Legal da IA não é uma tarefa simples. É necessário equilibrar a necessidade de regulamentação com a necessidade de promover a inovação e o desenvolvimento tecnológico. Além disso, a IA é uma tecnologia em constante evolução, o que significa que as leis e regulamentações também precisam ser flexíveis e adaptáveis para acompanhar as mudanças no campo.
O Marco Legal da IA é essencial para garantir que a IA seja desenvolvida e utilizada de maneira ética, responsável e segura. Ao abordar questões como privacidade, transparência, responsabilidade e viés algorítmico, o Marco Legal da IA pode ajudar a promover o desenvolvimento sustentável da IA e maximizar seus benefícios para a sociedade.
Por Marcelo Valladão, editado por Bruno Ignacio de Lima
