Principais riscos da inteligência artificial generativa

tecnologia noticia
Créditos: Robynne Hu (Unsplash)

A Inteligência Artificial (IA) é, provavelmente, uma das grandes revoluções do século XXI. A Goldman Sachs publicou um white paper intitulado Generative AI - Part I: Laying Out the Investment Framework em que aborda conceitos fundamentais sobre este novo avanço tecnológico que o mundo enfrenta, identificando também quem são os atores mais relevantes que existem atualmente no seu ecossistema. Neste trabalho académico, os autores do estudo analisam também quais são os riscos associados à Inteligência Artificial Generativa, um ramo que se foca na produção de conteúdo original a partir de dados existentes, tendo identificado cinco em concreto.

Moderação de conteúdos

Tal como explicam no seu estudo, as plataformas de redes sociais e os websites não são legalmente responsáveis pelos conteúdos publicados pelos seus utilizadores, criando um escudo legal para as empresas da internet. “Muitos acreditam que o acesso livre e aberto às ferramentas de IA generativa só irá permitir a criação de conteúdos perigosos. Os modelos de IA imitam o comportamento humano. Como tal, estas ferramentas podem ser treinadas para gerar desinformação e outros conteúdos censuráveis. A pergunta então é: a responsabilidade recairá sobre os criadores destas plataformas de IA generativa ou será que, mais uma vez, a culpa passa para os utilizadores que publicam os conteúdos?”.

Desinformação

As ferramentas de IA generativa são objeto de um intenso escrutínio em torno da exatidão da informação que é divulgada. De acordo com os especialistas da Goldman Sachs, isto pode ser especialmente perigoso para os utilizadores que não são capazes de determinar a precisão das respostas ou os preconceitos implícitos na resposta gerada. “Os modelos mal treinados são muitas vezes responsáveis por dados imprecisos ou tendenciosos. Em última instância, com o tempo, à medida que os modelos de dados subjacentes são treinados com informação melhorada, a precisão aumenta. No entanto, eliminar o enviesamento da informação é mais difícil, uma vez que os modelos de IA são treinados por seres humanos”. 

Violação dos direitos de autor

Os limites da originalidade dos conteúdos criados com ferramentas de IA generativa são bastante difusos. Foram levantadas várias questões em torno da violação dos direitos de autor por parte das ferramentas de IA generativa, especialmente na categoria de conversão de texto em imagem. “Artistas, escritores, músicos e outros profissionais criativos estão preocupados com a ameaça que a tecnologia IA representa para as suas obras originais. Na ausência de precedentes, ainda é cedo para interpor recursos legais, limitando a sua adoção em grande escala pelas empresas. Estas continuam cautelosas na hora de implementar ferramentas de IA generativa por receio das consequências da violação dos direitos de autor e outras exigências”.

Privacidade

As plataformas de IA baseiam-se em grandes modelos de aprendizagem da linguagem que aproveitam, ao mesmo tempo, grandes volumes de dados para treinar os seus algoritmos. “As plataformas de IA devem garantir que os dados recolhidos são precisos, estão em conformidade com a legislação local, armazenados e geridos de forma segura, atualizados periodicamente… Pode ser imperativo que as plataformas de IA mantenham uma estrita conformidade das regulações de privacidade de dados, como o Regulamento Geral de Proteção de Dados (GDPR) e a Lei de Privacidade do Consumidor da Califórnia (CCPA)”, explicam. 

Questões éticas

Para além dos problemas legais relacionados com a infração de patentes e direitos de autor associados às ferramentas de IA generativa, os céticos apontam questões relacionadas com o plágio, a perda de postos de trabalho e a legítima compensação dos criadores de conteúdos originais. “As ferramentas de IA generativa são treinados a partir de dados existentes. Em consequência, a probabilidade de plágio de conteúdos é elevada. Recai nos utilizadores humanos a responsabilidade de utilizar com sensatez os conteúdos gerados”.

Na sua opinião, embora exista receio de que a IA torne desnecessários determinados postos de trabalho, devido à automatização e às melhorias de produtividade, criará, ao mesmo tempo, a oportunidades para novas funções na ciência de dados, investigação em IA, engenheiros de aprendizagem automática, etc. “Quanto à legítima atribuição e compensação dos profissionais criativos cujo trabalho é aproveitado para treinar modelos de IA, o debate legal e ético continua por resolver”, concluem.