Notícias
A importância da detecção de conteúdo gerado por IA
Paulo Henrique Fernandes
Nos últimos dias, as grandes empresas de tecnologia, como Amazon, Google, Open AI, Anthropic e Inflection AI, se comprometeram com o governo americano a buscar garantias para a detecção de informações geradas por inteligência artificial (IA). Em suma, essas gigantes da tecnologia prometem de maneira voluntária a criar meios de rastrear esse tipo de conteúdo, como um formato de pegadas, facilitando sua identificação.
O fato é que, atualmente, é muito difícil identificar informações geradas pela IA, e as poucas ferramentas disponíveis que se prestaram a esse papel, como a GPTZero, que se utilizam de cálculos de Perplexidade no Processamento de Linguagem Natural (NLP, têm demonstrado pouca efetividade.
As empresas citadas se comprometeram a priorizar pesquisas sobre os riscos envolvendo o uso de IA (sobretudo os riscos sociais), evitando práticas indevidas e o aumento de desigualdades e exclusão. As companhias pretedem compartilhar informações sobre o desenvolvimento das IAs com o Governo e com a sociedade, desenvolvendo mecanismos eficazes para detecção de textos e imagens produzidos pela Inteligência.
A IA generativa – que é um tipo de sistema de IA capaz de gerar texto, imagens ou outras medias em resposta a solicitações em linguagem comum – é uma tecnologia poderosa que pode ser usada para criar conteúdos educativos, realistas e muito convincentes, de difícil distinção daquilo que é escrito por seres humanos. Entretanto, ela pode ser usada para cometimento de práticas indevidas, como espalhar notícias falsas, bullying e outras condutas reprovaveis. Como exemplo, a IA generativa pode ser usada para criar ataques de phishing, que são e-mails fraudulentos, projetados para enganar as pessoas instigando-as a fornecer informações pessoais ou financeiras, bem como criar deepfakes, que são vídeos ou áudios manipulados para fazer parecer que alguém está dizendo ou fazendo algo que nunca disse ou fez.
A detecção de conteúdo gerado por IA é importante por várias razões. Primeiro, para ajudar a proteger as pessoas contra a desinformação e, segundo, a detecção de conteúdo gerado por IA pode ajudar a proteger a privacidade das pessoas e melhorar a segurança da informação.
A IA precisa ser sedimentada em princípios éticos de transparência, equidade, privacidade, segurança e responsabilidade, garantindo acesso às fontes das informações fornecidas, transparência do uso e processamento de dados, bem como a segurança das informações processadas (sobretudo de dados sensíveis de usuários) e precisa, ainda, de imparcialidade para evitar favorecimento de grupos.
Em se tratando do desenvolvimento desse tipo de inteligência generativa, é essencial manter uma equipe diversa e multidisciplinar, garantindo um contraste para a construção dos algoritmos e evitando vieses indesejados que podem favorecer determinado grupo em detrimento de outros. Portanto, é essencial que todos estejamos engajados em acompanhar o surgimento dessas novas tecnologias e suas aplicações práticas, analisando sob o olhar ético e senso de justiça e responsabilidade.
As aplicações de IA são praticamente infinitas. Temos uma gama de dados qualitativos e não estruturados sendo emitidos a cada segundo. Temos grandes avanços em todas as áreas da sociedade, e é emocionante ver os avanços em prol da ciência e descobrimento precoce de doenças e cura de males dificilmente pensados a uma década atrás, ou os avanços que a IA promove na educação.
Alguns educadores estão preocupados com o uso de IA generativa por alunos para realizar trabalhos escolares. Eles temem que os alunos usem essa tecnologia para copiar trabalho ou criar conteúdo falso. É importante abordar essas preocupações de forma proativa e garantir que os alunos entendam os riscos e benefícios do uso da tecnologia.
Uma maneira de garantir a transparência é desenvolver diretrizes para o uso da IA generativa na educação, que podem ajudar a garantir com que a tecnologia seja usada de forma ética e responsável. Mas isso nos mostra, especialmente, que a IA Generativa ressurge em um contexto em que temos fácil acesso à internet, onde temos computadores com alto poder de processamento, e as fontes de dados são quase infinitas, coletadas em todas as nossas tarefas cotidianas.
Está claro que a IA, que antes era restrita apenas às grandes empresas de tecnologia, varejo e outras, hoje é acessível e prática, e todos estamos expostos a ela, de forma direta ou indireta. Todas as ferramentas que surgem diariamente não só foram criadas para contribuir com nosso trabalho e em tarefas diárias, mas também para modificar a forma como vivemos em sociedade.
Em pouco tempo, métodos que foram ensinados a nós se mostrarão ultrapassados e obsoletos. Recomenda-se que os educadores, por exemplo, busquem meios alternativos de avaliar os estudantes, não só pela resposta que ele fornece a um trabalho, mas pela sua capacidade de construir as suas respostas, ou sua capacidade de questionar e de fazer uso das tecnologias para obter os melhores resultados. Em um cenário absolutamente incerto, onde os avanços são percebidos dia após dia, esse é só um exemplo.
Sobre o compromisso de tais gigantes da tecnologia, trata-se de um aceno importante para a segurança da informação e para a proteção das pessoas sob o olhar da ética aplicada à IA. Enquanto não se tem um marco regulatório, esse compromisso demonstra que todos estão na mesma página e quais os anseios de proteção da sociedade para esse tipo de tecnologia. A IA generativa tem o potencial de mudar a forma como interagimos com o mundo, seguiremos buscando com otimismo e esperança de que essa nova realidade consiga solucionar os principais problemas do planeta.
Fontes:
https://docs.kanaries.net/pt/articles/gpt-zero Acesso em 27/07/23
https://www.microsoft.com/pt-br/security/business/security-101/what-is-phishing Acesso em 27/07/2023
https://www.cnnbrasil.com.br/noticias/saiba-o-que-e-deepfake-tecnica-de-inteligencia-artificial-que-foi-apropriada-para-produzir-desinformacao/ Acesso em 27/07/23
Publicado em: IA, Inteligencia Artifical, Legal Ops