Nos últimos dias, as grandes empresas de tecnologia, como Amazon, Google, Open AI, Anthropic e Inflection AI, se comprometeram com o governo americano a buscar garantias para a detecção de informações geradas por inteligência artificial (IA). Em suma, essas gigantes da tecnologia prometem de maneira voluntária a criar meios de rastrear esse tipo de conteúdo, como um formato de pegadas, facilitando sua identificação.

O fato é que, atualmente, é muito difícil identificar informações geradas pela IA, e as poucas ferramentas disponíveis que se prestaram a esse papel, como a GPTZero, que se utilizam de cálculos de Perplexidade no Processamento de Linguagem Natural (NLP, têm demonstrado pouca efetividade.

As empresas citadas se comprometeram a priorizar pesquisas sobre os riscos envolvendo o uso de IA (sobretudo os riscos sociais), evitando práticas indevidas e o aumento de desigualdades e exclusão. As companhias  pretedem compartilhar informações sobre o desenvolvimento das IAs com o Governo e com a sociedade, desenvolvendo mecanismos eficazes para detecção de textos e imagens produzidos pela Inteligência.

A IA generativa – que é um tipo de sistema de IA capaz de gerar texto, imagens ou outras medias em resposta a solicitações em linguagem comum – é uma tecnologia poderosa que pode ser usada para criar conteúdos educativos, realistas e muito convincentes, de difícil distinção daquilo que é escrito por seres humanos. Entretanto, ela pode ser usada para cometimento de práticas indevidas, como espalhar notícias falsas, bullying e outras condutas reprovaveis. Como exemplo, a IA generativa pode ser usada para criar ataques de phishing, que são e-mails fraudulentos, projetados para enganar as pessoas instigando-as a fornecer informações pessoais ou financeiras, bem como criar deepfakes, que são vídeos ou áudios manipulados para fazer parecer que alguém está dizendo ou fazendo algo que nunca disse ou fez.

A detecção de conteúdo gerado por IA é importante por várias razões. Primeiro, para ajudar a proteger as pessoas contra a desinformação e, segundo, a detecção de conteúdo gerado por IA pode ajudar a proteger a privacidade das pessoas e melhorar a segurança da informação.

A IA precisa ser sedimentada em princípios éticos de transparência, equidade, privacidade, segurança e responsabilidade, garantindo acesso às fontes das informações fornecidas, transparência do uso e processamento de dados, bem como a segurança das informações processadas (sobretudo de dados sensíveis de usuários) e precisa, ainda, de imparcialidade para evitar favorecimento de grupos.

Em se tratando do desenvolvimento desse tipo de inteligência generativa, é essencial manter uma equipe diversa e multidisciplinar, garantindo um contraste para a construção dos algoritmos e evitando vieses indesejados que podem favorecer determinado grupo em detrimento de outros. Portanto, é essencial que todos estejamos engajados em acompanhar o surgimento dessas novas tecnologias e suas aplicações práticas, analisando sob o olhar ético e senso de justiça e responsabilidade.

As aplicações de IA são praticamente infinitas. Temos uma gama de dados qualitativos e não estruturados sendo emitidos a cada segundo. Temos grandes avanços em todas as áreas da sociedade, e é emocionante ver os avanços em prol da ciência e descobrimento precoce de doenças e cura de males dificilmente pensados a uma década atrás, ou os avanços que a IA promove na educação.

Alguns educadores estão preocupados com o uso de IA generativa por alunos para realizar trabalhos escolares. Eles temem que os alunos usem essa tecnologia para copiar trabalho ou criar conteúdo falso. É importante abordar essas preocupações de forma proativa e garantir que os alunos entendam os riscos e benefícios do uso da tecnologia.

Uma maneira de garantir a transparência é desenvolver diretrizes para o uso da IA generativa na educação, que podem ajudar a garantir com que a tecnologia seja usada de forma ética e responsável. Mas isso nos mostra, especialmente, que a IA Generativa ressurge em um contexto em que temos fácil acesso à internet, onde temos computadores com alto poder de processamento, e as fontes de dados são quase infinitas, coletadas em todas as nossas tarefas cotidianas.

Está claro que a IA, que antes era restrita apenas às grandes empresas de tecnologia, varejo e outras, hoje é acessível e prática, e todos estamos expostos a ela, de forma direta ou indireta. Todas as ferramentas que surgem diariamente não só foram criadas para contribuir com nosso trabalho e em tarefas diárias, mas também para modificar a forma como vivemos em sociedade.

Em pouco tempo, métodos que foram ensinados a nós se mostrarão ultrapassados e obsoletos. Recomenda-se que os educadores, por exemplo, busquem meios alternativos de avaliar os estudantes, não só pela resposta que ele fornece a um trabalho, mas pela sua capacidade de construir as suas respostas, ou sua capacidade de questionar e de fazer uso das tecnologias para obter os melhores resultados. Em um cenário absolutamente incerto, onde os avanços são percebidos dia após dia, esse é só um exemplo.

Sobre o compromisso de tais gigantes da tecnologia, trata-se de um aceno importante para a segurança da informação e para a proteção das pessoas sob o olhar da ética aplicada à IA. Enquanto não se tem um marco regulatório, esse compromisso demonstra que todos estão na mesma página e quais os anseios de proteção da sociedade para esse tipo de tecnologia. A IA generativa tem o potencial de mudar a forma como interagimos com o mundo, seguiremos buscando com otimismo e esperança de que essa nova realidade consiga solucionar os principais problemas do planeta.

Fontes:

https://www.whitehouse.gov/briefing-room/statements-releases/2023/07/21/fact-sheet-biden-harris-administration-secures-voluntary-commitments-from-leading-artificial-intelligence-companies-to-manage-the-risks-posed-by-ai/ Acesso em 27/07/23

https://docs.kanaries.net/pt/articles/gpt-zero Acesso em 27/07/23

https://www.microsoft.com/pt-br/security/business/security-101/what-is-phishing Acesso em 27/07/2023

https://www.cnnbrasil.com.br/noticias/saiba-o-que-e-deepfake-tecnica-de-inteligencia-artificial-que-foi-apropriada-para-produzir-desinformacao/ Acesso em 27/07/23

O post A importância da detecção de conteúdo gerado por IA apareceu primeiro em Viseu Advogados.

O evento busca discutir as principais práticas contemporâneas no mercado, como utilização de tecnologia, metaverso, inteligência artificial, Legal Ops, e muito mais.

Ricardo Motta, sócio da área de Relacionamento com o Mercado, será um dos palestrantes do painel “Metaverso e a Advocacia 4.0”.

Saiba mais sobre o evento e inscreva-se pelo link: Inovação | Inovação e Gestão Jurídica (inovacaoegestaojuridica.com.br)

O post IV CONGRESSO DE INOVAÇÃO E GESTÃO JURÍDICA – CENTRO OESTE apareceu primeiro em Viseu Advogados.