Se um dia você quiser saber qualquer coisa sobre mim, nunca procure no ChatGPT - Época NEGÓCIOS

Se um dia você quiser saber qualquer coisa sobre mim, nunca procure no ChatGPT Época NEGÓCIOS

Fev 15, 2023 - 10:18

0 10

Se um dia você quiser saber qualquer coisa sobre mim, nunca procure no ChatGPT - Época NEGÓCIOS

Mais: o ChatGPT apresenta uma tonelada de fake news sobre mim – lugares onde nunca trabalhei, empresas por onde nunca andei, universidades que nunca cursei ou onde nunca lecionei, países onde nunca morei e temas que jamais abordei.

Embora o ChatGPT e a OpenAI tenham recebido investimento de US$ 10 bilhões da Microsoft (cerca de R$ 51 bilhões na cotação atual) e a IA utilizar como fonte banco de textos disponíveis na Internet, como artigos, notícias e publicações abertas em redes sociais, e eu tenha isso em vasta medida na Web, inclusive com página na Wikipedia, ela apresentou nada menos do que 8 biografias absolutamente malucas sobre o “Marc Tawil brasileiro”.

Perguntei, então, a Rony Vainzof, advogado e professor especializado em Direito Digital, sócio do Opice Blum, Bruno e Vainzof Advogados e coordenador da Pós-Graduação em Direito Digital da Escola Paulista de Direito, se apostar nessa tecnologia, como muitos o fazem de olhos fechados, é astuto e, sobretudo, seguro.

Me diz Vainzof: “O ChatGPT é sensível a ajustes na frase de entrada ou tentativas. Por exemplo, quando fazemos uma pergunta, ele pode alegar não saber a resposta, mas, com uma pequena reformulação, pode responder corretamente. Atenção: pode também escrever respostas que parecem plausíveis, mas incorretas ou sem sentido. E corrigir esse problema é desafiador, pois há carência de fontes, ele pode ser treinado para dar respostas específicas e não necessariamente as desejáveis para os humanos”.

“Os problemas surgem de vieses nos dados de treinamento (os instrutores preferem respostas mais longas que pareçam mais abrangentes) e problemas conhecidos de otimização excessiva. Idealmente, o modelo faria perguntas para esclarecimento quando o usuário fornecesse consulta ambígua. Em vez disso, os modelos atuais adivinham o que o usuário pretendia”, afirma Vainzof.

Mais: ainda que haja esforços para fazer com que o modelo recuse solicitações inapropriadas, às vezes, ele responde a instruções prejudiciais ou exibe comportamento tendencioso. A OpenAI usa a API de moderação para avisar ou bloquear certos tipos de conteúdo inseguro, contudo, pode haver falsos negativos e positivos.

“É improvável que o ChatGPT ou qualquer outro sistema de Inteligência Artificial (IA) substitua totalmente os advogados. Embora os sistemas de IA possam ser muito úteis para auxiliar em determinadas tarefas, eles não são capazes de substituir o pensamento crítico e as habilidades de julgamento de um advogado humano. O Direito é um campo complexo que envolve não apenas uma compreensão completa da lei em si, mas também a capacidade de aplicar esse conhecimento a situações específicas e de antecipar e abordar possíveis problemas e desafios. Isso requer um nível de criatividade, intuição e empatia que é difícil para os sistemas de IA replicarem...”

“Como qualquer outro modelo de linguagem baseado em dados, o ChatGPT está sujeito a erros e distorções na gerência de linguagem, especialmente quando exposto a dados que não estejam presentes em sua base de treinamento. Em termos de impacto algorítmico, o ChatGPT pode ter um impacto significativo em aplicações que dependem de conversações automatizadas para interagir com os usuários. No entanto, é importante lembrar que esses modelos são apenas ferramentas e que a responsabilidade final de como eles são usados e interpretados é dos seres humanos que os utilizam. É importante considerar cuidadosamente como esses modelos são treinados e como eles são usados para garantir que eles não produzam resultados injustos ou prejudiciais”.

“Como qualquer outro modelo de linguagem baseado em dados, o ChatGPT pode ter riscos e impactos adversos associados ao seu uso. Alguns possíveis riscos e impactos adversos do ChatGPT incluem: erros e distorções na gerência de linguagem.

Preconceitos e discriminação: se a base de treinamento do ChatGPT estiver contaminada por preconceitos ou discriminação, esses padrões podem ser refletidos nas respostas geradas pelo modelo. É importante garantir que a base de treinamento do ChatGPT seja diversa e equilibrada para minimizar o risco de reproduzir preconceitos ou discriminação.

Dependência excessiva: o ChatGPT pode ser usado como uma ferramenta para automatizar conversas, mas é importante lembrar que ele não pode substituir completamente a interação humana. Dependência excessiva em modelos de linguagem como o ChatGPT pode levar a desconexão social e afetar negativamente as habilidades de comunicação das pessoas.

Usos potencialmente prejudiciais: como qualquer outra ferramenta, o ChatGPT pode ser usado de maneira prejudicial se não for usado de maneira responsável. Por exemplo, o ChatGPT pode ser usado para gerar spam ou para enganar as pessoas de maneira mal-intencionada. É importante tomar medidas para garantir o uso responsável do ChatGPT e para minimizar o risco de usos prejudiciais.”

Rony Vainzof concorda que o Direito é um campo complexo que envolve não apenas compreensão da norma em si, mas também a capacidade de aplicar esse conhecimento em situações específicas e de antecipar e abordar possíveis problemas e desafios.

“Isso requer um nível de criatividade, intuição e empatia que é difícil para os sistemas de IA replicarem. No entanto, os advogados cada vez mais precisam se adaptar e aprender a trabalhar com a tecnologia para continuar sendo relevantes e competitivos em mais um setor de constante mudança. E o ChatGPT é uma prova _quase viva’ e atual disso”, me diz ele.

Para evitar discriminação, a OpenAI vem adotando medidas de governança, como um código de ética, que estabelece diretrizes claras para o uso responsável e ético da tecnologia de IA. Esse código inclui seções específicas sobre discriminação e diversidade, e estabelece que a empresa se compromete a promover a inclusão e evitar a discriminação.

Outro fator relevante é a criação de um comitê de governança, composto por especialistas em diversas áreas, incluindo Direito, Ética e Tecnologia de IA, responsável por supervisionar os projetos da empresa e garantir que eles estejam em conformidade com o código de ética e as leis aplicáveis.

1.Treine o modelo com uma base de dados diversa e equilibrada: para minimizar o risco de reproduzir preconceitos ou discriminação, é importante garantir que a base de treinamento do ChatGPT seja diversa e equilibrada. Isso pode incluir uma variedade de fontes de dados e garantir que o modelo não esteja exposto a dados contaminados por preconceitos ou discriminação.

2.Use o modelo de maneira responsável: é importante tomar medidas para garantir o uso responsável do ChatGPT e minimizar o risco de usos prejudiciais. Isso pode incluir estabelecer políticas e procedimentos para garantir o uso ético do modelo e treinar os usuários no uso responsável do ChatGPT.

3.Estabeleça medidas de segurança: para minimizar o risco de usos prejudiciais do ChatGPT, é importante estabelecer medidas de segurança para proteger o modelo de acesso não autorizado ou uso não autorizado. Isso pode incluir medidas de autenticação e autorização, bem como medidas de monitoramento para detectar usos potencialmente prejudiciais.

4.Forneça treinamento e suporte aos usuários: para garantir que o ChatGPT seja usado de maneira eficaz e responsável, é importante fornecer treinamento e suporte aos usuários. Isso pode incluir orientação sobre como usar o modelo de maneira responsável e resolver problemas técnicos ou de uso.

5.Mantenha o modelo atualizado: para minimizar o risco de erros ou distorções na gerência de linguagem, é importante manter o ChatGPT atualizado com novos dados de treinamento e melhorias no modelo. Isso pode ajudar a garantir que o modelo esteja sempre funcionando de maneira eficaz e responsável.

*Marc Tawill é estrategista de Comunicação, palestrante e educador, Nº 1 LinkedIn Top Voices, LinkedIn Creator e Instrutor Oficial do LinkedIn Learning, com mais de 13 mil alunos treinados na plataforma. Palestrante profissional nas áreas de Futuro do Trabalho, Futuro da Comunicação, Web3, Autoridade Digital, Evolução das Marcas e Sociedade 5.0, Tawil é quatro vezes TEDxSpeaker e mestre de cerimônia TEDx. Colunista de Época Negócios e da Eletromídia Out Of Home, atua como Master Expert (curador) na HSM University e LinkedIn Expert em O Novo Mercado. Em 2023, publica pela editora HarperCollins Brasil o livro “Seja Sua Própria Marca”.

Confira a materia na integra em: https://epocanegocios.globo.com/colunas/futuro-do-trabalho/coluna/2023/02/se-um-dia-voce-quiser-saber-qualquer-coisa-sobre-mim-nunca-procure-no-chatgpt.ghtml