ChatGPT faz 1 ano: relembre sete polêmicas do chatbot com IA

• LuzIA no WhatsApp: saiba se serviço de inteligência artificial é seguro
• Canal do TechTudo no WhatsApp: acompanhe as principais notícias, tutoriais e reviews

📝 Quais são os chatbots mais inteligentes para conversar com IA? Veja no Fórum do TechTudo

Por curiosidade, o TechTudo desejou feliz aniversário ao ChatGPT. A ferramenta agradeceu e até respondeu com um emoji festivo, mas depois nos lembrou que não tem sentimentos ou consciência.

O ChatGPT utiliza uma extensa base de dados para referenciar suas respostas. O arquivo é composto por textos de redes sociais, artigos, notícias, documentos e muitos outros conteúdos publicados na Internet. Por isso, questões sobre autoria no chatbot são complexas e polêmicas, já que a ferramenta mistura fontes diversas e é difícil precisar de onde resgatou cada informação. É justamente devido à variedade de fontes que não se deve confiar plenamente nas respostas do ChatGPT, visto que não se pode confirmar a validade da referência utilizada.

Apesar da incerteza das informações, o ChatGPT já foi citado, inclusive, como autor de artigo de opinião publicado em uma revista científica. O episódio ocorreu na Oncoscience e, na ocasião, a ferramenta foi utilizada para defender o uso de um medicamento específico. Obviamente, a comunidade científica não viu a autoria com bons olhos e a maioria dos cientistas concorda que o ChatGPT não pode assumir a responsabilidade de um estudo e, muito menos, reivindicar propriedade intelectual.

Como visto no tópico anterior, o ChatGPT utiliza uma variedade de fontes para compor a sua base de dados. Entre as referências, contudo, podem estar textos de pessoas preconceituosas ou com discursos de ódio, que influenciarão a ferramenta a imitar esse comportamento. A própria OpenAI reconhece o defeito e alerta os usuários sobre a possibilidade de haver respostas no chatbot que não compactuem com a opinião da empresa.

Ao perguntar sobre Viés e Discriminação ao ChatGPT, a resposta recebida pelo TechTudo foi: “Modelos de linguagem, incluindo o ChatGPT, podem reproduzir e amplificar viés existente nos dados de treinamento. Isso pode resultar em respostas que refletem preconceitos culturais e sociais”.

3. Exploração de trabalhadores

Em janeiro de 2023, uma reportagem da revista Time trouxe a público a exploração dos trabalhadores terceirizados que ajudaram a criar a base de dados do ChatGPT. Nomeados como “data taggers” (rotuladores de dados, em tradução literal), eles eram responsáveis por classificar as informações da web para ensinar o chatbot a responder aos comandos dos usuários de acordo com os termos de uso da plataforma. Isso significa que estavam constantemente expostos a conteúdos inadequados e sensíveis, como cenas de abuso sexual e textos que reforçam discursos de ódio. Além dos riscos à saúde mental, os terceirizados também eram mal pagos — recebiam entre US$ 1,32 e US$ 2 por hora (cerca de R$ 6 a R$ 10).

4. Uso de notícias para treinamento

Assim como outras ferramentas de IA generativa, como Midjourney e DeviantArt, o ChatGPT também esteve envolvido em polêmicas por quebra de direitos autorais. Em fevereiro, o The Wall Street Journal e a CNN acusaram a empresa de utilizar suas matérias jornalísticas indevidamente para treinar a inteligência artificial. De acordo com o próprio chatbot, o software fez uso de notícias de ao menos 20 veículos jornalísticos estadunidenses, mas não deixou claro se a OpenAI tinha feito acordos de cessão dos direitos autorais.

O ChatGPT foi banido da China em fevereiro de 2023. Os aplicativos e sites que ofereciam acesso à ferramenta, como ChatGPTRobot e AIGC CHAT Bot, foram suspensos. No meio do ano, contudo, as IAs generativas foram regulamentadas no país — o que faz da China pioneira na regulamentação dessa tecnologia —, mas o ChatGPT ainda não está disponível por lá.

O co-fundador e CEO do ChatGPT, Sam Altman, passou por uma demissão polêmica recentemente. No dia 17 de novembro de 2023, o conselho que comanda a OpenAI anunciou que o executivo estava demitido, sem muitas explicações. Logo após sua saída, o presidente da empresa, Greg Brockman, também decidiu sair, em solidariedade ao companheiro. Então, ambos foram contratados pela Microsoft, uma das principais investidoras do ChatGPT, para se juntar a uma equipe de pesquisa em IA. No entanto, o novo emprego não durou muito, já que funcionários da OpenAI fizeram uma carta coletiva pedindo pelo retorno do CEO. Assim, cinco dias — e muitas negociações — depois, Sam Altman retomou seu posto original no comando do chatbot.

7. Futuro da criatividade

A difusão de ferramentas de IA generativa como o ChatGPT tem gerado muitos debates sobre a relação entre criadores e a tecnologia. Com cada vez mais softwares capazes de gerar textos, imagens, vídeos e outros tipos de conteúdos por conta própria, a preocupação com o futuro da Indústria Criativa tem se tornado uma questão para muitos trabalhadores. Redatores, escritores, ilustradores e designers têm buscado se adaptar às novas ferramentas, utilizando-as como complemento ao seu processo criativo, no entanto, alguns temem que os empregadores passem a optar pelo trabalho da IA em vez da força humana.

Veja também: O que acontece quando bloqueio alguém no WhatsApp?