Do tão falado ChatGPT, um modelo de linguagem baseado em Inteligência Artificial, questionado sobre as grandes limitações é a própria ferramenta quem responde:
- Como um modelo de linguagem treinado em larga escala, o ChatGPT é capaz de gerar respostas altamente coerentes e relevantes em uma ampla variedade de tópicos. No entanto, ainda há algumas limitações e falhas em seu desempenho, incluindo:
- Viés: assim como qualquer modelo de linguagem baseado em dados, o ChatGPT pode incorporar viés em suas respostas com base nos dados de treinamento disponíveis. Isso pode resultar em respostas que refletem preconceitos ou estereótipos.
- Conhecimento limitado: o ChatGPT só pode fornecer informações com base no conhecimento que foi fornecido em seu conjunto de dados de treinamento. Portanto, se houver informações ou conhecimentos ausentes ou limitados nesses dados, o ChatGPT pode não ser capaz de fornecer respostas precisas.
- Contexto limitado: o ChatGPT não é capaz de entender completamente o contexto em que uma pergunta é feita. Portanto, em algumas situações, o ChatGPT pode fornecer respostas que parecem relevantes, mas na verdade estão fora do contexto da pergunta.
- Falta de empatia e senso comum: embora o ChatGPT possa gerar respostas que parecem inteligentes e razoáveis, ele não tem empatia ou senso comum humanos. Portanto, em situações onde é necessário levar em consideração o contexto social ou emocional, o ChatGPT pode não ser capaz de fornecer respostas apropriadas.
- Erros de geração de linguagem: como em qualquer modelo de linguagem gerativa, o ChatGPT pode produzir respostas que contenham erros gramaticais ou semânticos. Esses erros podem afetar a clareza e a precisão da resposta.
Relativamente à falta de "empatia e senso comum", questionei a máquina para fornecer um exemplo de decorrente dessas limitações. A resposta:
- Embora o ChatGPT seja um modelo de linguagem avançado e capaz de fornecer respostas úteis em muitas situações, ainda há casos em que sua falta de empatia e senso comum pode resultar em respostas inadequadas ou até mesmo ofensivas.
- Um exemplo de resposta que pode ser vista como falta de empatia ou senso comum seria o seguinte:
- Pergunta: "Minha avó acabou de falecer. O que eu devo fazer agora?"
- Resposta inadequada: "Sinto muito pela sua perda. Talvez você deva aproveitar a oportunidade para limpar a casa dela ou ver se há algo que você possa herdar."
- Embora esta resposta seja tecnicamente correta em relação à pergunta, ela não leva em conta o contexto emocional e social da situação. A resposta não demonstra empatia pela perda do indivíduo e oferece uma solução superficial e materialista para um problema emocional. Isso pode ser considerado inadequado ou ofensivo por algumas pessoas.
- Por isso, é importante lembrar que o ChatGPT é uma máquina e não possui as mesmas habilidades sociais e emocionais que os seres humanos possuem. Portanto, em situações que exigem empatia ou senso comum, é sempre importante usar o bom senso e considerar outros recursos, como conversar com amigos ou familiares, um profissional de saúde mental ou um especialista no assunto em questão.
Em resumo, de facto a ferramenta tem muitas limitações, porventura mais do que as que ela própria enumera, mas convenhamos que apresenta resultados surpreendentes em muitas matérias e como tal pode ter um amplo e enorme contributo em muitas áreas do conhecimento, para o bem e para o mal. Os cábulas, aqueles que querem e precisam de mostrar trabalho, mesmo sem qualquer esforço ou talento, podem ter aqui um amigo para a vida e sem a necessidade de ter que o compensar com jantares ou prendas. Importa, pois, que paralelamente sejam criados mecanismos para interceptar "chicos-espertos", o que, diga-se, não será fácil.
