O ChatGPT pode ser detectado? Puxando a cortina para técnicas de detecção de IA
Publicados: 2023-05-26À medida que a inteligência artificial continua avançando, à medida que mais e mais pessoas incorporam ferramentas de IA em suas estratégias de conteúdo, temos que perguntar:
O ChatGPT pode ser detectado?
Essa poderosa tecnologia orientada por IA levantou preocupações em vários setores, principalmente na academia e na criação de conteúdo.
Se você usar o ChatGPT em seu processo de produção de conteúdo, vai sair bem do outro lado?
- Seus leitores vão notar? (63,5% das pessoas pensaram que o texto do ChatGPT foi escrito por um humano em uma pesquisa recente - então talvez não.)
- Seu conteúdo ainda será classificado?
- Será que isso importa?
É hora de falar sobre diferentes métodos para detectar texto gerado pelo ChatGPT e discutir sua eficácia.
Vamos nos aprofundar em como as universidades estão tomando medidas contra o uso do ChatGPT em tarefas. Também examinaremos a ferramenta de detecção de IA do Content at Scale em comparação com outras ferramentas de detecção, como Writer.com e Copyleaks.
Por último, mas não menos importante, abordaremos questões éticas relacionadas ao uso do ChatGPT.
Fique ligado enquanto desvendamos as complexidades por trás do uso e detecção de conteúdo gerado pelo ChatGPT.
Índice:
- O ChatGPT pode ser detectado? Ferramentas de detecção de IA para ChatGPT
- Escritor
- Conteúdo em escala
- Classificador de Texto AI
- GPTZero
- vazamentos
- Como as universidades estão tomando medidas contra o uso do ChatGPT em tarefas
- Como as instituições detectam o ChatGPT
- Repensando o sistema educacional em meio às preocupações do ChatGPT
- Pistas para identificar textos gerados por IA e detectar ChatGPT
- Conclusão
O ChatGPT pode ser detectado? Ferramentas de detecção de IA para ChatGPT
Então, o ChatGPT pode ser detectado por escrito?
Bem… às vezes .
Com o surgimento do conteúdo gerado por IA de ferramentas como o ChatGPT, várias ferramentas de detecção foram desenvolvidas para identificar se uma peça foi escrita por um modelo de IA.
Algumas ferramentas de detecção de IA, como as versões do Writer.com e do Content at Scale, mostraram sucesso na detecção do conteúdo do ChatGPT, enquanto outras, como o AI Text Classifier, lutam com precisão.
No entanto, conforme testei cada uma dessas ferramentas, todas tiveram resultados mistos ou imprecisos pelo menos uma vez - portanto, tome cuidado e não confie totalmente nessas ferramentas para chegar a conclusões duras e rápidas.
Lembre-se, a detecção de IA é falha.
Freqüentemente, o melhor detector do ChatGPT é o olho humano e o intestino. ️
Dito isso, aqui estão as principais ferramentas gratuitas de detecção de IA atualmente disponíveis. Eu verifiquei todos eles usando um pedaço de texto que o ChatGPT escreveu sobre marketing de conteúdo:
Escritor
A plataforma Writer tem seu próprio detector de IA disponível para uso gratuito. Basta colar seu texto ou URL e a ferramenta retornará com uma pontuação percentual informando o quão “humano” é o texto.
Quando verifiquei a saída do ChatGPT nesta ferramenta, estava totalmente errado: obteve 87% de humano.
Conteúdo em escala
A ferramenta de detecção de AI do Content at Scale é uma excelente opção no espaço. Essa ferramenta usa algoritmos sofisticados para examinar vários aspectos linguísticos, como estilo de escrita, estrutura de frases, escolhas de palavras e muito mais para identificar se um trecho de texto foi criado por um algoritmo ou por um escritor humano.
Essa ferramenta se saiu melhor do que o Writer na detecção do ChatGPT - marcou o texto AI em 31% ou "Provavelmente será gerado por AI".
Observe o realce colorido útil que informa quais partes do texto soam mais robóticas:
Mas o Content at Scale não é apenas uma ferramenta de detecção de IA. Essa parte é apenas um bônus grátis.
Em vez disso, esta é a ferramenta de redação de conteúdo de SEO que simplificará e acelerará seu processo de criação de conteúdo de 5 a 10 vezes.
Inscreva-se hoje usando meu link para obter 20% de créditos extras gratuitos para criar postagens de blog de SEO fantásticas com IA.
Classificador de Texto AI
O AI Text Classifier vem do próprio OpenAI, então você esperaria que fosse o mais útil, certo?
Embora tenha classificado meu texto ChatGPT como “possivelmente gerado por IA”, essa é toda a informação que me deu. Nenhuma outra pontuação útil, dicas para edição ou até mesmo uma ótima interface de usuário.
Esta ferramenta é básica e não é minha melhor escolha.
GPTZero
O GPTZero funciona exatamente como as outras ferramentas aqui: cole seu texto e aperte um botão para executar o detector.
Ele também detectou com precisão meu texto do ChatGPT:
No entanto, a isenção de responsabilidade sob o resultado é um toque legal – afirma diretamente que os resultados da ferramenta “não devem ser usados para punir os alunos”.
O GPTZero admite abertamente que esses tipos de ferramentas de detecção são falhos. Ganha um ponto extra pela transparência.
Detector de IA de Copyleaks
O último detector ChatGPT gratuito da nossa lista é do Copyleaks, uma ferramenta de plágio.
Essa ferramenta detectou com precisão que nosso texto de exemplo foi, de fato, produzido pelo ChatGPT. Ele pontuou o texto como 89,6% provável para AI. Até destacou a parte mais suspeita em vermelho:
Essa ferramenta vem com uma extensão gratuita do Chrome, o que é uma boa vantagem se você quiser detecção de IA em movimento.
Concluindo, é possível que o ChatGPT seja detectado pelas atuais ferramentas de detecção gratuitas do mercado, mas com o avanço da tecnologia de IA, isso pode se tornar mais difícil. A colaboração entre os métodos de detecção pode ser necessária para detectar o conteúdo gerado por IA de forma eficaz.
No entanto, no futuro, podemos não nos preocupar com a detecção de conteúdo de IA . Mais sobre isso neste vídeo:
Como as universidades estão tomando medidas contra o uso do ChatGPT em tarefas
Não podemos falar sobre a detecção do ChatGPT sem abordar o problema que isso representa para escolas, universidades e instituições.
Quando o ChatGPT chegou, imediatamente deixou os educadores preocupados porque é, em essência, o melhor redator e (BS-er) que o mundo já viu.
Para os alunos que sentem necessidade de trapacear, a ferramenta é como catnip.
Metade dos estudantes universitários acredita que usar ferramentas de escrita de IA como o ChatGPT para concluir tarefas é trapaça.
Outros 41% dizem que é moralmente errado.
No entanto, uma minoria (22%) admite usar ferramentas de IA para concluir tarefas e redigir redações.
Ainda assim, professores e professoras estão preocupados.
Em resposta ao aumento do conteúdo gerado por IA e aos possíveis riscos de trapaça, muitas universidades começaram a implementar políticas mais rígidas e a alavancar ferramentas como o Turnitin para manter a integridade acadêmica.
A Turnitin é uma fornecedora líder de software de detecção de plágio para a academia e também desenvolveu tecnologia para detecção de IA. A empresa afirma que pode determinar com 98% de confiança se um ensaio é produzido por um chatbot ou não.
Universidades e instituições estão tão preocupadas com o ChatGPT e as ferramentas de IA que algumas até oferecem workshops para professores sobre como identificar texto gerado artificialmente nos envios dos alunos.
Como as instituições detectam o ChatGPT
- Ferramentas de detecção: ferramentas como o Turnitin podem analisar padrões e uso de linguagem em vários trabalhos enviados por alunos para identificar qualquer sinal secreto imperceptível que indique o uso de tecnologias baseadas em GPT.
- Avaliando o contexto: os educadores também podem examinar a relevância e a coerência dos argumentos apresentados nas redações como outro método para detectar o uso potencial de chatbots como o ChatGPT.
- Fontes de referência cruzada: a comparação de fontes citadas entre vários artigos pode revelar referências semelhantes ou idênticas que podem indicar a dependência de conteúdo gerado por IA.
Repensando o sistema educacional em meio às preocupações do ChatGPT
À luz das crescentes preocupações sobre o ChatGPT e ferramentas semelhantes, alguns especialistas sugerem que pode ser necessário repensar completamente o sistema educacional.
Isso envolveria não apenas abordar os danos potenciais causados por essas tecnologias, mas também maximizar seus benefícios educacionais.
Para conseguir isso, pode haver uma mudança de foco dos métodos tradicionais de avaliação para abordagens mais inovadoras que adotam a IA como uma ferramenta de aprendizagem verdadeiramente colaborativa.
- Enfatizando o pensamento crítico: Incentive os alunos a desenvolver suas habilidades analíticas e de resolução de problemas, em vez de simplesmente memorizar informações ou confiar em conteúdo gerado por IA.
- Promover a colaboração: promova o trabalho em equipe entre os alunos por meio de projetos e discussões em grupo, o que pode ajudá-los a aprender com as perspectivas uns dos outros, em vez de recorrer a chatbots como o ChatGPT.
- Incorporando a tecnologia com responsabilidade: Ensine os alunos a usar ferramentas avançadas de forma eficaz sem comprometer a integridade acadêmica. Por exemplo, os alunos podem aproveitar as plataformas com tecnologia de IA para fins de pesquisa, mas não como um meio de concluir as tarefas.
A chave é encontrar um equilíbrio entre abraçar a inovação da IA e se proteger contra práticas antiéticas de uso indevido ou confiança excessiva na IA. Em última análise, esta abordagem pode ajudar a promover um ambiente de aprendizagem mais progressivo e adaptável para todos.
Pistas para identificar textos gerados por IA e detectar ChatGPT
Com o uso crescente de conteúdo gerado por IA como o ChatGPT, faz sentido que empresas e instituições acadêmicas queiram encontrar maneiras de detectá-los.
No entanto, você nem sempre precisa de uma ferramenta para detectar conteúdo gerado por IA. Se você ler o texto com atenção e procurar essas pistas, poderá detectar a escrita de IA a olho nu.
- Anomalias no uso da linguagem: Procure inconsistências ou frases incomuns que possam indicar falta de toque humano. Frases estranhas e complexas são uma marca registrada da escrita de IA.
- Falta de contexto: se um texto parece desconectado dos eventos atuais ou carece de compreensão contextual, ele pode ser gerado por um modelo de IA.
- Padrões previsíveis: alguns textos gerados artificialmente seguem padrões ou estruturas específicas que podem servir como sinais reveladores. Por exemplo, muitos AIs tendem a escrever frases excessivamente formais. Eles podem usar palavras grandes onde palavras pequenas fariam (um identificador CHAVE da escrita AI é, estranhamente, inserir alguma forma da palavra “utilizar” em todos os lugares . Procure e você verá o que quero dizer.)
O ChatGPT pode ser detectado? Sim por enquanto
A tecnologia por trás do ChatGPT é surpreendente. Ele realmente tem a capacidade de produzir texto e conteúdo que soa totalmente humano .
No entanto, neste ponto, ainda podemos detectar quando o chatbot é o autor. As ferramentas gratuitas disponíveis no mercado podem fazê-lo com bastante frequência, sem mencionar que humanos com um olhar experiente podem reconhecê-lo sem nenhuma ferramenta.
MAS -
Isso vai mudar?
Pode. Essa tecnologia de IA só vai melhorar com o passar do tempo. Em breve, o texto ChatGPT – e qualquer outro conteúdo gerado por IA – pode ser completamente indetectável.
O que então?
Em vez de ficar com medo desse cenário em rápida mudança, você pode aprender como girar e se adaptar.
Esse é o cerne do meu programa de orientação, o Sistema de Transformação de Conteúdo.
Nele, eu ensino as habilidades, estratégias e sistemas para ajudar a construir seu negócio para durar além das tendências, modismos e mudanças tecnológicas.
Na verdade, quando a IA explodiu na criação de conteúdo, atualizei rapidamente o currículo, as aulas e o treinamento do programa para que os alunos do CTS estivessem preparados e ainda por cima!
Pronto para aprender a adotar a IA e aproveitá-la para o crescimento explosivo do seu negócio? Inscreva-se hoje para se tornar um aluno do Content Transformation System.
