{"id":643523,"date":"2024-08-07T07:50:00","date_gmt":"2024-08-07T10:50:00","guid":{"rendered":"https:\/\/investnews.veezor.com\/geral\/existe-uma-ferramenta-para-pegar-alunos-trapaceando-com-o-chatgpt-a-openai-nao-a-lancou\/"},"modified":"2025-08-08T16:07:30","modified_gmt":"2025-08-08T19:07:30","slug":"existe-uma-ferramenta-para-pegar-alunos-trapaceando-com-o-chatgpt-a-openai-nao-a-lancou","status":"publish","type":"post","link":"https:\/\/investnews.com.br\/the-wall-street-journal\/existe-uma-ferramenta-para-pegar-alunos-trapaceando-com-o-chatgpt-a-openai-nao-a-lancou\/","title":{"rendered":"Existe uma ferramenta para pegar alunos trapaceando com o ChatGPT. A OpenAI n\u00e3o a lan\u00e7ou"},"content":{"rendered":"

A OpenAI<\/strong> tem um m\u00e9todo para detectar de forma confi\u00e1vel quando algu\u00e9m usa o ChatGPT<\/a> para escrever um ensaio ou trabalho de pesquisa. A empresa n\u00e3o o lan\u00e7ou, apesar das preocupa\u00e7\u00f5es generalizadas sobre os alunos que usam intelig\u00eancia artificial<\/a> para trapacear.\u00a0<\/strong><\/p>

O projeto enfrenta um debate interno na OpenAI h\u00e1 cerca de dois anos e est\u00e1 pronto para ser lan\u00e7ado h\u00e1 mais ou menos um ano, de acordo com pessoas familiarizadas com o assunto e documentos internos vistos pelo Wall Street Journal<\/em>. \u201c\u00c9 s\u00f3 uma quest\u00e3o de apertar um bot\u00e3o\u201d, disse uma das pessoas.<\/p>

Ao tentar decidir o que fazer, os funcion\u00e1rios da OpenAI est\u00e3o divididos entre o compromisso declarado da startup com a transpar\u00eancia e seu desejo de atrair e reter usu\u00e1rios. Uma pesquisa que a empresa realizou com usu\u00e1rios leais do ChatGPT descobriu que perderia quase um ter\u00e7o deles com a tecnologia antifraude.<\/p>

LEIA MAIS:<\/strong> Voc\u00ea n\u00e3o precisa ser \u2018o cara da TI\u2019 para usar o ChatGPT como um cientista de dados<\/a><\/p>

Uma porta-voz da OpenAI disse que a preocupa\u00e7\u00e3o da empresa \u00e9 que a ferramenta possa afetar desproporcionalmente grupos como falantes n\u00e3o nativos de ingl\u00eas. \u201cO m\u00e9todo de marca d’\u00e1gua de texto que estamos desenvolvendo \u00e9 tecnicamente promissor, mas tem riscos importantes que estamos avaliando enquanto pesquisamos alternativas\u201d, explicou ela. \u201cAcreditamos que a abordagem que adotamos \u00e9 necess\u00e1ria, dadas as complexidades envolvidas e seu prov\u00e1vel impacto no ecossistema mais amplo al\u00e9m da OpenAI.\u201d<\/p>

Os funcion\u00e1rios que apoiam o lan\u00e7amento da ferramenta, incluindo aqueles que ajudaram a desenvolv\u00ea-la, disseram internamente que esses argumentos s\u00e3o fracos em compara\u00e7\u00e3o com o bem que a tecnologia poderia gerar.\u00a0<\/p>

A IA generativa pode criar um ensaio ou trabalho de pesquisa inteiro em quest\u00e3o de segundos, com base em um \u00fanico prompt, gratuitamente. Professores dizem estar desesperados por ajuda para reprimir seu uso indevido.<\/p>

\u201c\u00c9 um grande problema\u201d, disse Alexa Gutterman, professora de ingl\u00eas e jornalismo do ensino m\u00e9dio na cidade de Nova York. \u201c\u00c9 um fato j\u00e1 mencionado por todos os professores com quem trabalho.\u201d<\/p>

Uma pesquisa recente do Centro para Democracia & Tecnologia, organiza\u00e7\u00e3o sem fins lucrativos de pol\u00edtica de tecnologia, descobriu que 59% dos professores do ensino fundamental e m\u00e9dio tinham certeza de que alguns alunos haviam usado IA nos trabalhos escolares, um aumento de 17 pontos em rela\u00e7\u00e3o ao ano letivo anterior.<\/p>

O presidente-executivo da OpenAI, Sam Altman, e a diretora de tecnologia, Mira Murati, estiveram envolvidos em discuss\u00f5es sobre a ferramenta antifraude. Altman encorajou o projeto, mas n\u00e3o pressionou para que fosse lan\u00e7ado, disseram algumas pessoas familiarizadas com o assunto.<\/p>

A News Corp, propriet\u00e1ria do Wall Street Journal, tem uma parceria de licenciamento de conte\u00fado com a OpenAI.<\/p>

99,9% eficaz<\/h2>

O ChatGPT \u00e9 alimentado por um sistema de IA que prev\u00ea qual palavra ou fragmento de palavra, conhecido como token, deve vir a seguir em uma frase. A ferramenta antifraude em discuss\u00e3o na OpenAI mudaria ligeiramente a forma como os tokens<\/a> s\u00e3o selecionados. Essas mudan\u00e7as criariam um padr\u00e3o chamado marca d’\u00e1gua.\u00a0<\/p>

As marcas d’\u00e1gua seriam impercept\u00edveis para os humanos, mas poderiam ser encontradas com a tecnologia de detec\u00e7\u00e3o da OpenAI. O detector fornece uma pontua\u00e7\u00e3o da probabilidade de todo o documento ou parte dele ter sido escrito pelo ChatGPT.\u00a0<\/p>

As marcas d’\u00e1gua s\u00e3o 99,9% eficazes quando uma parte suficiente de um novo texto \u00e9 criada pelo ChatGPT, de acordo com os documentos internos.\u00a0<\/p>

\u201c\u00c9 mais prov\u00e1vel que o sol evapore amanh\u00e3 do que este trabalho de conclus\u00e3o de curso n\u00e3o tenha marca d’\u00e1gua”, disse John Thickstun, pesquisador de Stanford que faz parte de uma equipe que desenvolveu um m\u00e9todo de marca d’\u00e1gua semelhante para textos de IA.\u00a0<\/p>

Ainda assim, os funcion\u00e1rios mencionaram preocupa\u00e7\u00f5es de que as marcas d’\u00e1gua possam ser apagadas por meio de t\u00e9cnicas simples, como fazer com que o Google traduza o texto para outro idioma e depois volte para o original, ou fazer com que o ChatGPT adicione emojis ao texto, que ser\u00e3o manualmente exclu\u00eddos, disse um funcion\u00e1rio da OpenAI familiarizado com o assunto.<\/p>

LEIA MAIS:<\/strong> Intel vive seu \u2018momento Kodak\u2019: entenda como a fabricante de chips ficou para tr\u00e1s<\/a><\/p>

H\u00e1 um amplo consenso dentro da empresa de que determinar quem pode usar esse detector seria um desafio. Se poucas pessoas o tiverem, a ferramenta n\u00e3o ser\u00e1 \u00fatil. Se muitos obtiverem acesso, os fraudadores conseguir\u00e3o decifrar a t\u00e9cnica de marca d’\u00e1gua da empresa.\u00a0<\/p>

Os funcion\u00e1rios da OpenAI discutiram o fornecimento do detector diretamente com educadores ou com empresas externas que ajudam as escolas a identificar artigos escritos por IA e trabalhos plagiados.\u00a0<\/p>

O Google desenvolveu uma ferramenta de marca d’\u00e1gua que pode detectar texto gerado por sua IA Gemini. Chamado SynthID, passa por teste beta e n\u00e3o est\u00e1 amplamente dispon\u00edvel.<\/p>

\"Mulheres
Funcion\u00e1rios trabalham nos escrit\u00f3rios da OpenAI em S\u00e3o Francisco (Clara Mokri\/The Wall Street Journal)<\/figcaption><\/figure>

A OpenAI tem uma ferramenta para determinar se uma imagem foi criada usando sua ferramenta \u201ctexto para imagem\u201d, a DALL-E 3, que foi lan\u00e7ada para teste h\u00e1 alguns meses. A empresa deu prioridade \u00e0 marca d’\u00e1gua de \u00e1udio e visual em vez do texto porque os danos s\u00e3o mais significativos, principalmente em um ano eleitoral movimentado nos EUA, disse o funcion\u00e1rio familiarizado com o assunto.<\/p>

Textos sobre o Batman<\/h2>

Em janeiro de 2023, a OpenAI lan\u00e7ou um algoritmo destinado a detectar texto escrito por v\u00e1rios modelos de IA, incluindo o seu pr\u00f3prio. Mas teve sucesso apenas 26% das vezes, e ele foi cancelado sete meses depois.\u00a0<\/p>

Existem outras ferramentas desenvolvidas por empresas e pesquisadores externos para detectar texto criado com IA, e muitos professores dizem que as usaram. Mas \u00e0s vezes eles n\u00e3o conseguem detectar texto escrito por modelos avan\u00e7ados de linguagem e podem produzir falsos positivos.\u00a0<\/p>

No in\u00edcio, os alunos \u201cpensavam que t\u00ednhamos truques m\u00e1gicos para descobrir se estavam usando IA\u201d, disse Mike Kentz, consultor de IA para educadores que recentemente lecionou em uma escola particular na Ge\u00f3rgia. \u201cNo final do ano, eles estavam tipo, espera um pouco, o professor n\u00e3o tem ideia.\u201d<\/p>

Alguns professores incentivam os alunos a usar a IA para ajudar na pesquisa ou dar palpites sobre ideias. O problema \u00e9 quando os alunos t\u00eam um aplicativo como o ChatGPT fazendo todo o trabalho e nem sabem o que est\u00e3o entregando.\u00a0\u00a0<\/p>

LEIA MAIS:<\/strong> Precisamos falar sobre ciberseguran\u00e7a<\/a><\/p>

No ano passado, Josh McCrain, professor de ci\u00eancia pol\u00edtica da Universidade de Utah, deu aos alunos uma tarefa de reda\u00e7\u00e3o que inclu\u00eda, em um pequeno texto indecifr\u00e1vel, instru\u00e7\u00f5es para incluir uma refer\u00eancia ao Batman. Se copiassem e colassem a tarefa para a IA, as instru\u00e7\u00f5es iriam junto.<\/p>

E, batata! V\u00e1rios alunos entregaram trabalhos com refer\u00eancias absurdas ao Batman. No futuro, McCrain est\u00e1 ajustando as tarefas de reda\u00e7\u00e3o para se concentrar mais nos eventos atuais com os quais a IA est\u00e1 menos familiarizada e implorando aos alunos que n\u00e3o produzam todo seu trabalho com a ferramenta. \u201c\u00c9 a\u00ed que tento realmente enfatizar esse ponto para os alunos: voc\u00ea precisa aprender essas coisas\u201d, disse ele.<\/p>

Anos de debate<\/h2>

As discuss\u00f5es sobre a ferramenta de marca d’\u00e1gua come\u00e7aram antes do lan\u00e7amento do ChatGPT pela OpenAI em novembro de 2022 e t\u00eam sido uma fonte persistente de tens\u00e3o, revelaram as pessoas familiarizadas com o assunto. Foi desenvolvido por Scott Aaronson, professor de ci\u00eancia da computa\u00e7\u00e3o que trabalha com seguran\u00e7a na OpenAI durante sua licen\u00e7a da Universidade do Texas nos \u00faltimos dois anos.\u00a0<\/p>

No in\u00edcio de 2023, um dos cofundadores da OpenAI, John Schulman, descreveu os pr\u00f3s e contras da ferramenta em um Google doc compartilhado. Os executivos da OpenAI decidiram ent\u00e3o que buscariam informa\u00e7\u00f5es de v\u00e1rias pessoas antes de agir.<\/p>

Nos 18 meses seguintes, os executivos da OpenAI discutiram repetidamente a tecnologia e buscaram novos dados para ajudar a decidir se deveriam lan\u00e7\u00e1-la.<\/p>

Em abril de 2023, a OpenAI encomendou uma pesquisa que mostrou que pessoas em todo o mundo apoiavam a ideia de uma ferramenta de detec\u00e7\u00e3o de IA por uma margem de quatro para um, segundo documentos internos.\u00a0<\/p>

No mesmo m\u00eas, a empresa pesquisou os usu\u00e1rios do ChatGPT e descobriu que 69% acreditam que a tecnologia de detec\u00e7\u00e3o de fraudes levaria a falsas acusa\u00e7\u00f5es de uso de IA. Quase 30% disseram que usariam menos o ChatGPT caso este adotasse as marcas d’\u00e1gua e um rival n\u00e3o.<\/p>

Uma preocupa\u00e7\u00e3o interna recorrente \u00e9 que a ferramenta antifraude poderia prejudicar a qualidade da escrita do ChatGPT. A OpenAI realizou um teste no in\u00edcio deste ano que descobriu que a marca d’\u00e1gua n\u00e3o prejudicou o desempenho do ChatGPT, revelaram pessoas familiarizadas com o assunto.<\/p>

\u201cNossa capacidade de defender nossa falta de marca d’\u00e1gua de texto \u00e9 fraca agora que sabemos que isso n\u00e3o afeta os resultados\u201d, conclu\u00edram os funcion\u00e1rios envolvidos no teste, de acordo com os documentos internos.\u00a0<\/p>

No in\u00edcio de junho, funcion\u00e1rios seniores e pesquisadores da OpenAI se reuniram novamente para discutir o projeto. O grupo concordou que a tecnologia de marca d’\u00e1gua funcionou bem, mas os resultados da pesquisa com usu\u00e1rios do ChatGPT do ano passado ainda pesavam. Os funcion\u00e1rios disseram que a empresa deveria analisar outras abordagens potencialmente menos controversas, mas n\u00e3o comprovadas, entre os usu\u00e1rios, de acordo com pessoas com conhecimento da reuni\u00e3o.<\/p>

Elas tamb\u00e9m disseram que a OpenAI precisava de um plano nos pr\u00f3ximos meses para influenciar a opini\u00e3o p\u00fablica em torno da transpar\u00eancia da IA, al\u00e9m de poss\u00edveis novas leis sobre o assunto, mostram os documentos internos.\u00a0<\/p>

\u201cSem isso, nossa credibilidade de atores respons\u00e1veis corre riscos\u201d, disse um resumo da reuni\u00e3o de junho.<\/p>

Escreva para Deepa Seetharaman em deepa.seetharaman@wsj.com e Matt Barnum em matt.barnum@wsj.com<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"

A OpenAI tem um m\u00e9todo para detectar de forma confi\u00e1vel quando algu\u00e9m usa o ChatGPT para escrever um ensaio ou trabalho de pesquisa. A empresa n\u00e3o o lan\u00e7ou, apesar das preocupa\u00e7\u00f5es generalizadas sobre os alunos que usam intelig\u00eancia artificial para trapacear.\u00a0 O projeto enfrenta um debate interno na OpenAI h\u00e1 cerca de dois anos e […]<\/p>\n","protected":false},"author":139,"featured_media":606949,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"inline_featured_image":false,"footnotes":""},"categories":[103073],"tags":[],"autor-wsj":[102491,102829],"coauthors":[103075],"class_list":["post-643523","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-the-wall-street-journal","autor-wsj-deepa-seetharaman","autor-wsj-matt-barnum"],"acf":[],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/posts\/643523","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/users\/139"}],"replies":[{"embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/comments?post=643523"}],"version-history":[{"count":2,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/posts\/643523\/revisions"}],"predecessor-version":[{"id":702578,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/posts\/643523\/revisions\/702578"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/media\/606949"}],"wp:attachment":[{"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/media?parent=643523"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/categories?post=643523"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/tags?post=643523"},{"taxonomy":"autor-wsj","embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/autor-wsj?post=643523"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/coauthors?post=643523"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}