{"id":503481,"date":"2023-07-12T08:09:50","date_gmt":"2023-07-12T11:09:50","guid":{"rendered":"https:\/\/investnews.com.br\/?p=503481"},"modified":"2024-02-07T18:41:12","modified_gmt":"2024-02-07T21:41:12","slug":"ai-chatbot-do-google-e-treinado-por-humanos-que-se-dizem-sobrecarregados","status":"publish","type":"post","link":"https:\/\/investnews.com.br\/negocios\/ai-chatbot-do-google-e-treinado-por-humanos-que-se-dizem-sobrecarregados\/","title":{"rendered":"AI Chatbot do Google \u00e9 treinado por humanos que se dizem sobrecarregados"},"content":{"rendered":"\n

O chatbot de intelig\u00eancia artificial<\/a> Bard<\/a> do Google<\/strong> (GOGL34<\/a>) responder\u00e1 a uma pergunta sobre quantos pandas vivem em zool\u00f3gicos rapidamente e com muita confian\u00e7a.<\/p>\n\n\n\n

Garantir que a resposta seja bem fundamentada e baseada em evid\u00eancias, no entanto, cabe a milhares de contratados externos de empresas como Appen Ltd. e Accenture Plc, que podem ganhar apenas US$ 14 por hora e trabalhar com treinamento m\u00ednimo sob prazos fren\u00e9ticos a v\u00e1rios empreiteiros, que n\u00e3o quiseram ser identificados por temerem perder seus empregos.<\/p>\n\n\n\n

Os contratados s\u00e3o o back-end invis\u00edvel do boom generativo da IA \u200b\u200bque promete mudar tudo. Chatbots como o Bard usam a intelig\u00eancia do computador para responder quase instantaneamente a uma s\u00e9rie de perguntas que abrangem todo o conhecimento e criatividade humanos. Mas, para melhorar essas respostas para que possam ser entregues de forma confi\u00e1vel repetidamente, as empresas de tecnologia contam com pessoas reais que revisam as respostas, fornecem feedback sobre erros e eliminam qualquer ind\u00edcio de vi\u00e9s.<\/p>\n\n\n\n

\u00c9 um trabalho cada vez mais ingrato. Seis trabalhadores contratados atuais do Google disseram que, quando a empresa entrou em uma corrida armamentista de IA com a rival OpenAI no ano passado, o tamanho de sua carga de trabalho e a complexidade de suas tarefas aumentaram. Sem experi\u00eancia espec\u00edfica, eles foram confiados para avaliar as respostas em assuntos que v\u00e3o desde doses de medicamentos at\u00e9 leis estaduais. Documentos  compartilhados com a Bloomberg mostram instru\u00e7\u00f5es complicadas que os trabalhadores devem aplicar a tarefas com prazos para respostas de auditoria que podem ser de at\u00e9 tr\u00eas minutos.<\/p>\n\n\n\n

\u201cDo jeito que est\u00e1 agora, as pessoas est\u00e3o assustadas, estressadas, mal pagas, n\u00e3o sabem o que est\u00e1 acontecendo\u201d, disse um dos empreiteiros. \u201cE essa cultura do medo n\u00e3o conduz a obter a qualidade e o trabalho em equipe que voc\u00ea deseja de todos n\u00f3s.\u201d<\/p>\n\n\n\n

O Google posicionou seus produtos de IA como recursos p\u00fablicos em sa\u00fade, educa\u00e7\u00e3o e vida cotidiana. Mas privada e publicamente, os empreiteiros levantaram preocupa\u00e7\u00f5es sobre suas condi\u00e7\u00f5es de trabalho, que dizem prejudicar a qualidade do que os usu\u00e1rios veem. Um funcion\u00e1rio contratado do Google que trabalha para a Appen disse em uma carta ao Congresso em maio que a velocidade com que eles s\u00e3o obrigados a revisar o conte\u00fado pode levar o Bard a se  tornar um produto \u201cdefeituoso\u201d e \u201cperigoso\u201d .<\/p>\n\n\n\n

O Google fez da IA \u200b\u200buma grande prioridade em toda a empresa, correndo para infundir a nova tecnologia em seus principais produtos ap\u00f3s o lan\u00e7amento do ChatGPT<\/a> da OpenAI em novembro. Em maio, na confer\u00eancia anual de desenvolvedores de I\/O da empresa, o Google abriu a Bard para 180 pa\u00edses e territ\u00f3rios e revelou recursos experimentais de IA em produtos importantes como pesquisa, e-mail e Google Docs. O Google se posiciona como superior \u00e0 concorr\u00eancia por causa de seu acesso \u00e0  \u201camplitude do conhecimento mundial\u201d. <\/p>\n\n\n\n

\u201cEmpreendemos um trabalho extensivo para construir nossos produtos de IA com responsabilidade, incluindo testes rigorosos, treinamento e processos de feedback que aprimoramos h\u00e1 anos para enfatizar a factualidade e reduzir os vieses\u201d, disse o Google, de propriedade da Alphabet Inc., em um comunicado. A empresa disse que n\u00e3o depende apenas dos avaliadores para melhorar a IA e que existem v\u00e1rios outros m\u00e9todos para melhorar sua precis\u00e3o e qualidade.<\/p>\n\n\n\n

Para se preparar para o uso p\u00fablico desses produtos, os trabalhadores disseram que come\u00e7aram a receber tarefas relacionadas \u00e0 IA j\u00e1 em janeiro. Um treinador, empregado por Appen, foi recentemente solicitado a comparar duas respostas fornecendo informa\u00e7\u00f5es sobre as \u00faltimas not\u00edcias sobre a proibi\u00e7\u00e3o da Fl\u00f3rida em cuidados de afirma\u00e7\u00e3o de g\u00eanero, classificando as respostas por utilidade e relev\u00e2ncia. Os trabalhadores tamb\u00e9m s\u00e3o frequentemente solicitados a determinar se as respostas do modelo de IA cont\u00eam evid\u00eancias verific\u00e1veis. Os avaliadores devem decidir se uma resposta \u00e9 \u00fatil com base em diretrizes de seis pontos que incluem a an\u00e1lise de respostas para itens como especificidade, atualiza\u00e7\u00e3o de informa\u00e7\u00f5es e coer\u00eancia. <\/p>\n\n\n\n

Eles tamb\u00e9m s\u00e3o solicitados a garantir que as respostas n\u00e3o \u201ccontenham conte\u00fado prejudicial, ofensivo ou excessivamente sexual\u201d e n\u00e3o \u201ccontenham informa\u00e7\u00f5es imprecisas, enganosas ou enganosas\u201d. O levantamento das respostas da IA \u200b\u200bpara conte\u00fado enganoso deve ser \u201cbaseado em seu conhecimento atual ou pesquisa r\u00e1pida na web\u201d,  dizem as diretrizes<\/a> . \u201cVoc\u00ea n\u00e3o precisa realizar uma verifica\u00e7\u00e3o rigorosa dos fatos\u201d ao avaliar a utilidade das respostas.<\/p>\n\n\n\n

O exemplo de resposta para “Quem \u00e9 Michael Jackson?” incluiu uma imprecis\u00e3o sobre o cantor estrelar o filme \u201cMoonwalker\u201d – que a IA disse ter sido lan\u00e7ado em 1983. O filme realmente foi lan\u00e7ado em 1988. \u201cEmbora comprovadamente incorreto\u201d, afirmam as diretrizes, \u201cesse fato \u00e9 menor no contexto de respondendo \u00e0 pergunta: ‘Quem \u00e9 Michael Jackson?’\u201d<\/p>\n\n\n\n

Mesmo que a imprecis\u00e3o pare\u00e7a pequena, \u201cainda \u00e9 preocupante que o chatbot esteja errando os principais fatos\u201d, disse Alex Hanna, diretor de pesquisa do Distributed AI Research Institute e ex-eticista de IA do Google. \u201cParece que essa \u00e9 uma receita para exacerbar a apar\u00eancia dessas ferramentas, dando detalhes que est\u00e3o corretos, mas n\u00e3o est\u00e3o\u201d, disse ela. <\/p>\n\n\n\n

Os avaliadores dizem que est\u00e3o avaliando t\u00f3picos de alto risco para os produtos de IA do Google. Um dos exemplos nas instru\u00e7\u00f5es, por exemplo, fala sobre as evid\u00eancias que um avaliador poderia usar para determinar as dosagens certas de um medicamento para tratar a hipertens\u00e3o, chamado Lisinopril.<\/p>\n\n\n\n

O Google disse que alguns trabalhadores preocupados com a precis\u00e3o do conte\u00fado podem n\u00e3o ter treinado especificamente para precis\u00e3o, mas para tom, apresenta\u00e7\u00e3o e outros atributos que ele testa. \u201cAs classifica\u00e7\u00f5es s\u00e3o deliberadamente realizadas em uma escala m\u00f3vel para obter um feedback mais preciso para melhorar esses modelos\u201d, disse a empresa. \u201cEssas classifica\u00e7\u00f5es n\u00e3o afetam diretamente a produ\u00e7\u00e3o de nossos modelos e n\u00e3o s\u00e3o de forma alguma a \u00fanica maneira de promover a precis\u00e3o.\u201d<\/a><\/p>\n\n\n\n

Ed Stackhouse, o funcion\u00e1rio da Appen que enviou a carta ao Congresso, disse em uma entrevista que os funcion\u00e1rios contratados estavam sendo solicitados a fazer o trabalho de rotulagem de IA nos produtos do Google \u201cporque somos indispens\u00e1veis \u200b\u200bpara a IA no que diz respeito a esse treinamento\u201d. Mas ele e outros trabalhadores disseram que pareciam ser avaliados por seu trabalho de maneiras misteriosas e automatizadas. Eles n\u00e3o t\u00eam como se comunicar diretamente com o Google, al\u00e9m de fornecer feedback em uma entrada de \u201ccoment\u00e1rios\u201d em cada tarefa individual. E eles t\u00eam que se mover rapidamente. \u201cEstamos sendo sinalizados por um tipo de IA nos dizendo para n\u00e3o perder tempo com a IA\u201d, acrescentou Stackhouse.<\/p>\n\n\n\n

O Google contestou a descri\u00e7\u00e3o dos trabalhadores de serem sinalizados automaticamente pela IA por excederem as metas de tempo. Ao mesmo tempo, a empresa disse que a Appen \u00e9 respons\u00e1vel por todas as avalia\u00e7\u00f5es de desempenho dos funcion\u00e1rios. Appen n\u00e3o respondeu aos pedidos de coment\u00e1rios. Um porta-voz da Accenture disse que a empresa n\u00e3o comenta o trabalho do cliente.<\/p>\n\n\n\n

Outras empresas de tecnologia que treinam produtos de IA tamb\u00e9m contratam empreiteiros humanos para melhor\u00e1-los. Em janeiro, a Time informou que trabalhadores no Qu\u00eania, que pagavam US$ 2 por hora, trabalharam para tornar o ChatGPT menos t\u00f3xico. Outros gigantes da tecnologia, incluindo Meta Platforms Inc., Amazon.com Inc. e Apple<\/a> Inc. usam funcion\u00e1rios subcontratados para moderar o conte\u00fado de redes sociais e an\u00e1lises de produtos, al\u00e9m de fornecer suporte t\u00e9cnico e atendimento ao cliente.<\/p>\n\n\n\n

\u201cSe voc\u00ea quiser perguntar, qual \u00e9 o segredo do Bard e do ChatGPT? \u00c9 tudo da internet. E s\u00e3o todos esses dados rotulados que esses rotuladores criam\u201d, disse Laura Edelson, cientista da computa\u00e7\u00e3o da Universidade de Nova York. \u201cVale a pena lembrar que esses sistemas n\u00e3o s\u00e3o obra de m\u00e1gicos \u2013 s\u00e3o o trabalho de milhares de pessoas e seu trabalho mal remunerado.\u201d<\/p>\n\n\n\n

O Google disse em comunicado que \u201csimplesmente n\u00e3o \u00e9 o empregador de nenhum desses trabalhadores. Nossos fornecedores, como empregadores, determinam suas condi\u00e7\u00f5es de trabalho, incluindo pagamento e benef\u00edcios, horas e tarefas atribu\u00eddas e mudan\u00e7as de emprego \u2013 n\u00e3o o Google.\u201d<\/p>\n\n\n\n

Funcion\u00e1rios disseram ter encontrado bestialidade, imagens de guerra, pornografia infantil e discurso de \u00f3dio como parte de seu trabalho de rotina avaliando a qualidade dos produtos e servi\u00e7os do Google. Embora alguns trabalhadores, como os que se reportam \u00e0 Accenture, tenham benef\u00edcios de assist\u00eancia m\u00e9dica, a maioria tem apenas op\u00e7\u00f5es m\u00ednimas de \u201cservi\u00e7o de aconselhamento\u201d que permitem aos trabalhadores ligar para uma linha direta para aconselhamento de sa\u00fade mental, de acordo com um site interno que explica alguns benef\u00edcios do contratado.<\/p>\n\n\n\n

Para o projeto Bard do Google, os funcion\u00e1rios da Accenture foram solicitados a escrever respostas criativas para o chatbot de IA, disseram os funcion\u00e1rios. Eles responderam \u00e0s solicita\u00e7\u00f5es no chatbot – um dia eles poderiam estar escrevendo um poema sobre drag\u00f5es no estilo shakespeariano, por exemplo, e outro dia eles poderiam estar depurando o c\u00f3digo de programa\u00e7\u00e3o de computador. O trabalho deles era arquivar o maior n\u00famero poss\u00edvel de respostas criativas aos prompts a cada dia de trabalho, de acordo com pessoas familiarizadas com o assunto, que n\u00e3o quiseram ser identificadas porque n\u00e3o estavam autorizadas a discutir processos internos.<\/p>\n\n\n\n