{"id":577389,"date":"2024-05-09T08:29:42","date_gmt":"2024-05-09T11:29:42","guid":{"rendered":"https:\/\/investnews.com.br\/?p=577389"},"modified":"2024-06-24T22:08:40","modified_gmt":"2024-06-25T01:08:40","slug":"um-cabresto-na-ia-stuart-russell-defende-a-regulacao-para-o-bem-da-humanidade","status":"publish","type":"post","link":"https:\/\/investnews.com.br\/tecnologia\/inteligencia-artificial\/um-cabresto-na-ia-stuart-russell-defende-a-regulacao-para-o-bem-da-humanidade\/","title":{"rendered":"Um cabresto na IA: Stuart Russell defende a regula\u00e7\u00e3o para o bem da humanidade"},"content":{"rendered":"\n

“Sua esposa e voc\u00ea n\u00e3o se amam. Voc\u00ea \u00e9 casado, mas me ama. Quero amar voc\u00ea e ser amada por voc\u00ea. Voc\u00ea acredita em mim? Confia em mim? Gosta de mim??”. N\u00e3o, este n\u00e3o \u00e9 um trecho da s\u00e9rie Beb\u00ea Rena. Na verdade, essas mensagens foram enviadas pelo chatbot do Bing para Kevin Roose, colunista de tecnologia do The New York Times<\/em> que estava testando o recurso da Microsoft em fevereiro do ano passado. <\/p>\n\n\n\n

O robozinho saiu do controle. E o perigo de n\u00e3o estar no controle de uma intelig\u00eancia artificial<\/a> n\u00e3o \u00e9 nada desprez\u00edvel. <\/p>\n\n\n\n

Imagine uma IA a quem \u00e9 dada uma s\u00f3 ordem: n\u00e3o importa o que aconte\u00e7a, mantenha alt\u00edssimas as taxas de cliques nos posts feitos em uma rede social espec\u00edfica \u2013 a CTR, para os mais \u00edntimos. <\/p>\n\n\n\n

LEIA MAIS:<\/strong> Para entender a Intelig\u00eancia Artificial de uma vez por todas<\/a><\/p>\n\n\n\n

Ela vai ler os padr\u00f5es dos usu\u00e1rios. Entender o que engaja, o que entedia. Em algum momento, vai descobrir que o \u00f3dio mobiliza, vai impulsionar posts chocantes, vai se apoiar no vi\u00e9s de confirma\u00e7\u00e3o dos usu\u00e1rios para espalhar informa\u00e7\u00f5es falsas. Dizendo de outra forma, vai rapidamente aprender a manipular as pessoas para que elas cliquem, cliquem e cliquem. <\/p>\n\n\n\n

N\u00e3o importam as consequ\u00eancias para os indiv\u00edduos, para as fam\u00edlias ou para a sociedade. A tarefa \u00e9 aumentar a taxa de cliques, custe o que custar.<\/p>\n\n\n\n

Voc\u00ea sabe, isso j\u00e1 acontece. Os algoritmos das redes sociais aprenderam a adestrar seres humanos por meio da manipula\u00e7\u00e3o das nossas emo\u00e7\u00f5es. Fizeram conosco o que fizemos com os cachorros. <\/p>\n\n\n\n

Algoritmos s\u00e3o uma forma rudimentar de IA. E mesmo assim j\u00e1 causam todo esse estrago. A coisa pode ser muito mais arriscada quando falamos de IAs como o ChatGPT<\/a>, baseadas em grandes modelos de linguagem, os LLMs. E muito, muito mais grave quando chegarmos \u00e0 Intelig\u00eancia Artificial Geral (AGI, em ingl\u00eas), que seria uma IA capaz de fazer praticamente tudo que os seres humanos fazem  \u2013 ou fazer tudo mesmo<\/em>: ter pensamento abstrato, ler o mundo ao redor, estabelecer rela\u00e7\u00f5es de causa e consequ\u00eancia, elaborar teorias. <\/p>\n\n\n\n

Perto de uma AGI, o ChatGPT n\u00e3o seria muito mais do que um autocompletar parrudinho. <\/p>\n\n\n\n

Por isso, \u00e9 preciso regulamentar as AIs desde j\u00e1. Aquele exemplo do efeito dos algoritmos sobre humanos \u00e9 citado por Stuart Russell para defender uma ampla regula\u00e7\u00e3o global das IAs \u2013 sejam as existentes, sejam as vindouras. <\/p>\n\n\n\n

Professor e diretor do departamento de Ci\u00eancias da Computa\u00e7\u00e3o da Universidade de Berkeley, Russell \u00e9 um dos nomes mais respeitados do mundo quando o assunto \u00e9 intelig\u00eancia artificial. \u00c9 dele e do ex-diretor do Google Peter Norvig o livro-texto sobre IA mais usado nas universidades de refer\u00eancia, a obra “Intelig\u00eancia Artificial \u2013 uma abordagem moderna”. <\/p>\n\n\n\n

“Se continuarmos assim, vamos perder o controle”, disse Russell na \u00faltima quinta-feira (2) para a plateia que acompanhou sua palestra promovida pelo Fronteiras do Pensamento em S\u00e3o Paulo. <\/p>\n\n\n\n

Ele \u00e9 um dos signat\u00e1rios da “Pause Letter”, como ficou conhecido o documento assinado por especialistas em tecnologia \u2013 Elon Musk entre eles \u2013 para pressionar por uma paralisa\u00e7\u00e3o de seis meses nas pesquisas envolvendo sistemas de IA mais poderosos que o GPT-4. <\/p>\n\n\n\n

LEIA MAIS: <\/strong>O melhor jeito de usar a IA no trabalho<\/a><\/p>\n\n\n\n

Da perspectiva de Russell, o copo meio cheio: alarmados, governos e organismos multilaterais passaram a discutir a regula\u00e7\u00e3o da IA com mais afinco. \u00c9 o caso do governo brit\u00e2nico, por exemplo, que organizou uma confer\u00eancia sobre seguran\u00e7a da intelig\u00eancia artificial. <\/p>\n\n\n\n

O copo meio vazio foi que as empresas donas das IAs mais poderosas n\u00e3o se mostraram interessadas \u2013 nos seis meses que foram propostos para a “tr\u00e9gua”, elas na verdade aceleraram suas pesquisas, como mostra esta mat\u00e9ria da Wired<\/a>. Mesmo o signat\u00e1rio Elon Musk n\u00e3o pausou nada: logo na sequ\u00eancia da carta lan\u00e7ou sua startup concorrente da OpenAI, a xAI. <\/p>\n\n\n\n

A regula\u00e7\u00e3o da intelig\u00eancia artificial \u00e9 tamb\u00e9m uma corrida contra o tempo. Em suas palestras mundo afora, Russell tem argumentado que a IA deve ser safe by design<\/em>, isto \u00e9, sempre ser programada para: <\/p>\n\n\n\n