{"id":567111,"date":"2024-03-28T15:07:13","date_gmt":"2024-03-28T18:07:13","guid":{"rendered":"https:\/\/investnews.com.br\/?p=567111"},"modified":"2024-03-28T15:07:16","modified_gmt":"2024-03-28T18:07:16","slug":"microsoft-busca-formas-de-impedir-que-chatbots-sejam-enganados","status":"publish","type":"post","link":"https:\/\/investnews.com.br\/economia\/microsoft-busca-formas-de-impedir-que-chatbots-sejam-enganados\/","title":{"rendered":"Microsoft busca formas de impedir que chatbots sejam enganados"},"content":{"rendered":"\n

A Microsoft<\/strong> tenta dificultar que usu\u00e1rios enganem chatbots de intelig\u00eancia artificial<\/a> para que fa\u00e7am coisas incomuns.<\/p>\n\n\n\n

Novos recursos de seguran\u00e7a est\u00e3o sendo integrados ao Azure AI Studio, servi\u00e7o desenvolvido pela OpenAI<\/a><\/strong> que permite aos desenvolvedores criar assistentes de IA personalizados usando seus pr\u00f3prios dados, disse a empresa em um post nesta quinta-feira.<\/p>\n\n\n\n

As ferramentas incluem \u201cescudos de prompt\u201d, que s\u00e3o projetados para detectar e bloquear tentativas deliberadas \u2013 tamb\u00e9m conhecidas como ataques de inje\u00e7\u00e3o de prompt ou jailbreaks \u2013 para fazer com que um modelo de IA se comporte de maneira n\u00e3o intencional. A Microsoft tamb\u00e9m est\u00e1 abordando \u201cinje\u00e7\u00f5es indiretas de prompt\u201d, quando hackers inserem instru\u00e7\u00f5es maliciosas nos dados nos quais um modelo \u00e9 treinado e o induzem a realizar a\u00e7\u00f5es n\u00e3o autorizadas, como roubar informa\u00e7\u00f5es do usu\u00e1rio ou sequestrar um sistema.<\/p>\n\n\n\n

Esses ataques s\u00e3o \u201cum desafio e uma amea\u00e7a \u00fanicos\u201d, disse Sarah Bird, diretora de produtos de IA da Microsoft. As novas defesas foram projetadas para detectar entradas suspeitas e bloque\u00e1-las em tempo real, acrescentou ela. A Microsoft tamb\u00e9m est\u00e1 lan\u00e7ando um recurso que alerta os usu\u00e1rios quando um modelo inventa informa\u00e7\u00f5es ou gera respostas erradas.<\/p>\n\n\n\n

IA Generativa<\/h2>\n\n\n\n

A Microsoft est\u00e1 empenhada em aumentar a confian\u00e7a nas suas ferramentas de IA generativa, que s\u00e3o utilizadas tanto por consumidores como por clientes empresariais. Em fevereiro, a empresa investigou<\/a> incidentes envolvendo seu chatbot Copilot, que estava gerando respostas estranhas e prejudiciais. Depois de analisar os incidentes, a Microsoft disse que os usu\u00e1rios tentaram deliberadamente enganar o Copilot para que gerasse essas respostas.<\/p>\n\n\n\n

\u201cCertamente vemos isso aumentando \u00e0 medida que h\u00e1 mais uso das ferramentas, mas tamb\u00e9m \u00e0 medida que mais pessoas est\u00e3o cientes dessas diferentes t\u00e9cnicas\u201d, disse Bird. Os sinais reveladores desses ataques incluem fazer uma pergunta ao chatbot v\u00e1rias vezes.<\/p>\n\n\n\n

Bird disse que a Microsoft e a OpenAI est\u00e3o comprometidas a implantar a IA com seguran\u00e7a e construir prote\u00e7\u00f5es em modelos amplos de linguagem subjacentes \u00e0 IA generativa.<\/p>\n\n\n\n

\u201cEntretanto, n\u00e3o se pode depender apenas do modelo\u201d, disse. \u201cEsses jailbreaks, por exemplo, s\u00e3o uma fraqueza inerente \u00e0 tecnologia do modelo.\u201d<\/p>\n","protected":false},"excerpt":{"rendered":"

A Microsoft tenta dificultar que usu\u00e1rios enganem chatbots de intelig\u00eancia artificial para que fa\u00e7am coisas incomuns. Novos recursos de seguran\u00e7a est\u00e3o sendo integrados ao Azure AI Studio, servi\u00e7o desenvolvido pela OpenAI que permite aos desenvolvedores criar assistentes de IA personalizados usando seus pr\u00f3prios dados, disse a empresa em um post nesta quinta-feira. As ferramentas incluem […]<\/p>\n","protected":false},"author":76,"featured_media":276045,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"inline_featured_image":false,"footnotes":""},"categories":[5],"tags":[328],"autor-wsj":[],"coauthors":[101325],"class_list":["post-567111","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-economia","tag-microsoft"],"acf":[],"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/posts\/567111","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/users\/76"}],"replies":[{"embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/comments?post=567111"}],"version-history":[{"count":2,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/posts\/567111\/revisions"}],"predecessor-version":[{"id":567115,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/posts\/567111\/revisions\/567115"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/media\/276045"}],"wp:attachment":[{"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/media?parent=567111"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/categories?post=567111"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/tags?post=567111"},{"taxonomy":"autor-wsj","embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/autor-wsj?post=567111"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/investnews.com.br\/inv-api\/wp\/v2\/coauthors?post=567111"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}