{"id":2480,"date":"2023-08-25T11:55:11","date_gmt":"2023-08-25T14:55:11","guid":{"rendered":"https:\/\/aiqon.com.br\/blog\/?p=2480"},"modified":"2023-08-25T11:58:08","modified_gmt":"2023-08-25T14:58:08","slug":"dilema-chatgpt-seguranca-versus-utilizacao","status":"publish","type":"post","link":"https:\/\/aiqon.com.br\/blog\/dilema-chatgpt-seguranca-versus-utilizacao\/","title":{"rendered":"O Dilema do ChatGPT: Seguran\u00e7a versus Utiliza\u00e7\u00e3o"},"content":{"rendered":"<div id=\"bsf_rt_marker\"><\/div><p><strong><em>Com grandes poderes vem grandes responsabilidades. Aqui est\u00e3o as considera\u00e7\u00f5es de seguran\u00e7a que sua organiza\u00e7\u00e3o deve tomar durante a mais recente onda de hype do ChatGPT.<\/em><\/strong><\/p><div id=\"ez-toc-container\" class=\"ez-toc-v2_0_83 ez-toc-wrap-left counter-hierarchy ez-toc-counter ez-toc-grey ez-toc-container-direction\">\n<div class=\"ez-toc-title-container\">\n<p class=\"ez-toc-title\" style=\"cursor:inherit\">Nesse Artigo<\/p>\n<span class=\"ez-toc-title-toggle\"><a href=\"#\" class=\"ez-toc-pull-right ez-toc-btn ez-toc-btn-xs ez-toc-btn-default ez-toc-toggle\" aria-label=\"Alternar tabela de conte\u00fado\"><span class=\"ez-toc-js-icon-con\"><span class=\"\"><span class=\"eztoc-hide\" style=\"display:none;\">Toggle<\/span><span class=\"ez-toc-icon-toggle-span\"><svg style=\"fill: #999;color:#999\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" class=\"list-377408\" width=\"20px\" height=\"20px\" viewBox=\"0 0 24 24\" fill=\"none\"><path d=\"M6 6H4v2h2V6zm14 0H8v2h12V6zM4 11h2v2H4v-2zm16 0H8v2h12v-2zM4 16h2v2H4v-2zm16 0H8v2h12v-2z\" fill=\"currentColor\"><\/path><\/svg><svg style=\"fill: #999;color:#999\" class=\"arrow-unsorted-368013\" xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"10px\" height=\"10px\" viewBox=\"0 0 24 24\" version=\"1.2\" baseProfile=\"tiny\"><path d=\"M18.2 9.3l-6.2-6.3-6.2 6.3c-.2.2-.3.4-.3.7s.1.5.3.7c.2.2.4.3.7.3h11c.3 0 .5-.1.7-.3.2-.2.3-.5.3-.7s-.1-.5-.3-.7zM5.8 14.7l6.2 6.3 6.2-6.3c.2-.2.3-.5.3-.7s-.1-.5-.3-.7c-.2-.2-.4-.3-.7-.3h-11c-.3 0-.5.1-.7.3-.2.2-.3.5-.3.7s.1.5.3.7z\"\/><\/svg><\/span><\/span><\/span><\/a><\/span><\/div>\n<nav><ul class='ez-toc-list ez-toc-list-level-1 ' ><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-1\" href=\"https:\/\/aiqon.com.br\/blog\/dilema-chatgpt-seguranca-versus-utilizacao\/#O_que_procurar_os_principais_riscos_de_seguranca_do_ChatGPT\" >O que procurar: os principais riscos de seguran\u00e7a do ChatGPT<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-2\" href=\"https:\/\/aiqon.com.br\/blog\/dilema-chatgpt-seguranca-versus-utilizacao\/#Por_onde_comecar_areas_de_consideracao\" >Por onde come\u00e7ar: \u00e1reas de considera\u00e7\u00e3o<\/a><\/li><li class='ez-toc-page-1 ez-toc-heading-level-2'><a class=\"ez-toc-link ez-toc-heading-3\" href=\"https:\/\/aiqon.com.br\/blog\/dilema-chatgpt-seguranca-versus-utilizacao\/#Quando_voce_nao_pode_vence-los_junte-se_a_eles\" >Quando voc\u00ea n\u00e3o pode venc\u00ea-los, junte-se a eles.<\/a><\/li><\/ul><\/nav><\/div>\n\n<p>\u00c9 seguro dizer que o ChatGPT \u00e9 o assunto do momento agora &#8211; e no futuro pr\u00f3ximo. O modelo de linguagem OpenAI gera respostas semelhantes \u00e0s humanas para consultas ou declara\u00e7\u00f5es. Baseia-se em informa\u00e7\u00f5es p\u00fablicas e dados privados que o usu\u00e1rio divulga. Embora seja uma excelente ferramenta para comunica\u00e7\u00e3o e compartilhamento de informa\u00e7\u00f5es, o ChatGPT apresenta potenciais riscos de seguran\u00e7a que precisam ser considerados.<\/p>\n<p>Como empresa pioneira em automa\u00e7\u00e3o de seguran\u00e7a, entendemos os riscos potenciais das tecnologias emergentes. Por outro lado, concordamos que o ChatGPT \u00e9 um divisor de \u00e1guas em muitos neg\u00f3cios, profiss\u00f5es e ind\u00fastrias. Nossos funcion\u00e1rios n\u00e3o s\u00e3o diferentes. Simplificando &#8211; \u00e9 legal e todos n\u00f3s queremos us\u00e1-lo. \u00c9 por isso que incentivamos nossos funcion\u00e1rios a se envolverem com seguran\u00e7a na plataforma.<\/p>\n<p>Antes de ir vazando o c\u00f3digo-fonte, vamos examinar os riscos de seguran\u00e7a e as considera\u00e7\u00f5es em um n\u00edvel mais profundo.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"O_que_procurar_os_principais_riscos_de_seguranca_do_ChatGPT\"><\/span>O que procurar: os principais riscos de seguran\u00e7a do ChatGPT<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p><strong>Personifica\u00e7\u00e3o e Manipula\u00e7\u00e3o<\/strong><\/p>\n<p>Um dos principais riscos de seguran\u00e7a vistos no ChatGPT \u00e9 o claro uso dele por atores mal-intencionados para representa\u00e7\u00e3o e manipula\u00e7\u00e3o. O modelo pode ser usado para criar identidades falsas que s\u00e3o assustadoramente realistas. Eles s\u00e3o aproveitados para fins nefastos, como ataques de phishing, dissemina\u00e7\u00e3o de not\u00edcias falsas ou realiza\u00e7\u00e3o de golpes de engenharia social.<\/p>\n<p>Por exemplo, atores mal-intencionados podem usar o modelo para criar bots que representam indiv\u00edduos reais, dificultando a distin\u00e7\u00e3o entre conversas genu\u00ednas e falsas. Voc\u00ea provavelmente j\u00e1 ouviu falar do<a href=\"https:\/\/www.vice.com\/en\/article\/jg5ew4\/gpt4-hired-unwitting-taskrabbit-worker\"> ChatGPT fingindo ser um deficiente visual para contornar os testes CAPTCHA<\/a>. O comportamento do ChatGPT \u00e9 convincente e pode ser facilmente usado contra seus funcion\u00e1rios.<\/p>\n<p><strong>Viola\u00e7\u00e3o de dados de funcion\u00e1rios desinformados<\/strong><\/p>\n<p>Outro risco de seguran\u00e7a associado ao ChatGPT \u00e9 a possibilidade de viola\u00e7\u00e3o de dados. O ChatGPT usa uma vasta quantidade de dados para treinar e melhorar suas respostas, incluindo informa\u00e7\u00f5es privadas e confidenciais. Se esses dados ca\u00edrem nas m\u00e3os erradas, isso pode levar ao roubo de identidade, fraude financeira ou outras atividades maliciosas. Os hackers podem at\u00e9 explorar vulnerabilidades no c\u00f3digo do ChatGPT para obter acesso n\u00e3o autorizado aos dados ou manipular as respostas do modelo.<\/p>\n<p>No in\u00edcio de 2023, um bug na plataforma resultou no vazamento acidental de dados pessoais e dados de cobran\u00e7a. Podemos esperar que vazamentos semelhantes ocorram novamente \u00e0 medida que a demanda continua a crescer e for\u00e7ar a pr\u00f3pria seguran\u00e7a do ChatGPT.<\/p>\n<p><strong>Uma fortaleza de desinforma\u00e7\u00e3o e propaganda<\/strong><\/p>\n<p>O ChatGPT pode claramente ser usado para espalhar desinforma\u00e7\u00e3o e propaganda. Para citar o co-diretor executivo da NewsGuard, \u201cEsta ferramenta ser\u00e1 a mais poderosa para espalhar desinforma\u00e7\u00e3o que j\u00e1 existiu na Internet\u201d, conforme descrito na cobertura recente do NY Times .<\/p>\n<p>Ao gerar narrativas convincentes que s\u00e3o falsas, mas incrivelmente acredit\u00e1veis, os agentes mal-intencionados podem espalhar desinforma\u00e7\u00e3o em grande escala. Isso pode ser particularmente prejudicial no contexto de campanhas pol\u00edticas, onde not\u00edcias falsas ou evid\u00eancias fabricadas podem influenciar a opini\u00e3o p\u00fablica e afetar os resultados das elei\u00e7\u00f5es.<\/p>\n<p><strong>Falta de transpar\u00eancia e responsabilidade<\/strong><\/p>\n<p>Outro risco de seguran\u00e7a potencial associado ao ChatGPT \u00e9 a falta de transpar\u00eancia e responsabilidade. Como o modelo \u00e9 treinado usando grandes quantidades de dados, pode ser dif\u00edcil entender como ele chega \u00e0s suas respostas. Isso dificulta a identifica\u00e7\u00e3o de vieses ou a garantia de que o modelo n\u00e3o esteja sendo usado para discriminar determinados indiv\u00edduos ou grupos.<\/p>\n<p>Como o ChatGPT \u00e9 um sistema baseado em IA, pode ser um desafio estabelecer a responsabilidade por quaisquer resultados negativos que possam resultar de seu uso. N\u00e3o seria surpresa para o ChatGPT estar no centro de batalhas legais sobre c\u00f3digo-fonte vazado ou segredos comerciais em um futuro n\u00e3o t\u00e3o pr\u00f3ximo.<\/p>\n<h2><span class=\"ez-toc-section\" id=\"Por_onde_comecar_areas_de_consideracao\"><\/span>Por onde come\u00e7ar: \u00e1reas de considera\u00e7\u00e3o<span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>As ferramentas de intelig\u00eancia artificial est\u00e3o se tornando cada vez mais comuns no local de trabalho. Eles oferecem in\u00fameros benef\u00edcios, como a capacidade de aumentar a efici\u00eancia, melhorar a precis\u00e3o e reduzir os custos gerais.<\/p>\n<p>No entanto, como acontece com qualquer nova tecnologia, tamb\u00e9m existem riscos e desafios potenciais que as empresas precisam considerar ao analisar o uso dessas ferramentas por seus funcion\u00e1rios. Aqui est\u00e3o algumas coisas que as empresas devem ter em mente quando se trata do uso do ChatGPT:<\/p>\n<ol>\n<li><strong>Treinamento<\/strong>: \u00c9 essencial fornecer treinamento adequado para os funcion\u00e1rios usarem as ferramentas de IA de maneira eficaz. Isso deve incluir n\u00e3o apenas treinamento t\u00e9cnico sobre como usar as ferramentas, mas tamb\u00e9m treinamento sobre como usar as ferramentas em conjunto com outros processos e pol\u00edticas da empresa.<\/li>\n<li><strong>Privacidade de dados<\/strong>: as ferramentas de IA exigem acesso a grandes quantidades de dados, que podem incluir informa\u00e7\u00f5es confidenciais. As empresas precisam garantir que os funcion\u00e1rios entendam como lidar com esses dados com seguran\u00e7a e seguir as melhores pr\u00e1ticas de privacidade de dados.<\/li>\n<li><strong>Regulamenta\u00e7\u00e3o e conformidade<\/strong>: dependendo do setor e do tipo de dados que est\u00e3o sendo processados, pode haver requisitos legais sobre o uso de ferramentas de IA. As empresas precisam garantir que o uso do ChatGPT esteja em conformidade com todas as leis e regulamentos relevantes.<\/li>\n<li><strong>Transpar\u00eancia<\/strong>: os funcion\u00e1rios precisam entender como as ferramentas de IA funcionam e como est\u00e3o sendo usadas dentro da organiza\u00e7\u00e3o. Isso inclui fornecer explica\u00e7\u00f5es claras sobre como as ferramentas operam, quais dados est\u00e3o usando e como a sa\u00edda est\u00e1 sendo usada.<\/li>\n<li><strong>Considera\u00e7\u00f5es \u00e9ticas<\/strong>: as ferramentas de IA podem ter impactos significativos nos indiv\u00edduos e na sociedade como um todo. As empresas precisam considerar as poss\u00edveis implica\u00e7\u00f5es \u00e9ticas do uso dessas ferramentas e garantir que elas sejam usadas de maneira respons\u00e1vel e \u00e9tica.<\/li>\n<\/ol>\n<h2><span class=\"ez-toc-section\" id=\"Quando_voce_nao_pode_vence-los_junte-se_a_eles\"><\/span><strong>Quando voc\u00ea n\u00e3o pode venc\u00ea-los, junte-se a eles.<\/strong><span class=\"ez-toc-section-end\"><\/span><\/h2>\n<p>\u00c9 importante desenvolver uma vis\u00e3o clara do uso do ChatGPT em sua organiza\u00e7\u00e3o. E embora os riscos de seguran\u00e7a possam ser alarmantes, tamb\u00e9m pode n\u00e3o valer a pena banir completamente o ChatGPT. Os funcion\u00e1rios continuar\u00e3o a usar a plataforma \u2013 especialmente no que se refere ao seu trabalho. Felizmente, existem etapas que voc\u00ea pode seguir para mitigar alguns dos riscos de vazamento de dados comerciais privados:<\/p>\n<p><strong>Implemente protocolos de seguran\u00e7a<\/strong><\/p>\n<p>Uma das maneiras de mitigar os riscos de seguran\u00e7a do ChatGPT \u00e9 implementar protocolos de seguran\u00e7a r\u00edgidos. Isso inclui pr\u00e1ticas seguras de manipula\u00e7\u00e3o de dados: criptografar dados confidenciais e limitar o acesso ao pessoal autorizado.<\/p>\n<p><strong>Aumente a Conscientiza\u00e7\u00e3o atrav\u00e9s do Treinamento de Funcion\u00e1rios<\/strong><\/p>\n<p>Outra forma de mitigar os riscos associados ao ChatGPT \u00e9 aumentar a conscientiza\u00e7\u00e3o sobre os perigos potenciais dos sistemas baseados em IA em geral. Isso inclui a educa\u00e7\u00e3o dos funcion\u00e1rios sobre os riscos. \u00c9 fundamental fornecer diretrizes para uso seguro e respons\u00e1vel.<\/p>\n<p>ChatGPT \u00e9 uma tecnologia revolucion\u00e1ria com enorme potencial de mudan\u00e7a mundial. No entanto, ele vem com grandes riscos potenciais de seguran\u00e7a que devem ser considerados. Ao implementar protocolos de seguran\u00e7a e aumentar a conscientiza\u00e7\u00e3o sobre os perigos potenciais dos sistemas baseados em IA, sua equipe de seguran\u00e7a pode mitigar os principais riscos e garantir que o ChatGPT seja usado com seguran\u00e7a e responsabilidade.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Com grandes poderes vem grandes responsabilidades. Aqui est\u00e3o as considera\u00e7\u00f5es de seguran\u00e7a que sua organiza\u00e7\u00e3o deve tomar durante a mais recente onda de hype do ChatGPT. \u00c9 seguro dizer que o ChatGPT \u00e9 o assunto do momento agora &#8211; e no futuro pr\u00f3ximo. O modelo de linguagem OpenAI gera respostas semelhantes \u00e0s humanas para consultas [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":2483,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[96],"tags":[266,220],"class_list":["post-2480","post","type-post","status-publish","format-standard","has-post-thumbnail","category-seguranca-de-dados","tag-ia","tag-seguranca-da-informacao","czr-hentry"],"jetpack_featured_media_url":"https:\/\/aiqon.com.br\/blog\/wp-content\/uploads\/2023\/08\/gpt-security.png","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/aiqon.com.br\/blog\/wp-json\/wp\/v2\/posts\/2480","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aiqon.com.br\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aiqon.com.br\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aiqon.com.br\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/aiqon.com.br\/blog\/wp-json\/wp\/v2\/comments?post=2480"}],"version-history":[{"count":3,"href":"https:\/\/aiqon.com.br\/blog\/wp-json\/wp\/v2\/posts\/2480\/revisions"}],"predecessor-version":[{"id":2484,"href":"https:\/\/aiqon.com.br\/blog\/wp-json\/wp\/v2\/posts\/2480\/revisions\/2484"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aiqon.com.br\/blog\/wp-json\/wp\/v2\/media\/2483"}],"wp:attachment":[{"href":"https:\/\/aiqon.com.br\/blog\/wp-json\/wp\/v2\/media?parent=2480"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aiqon.com.br\/blog\/wp-json\/wp\/v2\/categories?post=2480"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aiqon.com.br\/blog\/wp-json\/wp\/v2\/tags?post=2480"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}