O ChatGPT causou sensação com sua interface amigável e respostas geradas por IA convincentes.
Com apenas um comando, o ChatGPT fornecia respostas detalhadas que outros assistentes de IA não conseguiam.
Alimentado por um conjunto de dados massivo em que o ChatGPT havia sido treinado, a amplitude e variedade de tópicos que ele poderia abordar rapidamente impressionaram a indústria de tecnologia e o público em geral.
No entanto, a sofisticação da tecnologia levanta uma questão inevitável: quais são as desvantagens do ChatGPT e tecnologias similares? Com a capacidade de gerar uma infinidade de respostas realistas, o ChatGPT pode ser usado para criar uma série de respostas capazes de enganar um leitor desavisado, fazendo-o pensar que um ser humano real está por trás do conteúdo.
Ao pensar em assistentes de IA, o Google e a Alexa podem vir à mente primeiro.
Você faz uma pergunta como "Qual é o clima hoje?" e recebe uma resposta breve.
Embora algumas características de conversação estejam disponíveis, a maioria não produz texto gerado por IA em formato longo que possa ser expandido por meio de interação adicional.
O ChatGPT é capaz de lidar com uma solicitação complexa e gerar uma resposta completa, potencialmente abrangendo vários parágrafos.
Ele se lembra da conversa anterior e a desenvolve quando questionado, fornecendo respostas mais detalhadas.
Um exemplo é mostrado abaixo: o ChatGPT lista instruções para assar um bolo de chocolate.
Embora essa conversa possa variar de uma lista simples de ingredientes a uma história curta completa, o ChatGPT pode não responder a certos tópicos devido ao seu conjunto de dados.
Além disso, é importante observar que o fato de uma resposta ter sido gerada não significa que ela seja precisa.
O ChatGPT não "pensa" como nós; ele usa dados da internet para gerar uma resposta.
Como resultado, dados incorretos e preconceitos associados podem levar a uma resposta inesperada.
Como mencionado acima, nem todas as respostas são iguais.
Mas esse não é o único risco.
As respostas do ChatGPT podem ser convincentes e, portanto, existe o potencial de gerar conteúdo que possa enganar um indivíduo, fazendo-o acreditar que foi escrito por uma pessoa.
Isso pode levar à utilização mal-intencionada dessa tecnologia no mundo da tecnologia.
Muitos e-mails de phishing são facilmente reconhecíveis, especialmente quando escritos por falantes não nativos.
No entanto, o ChatGPT poderia tornar a tarefa significativamente mais fácil e convincente, como observado neste artigo da CheckPoint.
A velocidade de geração e a qualidade da resposta abrem a porta para e-mails de phishing muito mais convincentes e até mesmo geração de código de exploração simples.
Além disso, como o modelo do ChatGPT é de código aberto, um indivíduo empreendedor poderia criar um conjunto de dados de e-mails gerados pelas empresas existentes para criar uma ferramenta que produz rapidamente e-mails de phishing.
E-mails de phishing podem fornecer aos atores ameaças uma maneira de acessar seu sistema e implantar malware ou ransomware, potencialmente causando danos graves.
À medida que o ChatGPT continua a melhorar, ele se tornará uma ferramenta cada vez mais poderosa para atores mal-intencionados.
E quanto a um falante não nativo tentando convencer um funcionário, por meio de uma conversa, a fornecer suas credenciais?
Embora a interface do ChatGPT existente tenha proteções contra solicitações de informações confidenciais, você pode ver como o modelo de IA ajuda a informar o fluxo e o diálogo que um técnico de helpdesk da Microsoft pode usar, dando autenticidade a uma solicitação.
Felizmente, existem ferramentas que podem ajudar a identificar o conteúdo gerado por IA.
Essas ferramentas funcionam com base em porcentagens, portanto, não podem fornecer certeza absoluta.
No entanto, elas podem levantar dúvidas razoáveis e ajudá-lo a fazer as perguntas certas para determinar se o e-mail é genuíno.
Por exemplo, após colar o conteúdo do e-mail de redefinição de senha criado anteriormente, a ferramenta GPT Zero destaca as seções que podem ser geradas por uma IA.
Isso não é uma detecção à prova de falhas, mas pode fazer você questionar a autenticidade de um determinado conteúdo.
Com golpes de vishing mostrando nenhum sinal de desaceleração e o ChatGTP pronto para evoluir com a tecnologia de IA, investir na solução Specops Secure Service Desk pode ser um passo vital para as organizações se protegerem.
O ChatGPT é um game-changer, fornecendo uma ferramenta fácil de usar e poderosa para conversas geradas por IA.
Embora haja inúmeras aplicações potenciais, as organizações devem estar cientes de como os atacantes podem usar essa ferramenta para melhorar suas táticas e dos riscos adicionais que ela pode representar para sua organização.
Publicidade
Passe por todas as principais fases de um pentest, utilizando cenários, domínios e técnicas reais utilizados no dia a dia de um hacker ético. Conte ainda com certificado e suporte, tudo 100% gratuito. Saiba mais...