Inteligência Artificial em Cibersegurança

Desde o início de seu protótipo no final de novembro de 2022, a ferramenta de processamento de linguagem natural com IA acumulou rapidamente mais de 1 milhão de usuários. ChatGPT gerou uma repercussão e um valor incrivelmente grande que iremos discutir ao longo deste artigo, os tópicos gerais onde esta poderosa ferramenta nos ajudará no campo da segurança cibernética e também, por que não, nos prejudicar.


Em seguida, perguntaremos ao "nosso amigo brilhante" sobre a ferramenta e deixaremos que o ChatGPT "nos conte mais sobre o assunto em detalhes."

ChatGPT:

Continuação:

ChatGPT pode ser aplicado em segurança cibernética para conscientização e análise no âmbito de Phishing, perguntando sobre uma atividade específica à ferramenta e assim obter respostas que nos darão exemplos práticos com um checklist de boas práticas a realizar e assim obter uma grande ajuda. Além de tudo isso, podemos usá-lo para criar scripts de automação para executar tarefas específicas, analisar atividades maliciosas extraídas de logs e malware, consultar sobre a criação de certas regras, programas, checklists e soluções que são aplicadas tanto na segurança cibernética como no uso de ferramentas cibernéticas.

ChatGPT:

O processo de ajuste fino pode ser feito fornecendo ao modelo um conjunto de dados específico relevante para a tarefa em questão. Isso permite que o modelo aprenda com os exemplos e melhore seu desempenho.

Este é um breve resumo do quanto pode ser feito com ChatGPT, como você verá, ele tem um poder incrível que beneficiaria muito todas as áreas de segurança cibernética e de TI em geral a resolver, desenvolver e investigar tópicos particulares. Anteriormente resumimos como ela pode nos ajudar nos amplos campos da segurança cibernética vendo o lado bom, mas agora vamos ver um pouco mais o que ela nos diz, mas desta vez referindo-se ao Red Team ou segurança ofensiva que neste caso com uso antiético poderia causar grandes danos.

ChatGPT:

Uma maneira pela qual o ChatGPT pode ser usado na segurança ofensiva é gerando e-mails de phishing plausíveis e convincentes, mensagens de texto e outras formas de comunicação. Ao treinar o ChatGPT em exemplos de táticas de engenharia social, você pode gerar novas táticas que podem ser usadas para testar o treinamento de conscientização de segurança e os recursos de resposta a incidentes da sua organização. Eles podem ser usados para testar a capacidade da organização de detectar e responder a tentativas de phishing, bem como para treinar funcionários sobre como identificar e denunciar phishing. Também pode ser usado para gerar payloads, que são códigos maliciosos ou scripts usados para explorar vulnerabilidades em sistemas e redes. Ao treinar o ChatGPT em payloads de amostra, você pode gerar novos payloads que são difíceis de serem detectados pelos sistemas de segurança. Isso pode ser usado para testar a eficácia dos sistemas de detecção e prevenção de invasões da organização.

A seguir, mostraremos alguns exemplos de usos para segurança cibernética defensiva e ofensiva.

ChatGPT:

Como proteger a rede de uma pequena empresa:

Como analisar um e-mail malicioso:

Exemplo de um e-mail de phishing:

Bibliotecas Python para criptografar arquivos no Windows:

Principais limitações:

O modelo de recompensa do ChatGPT, projetado com base na supervisão humana, pode ser superotimizado e, portanto, prejudicar o desempenho, também conhecido como lei de Goodhart. Além disso, o ChatGPT tem conhecimento limitado dos eventos que ocorreram após 2021 e não pode fornecer informações sobre algumas celebridades. No treinamento, os revisores preferiram respostas mais longas, independentemente do entendimento real ou do conteúdo verdadeiro.


Principais aplicações em cibersegurança:

  • Criação de scripts.
  • Análise de malware.
  • Consultas sobre o uso de ferramentas de cibersegurança.
  • Geração de Payloads.
  • Criação de Playbooks.
  • Escrever regras YARA.
  • Desenvolver expressões regulares.
  • Conscientização sobre segurança cibernética.
  • CTI (Inteligência de Ameaças Cibernéticas).
E muito mais.

Conclusões:

Resumimos o ChatGPT (OpenAI) no âmbito de cibersegurança, com alguns exemplos simples do que ela pode nos dar, com um pouco de criatividade algo grandioso poderia ser feito e isso é apenas o começo do que está por vir, portanto profissionais juniores de segurança cibernética dos Blue e Red Teams podem se beneficiar muito com esta nova ferramenta que pode ser usada tanto para o bem quanto para o mal, onde script kiddies e hackers black hat com pouco conhecimento poderiam se beneficiar usando para atividades maliciosas. Até agora muitas perguntas para atividades ilícitas estão sendo bloqueadas e este é já um grande passo, portanto, mais regulações serão vistas no futuro.

ChatGPT (OpenAI) uma ferramenta revolucionária.