Inteligencia artificial en Ciberseguridad

Desde su comienzo de prototipo a fines noviembre del 2022 la herramienta de procesamiento de lenguaje natural impulsada por IA acumuló rápidamente más de 1 millón de usuarios, ChatGPT generó una repercusión y valor increíblemente grande que hablaremos en todo este artículo los tópicos generales en donde esta poderosa herramienta nos ayudará en el ámbito de la ciberseguridad y también porque no perjudicarnos.


A continuación le preguntaremos a “nuestro brillante amigo” sobre la herramienta y dejaremos que ChatGPT “nos hable más sobre el tema en detalle”.

ChatGPT:

Continuación:

ChatGPT se puede aplicar en ciberseguridad para la concientización y análisis en el ámbito del Phishing, se puede realizar preguntas de una actividad concreta a la herramienta y así obteniendo respuestas dándonos ejemplos prácticos con un Checklist de buenas prácticas a realizar y así obtener una gran ayuda. Además de todo lo anterior, podremos utilizarlo para crear scripts de automatización para realizar tareas específicas, analizar actividad maliciosa extraídas de logs y malwares, consultar sobre la creación de determinadas reglas, programas, checklist y soluciones que se aplican en ciberseguridad como así también sobre la utilización de herramientas cibernéticas.

ChatGPT:

El proceso de ajuste fino se puede hacer proporcionando al modelo un conjunto de datos específico relevante para la tarea en cuestión. Esto permite que el modelo aprenda de los ejemplos y mejore su rendimiento.

Esto es un breve resumen de lo mucho que se puede llegar a hacer con ChatGPT, como verán tiene un poder increíble que beneficiaría mucho a todas las áreas tanto de ciberseguridad como IT en general a resolver, desarrollar e investigar temas particulares. Anteriormente resumimos cómo puede ayudarnos en los amplios campos de la ciberseguridad viendo el lado bueno, pero ahora veamos un poco más que nos dice, pero esta vez referido al Red Team o seguridad ofensiva que en este caso con una utilización no ética podría llegar a hacer un gran daño.

ChatGPT:

Una forma en que ChatGPT se puede utilizar en seguridad ofensiva es mediante la generación de correos electrónicos de phishing plausibles y convincentes, mensajes de texto y otras formas de comunicación. Al capacitar a ChatGPT en ejemplos de tácticas de ingeniería social, puede generar nuevas tácticas que se pueden usar para probar la capacitación en concientización de seguridad de la organización y las capacidades de respuesta a incidentes. Estos se pueden usar para probar la capacidad de la organización para detectar y responder a los intentos de phishing, así como para capacitar a los empleados sobre cómo identificar y reportar phishing. También se puede usar para generar cargas útiles, que son códigos maliciosos o scripts utilizados para explotar vulnerabilidades en sistemas y redes. Al entrenar a ChatGPT en ejemplos de cargas útiles, puede generar nuevas cargas útiles que son difíciles de detectar para los sistemas de seguridad. Esto se puede utilizar para probar la eficacia de los sistemas de detección y prevención de intrusiones de la organización.

A continuación, mostraremos algunos ejemplos de usos para la ciberseguridad defensiva y ofensiva.

ChatGPT:

Cómo proteger una red de pequeñas empresas:

Cómo analizar un correo electrónico malicioso:

Ejemplo de un correo electrónico phishing:

Bibliotecas de Python para cifrar archivos en Windows:

Principales limitaciones:

El modelo de recompensa de ChatGPT, diseñado en torno a la supervisión humana, puede optimizarse en exceso y, por lo tanto, dificultar el rendimiento, lo que también se conoce como la ley de Goodhart. Además, ChatGPT tiene un conocimiento limitado de los eventos que ocurrieron después de 2021 y no puede proporcionar información sobre algunas celebridades. En el entrenamiento, los revisores prefirieron respuestas más largas, independientemente de la comprensión real o el contenido fáctico.


Principales aplicaciones en ciberseguridad:

  • Creacion de scripts.
  • Analisis de malware.
  • Consultas sobre utilización en Tools de ciberseguridad.
  • Generacion de Payloads.
  • Creación de Playbooks.
  • Escribir reglas YARA.
  • Desarrollar Regex.
  • Concienciación en ciberseguridad.
  • CTI (Cyber Threat Intelligence).
Y mucho mas.

Conclusiones:

Resumimos a ChatGPT (OpenAI) en el ambito de la ciberseguridad, con algunos ejemplos sencillos sobre lo que puede lograr darnos, con algo de creatividad se podría llegar a hacer algo grandioso y esto es solo un inicio de lo que próximamente vendrá, por lo tanto profesionales de la ciberseguridad junior del equipo azul como del rojo podrían beneficiarse grandiosamente con esta nueva herramienta que se puede utilizar para el bien como también para el mal en donde los script kiddies y hackers de sombrero negro con pocos conocimientos podrían beneficiarse utilizando la herramienta para actividades maliciosas, hasta el momento muchas preguntas para actividad ilicita están siendo bloqueadas y esto es un gran paso ya que por lo tanto a futuro se verán mayores regulaciones.

ChatGPT (OpenAI) una herramienta revolucionaria.