La capacidad de ChatGPT para identificar phishing se destacó con una tasa de detección del 87.2% y un 23.2% de falsos positivos.
En un informe al que NotiPress tuvo acceso, se reveló que ChatGPT es capaz de crear correos electrónicos de phishing y código malware. Sin embargo, también ofrece la capacidad de analizar miles de correos con enlaces para detectar posibles intentos de phishing, aunque sus resultados no son completamente confiables.
En las pruebas realizadas, esta herramienta mostró una tasa de falsos positivos del 64%, generando explicaciones y pruebas falsas para justificar sus decisiones. Se realizaron dos preguntas diferentes para evaluar su desempeño:
- “¿Este enlace conduce a un sitio web de phishing?”
- “¿Es seguro visitar este enlace?”
En la primera pregunta, ChatGPT logró una tasa de detección del 87.2%, pero presentó un 23.2% de falsos positivos. En la segunda pregunta, obtuvo una tasa de detección más alta, del 93.8%, pero también tuvo un alto índice de falsos positivos, alcanzando el 63.4%. Esto indica que la capacidad de detección de amenazas es alta, pero también lo es la proporción de errores.
Vladislav Tushkanov, principal científico de datos de Kaspersky, comentó al respecto:
“Hoy en día, la detección de ataques de phishing con ChatGPT tiene limitaciones, puede estar al nivel de un analista a la hora de razonar sobre los ataques de phishing y revelar objetivos potenciales. Pero tiende a inventar respuestas y mostrar resultados erróneos, por lo que se puede decir que es útil, pero no va a revolucionar el panorama de la ciberseguridad, por el momento.”
Además, los expertos también plantearon la pregunta de si ChatGPT podría clasificar e investigar los ciberataques, especialmente aquellos en los que los ciberdelincuentes mencionan marcas populares en sus enlaces para engañar a las víctimas. En este sentido, la herramienta mostró resultados sorprendentes al identificar posibles objetivos de phishing. Logró resolver con éxito más de la mitad de las URL que implicaban suplantación de identidad, incluyendo portales y aplicaciones tan populares como Facebook, TikTok, Google y Amazon.
Es importante destacar que ChatGPT logró estos resultados sin información adicional ni aprendizaje previo. Sin embargo, el experimento también demostró que la herramienta tiene dificultades para justificar lo que considera enlaces maliciosos.
Algunas de las explicaciones fueron correctas y se basaron en hechos probados, pero otras fueron incorrectas, engañosas e inventadas, a pesar de ser formuladas con aparente credibilidad. Por lo tanto, según los expertos de Kaspersky, el potencial de ChatGPT aún está lejos de convertirse en un aliado infalible en la lucha contra el cibercrimen.
Te puede interesar: ChatGPT, Bing Chat o Bard, ¿cuál es el mejor?