Proceso sistemático para optimizar la seguridad del SDLC mediante un agente autónomo de pentesting ético, mitigando riesgos y vulnerabilidades en código asistido por IA.

Abstract

Hoy en día la transformación digital ha cambiado muchas cosas en los campos relacionados con la tecnología, los campos de tecnología se han visto muy afectados. Aquí es donde la Inteligencia Artificial (IA) se ha convertido en una fuerza revolucionaria en el campo de la informática. En ella, los modelos de lenguaje de gran escala (LLMs) se han vuelto más que nunca imprescindibles, ya que no solo entienden el lenguaje natural, sino que también generan respuestas y soluciones que antes exigían conocimientos especializados. Este desarrollo revolucionó la manera en que la gente interactúa con la información y resuelve problemas técnicos. Herramientas como ChatGPT o GitHub Copilot son un ejemplo de ello, ya que permiten generar código y hacer posible que personas no expertas en programación crean software funcional con instrucciones sencillas (Jošt et al., 2023). Y aunque esta alta demanda tecnológica es una gran oportunidad, también trae grandes retos, especialmente en el ámbito de la seguridad de la información. Ahora cualquiera puede desarrollar una aplicación completa o automatizar procesos sin ser un experto en seguridad informática, lo que muchas veces resulta en sistemas funcionales, pero inseguros. Esto se da porque los modelos de lenguaje no siempre pueden distinguir entre un código funcional y uno seguro. Por ejemplo, es posible que se produzcan scripts con errores clásicos como inyecciones SQL o vulnerabilidades XSS, sin que el usuario tenga las herramientas para detectarlos y corregirlos por su cuenta (Brundage et al., 2023).