La inteligencia artificial (IA) ha ganado una gran relevancia en distintos tipos de negocio (desde salud, banca, entretenimiento, etc.) y en nuestros operaciones del día a día. Lo anterior ha vislumbrado nuevas oportunidades en ciberseguridad y del mismo modo un conjunto de retos que aún hoy por hoy son desconocidos.

La seguridad ha cambiado debido a las incorporaciones de la IA en nuestras operaciones, implicando una transformación tanto en los roles y los procesos tradicionales; lo anterior dado a los nuevos riesgos que podrían ser incidentes cibernéticos, eventos que pueden efectuar daños e implicaciones éticas aun en exploración tanto por la academia y la industria.

En los últimos años se ha evidenciado una necesidad de personas con conocimientos en ciberseguridad, ahora será importante no solo lo anterior sino que también conozcan sobre IA, lo anterior da a conocer la relevancia de empezar a construir elementos que le permitan a las personas conocer el contexto actual de ciberseguridad en inteligencia artificial, las herramientas actuales y las practicas necesarias para reducir los riesgos que se puedan presentar en los sistemas informáticos.

Desde las experiencias adquiridas en el campo de la ética de inteligencia artificial y de once años de investigación en ciberseguridad e inteligencia artificial, presentamos un contenido que introduce a cualquier persona interesada en el campo ofensivo de ciberseguridad para inteligencia artificial; la charla incluye un contexto sobre ciberseguridad en inteligencia artificial, haciendo un énfasis en al aspecto ofensivo bajo el marco de referencia de Atlas MITRE ATT&CK, la presentación aborda el uso de python para la explotación de los riesgos presentados por OWASP top 10 tanto en modelos tradicionales y generativos. Dentro de la charla se presentarán algunos ejemplos de técnicas de evasión, envenenamiento, extracción e inferencia abordados a través de los frameworks de Python -Giskard y ART-. Posteriormente, también se presentarán los resultados que hemos conseguido en distintos proyectos de investigación a nivel ofensivo, por ejemplo el desarrollo de una IA con comportamiento de ransomware y otra para perfilamiento tanto de personas y organizaciones.

Como parte de los once años de investigación en el campo, también estaré otorgando algunos libros impresos a los asistentes con el fin que conozcan un poco más sobre los desarrollos que se han logrado en Latinoamérica tanto en la perspectiva defensiva como en la ofensiva de ciberseguridad e IA; de los anteriores cabe citar: nuestro primer libro “Ciberseguridad: un enfoque desde la ciencia de datos” publicado en 2018, el “Ciberseguridad: los datos tienen la respuesta” en 2022, y finalmente “Ciberseguridad: los datos, las semillas del caos” en 2023.