para comeEuropol advierte sobre uso delictivo de ChatGPT
28 de marzo de 2023 Por Pierluigi Paganini
Europol advierte de que las organizaciones ciberdelincuentes pueden aprovechar sistemas basados ??en inteligencia artificial como ChatGPT.
El cuerpo policial de la UE, Europol, advirtió sobre el posible abuso de los sistemas basados ??en inteligencia artificial, como el popular chatbot ChatGPT, para actividades cibercriminales. Los grupos de ciberdelincuentes pueden usar chatbots como ChatGPT en ataques de ingeniería social, campañas de desinformación y otras actividades de cibercriminales, como el desarrollo de código malicioso.
ChatGPT de OpenAI se está volviendo aún más atractivo para las organizaciones ciberdelincuentes que están valorando cómo usar sus enormes capacidades.
«A medida que se mejoran activamente las capacidades de los modelos de lenguaje grande (LLM) como ChatGPT, la explotación potencial de este tipo de sistemas de inteligencia artificial por parte de los delincuentes ofrece una perspectiva sombría». reza la alerta publicada por la Europol. “
Las siguientes tres áreas de delincuencia se encuentran entre las muchas áreas de preocupación identificadas por los expertos de Europol:
Fraude e ingeniería social: la capacidad de ChatGPT para redactar textos muy realistas lo convierte en una herramienta útil para fines de phishing. La capacidad de los LLM para reproducir patrones de lenguaje se puede utilizar para suplantar el estilo de habla de individuos o grupos específicos. Se puede abusar de esta capacidad a gran escala para engañar a las posibles víctimas para que depositen su confianza en manos de los delincuentes.
Desinformación: ChatGPT sobresale en la producción de texto con sonido auténtico a gran velocidad y escala. Esto hace que el modelo sea ideal para propósitos de propaganda y desinformación, ya que permite a los usuarios generar y difundir mensajes que reflejen una narrativa específica con relativamente poco esfuerzo.
Ciberdelincuencia: además de generar un lenguaje similar al humano, ChatGPT es capaz de producir código en varios lenguajes de programación diferentes. Para un delincuente potencial con pocos conocimientos técnicos, este es un recurso invaluable para producir código malicioso. Según Europol, tecnologías como ChatGPT pueden acelerar significativamente cada fase de una cadena de ataque.
“Como tal, ChatGPT se puede usar para aprender sobre una gran cantidad de posibles áreas delictivas sin conocimiento previo, que van desde cómo ingresar a una casa hasta terrorismo, ciberdelincuencia y abuso sexual infantil”. afirma el informe publicado por Europol. “Los casos de uso identificados que surgieron de los talleres que Europol llevó a cabo con sus expertos no son de ninguna manera exhaustivos. Más bien, el objetivo es dar una idea de cuán diversos y potencialmente peligrosos pueden ser los LLM como ChatGPT en manos de actores malintencionados”.
El chatbot también puede ser abusado por actores de amenazas con poco o ningún conocimiento técnico para llevar a cabo actividades fraudulentas, como el desarrollo de código malicioso.
La policía europea advierte de las mejoras esperadas de capacidades de modelos generativos como ChatGPT. GPT-4, la última versión, ya ha realizado mejoras significativas con respecto a sus versiones anteriores, sus capacidades pueden proporcionar una asistencia más efectiva para las actividades delictivas cibernéticas.
“El modelo más nuevo es mejor para comprender el contexto del código, así como para corregir mensajes de error y corregir errores de programación. Para un delincuente potencial con pocos conocimientos técnicos, este es un recurso invaluable”. concluye el informe. “Al mismo tiempo, un usuario más avanzado puede explotar estas capacidades mejoradas para refinar aún más o incluso automatizar sofisticados modus operandi cibercriminales”.
El informe destaca la importancia de preparar a la comunidad de aplicación de la ley sobre
las aplicaciones basadas en IA, tanto positivas como negativas, que pueden afectar su actividad diaria.
Traducción supervisada por Raymond Orta Martinez, Perito en Informática Forense
Fuente: https://securityaffairs.com/144132/cyber-crime/europol-warns-cybercrime-chatgpt.html