<\/p>\n
El destino hacia el cual parecemos encaminarnos tiene el potencial de catalizar un incremento en la productividad, pero trae consigo retos significativos en t\u00e9rminos de ciberseguridad. Un equipo de especialistas de la Universidad de Cornell, ubicada en el Estado de Nueva York, ha desarrollado \u00abel primer gusano espec\u00edficamente concebido para atacar entornos GenAI\u00bb. Este malware, que ha sido probado con \u00e9xito en entornos controlados de laboratorio, busca emitir una advertencia acerca de la viabilidad de generar este tipo de peligros.<\/p>\n
El gusano, bautizado como Morris II en honor al primer gusano de la internet creado por Robert T. Morris en 1988, se utiliz\u00f3 para ilustrar varios ataques in\u00e9ditos contra un servicio de email que utiliza inteligencia artificial generativa para responder mensajes autom\u00e1ticamente. Los cient\u00edficos lograron que este software malicioso se replicara por s\u00ed mismo y extrajera datos de la v\u00edctima durante experimentos con dos de los m\u00e1s reconocidos modelos de lenguaje actuales: Gemini Pro de Google y GPT-4 de OpenAI.<\/p>\n
Para vulnerar la seguridad del sistema de correo electr\u00f3nico (dise\u00f1ado espec\u00edficamente para este estudio), Morris II emplea una estrategia denominada Adversarial Self-Replicating Prompt. Esta t\u00e1ctica involucra un tipo de indicaci\u00f3n espec\u00edfica que se inserta en el texto del mensaje o se camufla dentro de una imagen, confundiendo a la inteligencia artificial generativa que procesa el correo. Seg\u00fan los investigadores, este m\u00e9todo puede propagarse a otros sistemas y distribuir contenido adaptado a medida.<\/p>\n
Morris II tambi\u00e9n tiene la capacidad de infiltrarse en una funcionalidad llamada RAG, una herramienta que algunas plataformas de inteligencia artificial implementan para enriquecer sus respuestas, extrayendo informaci\u00f3n de fuentes externas. En este escenario, el gusano logr\u00f3 alterar la base de datos del sistema de correo electr\u00f3nico simulado, provocando que las respuestas generadas contuvieran informaci\u00f3n confidencial del usuario. Adem\u00e1s, consigui\u00f3 replicarse dentro del sistema.<\/p>\n
Fuente: xataka<\/p>\n