Intel y Georgia Tech buscan mitigar los ataques de engaño del Machine Learning

Intel y Georgia Tech buscan mitigar los ataques de engaño del Machine Learning

 Intel y el Instituto Tecnológico de Georgia (Georgia Tech) anunciaron hoy que fueron seleccionados para dirigir un equipo del programa Garantizando la Robustez de la Inteligencia Artificial contra el Engaño (GARD, por sus siglas en inglés) para la Agencia de Proyectos de Investigación Avanzados de Defensa (DARPA, por sus siglas en inglés).

Intel es el principal contratista en esta labor conjunta que tiene un costo multimillonario (dólares americanos) y una duración de cuatro años para mejorar las defensas de ciberseguridad contra los ataques de engaño en los modelos de Machine Learning

“Intel y Georgia Tech están trabajando juntos para avanzar en la comprensión colectiva del ecosistema y en la capacidad de mitigación contra las vulnerabilidades de la Inteligencia Artificial y el Machine Learning. Mediante la investigación innovadora en técnicas de coherencia, estamos colaborando en un enfoque para mejorar la detección de objetos y mejorar la capacidad de la Inteligencia Artificial y el Machine Learning, para actuar ante los ataques adversos”.
–Jason Martin, ingeniero principal de Intel Labs e investigador principal para el programa DARPA GARD de Intel

Por qué es importante: Aun cuando son poco frecuentes, los ataques adversos intentan engañar, alterar o corromper la interpretación de datos del algoritmo de Machine Learning. Como los modelos de Inteligencia Artificial (IA) y Machine Learning son incorporados cada vez más en los sistemas semiautónomos y autónomos, es fundamental mejorar continuamente la estabilidad, seguridad y protección de interacciones inesperadas o engañosas. Por ejemplo, las clasificaciones e interpretaciones erróneas de la Inteligencia Artificial en cuanto a pixeles podrían dar lugar a una mala interpretación de las imágenes y escenarios de identificación incorrectos, o las modificaciones sutiles a los objetos del mundo real podrían confundir a los sistemas de percepción de la IA.  El programa GARD ayudará a que las tecnologías de Inteligencia Artificial y Machine Learning estén mejor equipadas para defenderse contra posibles ataques futuros.

Los detalles: Los esfuerzos de defensa actuales están diseñados para proteger contra ataques adversos específicos y predefinidos, pero siguen siendo vulnerables a los ataques cuando son puestos a prueba fuera de sus parámetros de diseño específicos. GARD pretende plantear la defensa del Machine Learning de forma diferente: desarrollando defensas amplias que aborden los numerosos ataques posibles en escenarios, tales que podrían hacer que un modelo de Machine Learning clasifique o interprete mal los datos. Debido a su amplia huella arquitectónica y liderazgo en seguridad, Intel se encuentra en una posición única para ayudar a impulsar innovaciones en la tecnología de Inteligencia Artificial y Machine Learning con una participación significativa en el resultado.

La meta del programa GARD es establecer fundamentos teóricos del sistema de Machine Learning que no solo identifiquen las vulnerabilidades del sistema y caractericen las propiedades para mejorar la robustez del sistema, sino que también promuevan la creación de defensas efectivas. A través de estos elementos del programa, GARD tiene el objetivo de crear tecnologías de Machine Learning resistentes al engaño con estrictos criterios para evaluar su eficacia.  

Lo que sigue: En la primera etapa del programa GARD, Intel y Georgia Tech están mejorando las tecnologías de detección de objetos a través de la coherencia espacial, temporal y semántica, tanto para imágenes fijas como para videos. Intel está comprometida a impulsar la innovación de la IA y el Machine Learning y considera que trabajar con investigadores de seguridad calificados de todo el mundo es una parte crucial para abordar las vulnerabilidades de seguridad potenciales para la industria en general y nuestros clientes.

Gutmann

Gutmann

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *