El fabricante de chips Intel ha sido elegido para liderar una nueva iniciativa liderada por el ala de investigación del ejército de EE. UU., DARPA, destinada a mejorar las defensas cibernéticas contra los ataques de engaño en los modelos de aprendizaje automático.
El aprendizaje automático es un tipo de inteligencia artificial que permite que los sistemas mejoren con el tiempo con nuevos datos y experiencias. Uno de sus casos de uso más comunes hoy en día es el reconocimiento de objetos, como tomar una foto y describir lo que hay en ella. Eso puede ayudar a las personas con problemas de visión a saber qué hay en una foto si no pueden verlo, por ejemplo, pero también puede ser utilizado por otras computadoras, como vehículos autónomos, para identificar qué hay en la carretera.
Pero los ataques de engaño, aunque son raros, pueden entrometerse con los algoritmos de aprendizaje automático. Los cambios sutiles en los objetos del mundo real pueden, en el caso de un vehículo autónomo, tener consecuencias desastrosas.
Hace solo unas semanas, los investigadores de McAfee engañaron a un Tesla para que acelerara 50 millas por hora por encima de la velocidad prevista al agregar un trozo de cinta de dos pulgadas en una señal de límite de velocidad. la investigacion fue uno de los primeros ejemplos de manipular los algoritmos de aprendizaje automático de un dispositivo.
Ahí es donde DARPA espera entrar en juego. El brazo de investigación dijo a principios de este año que está trabajando en un programa conocido como GARD, o Garantizar la solidez de la IA contra el engaño. Las mitigaciones existentes contra los ataques de aprendizaje automático generalmente se basan en reglas y están predefinidas, pero DARPA espera poder convertir a GARD en un sistema que tendrá defensas más amplias para abordar varios tipos diferentes de ataques.
Intel dijo hoy que servirá como contratista principal para el programa de cuatro años junto con Georgia Tech.
Jason Martin, ingeniero principal de Intel Labs que dirige el equipo GARD de Intel, dijo que el fabricante de chips y Georgia Tech trabajarán juntos para “mejorar la detección de objetos y mejorar la capacidad de la IA y el aprendizaje automático para responder a los ataques de los adversarios”.
Durante la primera fase del programa, Intel dijo que su objetivo es mejorar sus tecnologías de detección de objetos mediante la coherencia espacial, temporal y semántica tanto para imágenes fijas como para video.
DARPA dijo que GARD podría usarse en varios entornos, como en biología.
“El tipo de defensa amplia basada en escenarios que buscamos generar se puede ver, por ejemplo, en el sistema inmunitario, que identifica los ataques, gana y recuerda el ataque para crear una respuesta más eficaz durante futuros compromisos”, dijo el Dr. Hava Siegelmann, gerente de programa en la Oficina de Innovación de la Información de DARPA.
“Debemos asegurarnos de que el aprendizaje automático sea seguro y no pueda ser engañado”, dijo Siegelmann.
Source link