IBM lanza biblioteca de código abierto para protección de sistemas de IA

20/04/2018

La biblioteca de software de "framework agnóstico" contiene ataques, defensas y puntos de referencia para la protección de sistemas de inteligencia artificial.

IBM ha lanzado una biblioteca de seguridad diseñada para ayudar a proteger sistemas de inteligencia artificial (IA) en la comunidad de código abierto.

El martes en la conferencia de RSA en San Francisco, IBM anunció el lanzamiento del Adversarial Robustness Toolbox para apoyar a los desarrolladores y usuarios de IA que pueden llegar a ser víctimas de ataques contra los sistemas de IA, incluidas las Deep Neural Networks (DNN).

De acuerdo con el gigante de la tecnología, los actores de amenazas pueden ser capaces de explotar debilidades en los sistemas IA muy sutilmente. Las alteraciones simples, pequeñas y a menudo indetectables en el contenido incluido en imágenes, video y grabaciones de audio pueden ser diseñadas para confundir a los sistemas de IA, incluso sin conocimientos profundos de la IA o DNN que está atacando.

Estos pequeños cambios pueden resultar en grandes problemas de seguridad para los usuarios, e impactar el rendimiento de los sistemas de IA (forzarlos a que realicen una acción considerada maliciosa).

Por ejemplo, si la IA fuera usada para sistemas de control de tráfico, engañar a los controladores artificiales podría servir para cambiar las señales de ALTO para que parezcan señales de “velocidad máxima 110 Km/h”, ya sea en aplicaciones de mapas o incluso físicamente algún día.

Sin embargo, la caja de herramientas, lanzada a la comunidad de código abierto, pretende convertirse en un repositorio y origen de información sobre las amenazas a nuestras actuales y futuras soluciones de IA.

El Adversarial Robustness Toolbox pretende combatir los llamados “adversarios de la IA” al registrar los datos de amenaza y ayudar a los desarrolladores a crear, comparar y desplegar sistemas de defensa prácticos para inteligencia artificial del mundo real.

“Esta área emergente de investigación analiza las mejores formas de atacar y defender los sistemas de IA en los que confiamos, antes de que lo hagan los chicos malos”, dice IBM.

El toolbox además incluye una biblioteca, interfaces y métricas que ayudarán a los desarrolladores a crear soluciones de ciberseguridad para este campo emergente.

Al presentar el kit de herramientas a la comunidad de código abierto, también puede inspirar a otros lo suficiente para crear soluciones antes de que los adversarios de IA se conviertan en una verdadera amenaza.

“Esta es la primer y única biblioteca de IA que contiene ataques, defensas y puntos de referencia para implementar seguridad mejorada”, dice la compañía. “Los investigadores de IBM en realidad se inspiraron para conseguir este desarrollo cuando descubrieron que las herramientas existentes no proporcionaban defensas necesarias para proteger sistemas de IA”

Esta semana, IBM también anunció la introducción de (capacidades de orquestación AI and ML orchestration capabilities a la plataforma Resilience, junto con el lanzamiento del sistema IBM X-force Threat Management Services, que aprovecha las mismas tecnologías para analizar y detectar amenazas de seguridad cibernética para redes empresariales.

Artículos relacionados: