Con el objetivo de brindar mayor seguridad a los sistemas de IA, Protect AI recaudó hoy USD 13,5 millones en una ronda de financiación inicial codirigida por Acrew Capital y Boldstart Ventures con la participación de Knollwood Capital, Pelion Ventures y Aviso Ventures. Ian Swanson, cofundador y director ejecutivo, dijo que el capital se destinará al desarrollo de productos y al alcance de los clientes a medida que Protect AI emerge del sigilo.
Protect AI afirma ser una de las pocas empresas de seguridad centradas por completo en el desarrollo de herramientas para defender los sistemas de IA y los modelos de aprendizaje automático de los exploits. Su conjunto de productos tiene como objetivo ayudar a los desarrolladores a identificar y corregir las vulnerabilidades de seguridad de la inteligencia artificial y el aprendizaje automático en varias etapas del ciclo de vida del aprendizaje automático, explica Swanson, incluidas las vulnerabilidades que podrían exponer datos confidenciales.
“A medida que el uso de modelos de aprendizaje automático crece exponencialmente en los casos de uso de producción, vemos que los desarrolladores de IA necesitan productos y soluciones para hacer que los sistemas de IA sean más seguros, al tiempo que reconocen las necesidades y amenazas únicas que rodean el código de aprendizaje automático”, dijo Swanson a TechCrunch en una entrevista por correo electrónico. “Hemos investigado y descubierto vulnerabilidades únicas y proporcionamos herramientas para reducir el riesgo inherente a [machine learning] tuberías.”
Swanson co-lanzó Protect AI con Daryan Dehghanpisheh y Badar Ahmed hace aproximadamente un año. Swanson y Dehghanpisheh trabajaron juntos anteriormente en Amazon Web Services (AWS) en el lado del negocio de inteligencia artificial y aprendizaje automático; Swanson era el líder mundial en el equipo de soluciones para clientes de IA de AWS y Dehghanpisheh era el líder mundial para arquitectos de soluciones de aprendizaje automático. Ahmed conoció a Swanson mientras trabajaba en la última startup de Swanson, DataScience.com, que fue adquirida por Oracle en 2017. Ahmed y Swanson también trabajaron juntos en Oracle, donde Swanson era vicepresidente de IA y aprendizaje automático.
El primer producto de Protect AI, NB Defense, está diseñado para funcionar dentro de Jupyter Notebook, una herramienta de cuaderno digital popular entre los científicos de datos dentro de la comunidad de IA. (Un GitHub de 2018 análisis descubrió que había más de 2,5 millones de Jupyter Notebooks públicos en uso en el momento de la publicación del informe, un número que casi seguramente ha aumentado desde entonces). necesario para entrenar, ejecutar y probar un sistema de IA, para riesgos de seguridad y proporciona sugerencias de remediación.
¿Qué tipo de elementos problemáticos podría contener un cuaderno de proyectos de IA? Swanson sugiere tokens de autenticación de uso interno y otras credenciales, por ejemplo. NB Defense también busca información de identificación personal (por ejemplo, nombres y números de teléfono) y código fuente abierto con una licencia “no permisiva” que podría prohibir su uso en un sistema comercial.
Los portátiles Jupyter se suelen utilizar como blocs de notas en lugar de entornos de producción, y la mayoría se guardan bajo llave y lejos de miradas indiscretas. De acuerdo a Según un análisis de Dark Reading, menos del 1 % de las aproximadamente 10 000 instancias de Jupyter Notebook en la web pública están configuradas para acceso abierto. Pero es cierto que las hazañas no son solo teóricas. En diciembre pasado, la firma de seguridad Lightspin descubierto un método que podría permitir a un atacante ejecutar cualquier código en la computadora portátil de una víctima a través de cuentas en AWS SageMaker, el servicio de aprendizaje automático totalmente administrado de Amazon.
Otras firmas de investigación, incluida Aqua Security, han descubierto que los Jupyter Notebooks mal protegidos son vulnerables a los ataques de minería de criptomonedas y ransomware basados en Python. En un Microsoft 2020 encuesta de las empresas que usan IA, la mayoría dijo que no cuentan con las herramientas adecuadas para asegurar sus modelos de aprendizaje automático.
Puede ser prematuro hacer sonar las campanas de alarma. No hay evidencia de que los ataques estén ocurriendo a gran escala, a pesar de que Gartner reporte prediciendo un aumento en los ciberataques de IA hasta finales de este año. Pero Swanson argumenta que la prevención es clave.
“[Many] Las soluciones de escaneo de códigos de seguridad existentes no son compatibles con las computadoras portátiles Jupyter. Estas vulnerabilidades, y muchas más, se deben a la falta de enfoque e innovación de los proveedores actuales de soluciones de seguridad cibernética, y es la mayor diferenciación para Protect AI: las amenazas y vulnerabilidades reales que existen en los sistemas de IA en la actualidad”, dijo Swanson.
Más allá de los portátiles Jupyter, Protect AI funcionará con herramientas comunes de desarrollo de IA, incluidas Amazon SageMaker, Azure ML y Google Vertex AI Workbench, dice Swanson. Está disponible de forma gratuita para empezar, con opciones de pago que se introducirán en el futuro.
“El aprendizaje automático es… complejo y las canalizaciones que brindan aprendizaje automático a escala crean y multiplican los puntos ciegos de ciberseguridad que evaden las ofertas actuales de ciberseguridad, lo que impide que los riesgos importantes se comprendan y mitiguen adecuadamente. Además, los marcos regulatorios y de cumplimiento emergentes continúan promoviendo la necesidad de fortalecer las fuentes de datos, los modelos y la cadena de suministro de software de los sistemas de IA para cumplir con los requisitos de cumplimiento, gestión de riesgos y gobernanza cada vez mayores”, continuó Swanson. “Proteja las capacidades únicas y la profunda experiencia de AI en el ciclo de vida de aprendizaje de máquinas para empresas y la IA a escala ayuda a las empresas de todos los tamaños a cumplir con los requisitos únicos, emergentes y crecientes de hoy y de mañana para una experiencia digital impulsada por IA más segura”.
Eso promete mucho. Pero Protect AI tiene la ventaja de ingresar a un mercado con relativamente pocos competidores directos. Quizás el más cercano sea la IA resistente, que está desarrollando sistemas de IA para proteger los algoritmos de los ataques automáticos.
Protect AI, que es anterior a los ingresos, no revela cuántos clientes tiene hoy. Pero Swanson afirma que la compañía ha asegurado “empresas en Fortune 500” en verticales, incluidas finanzas, atención médica y ciencias de la vida, así como energía, juegos, negocios digitales y fintech.
“A medida que hacemos crecer a nuestros clientes, construimos socios y participantes en la cadena de valor, utilizaremos nuestros fondos para agregar miembros adicionales al equipo en roles de desarrollo de software, ingeniería, seguridad y comercialización a lo largo de 2023”, dijo Swanson, y agregó que el número de empleados de Protect AI se mantiene en 15. “Tenemos varios años de efectivo disponible para continuar avanzando en este campo”.
Source link