Las empresas son cada vez más abrazando IA generativa. Pero no necesariamente están considerando todos los obstáculos y desafíos que surgen al integrar la tecnología en sus flujos de trabajo existentes.
En uno reciente encuesta por KPMG, el 90% de las empresas dijeron que tenían preocupaciones “moderadas a muy significativas” sobre los riesgos de usar IA generativa y dudas sobre cómo mitigar esos riesgos. Mientras tanto, solo el 6% dijo que sentía que su empresa tenía un programa de gobierno de IA maduro.
Es en parte por estas razones que Neil Sereybrany fundó CalypsoAIuna startup que desarrolla software para probar, validar y monitorear aplicaciones de inteligencia artificial desarrolladas internamente y de terceros antes de su implementación.
“La plataforma de CalypsoAI promueve el poder y la ventaja competitiva que puede brindar el uso de IA, pero de una manera segura y confiable”, dijo Sereybrany a TechCrunch en una entrevista por correo electrónico.
Eso es poner el listón alto. Pero los inversores evidentemente creen en la capacidad de entrega de CalypsoAI. La startup anunció hoy que recaudó $23 millones en una ronda Serie A-1 dirigida por Paladin Capital Group con la participación de Lockheed Martin Ventures, Hakluyt Capital y Expeditions Fund.
Ángeles notables también contribuyeron al tramo A-1, incluida la ex directora ejecutiva de YouTube, Susan Wojcicki, y su hermana, la cofundadora de 23andMe, Anne Wojcicki. Hasta la fecha, CalypsoAI ha recaudado $38,2 millones.
CalypsoAI afirma que sus herramientas, implementadas como un contenedor dentro de la infraestructura de una organización, permiten a las empresas monitorear y dar forma al uso de grandes modelos de lenguaje como ChatGPT, a través de paneles que muestran estadísticas relacionadas con la toxicidad de los modelos, la participación del usuario y más. Sereybrany dice que CalypsoAI puede evitar que se compartan datos confidenciales de la empresa en modelos al tiempo que identifica ataques provenientes de herramientas de IA generativa.
“Si bien todas las empresas quieren aprovechar los beneficios de las soluciones de IA generativa, es decir, las claras ganancias de productividad, también quieren asegurarse de que no estén sujetas a ataques cibernéticos y que los empleados no expongan información confidencial a modelos públicos”, agregó Sereybrany. “Al implementar CalypsoAI, los CISO y los líderes de TI pueden comenzar a considerar seriamente la implementación de soluciones de IA generativa en sus organizaciones de manera segura, lo que les permite introducir eficiencias en sus negocios sin el riesgo adicional”.
Ciertamente, existe una demanda en el sector corporativo de algún tipo de solución de barandilla de inteligencia artificial generativa. Por temor a que los empleados expongan accidentalmente información patentada, empresas como Apple, JPMorgan Chase y Verizon han prohibido o restringido el uso de herramientas similares a ChatGPT internamente. Muchas de estas mismas empresas desconfían de los problemas de toxicidad y desinformación de la IA generativa, que continúan afectando incluso a los mejores modelos disponibles en la actualidad.
La industria, con la vista puesta en el enorme mercado potencial direccionable, se ha elevado para satisfacer la demanda. Microsoft ofrece el servicio Azure OpenAI, que proporciona capacidades de gobierno y cumplimiento además de los modelos generativos de IA de OpenAI, incluido ChatGPT. En otro lugar, Salesforce lanzó recientemente Einstein Trust Layer, que intenta evitar que los modelos que generan texto retengan datos confidenciales.
Sin embargo, qué tan bien funcionan estas barandillas en la práctica es una pregunta abierta. Al cuestionar las afirmaciones de un proveedor, los investigadores descubrieron recientemente fallas en NeMo Guardrails, el conjunto de herramientas de Nvidia destinado a hacer que las aplicaciones impulsadas por IA sean más precisas y seguras, lo que permite eludir las protecciones del conjunto de herramientas.
Sereybrany insistió, por lo que vale, que los productos de CalypsoAI son resistentes a los ataques. Al mismo tiempo, enfatizó que CalypsoAI no guarda ningún dato de sus clientes, sino que solo facilita el flujo de información de los empleados al modelo elegido por la empresa.
“Asegurar LLM en la empresa se ha convertido en una empresa crítica, lo que ha llevado al cambio estratégico de CalypsoAI para abordar las necesidades de las empresas que buscan utilizar soluciones de IA”, dijo Sereybrany. “Con muchas organizaciones que buscan utilizar de forma segura soluciones de IA generativa para impulsar su negocio, CalypsoAI confía en nuestra capacidad para desarrollar el mejor producto posible y atraer al mejor talento para proteger las organizaciones empresariales”.
Sereybrany dice que CalypsoAI utilizará los fondos del último tramo para impulsar el desarrollo de productos, la contratación y las iniciativas de comercialización de la empresa. La plantilla actual de CalypsoAI es de 35 empleados, y la startup abrió recientemente una oficina en Dublín, como parte del plan de CalypsoAI para duplicar su plantilla en los próximos dos años.
“A medida que nuestra empresa continúa creciendo y expandiéndose, reconocemos el valor de atraer nuevos inversores para respaldar nuestro crecimiento”, continuó. “Al asociarnos con inversionistas que comparten nuestra visión y objetivos, podemos continuar innovando e impulsando nuestro negocio”.
Source link