Las empresas a menudo identifican problemas de rendimiento de IA y ML después de que se ha producido el daño.
Amit Paka Krishna Gade 2 años
Amit Paka es cofundador y director de productos de Laboratorios de violinistasuna startup de IA explicable que permite a las empresas implementar y escalar aplicaciones de IA libres de riesgos y sesgos.
Más publicaciones de este colaborador Cómo la inmigración legal fracasó en Silicon Valley El auge de las microadquisiciones de empresas emergentes
Krishna Gade es cofundador y director general de Laboratorios de violinistasuna startup de IA explicable que permite a las empresas implementar y escalar aplicaciones de IA libres de riesgos y sesgos.
A medida que el mundo se vuelve más profundamente conectado a través de dispositivos y redes IoT, las necesidades y expectativas de los consumidores y las empresas pronto solo serán sostenibles a través de la automatización.
Reconociendo esto, la inteligencia artificial y el aprendizaje automático están siendo adoptados rápidamente por industrias críticas como las finanzas, el comercio minorista, la atención médica, el transporte y la fabricación para ayudarlos a competir en una cultura global siempre activa y bajo demanda. Sin embargo, incluso cuando la IA y el ML brindan beneficios infinitos, como aumentar la productividad al tiempo que disminuyen los costos, reducen el desperdicio, mejoran la eficiencia y fomentan la innovación en modelos comerciales obsoletos, existe un tremendo potencial de errores que resultan en resultados sesgados no deseados y, peor aún, abuso. por malos actores.
El mercado de tecnologías avanzadas que incluyen AI y ML continuará su crecimiento exponencial, con firma de investigación de mercado IDC proyectando que el gasto en sistemas de IA alcanzará los $98 mil millones en 2023, más de dos veces y media los $37.5 mil millones que se proyectaron para gastar en 2019. Además, IDC prevé que el comercio minorista y la banca impulsarán gran parte de este gasto, ya que el Las industrias invirtieron más de $ 5 mil millones en 2019.
Estos hallazgos subrayan la importancia de que las empresas que aprovechan o planean implementar tecnologías avanzadas para las operaciones comerciales comprendan cómo y por qué se toman ciertas decisiones. Además, tener una comprensión fundamental de cómo funcionan la IA y el ML es aún más crucial para realizar una supervisión adecuada a fin de minimizar el riesgo de resultados no deseados.
Las empresas a menudo se dan cuenta de los problemas de rendimiento de AI y ML después de que se ha producido el daño, lo que en algunos casos ha sido noticia. Estos casos de IA que generan sesgos involuntarios incluyen la Apple Card que permite límites de crédito más bajos para las mujeres y el algoritmo de IA de Google para monitorear el discurso de odio en las redes sociales que tiene prejuicios raciales contra los afroamericanos. Y ha habido ejemplos mucho peores de AI y ML que se utilizan para difundir información errónea en línea a través de deepfakes, bots y más.
A través del monitoreo en tiempo real, las empresas tendrán visibilidad de la “caja negra” para ver exactamente cómo funcionan sus modelos de IA y ML. En otras palabras, la explicabilidad permitirá a los científicos e ingenieros de datos saber qué buscar (también conocido como transparencia) para que puedan tomar las decisiones correctas (también conocido como conocimiento) para mejorar sus modelos y reducir los riesgos potenciales (también conocido como generar confianza).
Pero existen desafíos operativos complejos que primero deben abordarse para lograr resultados libres de riesgos y confiables.
5 desafíos operativos clave en los modelos de IA y ML
Source link