En el metaverso, la IA responsable debe ser una prioridad

En el metaverso, la IA responsable debe ser una prioridad

Más publicaciones de este colaborador Inteligencia artificial y lenguaje

Según un reciente Informe de inteligencia de Bloomberg, el metaverso es un mercado de $ 800 mil millones. Otros discuten sobre qué es realmente el metaverso, pero con tanto dinero y tanta curiosidad a su alrededor, todo el mundo habla.

Sin duda, la IA jugará un papel muy importante en el metaverso, especialmente cuando nos comuniquemos con los demás. Si bien estaremos más conectados que nunca, la IA sin ataduras a ningún gobierno, estándar o código ético puede tener implicaciones diabólicas. Como ex director ejecutivo de Google, Eric Schmidt preguntó recientemente, “¿Quién puede establecer las reglas?”

Comprender las implicaciones de la IA

Debido a que los algoritmos de IA son creados por personas con sesgos, se pueden crear para seguir los patrones de pensamiento y los sesgos de sus creadores, que luego pueden multiplicarse. Hemos visto cómo la IA puede crear los prejuicios de géneropor ejemplo, o cómo la IA puede dar mayores límites de tarjetas de crédito para hombres que para mujereso que cierto las etnias son más propensas al sesgo injusto. Para crear un metaverso floreciente y más equitativo, es necesario abordar los patrones oscuros de IA que pueden crear y perpetuar sesgos. Pero, ¿quién decide? ¿Y cómo pueden los humanos evitar el sesgo?

La solución para mitigar esta “IA sin control” es desarrollar estándares éticos en todas las organizaciones. Desde nuestro punto de vista, los patrones oscuros de IA pueden ser invasivos. La mayor parte de la IA se desarrolla sin supervisión ética, y esto debe cambiar en el metaverso.

Necesitamos asegurarnos de que la inteligencia artificial del lenguaje también esté entrenada para ser ética.

Usando AI para traducir mensajes en el metaverso

Como ávido aprendiz de idiomas y fundador de una empresa que utiliza inteligencia artificial y humanos para conectar a las personas en todo el mundo, me emociona la perspectiva de que todos se vuelvan súper políglotas, capaces de hablar varios idiomas, pero estoy aún más interesado en entender cómo eso La IA funcionará.

En el metaverso, es probable que muchos usuarios se comuniquen en sus propios idiomas, con posibles traductores de idiomas basados ​​en IA. La tecnología del lenguaje impulsada por IA puede perpetuar el sesgo si no tenemos cuidado. Necesitamos asegurarnos de que la inteligencia artificial del lenguaje también esté entrenada para ser ética.

Imagina que el avatar de Joe quiere hablar con el avatar de Miguel, pero Joe y Miguel no hablan el mismo idioma. ¿Cómo traduce AI sus mensajes? ¿Directamente? ¿O traducimos para la intención de la persona en lugar de literalmente, para que la persona que recibe el mensaje pueda entender?

Difuminando las líneas entre humanos y máquinas

Lo “humanos” que seamos en el metaverso importará. Las empresas pueden utilizar la tecnología del lenguaje para traducir rápidamente las interacciones a diferentes idiomas, lo que puede ayudar a crear una comunidad en línea, confianza e inclusión.

Sin embargo, si no tenemos cuidado con las palabras que elegimos, la tecnología también puede crear prejuicios o permitir un comportamiento descortés. ¿Cómo es eso? ¿Alguna vez has escuchado a un niño de 3 años hablar con Alexa? Agradable no es la palabra para ello. Cuando las personas saben que están interactuando con tecnología y no con humanos reales, no sienten la necesidad de ser educados. En cambio, los clientes son groseros con los chatbots, Alexa de Amazon y las líneas telefónicas automatizadas. La lista continua. En un mundo ideal, la IA para el lenguaje capturará los matices y la empatía necesarios para representar con precisión a un ser humano, de modo que el metaverso se convierta en un lugar donde los humanos y la tecnología florezcan juntos.

La IA impersonal en el metaverso también podría ser negativa. El lenguaje adecuado puede crear una conexión y una comprensión reales y emocionales. Con operaciones lingüísticas impulsadas por IA, el mensaje correcto puede ayudar a humanizar una marca. La tecnología que puede ayudar a las marcas a comunicarse en muchos idiomas al instante será fundamental. Creemos que la confianza del cliente se construye con el idioma nativo. Pero, ¿cómo puede una sociedad virtual sin fronteras tener un idioma nativo? ¿Y cómo puede ese entorno generar confianza?

Como mencioné antes, el metaverso tiene un gran potencial para que las empresas obtengan una mayor exposición en un mundo virtual. La gente ya está gastando mucho dinero en moda virtual, y esta tendencia continuará. Las marcas necesitan encontrar formas de crear experiencias en línea que se sientan auténticas o incluso mejores que la interacción en persona. Ese es un listón muy alto que superar y la comunicación lingüística inteligente será parte de ese viaje.

El aspecto final del metaverso es una incógnita. Sin embargo, nadie quiere ser la marca recordada por cómo su IA afectó de manera desproporcionada a un grupo de personas sobre el otro o cómo su IA deshumanizó su producto. La IA mejorará cada vez más en la predicción de patrones para siempre. Sin embargo, si no se controla, la IA podría tener serias implicaciones sobre cómo “vivimos” en el metaverso. Por eso es necesaria una ética de la IA responsable o ética.

Cuando la IA impulsa el lenguaje, los chatbots o las realidades virtuales de las marcas, existen numerosas oportunidades para perder la confianza de los clientes o los sentimientos de humanidad. Depende de los investigadores y expertos en IA trabajar junto con las marcas para encontrar soluciones para marcos de trabajo de IA responsables para que podamos “vivir” en el metaverso pacíficamente.


Source link