Google anunció hoy que implementará mejoras en su modelo de inteligencia artificial para hacer que la Búsqueda de Google sea una experiencia más segura y mejor para manejar consultas confidenciales, incluidas aquellas relacionadas con temas como suicidio, agresión sexual, abuso de sustancias y violencia doméstica. También está utilizando otras tecnologías de inteligencia artificial para mejorar su capacidad de eliminar contenido explícito o sugerente no deseado de los resultados de búsqueda cuando las personas no lo buscan específicamente.
Actualmente, cuando las personas buscan información confidencial, como suicidio, abuso u otros temas, Google muestra la información de contacto de las líneas directas nacionales relevantes arriba de sus resultados de búsqueda. Pero la compañía explica que las personas que se encuentran en situaciones de crisis pueden buscar en todo tipo de formas, y no siempre es obvio para un motor de búsqueda que están en necesidad, incluso si alertaría si un humano viera sus consultas de búsqueda. Con el aprendizaje automático y las últimas mejoras en el modelo de IA de Google llamado MUM (Modelo Unificado Multitarea), Google dice que podrá detectar automáticamente y con mayor precisión una gama más amplia de búsquedas personales de crisis debido a cómo MUM puede comprender mejor la intención detrás de las preguntas y consultas de las personas.
El año pasado, la compañía presentó su plan para rediseñar la búsqueda utilizando tecnologías de inteligencia artificial en su evento Search On, pero no había abordado este caso de uso específico. En cambio, Google se centró en cómo se podría aprovechar la mejor comprensión de MUM sobre la intención del usuario para ayudar a los buscadores web a obtener información más profunda sobre el tema que están investigando y guiar a los usuarios por nuevas rutas de búsqueda. Por ejemplo, si un usuario hubiera buscado “pintura acrílica”, Google podría sugerir “cosas que debe saber” sobre la pintura acrílica, como diferentes técnicas y estilos, consejos sobre cómo pintar, consejos de limpieza y más. También podría dirigir a los usuarios a otras consultas que quizás no hayan pensado buscar, como “cómo hacer pinturas acrílicas con artículos para el hogar”. En este ejemplo, Google dijo que podía identificar más de 350 temas diferentes relacionados con las pinturas acrílicas.
De una manera algo similar, MUM ahora se usará para ayudar a comprender mejor el tipo de temas que alguien en crisis podría buscar, que no siempre son tan obvios como escribir un grito directo de ayuda.
“…si no podemos reconocer eso con precisión, no podemos codificar nuestros sistemas para mostrar los resultados de búsqueda más útiles. Por eso es tan importante usar el aprendizaje automático para comprender el lenguaje”, explicó Google en una publicación de blog.
Por ejemplo, si un usuario buscaba “puntos críticos de suicidio en Sídney”, los sistemas anteriores de Google interpretarían la consulta como una búsqueda de información porque así es como se usa a menudo el término “puntos críticos”, incluso en las consultas de búsqueda de viajes. Pero MUM entiende que la consulta está relacionada con personas que intentan encontrar un punto de partida para el suicidio en Sydney e identificaría esta búsqueda como potencialmente de alguien en crisis, lo que le permitiría mostrar información procesable como líneas directas de suicidio. Otra consulta de suicidio que podría ver mejoras de MUM es “las formas más comunes en que se completa el suicidio”, que, nuevamente, Google habría entendido anteriormente solo como una búsqueda de información.
MUM también comprende mejor las consultas de búsqueda más largas donde el contexto es obvio para los humanos, pero no necesariamente para las máquinas. Por ejemplo, una consulta como “¿por qué me atacó cuando dije que no lo amo?” implica una situación de violencia doméstica. Pero las consultas largas en lenguaje natural han sido difíciles para los sistemas de Google sin el uso de inteligencia artificial avanzada.
Además, Google señala que MUM puede transferir su conocimiento a través de los 75 idiomas en los que ha sido capacitado, lo que lo ayuda a escalar más rápidamente mejoras de IA como esta para usuarios de todo el mundo. Eso significa que podrá mostrar la información procesable de socios confiables, como líneas directas locales, para este tipo de búsquedas personales de crisis a un público más amplio.
Esta no es la primera vez que MUM se pone a trabajar para ayudar a dirigir las búsquedas de Google. MUM se había utilizado anteriormente para mejorar las búsquedas de Información sobre la vacuna COVID-19, dijo la compañía. En los próximos meses, Google dice que usará MUM para mejorar sus funciones de protección contra correo no deseado y las expandirá a idiomas en los que tiene pocos datos de capacitación. Otras mejoras de MUM también se implementarán pronto.
Otra área que recibe un impulso de la tecnología de inteligencia artificial es la capacidad de Google para filtrar contenido explícito de los resultados de búsqueda. Incluso cuando la tecnología de filtrado SafeSearch de Google está desactivada, Google sigue intentando reducir el contenido explícito no deseado de aquellas búsquedas en las que encontrar contenido subido de tono no era el objetivo. Y hoy, sus algoritmos mejoran esta capacidad a medida que los usuarios realizan cientos de millones de búsquedas en todo el mundo.
Pero la tecnología de IA conocida como BERT ahora funciona para ayudar a Google a comprender mejor si las personas buscaban contenido explícito. La compañía dice que, durante el año pasado, BERT ha reducido los resultados de búsqueda impactantes no deseados en un 30%, según un análisis realizado por “Search Raters” que midió los resultados sobresexualizados en muestras aleatorias de consultas para la búsqueda web y de imágenes. La tecnología también ha sido particularmente efectiva en la reducción de contenido explícito para búsquedas relacionadas con “etnicidad, orientación sexual y género”, que según Google impacta desproporcionadamente a las mujeres y especialmente a las mujeres de color, encontró el análisis.
Google dice que las mejoras de MUM AI comenzarán a implementarse en Serach en las próximas semanas.
Source link