Así es cómo Google está utilizando Inteligencia Artificial para detectar si las búsquedas son hechas por personas en situaciones de crisis

Así es cómo Google está utilizando Inteligencia Artificial para detectar si las búsquedas son hechas por personas en situaciones de crisis
Sin comentarios

MUM, el modelo de Inteligencia Artificial de Google, está integrándose a un nuevo nivel con el motor de búsqueda del servicio con la intención de detectar de forma automática y precisa, una amplia gama de solicitudes de información sobre crisis personales.

Google detalla que todos los días los usuarios utilizan sus servicios solicitando información para mantenerse a si mismos y a sus familias seguras, y ahora, si se busca contenido sobre suicidio, agresión sexual, abuso de sustancias, e incluso de violencia doméstica, se mostrarán opciones relevantes, como líneas directas de contacto nacionales y resultados importantes y de alta calidad disponibles.

El problema de "entender" cada búsqueda

La compañía señala que el objetivo de esta integración es que la información necesaria se encuentre a solo una búsqueda de distancia y que sea de fuentes confiables. Además menciona que cuando las personas se encuentran en crisis personales buscan de todo tipo de formas y no siempre es tan obvio.

Esto plantea un reto para los sistemas, que deben de reconocer cuando alguien está necesitado y ofrecerle resultados útiles, para lo que el usar aprendizaje automático permite comprender el lenguaje, detectando de forma más precisa y desde diferentes solicitudes cuando la búsqueda tiene que ver con crisis personales.

Mum Google Update 1
En la parte derecha de la imagen se ve que opciones puede mostrar MUM una vez que analiza, en este caso la palabra "suicidio": desde el número de prevención al centro del dispositivo, botón para iniciar un chat y hasta el sitio oficial

El último modelo de MUM, la IA de Google anunciada en el IO del año pasado y utilizada para aumentar la capacidad de búsqueda, es capaz de comprender mejor la intención de las preguntas de las personas para detectar cuando alguien está necesitado, mostrándole información confiable y práctica en el momento adecuado.

Cómo filtrar los resultados "no deseados"

Esto implica ofrecer el contenido correcto, evitando aquel que sea impactante e inesperado, como el explícito o sugerente que pudiera aparecer por alguna búsqueda relacionada a la solicitud de los usuarios.

Para esto Google detalla que existe el modo SafeSearch, con la capacidad de filtrar resultados explícitos y que está predeterminado para cuentas de menores de 18 años, pero gracias a otra IA, conocida como BERT que permite procesar el lenguaje natural, comprendiendo mejor las búsquedas y si su objetivo es encontrar contenido explícito.

Mum Google Update 2
Para entender cada solicitud, MUM utiliza una variedad de parámetros que le permiten entender que contenido debe ofrecer

De acuerdo con la compañía, la mejora en BERT ha permitido reducir la presencia de resultados inesperados en un 30%, y ha tenido un impacto especial para búsquedas relacionadas a origen étnico, orientación sexual y el género, que puede afectar de forma desproporcionada a mujeres y en especial a mujeres de color.

Las capacidades de la IA y su nivel de aprendizaje

MUM no solo se encuentra disponible en inglés, sino que tiene soporte a través de 75 idiomas en los que está entrenando y lo que aprende en un idioma lo puede trasladar fácilmente al resto para ofrecer las protecciones de seguridad de forma más eficiente.

Se espera usar MUM en los próximos meses para mejorar la calidad de las protecciones contra spam y luego se expandirán a otros idiomas donde se  cuenta con pocos datos de entrenamiento.

Mum Google Update 3
También MUM es capaz de "clasificar" cada una de las búsquedas, para que el usuario solo vea el contenido deseado

En las próximas semanas también se implementarán las mejoras de MUM en el buscador, para detectar mejor las consultas sobre crisis personales alrededor del mundo, trabajando a la par con "socios locales de confianza" y que su información aparezca en cada uno de los países en los que el sistema se encuentre activo.

Google también señala que al igual que cualquier otro cambio en la herramienta de búsqueda, los cambios pasan por una evaluación rigurosa por el personal a lo largo del mundo, para asegurarse de que los resultados sean relevantes y útiles. Aunque por el momento tanto MUM como BERT trabajan únicamente con lenguaje en texto, la compañía está trabajando para escalarlos a imágenes y fotografías, ampliando así las capacidades de filtrado y de contenido importante a mostrar.

Temas
Inicio