La herramienta Google AI ya no usará etiquetas de género como 'mujer' u 'hombre' en fotos de personas

Una herramienta de inteligencia artificial que Google proporciona a los desarrolladores ya no agregará etiquetas de género a las imágenes, diciendo que el género de una persona no puede determinarse solo por cómo se ven en una foto, informa Business Insider .

La compañía envió un correo electrónico a los desarrolladores hoy sobre el cambio en su herramienta API Cloud Vision, ampliamente utilizada, que usa inteligencia artificial para analizar imágenes e identificar caras, puntos de referencia, contenido explícito y otras características reconocibles. En lugar de usar "hombre" o "mujer" para identificar imágenes, Google etiquetará esas imágenes con etiquetas como "persona", como parte de su esfuerzo más amplio para evitar inculcar algoritmos de IA con prejuicios humanos.

En el correo electrónico a los desarrolladores anunciando el cambio, Google citó sus propias pautas de inteligencia artificial, informa Business Insider . "Dado que el género de una persona no puede inferirse por la apariencia, hemos decidido eliminar estas etiquetas para alinearnos con los Principios de Inteligencia Artificial en Google , específicamente el Principio # 2: Evitar crear o reforzar sesgos injustos".

El reconocimiento de imágenes de IA ha sido un problema espinoso para Google en el pasado. En 2015, un ingeniero de software señaló que los algoritmos de reconocimiento de imágenes de Google Photos estaban categorizando a sus amigos negros como "gorilas". Google prometió solucionar el problema, pero un informe de seguimiento de Wired en 2018 descubrió que Google había bloqueado su inteligencia artificial para que no reconociera a los gorilas y no había hecho mucho más para abordar el problema en su núcleo.

Google lanzó sus principios de IA en 2018 , en respuesta a la reacción de los empleados de Google, que protestaron por el trabajo de la compañía en un proyecto de drones del Pentágono. La compañía se comprometió a no desarrollar armamento impulsado por IA, y también describió una serie de principios, como el mencionado anteriormente, para abordar problemas de sesgo, supervisión y otros posibles problemas éticos en su futuro desarrollo de la tecnología.