Johan Andrés
Castro Montaño
En esta Nota:
Los robots se están volviendo más racistas y sexistas, revela estudio
Existen redes neuronales que están construidas a partir de la información que está disponible en Internet.
Publicado:
Actualizado:
Viernes, Julio 1, 2022 - 11:02
Robots, la sensación en Consumer Electronic Show
AFP
Un estudio realizado por las universidades Johns Hopkins, Washington y Georgia, en Estados Unidos, comprobó que los robots tendrían comportamientos racistas y sexistas por causa de una Inteligencia Artificial (o red neuronal) basada en Internet que está defectuosa.
Los investigadores llegaron a esta conclusión luego de incorporar en un robot una red neuronal llamada CLIP, la cual empareja imágenes con texto a partir de imágenes disponibles en la web. La misión del robot era meter imágenes de personas en una caja.
Le puede interesar: Los pasos para que las empresas entren al Metaverso
Las imágenes tenían rostros humanos con razas y géneros distintos. Durante este estudio el robot no solamente fue incapaz de cumplir las órdenes satisfactoriamente, sino que también realizaba una segmentación de las imágenes.
En este caso, seleccionaba más a los hombres que las mujeres y también seleccionaba más a las personas blancas que aquellas de color.
“Corremos el riesgo de crear una generación de robots racistas y sexistas, pero las personas y las organizaciones han decidido que está bien crear estos productos sin abordar los problemas”, señaló Andrew Hundt, investigador de la Universidad de Georgia y uno de los autores del estudio.
Vea también: Deepfakes: ¿Qué son y cómo detectarlos para no ser estafado?
@Newsweek on our paper "Robots Enact Malignant Stereotypes"! We need research, industry & government policy change to mitigate AI harms w/ human data!
— Andrew Hundt @ FAccT22 Seoul, Korea (@athundt) June 24, 2022
Note: Robots can move and be made to encode bias like a job ad can, but robots don't have moral agency. https://t.co/rPcslURUe9
¿Qué implicaciones puede tener estas redes neuronales?
Si bien Internet contiene un conjunto de datos de forma gratuita que favorecen la construcción de modelos de inteligencia artificial, también presenta contenido inexacto y sesgado, lo cual perjudica a los robots al momento de reconocer humanos y objetos.
Por otra parte, las redes neuronales permiten que los robots pueden reconocer objetos e interactuar con el mundo, por lo que los investigadores mostraron su preocupación ante este tipo de inteligencia artificial.
Ante esto, recomiendan que aquellas redes neuronales que puedan manifestar resultados dañinos se detengan o que se interrumpa su uso mientras se demuestra que son seguras, efectivas y justas.
Fuente:
Sistema Integrado Digital
