Dentro de algo
entrada en el blog el miércoles, Rumman Chowdhury, gerente de diseño de software del grupo de ética, transparencia y responsabilidad del aprendizaje automático de Twitter, escribió que la compañía sintió que el algoritmo estaba sesgado después de probarlo para grupos relacionados con el género y la raza. Publicar y
documento de investigación adjunto En detalle, la forma en que se probó el sistema de cultivo con imágenes vinculadas aleatoriamente de personas de diferentes razas y géneros favoreció a los blancos sobre, por ejemplo, los negros y las mujeres sobre los hombres.
La conclusión de Twitter se hace meses después de que la empresa
dijo que está investigando el algoritmo, y es otro ejemplo de cómo los prejuicios pueden esconderse en los sistemas informáticos diseñados para realizar tareas que las personas suelen hacer excepcionalmente bien.
“Consideramos las compensaciones entre la velocidad y la consistencia del cultivo automático y los riesgos potenciales que vimos en este estudio”, escribió Chowdhury. “Una de nuestras conclusiones es que no todos en Twitter son buenos candidatos para el algoritmo y, en este caso, la mejor decisión de las personas es recortar la imagen”.
En marzo, Twitter comenzó a probar una nueva forma de mostrar la imagen completa, en lugar de una vista previa recortada automáticamente, en dispositivos móviles cuando un usuario tuitea una sola imagen. La empresa dijo que después de la retroalimentación positiva
presentó la función a todos sus usuarios de iOS y Android en mayo. (Sin embargo, centra imágenes muy largas o anchas).
Un portavoz de Twitter le dijo a CNN Business el miércoles que el cambio se produjo primero en la aplicación móvil de Twitter porque la mayoría de la gente oculta y ve imágenes.
Una vez que se implementó el algoritmo de recorte de imágenes, cada vez que un usuario publicaba una imagen en Twitter, el sistema automatizado recortaba una versión de vista previa de la imagen que los espectadores verían antes de hacer clic en la imagen de tamaño completo. Twitter dijo en su publicación de blog en 2018 que usó el reconocimiento facial en el pasado para ayudar a descubrir cómo se recortan las imágenes en vistas previas.
Sin embargo, el software de reconocimiento facial era propenso a errores. La empresa rechazó este enfoque y en su lugar tuvo su software en casa en las imágenes de los llamados. En el área “Salacy” o el área que se consideró más interesante para la persona que ve la imagen general. La celularidad se estudia observando lo que miran las personas; tendemos a interesarnos por las personas, los animales y el texto, por ejemplo.
En septiembre pasado, se le pidió a la compañía que explorara un enfoque algorítmico para recortar imágenes después de haber sido revisada por numerosos Tweets. Estos incluyeron uno del usuario de Twitter @bascule, que el 19 de septiembre
ha tuiteado“Experimentando con un experimento horrible … ¿Qué algoritmo de Twitter elige: Mitch McConnell o Barack Obama?” Además de sus palabras, había dos cuadros largos y rectangulares. La primera consistía en una foto de McConnell, el líder de la mayoría del Senado de los Estados Unidos, en un rectángulo blanco delgado y blanco en el medio, y en la parte inferior, una foto del ex presidente de los Estados Unidos, Obama, que es negro. El otro fue todo lo contrario, Obama en la parte superior y McConnell en la parte inferior. Cuando el algoritmo de recorte de imágenes de Twitter está habilitado, las versiones de vista previa de las imágenes que se ejecutan en paralelo solo muestran a McConnell.
El día anterior, otro usuario de Twitter, @colinmadland,
notado un resultado de vista previa similar cuando publicó una foto que él mismo dijo que era un hombre blanco junto a una foto de un hombre negro con el que asistía a una reunión en línea; De forma predeterminada, la vista previa de Twitter solo muestra un hombre blanco.
En respuesta a @bascule en ese momento
ha tuiteado que no vio sesgos de raza o género durante las pruebas antes del lanzamiento de la función de vista previa, pero dijo que estaba investigando si había algún problema con el algoritmo de recorte.
Chowdhury escribió en una publicación de blog en Twitter el miércoles que el cambio de usar un algoritmo a recortar imágenes reduce la dependencia de una empresa en el aprendizaje automático (inteligencia artificial, donde la computadora se enseña a sí misma analizando la información) “una función con la que estamos de acuerdo.
Según un portavoz de Twitter, la compañía planea subir el algoritmo de recorte de imágenes a Twitter.com en los próximos meses. El algoritmo también se utiliza de otras dos formas, como cuando una persona tuitea varias imágenes; Un portavoz dijo que Twitter también está trabajando en mejoras para estos usos.
Especialista web. Evangelista de viajes. Alborotador. Fanático de la música amigable con los hipster. Experto en comida
