TECNOLOGÍA.- Twitter anunció que ofrecería una “recompensa” en efectivo a las personas usuarias e investigadores que ayuden a erradicar sesgos algorítmicos en la plataforma.
La compañía afirmó que esta sería “la primera competencia de recompensar por seso algorítmico de la industria”, con premios de hasta 3.500 dólares.
El reto se basa en programas de “recompensa por errores” que ofrecen algunos sitios web y plataformas para encontrar brechas de seguridad y vulnerabilidades, según las ejecutivas de Twitter.
“Encontrar sesgos en modelos de aprendizaje automático es difícil, y a veces, las empresas se enteran de daños éticos no deseados una vez que ya han llegado al público”, escribieron las directivas en un blog.
“Queremos cambiar eso”, añadieron. Consideraron como algo prometedor el modelo de ofrecer recompensas a hackers para encontrar sesgos algorítmicos.
La decisión fue tomada en medio de la creciente preocupación generada por sistemas de algoritmos que, pese a los esfuerzos por crearlos neutrales, pueden incorporar sesgos raciales o de otro tipo.
Twitter aceptó haber hallado un algoritmo que daba “un tratamiento desregular basado en diferencias demográficas” que favorecían a hombres blancos en detrimento de negros y mujeres. También expresó haber advertido una “codificación” de los pechos o piernas femeninas.
