Soy estudiante de doctorado en la Technical University de Berlín y estoy trabajando en la imparcialidad algorítmica, junto con gente de Eurecat y la UPF de Barcelona

¿Cómo definirías la imparcialidad?
Yo definiría la imparcialidad en términos de igualdad de oportunidades. Actualmente en filosofía se refieren a la imparcialidad como, por ejemplo, cuando en un estado la gente tiene las mismas oportunidades para lograr un bien o conseguir una ventaja superior. También hay una definición que me gusta en particular que habla sobre la igualdad sustancial de oportunidades que no solo significa que las personas son juzgadas en base a sus calificaciones, sino que también requiere que la probabilidad de obtener dichas calificaciones sea distribuida por igual entre grupos. Y esto creo que también debería reflejarse en los algoritmos.

¿Se preocupan las empresas por la imparcialidad? ¿Y los usuarios?
Yo diría que no, siempre que no haya una legislación al respecto o que no les proporcione algún beneficio, de lo cual tampoco estoy segura si lo harían, pero creo que la sociedad se preocupa mucho por la imparcialidad y por eso el usuario que se ve afectado por ella también se preocupa si es consciente, lo cual no es necesariamente el caso.

¿Cuáles son los mayores retos relativos a la imparcialidad online?
Creo que uno de los mayores desafíos en la imparcialidad algorítmica es que todos los enfoques que conocemos hoy en día requieren que tengamos algunos conocimientos, no necesariamente sobre atributos protegidos, pero sí sobre los usos de atributos sensibles lo cual es una fuerte contradicción ante el problema de privacidad al que nos enfrentamos. Hoy en día todos los enfoques requieren algún tipo de conocimiento sobre los atributos sensibles, pero al mismo tiempo, quieres deshacerte de este conocimiento en las bases de datos. Y esto es algo con lo que realmente no sabemos lidiar aún.

Estamos desarrollado plug-ins para una muy API de búsqueda muy utilizada, Lucene, para proporcionar mecanismos que permitan resultados de búsqueda justos en buscadores.

¿En qué proyectos de imparcialidad trabajas actualmente?
Uno de los proyectos es el que ha sido financiado por el DTL. Estamos desarrollado plug-ins para una muy API de búsqueda muy utilizada, Lucene, y búsqueda elástica, para proporcionar mecanismos que permitan resultados de búsqueda justos en buscadores. También quiero tratar con la comunidad lo difícil que es comparar trabajos entre sí porqué realmente no tenemos una comprensión común de lo que es la imparcialidad y lo que son los sesgos y la gente tiende a tomar sus propias definiciones, independientemente de donde vengan, y dicen que hacen algo para evitarlos, pero realmente no eres capaz de comparar los enfoques porque las gente de la comunidad no se entiende entre sí realmente cuando hablan sobre imparcialidad y sesgos.

¿Qué opinas del Data Transparency Lab?
Bueno, estoy muy feliz de tener la oportunidad de que mi investigación pueda avanzar gracias al Data Transparency Lab. Estoy muy contenta de ser una becada y me gusta mucho el enfoque de desarrollar herramientas porque creo que podemos hacer mucho en materia teórica, pero si nunca entra en práctica, no va a ayudar nadie.

DTL2017

Ya puedes ver los videos de las sesiones de la Conferencia DTL 2017 que tuvo lugar del 11-12 de diciembre en Barcelona.

This website uses cookies to improve user experience. By using our website you consent to all cookies in accordance with our Cookie Policy.

OK More information