Armas de destrucción Matemática - Conmocionado: Mi Viaje de Desilusión 3c342g

Bienvenidos al div deadlift listos para sumergirnos en el mundo de los algoritmos y no no estamos hablando solo de inteligencia artificial hoy vamos a hablar de algo que nos afecta a todos aunque a veces no nos demos cuenta exacto hablemos de cómo los algoritmos esos conjuntos de reglas matemáticas están tomando decisiones que nos afectan en nuestro día a día y para guiarnos en esta profunda inversión tenemos un libro fascinante armas de destrucción matemática de casi onil ya lo has leído lo he leído y déjame decirte que es una lectura que te hace pensar o nivel no se anda con rodeos llama ciertos algoritmos adem armas de destrucción matemática suena intenso verdad lo es y por una buena razón onil argumenta que algunos algoritmos aunque parezcan objetivos porque se basan en matemáticas pueden perpetuar la discrimina ción y la injusticia uno pensaría que los algoritmos al basarse en datos serían más justos que las decisiones humanas que pueden estar llenas de prejuicios esa es la teoría pero la realidad es más compleja los algoritmos se basan en los datos que les proporcionamos y esos datos pueden reflejar sesgos existentes en la sociedad es como aquel dicho entra basura sale basura exactamente o ni lo explica muy bien con el ejemplo de los algoritmos que se usan para evaluar a los maestros esos que usan las calificaciones de los estudiantes para medir la eficacia de un profesor esos mismos el problema es que estos algoritmos no siempre tienen en cuenta factores externos que pueden afectar el rendimiento de un este diante como la pobreza o la falta de a recursos claro un algoritmo no puedes saber si un estudiante tiene que trabajar después de la escuela para ayudar a su familia o si tiene problemas en casa exacto y cuando se usan esos algoritmos para tomar decisiones importantes como despedir a un maestro las consecuencias pueden ser devastadoras onil mencione el caso hijo de una maestra en washington dice sarah wysocki que fue despedida por culpa de un algoritmo que la calificó como ineficaz a pesar de que sus colegas y el director le elogiaban es un ejemplo perfecto de cómo los algoritmos pueden usarse para justificar decisiones que ya se habían tomado en lugar de para tomar decisiones más justas y eso nos lleva punto crucial la transparencia a qué te refieres con transparencia en este contexto a quien necesitamos entender cómo funcionan estos algoritmos que datos usan y cómo llegan a sus conclusiones no podemos confiar ciegamente en una caja negra tiene sentido si un algoritmo va a influir en nuestras vidas tenemos derecho a saber cómo funciona exactamente y esa es una conversación que debemos tener como sociedad no podemos permitir que los algoritmos tomen decisiones importantes sobre nuestras vidas sin ningún tipo de escrutinio control entonces no se trata sólo de matemáticas sino de los valores que se incorporan esas matemática exactamente y de quien tiene el poder de decidir esos valores interesante y hablando de poder mencionaste antes que estas armas de destrucción matemática a menudo operan a gran escala como se ve eso en la práctica imagina una empresa como amazon que reciben millones de solicitudes de empleo cada año usan algoritmos para filtrar esos currículums y seleccionar a los candidatos más prometedores entiendo suene eficiente sí pero qué pasa si ese algoritmo sin querer está descartando a candidatos de ciertos códigos postales o con ciertas palabras clave en su currículum que resultan estar correlacionadas con la raza o el origen socioeconómico estaríamos hablando de un sistema que perpetúa la discriminación aunque esa no fuera la intención exactamente y cuando un algoritmo toma decisiones sobre algo tan importante como un trabajo es sus pequeños sesgos pueden tener enormes consecuencias dando lugar a desigualdades aún mayor exactamente y es algo que debemos abordar con urgencia así es y lo más preocupante es que a menudo no nos damos cuenta de que un algoritmo está tomando esas decisiones es como una caja negra como dijiste antes sabemos que entrar algo y sale algo pero no sabemos que sucede en el medio exactamente y por eso es tan importante la idea de las auditorías algorítmicas de la que habla daniel auditorías algorítmicas puede explicar un poco más sobre eso claro básicamente se trata de examinar el código de un algoritmo los datos que utiliza y los resultados que produce para asegurarse de que funciona de manera justa y ética como una especie de inspector con independiente para asegurarnos de que el algoritmo esté jugando limpio exactamente y esas auditorías deben ser realizadas por expertos independientes que no tengan ningún interés personal en el resultado tiene sentido no podemos dejar que las mismas empresas que crean estos algoritmos sea la que también los sauditas por supuesto que no necesitamos una supervisión independizó vente para garantizar que estos sistemas se utilicen de manera responsable y además de las auditorías qué más podemos hacer para protegernos de estas armas de destrucción matemática bueno también podemos presionar para que haya una mayor transparencia por parte de las empresas y organizaciones que utilizan estos algoritmos o sea que revelen cómo funciona los algoritmos que datos utilizan ese tipo de cosas exactamente tenemos que alejarnos de esta cultura de secretismo en torno a los algoritmos porque la oscuridad sólo beneficia a aquellos que tienen algo que ocultar así es la