{"id":752020,"date":"2019-10-15T09:00:51","date_gmt":"2019-10-15T07:00:51","guid":{"rendered":"https:\/\/www.ie.edu\/insights\/?post_type=articles&#038;p=752020"},"modified":"2019-10-15T09:53:28","modified_gmt":"2019-10-15T07:53:28","slug":"desafios-eticos-en-el-mundo-de-los-datos","status":"publish","type":"articles","link":"https:\/\/www.ie.edu\/insights\/es\/articulos\/desafios-eticos-en-el-mundo-de-los-datos\/","title":{"rendered":"Desaf\u00edos \u00e9ticos en el mundo de los datos"},"featured_media":752019,"template":"","meta":{"_has_post_settings":[]},"schools":[49,53,55],"areas":[44],"subjects":[435],"class_list":["post-752020","articles","type-articles","status-publish","has-post-thumbnail","hentry","schools-business-school-es","schools-human-sciences-and-technology-es","schools-university-es","areas-estrategia","subjects-innovacion-y-tecnologia"],"custom-fields":{"wpcf-article-leadin":["El an\u00e1lisis de datos nos ayuda a encontrar patrones ocultos a nuestro alrededor: cambios en los h\u00e1bitos de compra de los consumidores, comportamiento de los usuarios en una p\u00e1gina web, evoluci\u00f3n de las enfermedades, identificaci\u00f3n de compras \u2018online\u2019 fraudulentas o las mejores rutas para el env\u00edo de paqueter\u00eda. Sin embargo, en este debate sobre los beneficios de los avances tecnol\u00f3gicos en el mundo de los datos, tendemos a pasar por alto o minimizar el da\u00f1o que pueden causar, algo que es necesario tener tambi\u00e9n en cuenta. Con las tecnolog\u00edas convirti\u00e9ndose en una parte tan integral de nuestras vidas, debemos ser conscientes tambi\u00e9n de los desaf\u00edos que pueden surgir y avanzar con cautela."],"wpcf-article-body":["Cada nuevo avance tecnol\u00f3gico tiene un lado negativo y la \u201c<a href=\"https:\/\/www.ie.edu\/insights\/es\/temas\/all\/tecnologia\/all\/all\/\" target=\"_blank\" rel=\"noopener\">tecnolog\u00eda<\/a> de datos\u201d no es una excepci\u00f3n, con una r\u00e1pida evoluci\u00f3n del mundo del <em>big data,<\/em> del aprendizaje autom\u00e1tico y tecnolog\u00edas similares. Siempre que prestemos atenci\u00f3n, podemos sacar el m\u00e1ximo provecho a nuestros datos e intentar mitigar cualquier consecuencia no deseada o no tan evidente. Adem\u00e1s de las habituales preocupaciones sobre la privacidad o los exagerados escenarios en los que <a href=\"https:\/\/www.ie.edu\/insights\/es\/temas\/all\/sociedad-smart\/all\/all\/\" target=\"_blank\" rel=\"noopener\">robots con inteligencia artificial<\/a> se hacen cargo de nuestros trabajos y gobiernan el mundo, \u00bfqu\u00e9 desaf\u00edos ocultos podemos esperar? Algunas de las preocupaciones menos destacadas pero, pese a ello, importantes son las siguientes:\r\n<ul>\r\n \t<li>La falta de responsabilidad al utilizar algoritmos de \u201ccaja negra\u201d <em>(black box).<\/em><\/li>\r\n \t<li>Los efectos negativos de los datos err\u00f3neos.<\/li>\r\n \t<li>El sesgo y la discriminaci\u00f3n en datos y algoritmos.<\/li>\r\n<\/ul>\r\n<blockquote>Tanto los creadores de algoritmos como los usuarios deben ser responsables de sus efectos, ya que pueden producirse no solo errores, sino tambi\u00e9n tomas de decisiones \u00e9ticamente err\u00f3neas.<\/blockquote>\r\n<strong>\u00bfA qui\u00e9n culpar?<\/strong>\r\n\r\nMuchos algoritmos funcionan como \u201ccajas negras\u201d, de forma que no sabemos exactamente lo que sucede en cada paso del camino y no siempre podemos explicar el razonamiento que hay detr\u00e1s de los resultados. Esto podr\u00eda ser arriesgado a medida que buena parte de nuestras vidas va pasando a estar <a href=\"https:\/\/www.ie.edu\/insights\/es\/temas\/all\/control-y-finanzas\/all\/all\/\" target=\"_blank\" rel=\"noopener\">controlada<\/a> por los datos. Por este motivo, tanto los creadores de algoritmos como los usuarios deben ser responsables de sus efectos, ya que pueden producirse no solo errores, sino tambi\u00e9n tomas de decisiones \u00e9ticamente err\u00f3neas.\r\n\r\nObservemos el caso de los bancos que ofrecen pr\u00e9stamos en Estados Unidos. El proceso de aprobaci\u00f3n o denegaci\u00f3n, as\u00ed como la tasa de inter\u00e9s final, puede estar determinado mediante un algoritmo que eval\u00faa el riesgo que hay detr\u00e1s de cada solicitante. A medida que este algoritmo se vuelve m\u00e1s complejo y cae en el territorio de la \u201ccaja negra\u201d, \u00bfpodemos justificar con confianza su decisi\u00f3n? Los creadores o usuarios de estos algoritmos deben rendir cuentas, para lo que puede ser necesario definir algunos protocolos.\r\n\r\n&nbsp;\r\n\r\n<strong>Cifras malinterpretadas<\/strong>\r\n\r\nA medida que los datos tienen m\u00e1s poder para moldear nuestras vidas, debemos ser conscientes tanto de su grado de confianza y precisi\u00f3n como de si se les est\u00e1 dando el uso adecuado. Es necesario hacerse preguntas del tipo \u201c\u00bfSon precisos los resultados de nuestro estudio?\u201d o \u201c\u00bfCoinciden los datos con los prop\u00f3sitos finales?\u201d. Por ejemplo, si alguien est\u00e1 utilizando datos de Facebook, debe tener en cuenta que esta informaci\u00f3n no implica una buena forma de entender a la gente. Las personas tienden a exhibir una \u201crealidad ampulosa\u201d <em>online,<\/em> publicando solo los aspectos m\u00e1s positivos de sus vidas. Por otro lado, \u00bfse utilizan los datos con fines poco \u00e9ticos como manipular a la gente? Se trata de un tema recurrente en debates recientes, sobre su uso para influir o incluso lavar el cerebro a la poblaci\u00f3n durante las elecciones pol\u00edticas.\r\n\r\nA\u00fan m\u00e1s preocupante \u00faltimamente ha sido la aparici\u00f3n de \u201cultrafalsos\u201d <em>(deepfakes),<\/em> basados en t\u00e9cnicas avanzadas de aprendizaje autom\u00e1tico que superponen im\u00e1genes y v\u00eddeos sobre contenidos originales para crear otros nuevos que parecen sorprendentemente reales. Una <a href=\"https:\/\/www.ie.edu\/insights\/es\/temas\/all\/tecnologia\/all\/all\/\" target=\"_blank\" rel=\"noopener\">tecnolog\u00eda<\/a> similar se ha utilizado para la creaci\u00f3n de pel\u00edculas en 3D, pero, a medida que el proceso se generaliza, la difusi\u00f3n de este material enga\u00f1oso puede llegar a tener consecuencias nefastas.\r\n<blockquote>A medida que los datos tienen m\u00e1s poder para moldear nuestras vidas, debemos ser conscientes tanto de su grado de confianza y precisi\u00f3n como de si se les est\u00e1 dando el uso adecuado.<\/blockquote>\r\n<strong>El sesgo algor\u00edtmico<\/strong>\r\n\r\nLos algoritmos tienden a reflejar las creencias y suposiciones de sus creadores, reforzando as\u00ed, aunque sea de manera inconsciente, la discriminaci\u00f3n de quienes son diferentes. Un ejemplo para comprender c\u00f3mo esto puede plantear un problema es el caso del <em>software<\/em> de reconocimiento facial. La mayor\u00eda de estas aplicaciones tienen dificultades para reconocer los rostros de las personas de piel oscura. Normalmente, esto puede atribuirse a la falta de diversidad en los equipos de formaci\u00f3n de los datos utilizados para ense\u00f1ar el funcionamiento de esas aplicaciones, provocado, a su vez, de forma involuntaria, por la falta de diversidad de sus creadores.\r\n\r\nLa experta inform\u00e1tica ghanesa-estadounidense Joy Adowaa Buolamwini desaf\u00eda este problema, conocido como <em>coded gaze,<\/em> tan arraigado en el campo de los datos y, especialmente, en el <em>software<\/em> de reconocimiento facial, y lucha para que se produzca un cambio a trav\u00e9s de su Poet of Code Movement. Movimientos como estos nos dejan la esperanza de alcanzar un mayor equilibrio.\r\n\r\nLos beneficios de la \u201c<a href=\"https:\/\/www.ie.edu\/insights\/es\/temas\/all\/tecnologia\/all\/all\/\" target=\"_blank\" rel=\"noopener\">tecnolog\u00eda<\/a> de datos\u201d pueden superar con creces los peligros si se tienen en cuenta los efectos que produce a lo largo del camino. Como dijo Spiderman, \u201cun gran poder conlleva una gran responsabilidad\u201d. Es necesario utilizar correctamente estos nuevos \u201cpoderes de los datos\u201d.\r\n\r\n&nbsp;\r\n\r\n\u00a9 IE Insights."],"wpcf-article-extract-enable":["1"],"wpcf-article-extract":["Por <strong>Christina Stathopoulos<\/strong>. El an\u00e1lisis de datos nos ayuda a encontrar patrones ocultos a nuestro alrededor: cambios en los h\u00e1bitos de compra de los consumidores, comportamiento de los usuarios en una p\u00e1gina web, evoluci\u00f3n de las enfermedades, identificaci\u00f3n de compras \u2018online\u2019 fraudulentas o las mejores rutas para el env\u00edo de paqueter\u00eda. Sin embargo, en este debate sobre los beneficios de los avances tecnol\u00f3gicos en el mundo de los datos, tendemos a pasar por alto o minimizar el da\u00f1o que pueden causar, algo que es necesario tener tambi\u00e9n en cuenta."],"wpcf-article-summary-enable":["1"],"wpcf-article-summary":["Los avances en el an\u00e1lisis de datos est\u00e1n permitiendo a las organizaciones obtener grandes ventajas competitivas. Sin embargo, la gesti\u00f3n del \u2018big data\u2019 conlleva enormes desaf\u00edos que es necesario tener en cuenta. Christina Stathopoulos, profesora adjunta en IE Business School y analista en Google, analiza en este art\u00edculo los nuevos escenarios que se abren ante la necesidad de realizar una gesti\u00f3n eficiente y segura del creciente volumen de datos, as\u00ed como los retos a la hora de trabajar con aquellos que realmente son de confianza."]},"_links":{"self":[{"href":"https:\/\/www.ie.edu\/insights\/es\/wp-json\/wp\/v2\/articles\/752020","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.ie.edu\/insights\/es\/wp-json\/wp\/v2\/articles"}],"about":[{"href":"https:\/\/www.ie.edu\/insights\/es\/wp-json\/wp\/v2\/types\/articles"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.ie.edu\/insights\/es\/wp-json\/wp\/v2\/media\/752019"}],"wp:attachment":[{"href":"https:\/\/www.ie.edu\/insights\/es\/wp-json\/wp\/v2\/media?parent=752020"}],"wp:term":[{"taxonomy":"schools","embeddable":true,"href":"https:\/\/www.ie.edu\/insights\/es\/wp-json\/wp\/v2\/schools?post=752020"},{"taxonomy":"areas","embeddable":true,"href":"https:\/\/www.ie.edu\/insights\/es\/wp-json\/wp\/v2\/areas?post=752020"},{"taxonomy":"subjects","embeddable":true,"href":"https:\/\/www.ie.edu\/insights\/es\/wp-json\/wp\/v2\/subjects?post=752020"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}