Etiquetado: Data Mining

Problemas en el exceso de eficiencia del big data

bigdataAprovecho un cambio de impresiones en el muro del profesor Fernando Broncano para escribir esta entrada.

En su nuevo libro The Efficiency Paradox: What Big Data Can’t Do, Edward Tenner hace un repaso de los problemas a los que puede conducir a largo plazo la hipereficiencia en las tareas de los algoritmos que vertebran el big data y la inteligencia artificial. Algunos pueden hacer peligrar no sólo la eficacia sino la eficiencia misma a largo plazo. Conduciendo no sólo a consecuencias indeseables, sino también a que se malgasten esfuerzos y se pierdan oportunidades. El autor los divide en siete grupos:

ANTISERENDIPIA (counterserendipity). La mayoría de los sucesos fortuitos son adversos o neutros. La eficiencia hace que el mundo sea más predecible. Pero si toda solución es lo más directa e inmediata posible, también nos vemos privados de los beneficios de la aleatoriedad ocasional y de los errores productivos. Los algoritmos convencionales reducen las sorpresas negativas al alto precio de amenazar a las positivas. Ambas son inseparables.

EXCESO DE ENFOQUE (hyperfocus). La eficiencia se expresa frecuentemente a través del enfoque de grano fino muy centrado en el área o problema que requiere ser abordado lo que, hasta cierto punto, es positivo y necesario. Sin embargo, esta eficiencia, indispensable en las operaciones diarias, hace que sea más difícil retroceder la perspectiva para obtener una visión de conjunto.

CASCADAS AUTO-AMPLIFICANTES. Los algoritmos pueden fallar al elegir la opción óptima, amplificando efectos inicialmente pequeños. Las decisiones iniciales pueden convertirse en profecías autocumplidas. Este es un riesgo especial en los procesos automatizados, desde el comercio financiero hasta los vehículos autónomos, en los que múltiples algoritmos, ninguno de los cuales puede ser perfecto, se ejecutan interactuando conjuntamente, a veces sin la posibilidad de una rápida intervención humana.

EROSIÓN DE HABILIDADES . Los sistemas automatizados realizan, o podrán realizar, la mayoría de las tareas mejor que las personas. Son casi siempre más eficientes y consistentes, razón por la cual su uso se está generalizando en un número creciente de áreas sustituyendo, o en colaboración con una persona cualificada. Por el momento, esta coordinación entre humanos y sistemas electrónicos ofrece mejores resultados que cualquiera de los dos por separado. Sin embargo, puede haber graves problemas cuando el compañero robótico falla si el ser humano no ha conservado sus habilidades. Los resultados pueden ser catastróficos para la eficiencia de todo el sistema y para la seguridad de las personas.

RETROALIMENTACIÓN PERVERSA. La interacción entre los sistemas automatizados se torna aún más problemática cuando se les pide no sólo que ejecuten objetivos humanos sino que proporcionen incentivos. Sería posible satisfacer un criterio determinado (como una puntuación en un test o examen) a través de medios que frustran el resultado real deseado (comprensión real). Una expresión de lo que en sociología se conoce como “Ley de Campbell”.

DILUVIO DE DATOS (data deluge). El big data cuando es utilizado por personas capacitadas con profundos conocimientos de los procesos subyacentes, pueden aumentar la eficiencia. Pero su uso también puede amenazar la propia eficiencia. El volumen de datos adquiridos automáticamente en muchos campos está aumentando más rápidamente que el coste por terabyte de almacenamiento, lo que supone un aumento de los gastos. El big data también pueden sugerir falsos positivos e hipótesis erróneas que suponen pérdidas y largas horas de trabajo para evaluar y descartar, conduciendo a una fatiga de alarma y alerta. El resultado neto puede ser una menor eficiencia real.

MONOCULTURA. Sin un diseño minucioso, un algoritmo puede multiplicar una fórmula exitosa hasta el punto de que un sistema se vuelva menos sensible a las circunstancias cambiantes. En psicología social se reconoce, por ejemplo, que algunos de los experimentos no pueden ser replicados, no por ningún error en el diseño, análisis o recolección de datos originales, sino porque las sociedades y sus valores cambian. Las personas y las sociedades no estamos estandarizados como los ratones de laboratorio en sus hábitats artificiales, vivimos en un entorno tecnológico en constante evolución y ajustamos nuestro comportamiento constante y a menudo inconscientemente.

Referencia bibliográfica.

Tenner, Edward. 2018. The Efficiency Paradox: What Big Data Can’t Do. New York: ALFRED A. KNOPF.

Anuncios

Inteligencia artificial ética y al servicio de la Humanidad

CapturaLeo en el reporte anual de la revista WIRED, The World in 2018, un resumen sobre las tendencias tecnológicas y su impacto en la configuración de un futuro, tan próximo que ya casi es presente. Entre otras cuestiones señaladas, queda muy claro que la humanidad se enfrenta a una variedad de desafíos caracterizados por su gran complejidad e interdependencia: cambio climático; migraciones; desigualdad; alimentación, educación y asistencia sanitaria de una población mundial en constante expansión. Cada uno de ellos, por sí mismo, con potencial para desencadenar oleadas de conflictos, intra y supra estatales, a lo largo y ancho del globo capaces de provocar dinámicas de consecuencias catastróficas a una escala nunca antes conocida. La inteligencia artificial (AI) podría desempeñar un papel muy importante a la hora de ayudarnos a abordar estos problemas de forma objetiva y creativa. Aunque la propia integración de la inteligencia artificial es en sí misma un desafío sistémico para la humanidad con capacidad para agravar las consecuencias de todos los demás, convenientemente gestionada, la IA podría ayudar a solventarlos o paliar sus consecuencias. Por eso, los estudios relativos a los impactos éticos, sociales, políticos y en materia de seguridad de la inteligencia artificial, así como el diseño de estrategias de actuación, son una de las áreas de trabajo más apremiantes. Se trata de conseguir que la IA trabaje para las personas, el planeta y la justicia social. Sigue leyendo

Big Data y Data Mining ¿Oportunidad o distopía? (y III)

La entrada se encuentra publicada en el siguiente enlace:

http://elperiscopi.com/big-data-y-data-mining-oportunidad-o-distopia-y-iii/

http://www.attac.es/2016/10/08/big-data-y-data-mining-oportunidad-o-distopia-y-iii/

http://www.attacmallorca.es/2016/10/08/big-data-y-data-mining-oportunidad-o-distopia-y-iii/

 

La bibliografía empleada en las tres partes del artículo es la siguiente.

BIBLIOGRAFÍA

Aggarwal, Charu. 2015. Data Mining: The Textbook. New York: Springer.

Albrecht, Karl. 2014. “The Information Revolution’s Broken Promises.” The Futurist. http://www.karlalbrecht.com/downloads/Albrecht-IR-BrokenPromises-WorldFutureSociety.pdf.

Batyko, Richard. 2016. “Ground-Up Expert: Everyday People and Blogs.” In Debates for the Digital Age: The Good, the Bad, and the Ugly of Our Online World, 176–89. Santa Barbara: Praeger.

Beckstead, Nick, Nick Bostrom, Niel Bowerman, Owen Cotton-Barratt, William MacAskill, Seán ÓhÉigeartaigh, y Toby Ord. 2014. “Unprecedented Technological Risks.” Global Priorities Project. http://globalprioritiesproject.org/2015/02/unprecedented-technological-risks/.

Cowen, Tyler. 2013. Average Is Over. Powering America Beyond The Age Of The Great Stagnation. New York: Penguin Books.

Fischer-Hübner, Simone, y Leonardo Martucci. 2014. “Privacy in Social Collective Intelligence Systems.” In Social Collective Intelligence. Combining the Powers of Humans and Machines to

Build a Smarter Society, 105–24. Heidelberg: Springer.

Greenfield, Susan. 2015. Mind Change: How Digital Technologies Are Leaving Their Mark on Our

Brains. New York: Random House.

Hareesh, Boinepelli. 2015. “Applications of Big Data.” In Big Data A Primer, 161–79. New Delhi: Springer.

Helbing, Dirk. 2015. Thinking Ahead – Essays on Big Data, Digital Revolution, and Participatory Market Society. Zürich: Springer.

Hrushikesha, Mohanty. 2015. “Big Data: An Introduction.” In Big Data. A Primer, 11:1–28. Studies in Big Data. New Delhi: Springer.

Kitchin, Rob. 2014. The Data Revolution. Big Data, Open Data, Data Infrastructures and Their

Consequences. Los Angeles: Sage.

Krugman, Paul. 2015. “The Big Meh.” The New York Times, May 25. http://www.nytimes.com/2015/05/25/opinion/paul-krugman-the-big-meh.html?_r=0.

Lagore, Justin. 2016. “Self-Promotion for All! Content Creation and Personal Branding in the Digital Age.” In Debates for the Digital Age: The Good, the Bad, and the Ugly of Our Online World, 190– 205. Santa Barbara: Praeger.

Mayer-Schönberger, Viktor, and Kenneth Cukier. 2013. Big Data. A Revolution That Will Transform How We Live, Work, and Think. New York: Houghton Mifflin Harcourt Publishing Company.

Schmidt, Eric, and Jared Cohen. 2013. The New Digital Age: Reshaping the Future of People, Nations and Business. New York: ALFRED A. KNOPF.

Sola-Morales, Salomé. 2016. “Rethinking Digital Democracy in a Time of Crisis: The Case of Spain.” In Debates for the Digital Age: The Good, the Bad, and the Ugly of Our Online World, 129–46. Santa Barbara: Praeger.