Podría decirse que los datos son la forma de moneda más caliente del mundo, registrando ceros y unos que tienen cada vez más peso que antes. Pero con toda nuestra información personal convertida en dinamita para soluciones empresariales y similares, con la falta de protección de los datos del consumidor, ¿nos estamos quedando atrás? 

Jonathan Zong, candidato a doctorado en ingeniería eléctrica y ciencias de la computación en el MIT, y afiliado al Laboratorio de Ciencias de la Computación e Inteligencia Artificial, cree que el consentimiento puede integrarse en el diseño del software que recopila nuestros datos para la investigación en línea. Creó Bartleby, un sistema para informar a los participantes de la investigación y obtener sus puntos de vista sobre la investigación de las redes sociales que los involucró. Usando Bartleby, dice, los investigadores pueden dirigir automáticamente a cada uno de los participantes de su estudio a un sitio web donde pueden aprender sobre su participación en la investigación, ver qué datos recopilaron los investigadores sobre ellos y dar su opinión. Lo que es más importante, los participantes pueden usar el sitio web para optar por no participar y solicitar la eliminación de sus datos.  

Zong y su coautor, Nathan Matias SM ´13, PhD ´17, evaluaron a Bartleby al informar a miles de participantes en estudios observacionales y experimentales en Twitter y Reddit. Descubrieron que Bartleby aborda las preocupaciones de procedimiento al crear oportunidades para que los participantes ejerzan la autonomía, y la herramienta permitió conversaciones sustantivas y basadas en valores sobre la voz y el poder de los participantes. Aquí, Zong analiza las implicaciones de su trabajo reciente, así como el futuro de la informática social, ética y responsable.

P: Muchos expertos en ética tecnológica y formuladores de políticas líderes creen que es imposible mantener a las personas informadas sobre su participación en la investigación y cómo se utilizan sus datos. ¿Cómo ha cambiado eso tu trabajo?

UN:Cuando el Congreso le preguntó a Mark Zuckerberg en 2018 sobre las obligaciones de Facebook de mantener informados a los usuarios sobre cómo se utilizan sus datos, su respuesta fue que todos los usuarios tenían la oportunidad de leer la política de privacidad y que ser más claro sería demasiado difícil. Las élites tecnológicas a menudo afirman que la ética es complicada y continúan con su objetivo de todos modos. Muchos han afirmado que es imposible cumplir con las responsabilidades éticas de los usuarios a gran escala, entonces, ¿por qué intentarlo? Pero al crear Bartleby, un sistema para informar a los participantes y obtener sus puntos de vista sobre los estudios que los involucraron, creamos algo que demuestra que no solo es muy posible, sino que en realidad es bastante fácil de hacer. En muchas situaciones, hacer saber a las personas que queremos sus datos y explicar por qué creemos que vale la pena es lo mínimo que podríamos estar haciendo.

P: ¿Se pueden resolver los desafíos éticos con una herramienta de software?

R: El software comercial en realidad puede marcar una diferencia significativa en el respeto de la autonomía de las personas. Las normas de ética casi nunca exigen un proceso de información para los estudios en línea. Pero debido a que usamos Bartleby, las personas tuvieron la oportunidad de tomar una decisión informada. Es una oportunidad que de otro modo no habrían tenido.

Al mismo tiempo, nos dimos cuenta de que el uso de Bartleby arrojaba luz sobre cuestiones éticas más profundas que requerían una reflexión sustantiva. Por ejemplo, la mayoría de las personas simplemente intentan seguir con sus vidas e ignorar los mensajes que les enviamos, mientras que otros responden con preocupaciones que ni siquiera siempre tienen que ver con la investigación. Aunque sea indirectamente, estos casos ayudan a señalar los matices que preocupan a los participantes de la investigación.

¿Dónde podrían diferir nuestros valores como investigadores de los valores de los participantes? ¿Cómo afectan las estructuras de poder que dan forma a la interacción de los investigadores con los usuarios y las comunidades nuestra capacidad para ver esas diferencias? El uso de software para ofrecer procedimientos de ética ayuda a aclarar estas cuestiones. Pero en lugar de esperar respuestas definitivas que funcionen en cada situación, deberíamos pensar en cómo usar el software para crear oportunidades para los desafíos de voz y poder de los participantes y nos invita a reflexionar sobre cómo abordamos los valores en conflicto.

P: ¿Cómo su enfoque del diseño ayuda a sugerir un camino a seguir para la informática social, ética y responsable?

R: Además de presentar la herramienta de software, nuestro artículo revisado por pares sobre Bartleby también demuestra un marco teórico para la ética de los datos, inspirado en ideas de la filosofía feminista. Debido a que mi trabajo abarca el diseño de software, las ciencias sociales empíricas y la filosofía, a menudo pienso en las cosas que quiero que la gente se lleve en términos de puentes interdisciplinarios que quiero construir. 

Espero que la gente mire a Bartleby y vea que la ética es un área emocionante para la innovación técnica que se puede probar empíricamente, guiada por una comprensión clara de los valores. Umberto Eco, filósofo, escribió que “la forma no debe ser un vehículo para el pensamiento, debe ser una manera de pensar”. En otras palabras, el diseño de software no se trata solo de poner ideas que ya hemos tenido en una forma computacional. El diseño también es una forma en que podemos pensar en nuevas ideas para que existan, producir nuevas formas de saber y hacer, e imaginar futuros alternativos.