Correo Electrónico
DNINFOA - SIA
Bibliotecas
Convocatorias
Identidad U.N.
Representación Estudiantil
Bienestar
Boletín semanal
Calendario académico
Egresados
Publicaciones
HAY HUMANOS TRAS MUCHOS PROCESOS APARENTEMENTE AUTOMATIZADOS: NEURONAS EN LA MÁQUINA // TAREA DE INTELIGENCIA HUMANA
Por: María José Posada Venegas*
Un proyecto colaborativo en el que participó María Paula Londoño Hejeile, estudiante de la Escuela de Diseño Gráfico de la Facultad de Artes de la Universidad Nacional de Colombia, participó en dos eventos en Berlín, el Rundgang 20221 y el ARS Electronica2.
Junto con Juan Felipe Fernández, estudiante de la UNAD y Maurice Ward, estudiante de la Universidad de Artes de Berlín, María Paula Londoño realizó el proyecto titulado “Human Intelligence Task. Neurons in The Machine”.
El Centro de Divulgación y Medios de la Facultad de Artes entrevistó a la estudiante para saber más sobre su participación en estos eventos.
CDM: ¿Cuáles fueron los eventos en los que ustedes presentaron el proyecto?
María Paula Londoño: El proyecto se presentó en dos eventos, el primero fue hacia julio, el Rundgang, un festival de artes de Berlín en el que se presentan nuevos medios, instalaciones interactivas, artísticas y el segundo el ARS Electrónica 2022.
CDM: ¿De dónde surge la idea?
María Paula Londoño: La idea de este proyecto surgió porque mi compañero colombiano y yo, siendo artistas, tuvimos que trabajar en labor de microtasking o clickworking por mucho tiempo. Con esta experiencia optamos por mostrar cómo es eso. Muchas personas piensan que esos trabajos son hechos por un algoritmo, por un sistema, o una programación, pero tras ellos hay personas latinoamericanas, asalariadas y contratadas para eso. Es más barato contratar personas como nosotros que desarrollar un software que haga lo que nosotros hacemos.
CDM: ¿Cómo era la instalación?
María Paula Londoño: Era la proyección de un robot, manejada por handtracking y facetracking, que básicamente es que mientras yo me muevo el robot también se mueve y lo manejas con las manos. Cuando las personas veían la instalación veían al robot, pero cuando volteaban a mirar había una persona. A veces lo hacíamos en vivo, yo salía ahí y otras veces salía mi compañero de Alemania y otras veces salíamos los dos. Eso era lo que queríamos buscar, generar ese impacto de que los espectadores vieran que hay una persona detrás, no un robot sino una persona real.
Neurons in The Machine. María Paula Londoño y Maurice Ward
CDM: ¿Podrías explicarnos con más detalle qué es el microtask? ¿Cuáles son esas microtareas?
María Paula Londoño: Nos basamos en la experiencia de nuestro compañero colombiano trabajando en un chat de servicio al cliente. Lo que tenían que hacer era seleccionar las palabras que tenían que decir, más no chatear ellos con la persona. Eso es un algoritmo que se puede crear, pero es más fácil contratar personas. Mi experiencia fue mover contenido para redes sociales en donde teníamos que nivelar nuestro tiempo de respuesta al nivel de un robot o de un sistema. Había que responder rápido y hacerlo perfecto. Algo muy mecánico que podría hacer un algoritmo. Censurar, por ejemplo, una imagen es algo que podría hacer un algoritmo, y aunque estos trabajos ayudan a la economía ocultan la realidad de que tras ellos hay personas. Las aplicaciones de las redes anuncian “el sistema ha detectado una violación de las normas, tu comentario (o la imagen publicada) debe ser censurado”, pero no es el sistema, somos nosotros.
CDM: Por supuesto esto no lo sabe la mayor parte de los usuarios de redes sociales. Creemos que “el sistema” que nos censura es un algoritmo que detecta palabras o imágenes que van en contra de las políticas de la red, como desnudos no artísticos, palabras soeces, discriminatorias, comentarios que atentan contra la honra, que inducen a la violencia, etc., pero son contratistas que siguen órdenes y hacen un trabajo mecánico.
María Paula Londoño: Muchas veces esas personas tienen que acudir a un sicólogo, porque lo uno censura de lo que ve y lee es lo malo, lo feo. A un software no le afectaría ver sangre, por ejemplo, pero a uno como ser humano sensible, sí. En este trabajo no tienen en cuenta el factor humano.
Neurons In The Machine. María Paula Londoño. Closed Back
CDM: ¿Suma estrés el usuario que se queja porque lo censuraron por algo que él considera no censurable o el no poder censurar algo que ustedes sí consideran que no debería circular?
María Paula Londoño: Sí, porque nosotros seguimos órdenes, no podemos opinar cuando algo nos parece normal, como un desnudo en una obra de arte, tampoco cuando vemos, por ejemplo, que una persona está siendo acosada. Tenemos que obedecer y hacer las cosas lo más rápido posible. Uno ve cosas muy fuertes, que considera que merecen cárcel, que no deberían estar expuestas en redes y nos dicen –ustedes hagan su trabajo y no intervengan-. Yo duré dos años trabajando en eso, y para mí y mis compañeros el sentimiento era mutuo, tanto el de invisibilización como el de la falta de importancia que la empresa de a las personas. Las que entran no son evaluadas psicológicamente y pueden estar mal, pero al ser contratadas deben responder por su trabajo.
Neurons in The Machine. Ilustración
CDM: Y todo eso es lo que busca exponer el proyecto. ¿Cómo relacionaron el arte con la crítica a este trabajo en el que, primero, el usuario de las redes no sabe que tras éste hay personas pensantes y sensibles y, segundo, a pesar de ello muchas de estas personas necesitan del trabajo para su sostenimiento?
María Paula Londoño: Mi compañero alemán estaba haciendo su maestría en la UDK de Berlín y nos comentó que quería hacer un proyecto sobre nuestra experiencia, un proyecto colaborativo. Yo siempre, mientras estuve trabajando, me sentí así, como un mínimo factor humano en comparación con el sistema y los algoritmos y al fin y al cabo lo que estábamos haciendo era enseñarle al algoritmo cómo funcionan las cosas, así que se me ocurrió representarnos como un robot y que detrás de él estuviéramos nosotros como seres humanos. En nuestra instalación el robot está trabajando, está moviendo sus manos en el teclado y uno pensaría –es un video, es una imagen, una animación- pero la verdad es que lo está manejando por handtracking una persona real.
CDM: ¿El diseño del handtracking también es de ustedes es un software libre?
María Paula Londoño: Es un software libre que decidimos implementar en nuestra instalación.
Neuronas en La Máquina. Performance
CDM: ¿Cuál fue la experiencia para los espectadores en el Rundgang?
María Paula Londoño: En el Rungang era en vivo no pensaban que hubiera una persona manejando el robot. Hicimos algo muy interesante que fue que apareciera el robot y después con un efecto de glitch aparecíamos nosotros como los que hacíamos el trabajo mecanizado, como rompiendo esa cuarta pared. Cuando los espectadores veían el glitch se sorprendían. Tratamos de hacerlo lo más entendible posible para que comprendieran lo que estaba pasando, teníamos una descripción de la instalación. Al final recibimos bastantes feedbacks por parte de ellos. Parece que funcionó la técnica del glitch para impactar y mostrar que hay humanos tras la máquina.
Neuronas en La Máquina. Audiencias
CDM: ¿Y en el ARS Electronica?
María Paula Londoño: En el ARS Electronica fue un poco diferente. Mi compañero de Alemania pudo ingresar a la instalación del robot. Era una caja negra en donde estaba la proyección del robot y adentro una pantalla en donde estábamos yo y mi compañero, así que las personas no esperaban que detrás hubiera una persona trabajando. Igual logramos generar impacto y que la gente entendiera la crisis de lo que hacemos, más en países de Latinoamérica en los que estos trabajos son muy comunes. Les parece extraño que esto pase en el siglo XXI y en esta era de la información y las tecnologías.
Nosotros quisimos hacer esta representación en una caja negra, tomando la idea de una obra artística que utiliza la black box, la caja negra, para jugar ajedrez de manera mecánica. 3
Neurons In The Machine. Frente
CDM: Dentro del desarrollo del proyecto colaborativo ¿qué papel jugó cada uno de ustedes?
María Paula Londoño: Todo los hicimos por videollamada, todo fue remoto. Mi compañero de Alemania, Maurice Ward, fue el que presentó el proyecto, yo di la idea de cómo lo podríamos realizar y mi compañero de Colombia, Juan Felipe Fernández, ayudó en los procesos de software e instalación de las cosas, porque tuvo la oportunidad de ir a Alemania y también es músico, así que pusimos una instalación sonora en la que uno se ponía los audífonos y se escuchaban ruidos como de un call center, en dónde se oye ruido todo el tiempo, hay personas gritando, hablando todas al mismo tiempo, y un jefe o un supervisor tratando de hacer lograr que las cosas se hagan bien y rápido. Yo pude ver todo desde aquí, lo que igual fue una experiencia muy buena.
CDM: Luego de esta experiencia ¿surgieron nuevas ideas?
María Paula Londoño: Sí, claro. La realización de la idea nos trajo otras ideas a implementar. Nos vamos a presentar de nuevo en el ARS Electronica el próximo año, con una propuesta más experimental que involucra al espectador. Cuando les contamos en la universidad, a los compañeros de Berlín, que así funciona el mundo en Colombia y en Latinoamérica, se generó el impacto que queríamos tener y para nosotros fue una experiencia impresionante y tenemos ganas de seguir creciendo de manera artística y mostrando cosas que, aunque hayan sido experiencias fuertes el trabajar en empresas así, se pueden convertir en arte.
Presentación en vivo
CDM: ¿Este trabajo puede pensarse como uno de tesis de grado?
María Paula Londoño: Por ahora no, pero en su momento sí. Cada vez llegan más ideas, en la Universidad aprendemos cada día más cosas. Yo sé que podríamos llegar a implementar algo para presentar en la Universidad. Estoy también en un grupo de arte y ciencia colaborativo, Suratómica, en donde está una compañera4 que ganó el Golden Nica en el ARS Electronica y que nos ayudó bastante para realizar nuestra instalación.
CDM: Agradecemos a María Paula Londoño por su tiempo para esta nota y manifestamos nuestro orgullo y gratitud por representarnos con calidad y altura en estos eventos.
* Guionista de tv, escritora, redactora web y gestora de comunidades digitales. Comunicadora social y periodista de la Universidad Jorge Tadeo Lozano de Bogotá. Maestranda en Comunicación de la Universidad Internacional Iberoamericana – UNINI, de México. Maestranda en Comunicación Corporativa de la Universidad Europea del Atlántico.
1 https://rundgang.udk-berlin.de/katalog/!edFFxvgQFBXInkkZhR:content.udk-berlin.de
2 https://ars.electronica.art/aeblog/en/2022/08/12/campus-exhibitions/
3NdA: Más sobre este mecanismo en https://www.bbc.com/mundo/noticias-46545215
4 NdA: Se refiere a Natalia Rivera, diseñadora industrial de la Facultad de Artes de la Universidad Nacional de Colombia, galardonado con el Golden Nica en la categoría “Arte interactivo” del Festival Ars Electronica en Austria en junio de 2022, con su proyecto Bi0film.net: Resist like bacteria.