METAVISIÓN

Sabadell, Barcelona. 2020

Este proyecto fue desarrollado durante la Residencia MEdiaEstruch en L’Estruch, Sabadell y presentado en el CIBERHACK #14. Cuenta con la “Beca para la investigación y la innovación en los ámbitos de las artes visuales, los nuevos sectores creativos, de las artes escénicas, de la música y del pensamiento” de la Generalitat de Catalunya.

Integrantes: Ornella Bodratto, Nicolás Lodigiani y Gabriel Senno

METAVISIÓN

La Interferencia y Hacking como programa de trabajo.

La video (la herramienta video) nos ayuda a entender a la Interferencia y el Hacking como fondo. La noción de que una visión tecnológica tiende a proteger la información (encriptar) a transmitir limpiamente (ordenar el espectro), una mirada desde la comunicación como la del periodismo, intenta ampliar los medios a otras voces (legitimar el espectro) y una como la de los informáticos a desarrollar métodos para el acceso a la información (desencriptar), pero una posición desde las artes como la nuestra, debe evidenciar los mecanismos (interferir) y desmantelar los códigos implícitos (hackear).
Germán Celestino y Monti

Vivimos un tiempo cada vez más híbrido y deslocalizado en términos de producción, emisión y reproducción de información. Los medios masivos de comunicación desarrollan un papel fundamental en tanto tecnologías sensibles de alcance global y capacidad para penetrar ideológica o afectivamente, en cada receptor/a. El proyecto METAVISIÓN propone intervenir algunos fragmentos audiovisuales de telediarios españoles con arquitecturas específicas de la Inteligencia Artificial, y ponerlos en diálogo con imágenes de archivo de telediarios norteamericanos. A partir de este procedimiento se genera un nuevo material que, distanciado de las imágenes originales, habilita re-interpretaciones sobre ese acervo y devela dinámicas disciplinadoras presentes en los medios de comunicación. La implicancia política de los hackeos a los sistemas normativos de la información, se materializa en la distorsión de la legibilidad de los propios materiales y en el acceso a un contraimaginario de ficción, cuya posibilidad abre paso a otros relatos posibles. Algunas preguntas que acompañan METAVISIÓN: ¿cómo romper el vínculo entre lo-que-dicen y lo-que-muestran los medios de comunicación?, ¿Qué potencial aporta la intervención de archivos, a fines de reinventar y disputar las dinámicas de poder presentes en los medios de comunicación? Finalmente, y en términos de acceso a la información, ¿cuáles son los límites y alcances de los hackeos a los sistemas de manipulación de la información?

Video / sonido / color - Formato H.264 - duración: 00.05.36 min.
Video realizado a partir de intervenciones con arquitecturas de la IA sobre archivos audiovisuales de la RTVE.

APUNTES TÉCNICOS

Dos tareas del área de visión por computadora:

● Video object segmentation (VOS).



● Video inpainting.

Soluciones de código abierto basadas en redes neuronales profundas:


SiamMask

arxiv.org

● SiamMask [Q. Wang et al., Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops. 2020]
● Deep Flow-Guided Video Inpainting [R. Xu et al., Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2019]

Solución basada en tres redes neuronales profundas, cada una encargada de una de las siguientes tareas:

1) Computar una función de similitud (de a pares de frames, convolucional siamesa)

2) Computar una máscara binaria (binary classification).
3) Estimar una bounding box (esto es sólo para VOT, impacto en loss function).

Flow-guided video inpainting

arxiv.org

Flujo óptico:

● Estrategias anteriores se basaban en tomar muestras de las adyacencias espacio-temporales y minimizar alguna noción de distancia (computacionalmente costoso).
● Idea: aprender a predecir el flujo óptico y usarlo para rellenar

IDEOGRAMA