4

eugenia maquínica

“Como se sabe, computadores não enxergam. Os conteúdos visuais são mapeados pelas palavras que os descrevem e pelo reconhecimento de alguns padrões, como linhas, densidades e formas. Esses padrões designam, por exemplo, o que supostamente são seios, nádegas e pênis nas fotos que postamos na internet. Podem, por isso, funcionar como primeiro operador da censura das imagens nas redes sociais, fato que vem se tornando cada vez mais corriqueiro.”

“Quanto mais o discriminador aprende a reconhecer as imagens falsas, mais o gerador aprende a enganá-lo. Essa é a receita por trás de um vídeo deepfake e o que explica a razão de celebridades e personalidades públicas serem mais vulneráveis que outros usuários das redes a se transformar em protagonistas de um vídeo ‘profundamente falso’. A quantidade de imagens disponíveis on-line dessas pessoas é muito maior que a de outros usuários, fornecendo mais dados para o aprendizado de seus gestos, expressões faciais e fala.”

“Esse universo de relações sociais que está na base das IAs [inteligências artificiais] esclarece que a suposta misoginia e o racismo dos algoritmos têm dimensões humanas e políticas incontestes. O tema é de extrema importância e urgência. Conforme se expandem os sistemas de visão computacional, seus algoritmos podem impor novas modalidades de exclusão, determinando o que é ou não visível para nós, nas bolhas dos aplicativos e socialmente.”

“Antes que se comece com os argumentos de que não há nada de novo nisso, que o stalinismo fez vasto uso de fotos adulteradas, que o nazismo e o fascismo fraudaram inúmeras outras e que depois do Photoshop ninguém mais se surpreende com manipulações de imagens, é bom frisar: o deepfake não é colagem, tampouco edição e dublagem. O deepfake é imagem produzida algoritmicamente, sem mediação humana no seu processamento, que utiliza milhares de imagens estocadas em bancos de dados para aprender os movimentos do rosto de uma pessoa, inclusive os labiais e suas modulações de voz, para prever como ela poderia falar algo que não disse.”

BIBLIOGRAFIA

BEIGUELMAN, G. III Mostra 3M de arte digital: Tecnofagias. São Paulo: ELO3, 2012.

BRUCE-LOCKHART, C.; FAUNCE, L.; BURN-MURDOCH, J. The Oscars diversity problem in charts. Financial Times, 7 de fevereiro de Disponível em: <https://www.ft.com/content/ca2e8368-48e6-11ea-aeb3-955839e06441>.

BRUNO, C. Logo.Hallucination, 2006. Disponível em: <https://christophebruno.com/portfolio/logo-hallucination-2006/>.

COLE, S. People Are Using AI to Create Fake Porn of Their Friends and Classmates. Disponível em: <https://www.vice.com/en/article/ev5eba/ai-fake-porn-of-friends-deepfakes>. Acesso em: 15 fev. 2021.

COULDRY, N.; MEJIAS, U. A. The Costs of Connection: How Data Is Colonizing Human Life and Appropriating It for Capitalism. Stanford, California: Stanford University Press, 2019.

CRAWFORD, K.; PAGLEN, T. 19 de setembro de 2019. Excavating AI. Disponível em: <https://excavating.ai>.

CRUZ, E. G.; MEYER, E. T. Creation and Control in the Photographic Process: iPhones and the emerging fifth moment of photography. photographies, v. 5, n. 2, p. 203–221, 1 set. 2012. Disponível em: <https://doi.org/10.1080/17540763.2012.702123>

DIAS, T. Esta conta no Instagram quer desafiar as políticas de censura a mamilos na internet. Disponível em: <https://www.nexojornal.com.br/expresso/2017/01/19/Esta-conta-no-Instagram-quer-desafiar-as-pol%C3%ADticas-de-censura-a-mamilos-na-internet>.

DUBOIS, P. Cinema, Vídeo, Godard. Tradução: Mateus Araújo Silva. São Paulo: Cosac Naify, 2004.

FONTCUBERTA, J. Datascapes: Orogenesis/Googlegrams. Sevilla, Spain: Photovision, 2007.

FOSTER, H. O que vem depois da farsa?: Arte e crítica em tempos de debacle. Tradução: Célia Euvaldo; Tradução: Humberto Do Amaral. São Paulo: Ubu Editora, 2021.

Genderless Nipples (@genderless_nipples). Disponível em: <https://www.instagram.com/genderless_nipples/>.

GOLDENFEIN, J. Facial Recognition Is Only the Beginning. Public Books, 27 jan. 2020. Disponível em: <https://www.publicbooks.org/facial-recognition-is-only-the-beginning/>.

GROHMANN, R. (org.). Os laboratórios do trabalho digital: entrevistas. São Paulo: Boitempo, 2021.

HUI, Y. Tecnodiversidade. Tradução: Humberto Amaral. São Paulo: Ubu Editora, 2020.

KANTAYYA, S. CODED BIAS. 7th Empire Media, 2020. Disponível em: <https://www.codedbias.com>.

LARGOFILMS. Henry Cavill Selected as the Next Bond by Largo.ai. Largo – Next Generation Storytelling. 6. set. 2020. Disponível em: <http://largofilms.ch/henry-cavill-swaps-his-cape-for-a-martini-in-ai-victory-as-the-next-bond/>.

MACK, D. This PSA About Fake News from Barack Obama Is Not What It Appears. Disponível em: <https://www.buzzfeednews.com/article/davidmack/obama-fake-news-jordan-peele-psa-video-buzzfeed>.

MANOVICH, L. Selfiexploratory. 2014. Disponível em: <http://selfiecity.net/selfiexploratory/>.

MASON, W.; SURI, S. Conducting behavioral research on Amazon’s Mechanical Turk. Behavior Research Methods, v. 44, n. 1, p. 1–23, 1 mar. 2012. Disponível em: <https://doi.org/10.3758/s13428-011-0124-6>.

MORESCHI, B.; PEREIRA, G.; FONTES, B. With Turker. Disponível em: <https://brunomoreschi.com/With-Turker>.

NOBLE, S. U. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: NYU Press, 2018.

SCORSESE, M. The Irishman. Tribeca Productions, 2019. Disponível em: <https://www.netflix.com/br-en/title/80175798>

SILVA, T. (org.). Comunidades, algoritmos e ativismos digitais: Olhares afrodiaspóricos. São Paulo: LiteraRUA, 2020.

SILVA, T., MINTZ. A. APIs de Visão Computacional: investigando mediações algorítmicas a partir de estudo de bancos de imagens. Logos, v. 27, n. 1: Dossiê Instabilidade e conflito das/nas imagens, 2020. Disponível em: <https://www.e-publicacoes.uerj.br/index.php/logos/article/view/51523/33928>.

SOUZA, A. de. Ministério da Cultura vai entrar na Justiça contra Facebook por foto de índia bloqueada – Jornal O Globo. Disponível em: <https://oglobo.globo.com/sociedade/midia/ministerio-da-cultura-vai-entrar-na-justica-contra-facebook-por-foto-de-india-bloqueada-1-15910229>.

SZELISKI, R. Computer Vision: Algorithms and Applications. 2a. ed. Viena/ Berlin: Springer, 2021.

This Person Does Not Exist. Disponível em: <https://thispersondoesnotexist.com/>.

ZHAO, C. Nomadland. Cor Cordium Productions, Hear/Say Productions, Highwayman Films, 19 fev. 2021. Disponível em: <https://youtu.be/ZV6sRMxt2JU>.

ZYLINSKA, J. Nonhuman Photography: Theories, Histories, Genres. Cambridge, Mass.: MIT Press, 2017.

4

eugenia maquínica

A autora propõe, nos seis ensaios deste novíssimo livro, uma reflexão sobre o estatuto da imagem no mundo contemporâneo. Desde o surgimento da fotografia,  e depois do cinema, que o universo das imagens técnicas não conhecia um processo de transformação tão radical quanto o do nosso tempo. As imagens tornaram-se as principais interfaces de mediação do cotidiano, ocupando a comunicação, as relações afetivas, a infraestrutura, as estéticas da vigilância e os sistemas de escaneamento dos corpos na cidade. Ao falar em políticas da imagem, ela defende que as imagens são, para além de lugar da transmissão de ideias e linguagens, o próprio campo das tensões e disputas políticas da atualidade.

Beiguelman associa a invenção e distribuição massiva de smartphones a um novo regime de vigilância, não mais instituído pelo Estado, mas resultado da captação sistemática de dados pessoais, oferecidos deliberadamente pelos usuários às plataformas de mídias sociais – a dadosfera. A incontável produção de imagens nos feeds e stories de redes sociais, câmaras de vigilância e registros oficiais configuram, segundo ela, uma nova estética da vigilância.

Imagem digital, selfies, memes, aplicativos de envelhecimento da imagem, waze e google maps, vídeos deep fakes, escaneamento corporal, a internet das coisas, máquinas de reconhecimento facial, inteligência artificial, projeções de protesto em empenas nas cidades, censura digital, todas essas novidades do mundo contemporâneo são analisadas por Giselle Beiguelman para descrever (e ao mesmo guiar o leitor a reconhecer no mundo a sua volta) o papel da imagem nas relações sociais hoje.

BEIGUELMAN, G. III Mostra 3M de arte digital: Tecnofagias. São Paulo: ELO3, 2012.

BRUCE-LOCKHART, C.; FAUNCE, L.; BURN-MURDOCH, J. The Oscars diversity problem in charts. Financial Times, 7 de fevereiro de Disponível em: <https://www.ft.com/content/ca2e8368-48e6-11ea-aeb3-955839e06441>.

BRUNO, C. Logo.Hallucination, 2006. Disponível em: <https://christophebruno.com/portfolio/logo-hallucination-2006/>.

COLE, S. People Are Using AI to Create Fake Porn of Their Friends and Classmates. Disponível em: <https://www.vice.com/en/article/ev5eba/ai-fake-porn-of-friends-deepfakes>. Acesso em: 15 fev. 2021.

COULDRY, N.; MEJIAS, U. A. The Costs of Connection: How Data Is Colonizing Human Life and Appropriating It for Capitalism. Stanford, California: Stanford University Press, 2019.

CRAWFORD, K.; PAGLEN, T. 19 de setembro de 2019. Excavating AI. Disponível em: <https://excavating.ai>.

CRUZ, E. G.; MEYER, E. T. Creation and Control in the Photographic Process: iPhones and the emerging fifth moment of photography. photographies, v. 5, n. 2, p. 203–221, 1 set. 2012. Disponível em: <https://doi.org/10.1080/17540763.2012.702123>

DIAS, T. Esta conta no Instagram quer desafiar as políticas de censura a mamilos na internet. Disponível em: <https://www.nexojornal.com.br/expresso/2017/01/19/Esta-conta-no-Instagram-quer-desafiar-as-pol%C3%ADticas-de-censura-a-mamilos-na-internet>.

DUBOIS, P. Cinema, Vídeo, Godard. Tradução: Mateus Araújo Silva. São Paulo: Cosac Naify, 2004.

FONTCUBERTA, J. Datascapes: Orogenesis/Googlegrams. Sevilla, Spain: Photovision, 2007.

FOSTER, H. O que vem depois da farsa?: Arte e crítica em tempos de debacle. Tradução: Célia Euvaldo; Tradução: Humberto Do Amaral. São Paulo: Ubu Editora, 2021.

Genderless Nipples (@genderless_nipples). Disponível em: <https://www.instagram.com/genderless_nipples/>.

GOLDENFEIN, J. Facial Recognition Is Only the Beginning. Public Books, 27 jan. 2020. Disponível em: <https://www.publicbooks.org/facial-recognition-is-only-the-beginning/>.

GROHMANN, R. (org.). Os laboratórios do trabalho digital: entrevistas. São Paulo: Boitempo, 2021.

HUI, Y. Tecnodiversidade. Tradução: Humberto Amaral. São Paulo: Ubu Editora, 2020.

KANTAYYA, S. CODED BIAS. 7th Empire Media, 2020. Disponível em: <https://www.codedbias.com>.

LARGOFILMS. Henry Cavill Selected as the Next Bond by Largo.ai. Largo – Next Generation Storytelling. 6. set. 2020. Disponível em: <http://largofilms.ch/henry-cavill-swaps-his-cape-for-a-martini-in-ai-victory-as-the-next-bond/>.

MACK, D. This PSA About Fake News from Barack Obama Is Not What It Appears. Disponível em: <https://www.buzzfeednews.com/article/davidmack/obama-fake-news-jordan-peele-psa-video-buzzfeed>.

MANOVICH, L. Selfiexploratory. 2014. Disponível em: <http://selfiecity.net/selfiexploratory/>.

MASON, W.; SURI, S. Conducting behavioral research on Amazon’s Mechanical Turk. Behavior Research Methods, v. 44, n. 1, p. 1–23, 1 mar. 2012. Disponível em: <https://doi.org/10.3758/s13428-011-0124-6>.

MORESCHI, B.; PEREIRA, G.; FONTES, B. With Turker. Disponível em: <https://brunomoreschi.com/With-Turker>.

NOBLE, S. U. Algorithms of Oppression: How Search Engines Reinforce Racism. New York: NYU Press, 2018.

SCORSESE, M. The Irishman. Tribeca Productions, 2019. Disponível em: <https://www.netflix.com/br-en/title/80175798>

SILVA, T. (org.). Comunidades, algoritmos e ativismos digitais: Olhares afrodiaspóricos. São Paulo: LiteraRUA, 2020.

SILVA, T., MINTZ. A. APIs de Visão Computacional: investigando mediações algorítmicas a partir de estudo de bancos de imagens. Logos, v. 27, n. 1: Dossiê Instabilidade e conflito das/nas imagens, 2020. Disponível em: <https://www.e-publicacoes.uerj.br/index.php/logos/article/view/51523/33928>.

SOUZA, A. de. Ministério da Cultura vai entrar na Justiça contra Facebook por foto de índia bloqueada – Jornal O Globo. Disponível em: <https://oglobo.globo.com/sociedade/midia/ministerio-da-cultura-vai-entrar-na-justica-contra-facebook-por-foto-de-india-bloqueada-1-15910229>.

SZELISKI, R. Computer Vision: Algorithms and Applications. 2a. ed. Viena/ Berlin: Springer, 2021.

This Person Does Not Exist. Disponível em: <https://thispersondoesnotexist.com/>.

ZHAO, C. Nomadland. Cor Cordium Productions, Hear/Say Productions, Highwayman Films, 19 fev. 2021. Disponível em: <https://youtu.be/ZV6sRMxt2JU>.

ZYLINSKA, J. Nonhuman Photography: Theories, Histories, Genres. Cambridge, Mass.: MIT Press, 2017.