Deepfake, Cynicism and Fun in Cruelty: A Case of High School Students and Pornography in Ecuador
Article Sidebar
Main Article Content
Abstract
Debates about generative artificial intelligence have gained strength, its expanded uses caused astonishment and also shock to see how they led to actions that affect the conception of reality. Deepfake is a technology that creates false videos, images or audio using deep learning algorithms and that - when combined with the logic of cynicism and cruelty towards others - affects integrity and truth. The objective of the article is to critically debate the instrumental uses of artificial intelligence to create manipulated and pornographic visual content. The methodology is qualitative in nature, with bibliographic and documentary review, interviews and a case analysis: young people created more than 700 fake photos and videos, with faces of female students of different ages, from a school in Quito. The article debates how technology, youth, pornography, the logic of cynicism, the formation of networks and digital swarms are related, as well as the need for public policies in the educational field to confront ultrafakes.
Article Details
Section
This work is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License.
ASSIGNMENT OF RIGHTS, DECLARATION OF CONFLICT OF INTEREST AND DISSEMINATION
The authors who publish in this journal accept the following conditions:
- Authors retain copyright and grant the journal the right of first publication, with the work registered under the Creative Commons Attribution-NonCommercial-ShareAlike 4.0 License, which allows sharing, adapting and attributing the work (see: Open Access Policies).
- Authors can make other independent and additional contractual agreements for the distribution of the article published in this journal (e.g., include it in an institutional repository or publish it in a book) as long as they expressly indicate that the article was published for the first time in Uru: Revista de Comunicación y Cultura. In the case of reproduction, a note similar to the following must be included: This text was originally published in the journal Uru: Revista de Comunicación y Cultura N ° -, year of publication.
- Authors are encouraged to publish their work on the Internet (e.g. on institutional or personal pages) in the final version published by Uru: Revista de Comunicaicón y Cultura as it may lead to a wider and faster dissemination of the published work.
How to Cite
References
Andino Veloz, Byron, y Eduardo Andino Espinoza. 2022. “Imaginarios desde la distopía: Política, tecnología y públicos en Black Mirror”. Uru. Revista de Comunicación y Cultura 6: 22-38. https://doi.org/10.32719/26312514.2022.6.2.
Bañuelos, Jacob. 2020. “Deepfake: La imagen en tiempos de la posverdad”. Revista Panamericana de Comunicación 2 (1): 51-61. https://doi.org/10.21555/rpc.v0i1.2315.
Bigas, Núria. 2023. “Deepfakes pornográficos: Cuando la IA desnuda tu intimidad y vulnera tus derechos”. Universitat Oberta de Catalunya. 2 de noviembre. https://tinyurl.com/mv3t9d2j
Campillo, Beatriz. 2021. “De las fake news a las deepfakes: Nuevos retos para la ciberética”. Anuario Colombiano de Filosofía 2 (2): 89-106. https://tinyurl.com/yc3wcw45.
Cenizo, Néstor. 2023. “Los identificados por los ‘deepfakes’ sexuales de Almendralejo, que acumulan ya 22 denuncias, tienen entre 12 y 14 años”. elDiario.es. 20 de septiembre. https://tinyurl.com/4xd5m2ux.
Cerdán, Víctor, María Luisa García, y Graciela Padilla. 2020. “Alfabetización moral digital para la detección de deepfakes y fakes audiovisuales”. CIC. Cuadernos de Información y Comunicación 25: 165-81. https://doi.org/10.5209/ciyc.68762
—, y Graciela Padilla. 2019. “Historia del ‘fake’ audiovisual: ‘Deepfake’ y la mujer en un imaginario falsificado y perverso”. Historia y Comunicación Social 24 (2): 505-20. https://doi.org/10.5209/hics.66293.
Costa, Flavia. 2021. Tecnoceno: Algoritmos, biohackers y nuevas formas de vida. Buenos Aires: Taurus.
Criado, Andrea. 2022. “La representación de la mujer en la pornografía desde una perspectiva de género: Un análisis global”. Journal of Feminist, Gender and Women Studies 1 (12): 52-80. https://doi.org/10.15366/jfgws2022.12.004.
Cuadra, Álvaro. 2015. “La obra de arte en la época de su hiperreproducibilidad digital”. Textos y Contextos 16: 89-117. https://doi.org/10.29166/tyc.vi16.1326.
—. 2019. El príncipe posmoderno. Quito: Ciespal.
—. 2021. Tecnopolítica: Mediaciones & mutaciones. Quito: Universidad Central del Ecuador. https://tinyurl.com/32fvxjab.
Debord, Guy. 2012. La sociedad del espectáculo. Buenos Aires: La Marca.
EC Ministerio de Educación. 2023. “Se presentó oficialmente el ‘Protocolo de actuación frente a situaciones de violencia digital detectadas en el Sistema Nacional de Educación’”. Ministerio de Educación. 28 de septiembre. https://tinyurl.com/4m2aeytb.
Egaña, Lucía. 2009. “La pornografía como tecnología de género: Del porno convencional al post-porno. Apuntes freestyle”. La Fuga 9. https://tinyurl.com/5f5rkcbc.
Ferrari, Lidia. 2016. La diversión en la crueldad: Psicoanálisis de una pasión argentina. Buenos Aires: Letra Viva.
Follari, Roberto. 2023. “Por fuera de la tecnofilia y la tecnofobia”. Revista Ciencias Sociales 1 (44): 17-29. https://doi.org/10.29166/csociales.v1i44.4087.
Garci?a-Ull, Francisco. 2021. “Deepfakes: “El próximo reto en la detección de noticias falsas”. Ana?lisi. Quaderns de Comunicacio? i Cultura 64: 103-20. https://doi.org/10.5565/rev/analisi.3378.
Gómez de Ágreda, Ángel, Claudio Feijóo e Idoia Salazar. 2021. “Una nueva taxonomía del uso de la imagen en la conformación interesada del relato digital: Deep fakes e inteligencia artificial”. Profesional de la Información 30 (2). https://doi.org/10.3145/epi.2021.mar.16.
Han, Byung-Chul. 2014. En el enjambre. Barcelona: Herder.
Hernández Sampieri, Roberto, Carlos Fernández y Lucio Baptista. 2014. Metodología de la investigación. Ciudad de México: McGraw-Hill.
Infobae. “Fiscalía de Perú investiga a quienes vendieron fotos de menores manipuladas con IA en Lima”. Infobae. 28 de agosto de 2023. https://tinyurl.com/4wvvj2pf.
Margulis, Mario. 2001. “Juventud: Una aproximación conceptual”. En Adolescencia y juventud en América Latina, compilado por Solum Donas Burak, 41-56. Cartago, CR: Libro Universitario Regional, 41-56.
McNicholas, Tim. 2023. “New Jersey High School Students Accused of Making AI-Generated Pornographic Images of Classmates”. CBS News. 2 de noviembre. https://tinyurl.com/mrxu63vc.
Murolo, Leonardo. 2019. “La posverdad es mentira: Un aporte conceptual sobre ‘fake news’ y periodismo”. En La posverdad: Una cartografía de los medios, las redes y la política, coordinado por Roberto Aparici y David García, 65-80. Barcelona: Gedisa.
Roldán, Paula. 2022. “Pornografía, sexualidad y redes: ¿Nuevas violencias o nuevas máscaras?”. Revista de Estudios de Juventud 125: 77-94. https://tinyurl.com/yc5p6zfj.
Sadin, Éric. 2018. La humanidad aumentada: La administración digital del mundo. Buenos Aires: Caja Negra.
Scolari, Carlos. 2008. Hipermediaciones: Elementos para una teoría de la comunicación digital interactiva. Barcelona: Gedisa.
Sibilia, Paula. 2008. La intimidad como espectáculo. Buenos Aires: Fondo de Cultura Económica.
—. 2023. “Da hipocrisia aos cinismos: Transformações do ‘solo moral’ nas democracias contemporâneas”. Revista Eco-Pós 26 (1): 324-48. https://doi.org/10.29146/eco-ps.v26i01.28055.
Soares, Fernanda. 2023. “‘Nudes’ falsos de cerca de 40 alunas criados por colegas de escola mostravam posições pornográficas e foram postados em redes sociais”. Globo. 8 de noviembre. https://tinyurl.com/mrzn4z6m.
Varnet, Tomás, y Ricardo Cartes. 2021. “Tránsito histórico de la pornografía: De transformaciones hasta la era de la internet”. Civilizar 21 (41): 81-92. https://doi.org/10.22518/jour.ccsh/2021.2a07.
Vega, Edgar. 2018. “De gays y trans a diversidades sexo/genéricas: Dos décadas de despenalización de la homosexualidad en Ecuador”. Interdisciplina 7 (17): 119-53. https://doi.org/10.22201/ceiich.24485705e.2019.17.67524.
Wagner, Travis, y Ashley Blewer. 2019. “‘The Word Real Is No Longer Real’: Deepfakes, Gender, and the Challenges of AI-Altered Video”. Open Information Science 3 (1): 32-46. https://doi.org/10.1515/opis-2019-0003.
Williams, Raymond. 1992. Historia de la comunicación. Madrid: Bosch.