Théodore recuerda la chapucera fotografía de la IA que lo dejó perplejo.
Thank you for reading this post, don't forget to subscribe!La imagen mostraba a dos niños del sur de Asia, demacrados y pobres. Por alguna razón, a pesar de sus rasgos infantiles, lucían barbas espesas. Uno de ellos no tenía manos y solo tenía un pie. El otro sostenía un cartel que decía «es mi cumpleaños» y pedía un «me gusta».
Inexplicablemente, estaban sentados en medio de una calle transitada bajo una lluvia torrencial con un pastel de cumpleaños con velas. La imagen estaba llena de indicios de que fue creada con IA. Pero en Facebook se volvió viral con casi un millón de «me gusta» y emojis de corazón.
Algo se encendió en Théodore.
«Me quedé atónito. Las absurdas imágenes creadas con IA estaban por todo Facebook y estaban teniendo una gran repercusión sin que nadie se fijara en ellas. Me pareció una locura», dice el estudiante parisino de 20 años.
Así que abrió una cuenta en X llamada «Insane AI Slop» y empezó a criticar y burlarse del contenido que engañaba a la gente.
Otros se dieron cuenta y su bandeja de entrada pronto se llenó de mensajes de personas enviando propuestas para supuestas «basuras de IA».
Los temas comunes comenzaron a hacerse evidentes: religión, militares o niños pobres haciendo cosas conmovedoras.
«Los niños del tercer mundo haciendo cosas impresionantes siempre son populares, como un niño pobre en África que construye una estatua increíble con basura. Creo que a la gente le parece bien, así que los creadores piensan: ‘Genial, hagamos más de esto'», dice Théodore.
La cuenta de Théodore pronto alcanzó más de 133.000 seguidores.
La avalancha de basura de la Inteligencia Artificial —que él define como vídeos e imágenes falsos, poco convincentes y creados rápidamente— es ahora imparable.
Las empresas tecnológicas han adoptado la IA y algunas afirman están empezando a tomar medidas enérgicas contra algunas formas de «basura», aunque las redes sociales parecen seguir repletas de este contenido.
En tan solo un par de años, la experiencia de usar las redes sociales ha cambiado profundamente. ¿Cómo sucedió y qué efecto tendrá en la sociedad? Y, quizás lo más urgente de todo: ¿cuánto les importa realmente a los miles de millones de usuarios de las redes sociales?
La «tercera fase» de las redes sociales
En octubre, durante otra eufórica presentación de resultados, el director ejecutivo de Meta, Mark Zuckerberg, declaró con alegría que las redes sociales habían entrado en una tercera fase, ahora centrada en la IA.
«La primera fue cuando todo el contenido provenía de amigos, familiares y cuentas que seguías directamente. La segunda fue cuando añadimos todo el contenido de los creadores. Ahora que la IA facilita la creación y remezcla de contenido, vamos a añadir otro enorme corpus de contenido», declaró a los accionistas.
Meta, que gestiona las redes sociales Facebook, Instagram y Threads, no solo permite publicar contenido generado por IA, sino que también ha lanzado productos para facilitar su creación. Generadores de imágenes y vídeos, así como filtros cada vez más potentes, se ofrecen ahora de forma generalizada.
Contactada para que hiciera comentarios, Meta envió a la BBC la conferencia de resultados de enero. En dicha conferencia, el multimillonario afirmó que la empresa se estaba inclinando aún más hacia la IA y no mencionó ninguna medida drástica contra la basura.
«Pronto veremos una explosión de nuevos formatos multimedia más inmersivos e interactivos, posibles solo gracias a los avances en IA», declaró Zuckerberg.
El director ejecutivo de YouTube, Neal Mohan, escribió en su blog de previsión para 2026 que, tan solo en diciembre, más de un millón de canales de YouTube utilizaron las herramientas de IA de la plataforma para crear contenido.
«Al igual que el sintetizador, Photoshop y la CGI revolucionaron el sonido y las imágenes, la IA será una bendición para los creativos que estén listos para involucrarse», escribió.
El director ejecutivo también reconoció la creciente preocupación por el «contenido de baja calidad, también conocido como basura de IA». Añadió que su equipo está trabajando en formas de mejorar los sistemas para detectar y eliminar «contenido repetitivo y de baja calidad».
Pero también descartó emitir juicios sobre qué debería o no permitirse que prospere. Señaló que contenido que antes era de nicho, como el ASMR (sonidos relajantes diseñados para provocar un hormigueo en la cabeza) y los videojuegos en vivo, ahora son populares.
Según un estudio de la empresa de inteligencia artificial Kapwing, el 20% del contenido que se muestra en una cuenta de YouTube recién creada ahora es «vídeo de IA de baja calidad».
Los vídeos cortos, en particular, fueron un éxito, ya que Kapwing los encontró presentes en 104 de los primeros 500 clips de YouTube Shorts mostrados en una nueva cuenta creada por los investigadores.
La economía de los creadores parece ser un gran impulsor, ya que los creadores de contenido y los canales pueden generar ingresos gracias a la interacción y las visualizaciones.
A juzgar por las visualizaciones en algunos canales y vídeos de IA, la gente se siente atraída por el contenido, o al menos, por los algoritmos que dictan lo que vemos.
Según Kapwing, el canal de contenido basura sobre IA con más visualizaciones es Bandar Apna Dost, de India, con 2.070 millones de visualizaciones, lo que genera a sus creadores unas ganancias anuales estimadas en US$4 millones.
Sin embargo, también se está produciendo una reacción negativa.
Bajo muchos vídeos virales de IA, es habitual ver una oleada de comentarios furiosos que critican el contenido.
Monstruos gigantes y parásitos intestinales mortales
Théodore, el estudiante de París, contribuyó a impulsar esta reacción.
Aprovechando su recién adquirida influencia en X, se quejó a los moderadores de YouTube sobre la avalancha de extraños dibujos animados de IA que conseguían muchísimas visualizaciones. En su opinión, eran perturbadores y dañinos, y en algunos casos le parecían dirigidos a niños.
Los vídeos se titulaban cosas como «Mamá gata salva a gatito de parásitos intestinales mortales» y mostraban escenas sangrientas.
Otro vídeo corto mostraba a una mujer en camisón que se come un parásito y luego se convierte en un monstruo gigante y furioso que finalmente es curado por Jesús.
YouTube eliminó los canales, avisándonos que lo hicieron porque infringían las normas de su comunidad. Afirmaron que su objetivo es conectar a sus usuarios con contenido de alta calidad, independientemente de cómo se haya creado, y que trabajan para reducir la difusión de contenido de baja calidad basado en IA.
Pero esa experiencia, y muchas otras similares, han desmoralizado a Théodore.
Incluso sitios web de estilo de vida aparentemente acogedores como Pinterest (el foro de recetas e ideas de diseño de interiores) se han visto afectados.
Los usuarios se han sentido tan frustrados por la avalancha de contenido basura generado por IA que la compañía introdujo un nuevo sistema de exclusión voluntaria para el contenido generado por IA.
Sin embargo, esto depende de que los usuarios admitan que sus imágenes de la casa perfecta están hechas con IA.
Furia en la sección de comentarios
En mi muro (y sé que el de cada uno es diferente, incluyendo los comentarios), las reacciones negativas a las tonterías de la IA se han vuelto incesantes.
Ya sea en TikTok, Threads, Instagram o X, parece haber un movimiento popular contra este contenido. A veces, la cantidad de «me gusta» en los comentarios que critican a la IA supera con creces la publicación original.
Tal es el caso de un video reciente que muestra a un snowboarder rescatando a un lobo de un oso. El video en sí tuvo 932 «me gusta», frente a los 2.400 de un comentarista que escribió: «Levanten la mano si están cansados de esta porquería de la IA».
Pero, por supuesto, todo alimenta a la bestia. Toda interacción es buena para las redes sociales, donde mantenernos enganchados es clave.
Entonces, ¿realmente importa si el video increíble, conmovedor o impactante en tu feed es real o no?
El efecto de la «podredumbre cerebral»
Emily Thorson, profesora asociada de la Universidad de Siracusa (EE. UU.), especializada en política, desinformación y percepciones erróneas, afirma que depende de lo que la gente haga en la red social.
«Si una persona usa una plataforma de vídeos cortos solo para entretenerse, su criterio para determinar si algo vale la pena es simplemente ‘¿es entretenido?'», afirma. «Pero si alguien usa la plataforma para aprender sobre un tema o para conectar con miembros de la comunidad, podría percibir el contenido generado por IA como más problemático».
La opinión de la gente sobre la basura generada por IA también depende de cómo se comunica.
Si algo se presenta claramente como una broma, parece tomarse como tal. Pero cuando la basura generada por IA se ha creado específicamente para engañar, puede enfadar a la gente.
Un vídeo generado por IA que vi recientemente es emblemático: un vídeo increíblemente realista, de estilo histórico natural, de una asombrosa cacería de leopardo. En los comentarios, algunos espectadores se dejaron engañar; otros no estaban seguros.
«¿De qué documental es?», preguntó un comentarista. «Por favor. Es la única manera de demostrar que no existe IA».
