En la era digital actual, la mayoría de los usuarios de Internet están familiarizados con el ‘spam’. Este término anglosajón se refiere al correo basura que a menudo inunda nuestras bandejas de entrada, incluyendo información no solicitada, encuestas engañosas y sorteos que prometen hacerte ganar un gran premio. Afortunadamente, servicios de correo como Gmail y Outlook han perfeccionado sus filtros para identificar y desviar estos mensajes indeseados, salvaguardando a los usuarios de la avalancha continua de notificaciones no deseadas.
Sin embargo, con la llegada de modelos de lenguaje complejos impulsados por inteligencia artificial, los usuarios enfrentan una nueva amenaza emergente: el ‘slop’. Este término, que en español se traduce como bazofia, hace referencia al contenido generado por IA sin supervisión humana. Estos textos pueden contener errores significativos y, en algunos casos, ser peligrosamente inexactos.
Algunos medios digitales han comenzado a llenarse de artículos creados y publicados automáticamente por IA, sin pasar por el ojo crítico de un editor humano. Esta práctica está provocando una avalancha de informaciones falsas que los lectores menos precavidos podrían aceptar como verdaderas y, posteriormente, difundir a través de redes sociales o aplicaciones de mensajería. El resultado es un ciclo pernicioso de desinformación.
El atractivo del ‘slop’ para los creadores de contenido radica en su rentabilidad. Al eliminar la necesidad de una plantilla de redactores, los portales pueden generar grandes cantidades de contenido con mínima inversión, buscando maximizar las visitas y, con ellas, los ingresos por publicidad. Para lograr esto, las IA son entrenadas para identificar y utilizar los términos de búsqueda más populares en sus textos, lo que a menudo lleva a la creación de contenido que distorsiona o inventa declaraciones, atribuyéndolas incorrectamente a diversas fuentes.
Además, los ciberdelincuentes están aprovechando el ‘slop’ para sus propios fines nefastos. Utilizan IA para distribuir contenido fraudulento destinado a robar datos o vaciar cuentas bancarias, frecuentemente en el contexto de campañas de recaudación de fondos falsas. Estos fraudes suelen estar acompañados de imágenes engañosas, como fotos irreales de niños enfermos o animales desamparados, diseñadas para manipular emocionalmente a los potenciales donantes.
Este fenómeno no se limita solo al texto; el ‘slop’ también se manifiesta en el contenido multimedia. En plataformas como Facebook, se han reportado peligrosas imágenes manipuladas, incluyendo fotos de niños conduciendo coches hechos de botellas de plástico. En Amazon, se han descubierto libros generados por IA que ponen en riesgo la salud de los lectores. Un ejemplo preocupante es «The Supreme Mushrooms Books Field Guide of the South-West», una guía que erróneamente clasifica un hongo venenoso como comestible.
La gravedad del ‘slop’ ha llegado también al ámbito editorial, donde se difunde sin control y sin la intervención de profesionales que validen la información. En una entrevista reciente con The Guardian, Simon Willison, el desarrollador que popularizó el término, subrayó la importancia de tener una palabra específica para describir este problema. «Es fundamental que la gente reconozca que la publicación de contenido generado por IA sin supervisión es un mal comportamiento. Al igual que el término ‘spam’ ayudó a identificar y reducir la publicidad no solicitada, espero que ‘slop’ pueda tener un impacto similar y aumentar la conciencia sobre este peligroso fenómeno», afirmó Willison.
A medida que la tecnología avanza y las IA se vuelven más sofisticadas, es crucial que los usuarios de Internet desarrollen una mayor capacidad crítica para discernir entre contenido legítimo y ‘slop’. Solo así se podrán mitigar los riesgos asociados con esta creciente amenaza digital.