Los avances en la tecnología de generación de imágenes han producido un aumento de imágenes y videos generados en los que aparecen personas en contextos sexualmente explícitos y que se distribuyen en Internet sin su consentimiento.
Google anunció una serie de cambios en su motor de búsqueda que ayudarán a reducir la aparición de contenidos sexualmente explícitos falsos en los resultados, y que complementan al proceso que ya permite a las víctimas solicitar su eliminación.
Los avances en la tecnología de generación de imágenes han producido un aumento de imágenes y videos generados en los que aparecen personas en contextos sexualmente explícitos y que se distribuyen en Internet sin su consentimiento.
Son los denominados ‘deepfakes’, las manipulaciones realistas hechas con herramientas de IA, y hay que distinguirlos de los contenidos explícitos reales y consentidos, como puedan ser escenas de desnudo de un actor o una actriz, aunque no resulta fácil trasladar esta diferencia a los motores de búsqueda.
Google es consciente de que los contenidos sexualmente explícitos falsos pueden producir una profunda angustia en las personas afectadas, y por ello ha anunciado novedades en el Buscador destinadas a mejorar su protección.
Cualquier persona puede, desde hace años, solicitar la eliminación de imágenes falsas no consentidas de los resultados del Buscador. Cuando se inicia el proceso, los sistemas de Google procuran filtrar todos los resultados explícitos en búsquedas similares sobre dicha persona, y también buscan duplicados de esa imagen y los borran.
Estas protecciones se han ampliado ahora para que abarquen también las imágenes sexualmente explícitas falsas. “Estos esfuerzos están dirigidos a dar una mayor tranquilidad, sobre todo cuando existe la preocupación de que, en el futuro, puedan aparecer de nuevo contenidos similares sobre una determinada persona”, expresan desde la compañía tecnológica.
Google también ha modificado los sistemas de clasificación que posicionan la información de alta calidad en los primeros resultados del Buscador para que limiten aún más la visibilidad de los contenidos falsos explícitos. Estos cambios suponen la reducción de contenido falso explícito en muchas de las búsquedas.
Aquellas consultas que de manera expresa buscan este tipo de contenidos e incluso incluyen el nombre de personas concretas, los resultados muestran en primer lugar contenidos no explícitos y de calidad, como puedan ser noticias relevantes, si los hay.
Google asegura que con los cambios introducidos este año la exposición a resultados de imágenes explícitas en este tipo de consultas se ha reducido en más de un 70 por ciento.
