La UNESCO advierte que los avances en inteligencia artificial podrían generar un nuevo aumento en la negación del Holocausto.
Un informe publicado por la UNESCO concluye que la IA podría dar lugar a afirmaciones falsas y engañosas sobre el Holocausto que se difunden en línea, ya sea debido a fallas en los programas o porque los grupos de odio y los negadores del Holocausto utilizarán intencionalmente programas de IA para generar contenido que cuestione falsamente el Holocausto y el asesinato de judíos y otros grupos por parte de los nazis.
Una de las mayores preocupaciones es que la IA podría usarse para crear los llamados deepfakes del Holocausto: imágenes o videos realistas que podrían usarse para sugerir que el Holocausto no ocurrió o fue exagerado.
Eso podría conducir a un mayor antisemitismo y a una falta de comprensión de un momento clave en la historia del siglo XX. El informe señaló que algunos programas asistidos por IA permiten a los usuarios interactuar con figuras históricas simuladas, incluidos nazis prominentes como Adolf Hitler.
“Si permitimos que los horribles hechos del Holocausto se diluyan, distorsionen o falsifiquen mediante el uso irresponsable de la IA, corremos el riesgo de que se propague explosivamente el antisemitismo y de que nuestra comprensión sobre las causas y consecuencias de estas atrocidades disminuya gradualmente”, dijo Audrey Azoulay en un comunicado que acompaña al informe.
El uso generalizado de la IA para ayudar en la educación, la investigación y la escritura está aumentando la probabilidad de que datos poco confiables y alucinaciones de inteligencia artificial puedan aumentar los malentendidos públicos sobre el Holocausto, incluso los involuntarios.
Los programas de inteligencia artificial cuya comprensión del mundo se basa en fuentes relativamente limitadas también pueden arrojar respuestas incompletas o engañosas cuando se les pregunta sobre el Holocausto.
El informe de la UNESCO instó a las empresas de tecnología a establecer reglas éticas para el desarrollo y uso de la IA, reducir las posibilidades de información poco confiable y evitar que los malos actores aprovechen sus programas para fomentar la violencia y difundir mentiras sobre el Holocausto.
