5 cuestiones sobre las nuevas obligaciones de transparencia del AI Act

El AI Act, el Reglamento Europeo de Inteligencia Artificial, está en vigor desde el 1 de agosto de 2024. Pero, algunas de sus medidas se han ido aplicando de forma progresiva. Entre ellas se encuentran las obligaciones de transparencia sobre determinados contenidos generados o manipulados con IA (sistemas biométricos y de reconocimiento de emociones, textos o deepfakes), que son aplicables desde el 2 de agosto de 2026.

Pero ¿qué significa esto en la práctica para una entidad social? Aunque gran parte de la atención se ha centrado en la obligación de identificar algunos contenidos generados con IA, este cambio plantea cuestiones más amplias sobre cómo utilizamos estas herramientas, qué riesgos asumimos y qué medidas conviene adoptar para seguir generando confianza. 

Por eso, en este post explicamos 5 cuestiones que toda entidad debería empezar a plantarse en su estrategia para seguir creando contenidos de calidad.

1. La responsabilidad sigue siendo humana 

Cada vez más entidades utilizan herramientas de inteligencia artificial (Chat GPT, Claude, Gemini, Copilot, etc) para redactar proyectos, resumir documentos o responder dudas. Sin embargo, que una herramienta genere un contenido no significa que sea correcto.

Por ejemplo, una IA puede redactar una nota de prensa e incluir datos desactualizados o generar un subtítulo automático mal escrito. Si el contenido se publica sin revisión, la responsabilidad recae en la organización. Como entidad, hay que preguntarse: ¿quién revisa los contenidos antes de publicarlos? ¿O qué tareas pueden automatizarse y cuáles no? 

Con el nuevo reglamento, cuando se publique texto generado o manipulado mediante IA para informar al público sobre asuntos de interés público, pueden existir obligaciones de transparencia. No obstante, el AI Act prevé excepciones cuando el contenido ha sido objeto de revisión humana o control editorial y una persona u organización asume la responsabilidad de su publicación. 

Por eso, una de las principales implicaciones del AI Act es recordar que las personas deben mantener siempre la supervisión sobre el uso de estas herramientas. 

2. Cuidado con los datos sensibles

Muchas entidades sociales gestionan información especialmente delicada relacionada con discapacidad, salud, dependencia, violencia, exclusión social o infancia.

Por ejemplo, si copias la descripción de un caso real en una herramienta de IA para pedir ayuda en la elaboración de un informe o una propuesta de intervención, esta acción podría comprometer la privacidad de las personas atendidas si no se han aplicado las garantías adecuadas.

Para proteger los datos de tus personas si usas IA en tu trabajo:

• no copies y pegues historias clínicas, informes con nombres y apellidos o listados de personas socias;

• anonimiza siempre la información antes de trabajarla con IA;

• revisa bien las condiciones de uso de la herramienta que vas a emplear.

En algunas plataformas puedes decidir si se usan tus conversaciones para entrenar el modelo o no: es importante revisar esta configuración y limitar la memoria de la herramienta cuando trabajes con contenidos sensibles. Pero, desactivar esta opción no significa automáticamente que la información sea “segura” o que cumpla requisitos legales o corporativos. 

Más allá de la tecnología, hay que revisar protocolos internos y definir qué información puede compartirse y cuál no para evitar riesgos y mejorar la seguridad.

3. La transparencia genera confianza

Informar de que se ha utilizado IA es importante, pero para las entidades sociales la transparencia va un poco más allá.

Por ejemplo, una organización puede utilizar imágenes generadas por IA para ilustrar una campaña sobre soledad, pobreza o discapacidad. Aunque la normativa establezca determinados requisitos de información, también conviene preguntarse si esas imágenes representan adecuadamente la realidad y si pueden generar una interpretación equivocada. 

Por ejemplo, la campaña ‘The Hidden Cost’ de WWF fue creada por Nikolaj Lykke Viborg con ayuda de Chat GPT y, además de etiquetarse bien, consiguió viralizarse porque la IA fue utilizada con propósito y alineada a la misión de esta entidad. La transparencia no es únicamente una cuestión legal, también forma parte de la rendición de cuentas y de la confianza.

4. Recuerda que la IA reproduce estereotipos

Las herramientas de IA aprenden a partir de enormes cantidades de información disponible en internet, lo que significa que también reproducen estereotipos. 

Por ejemplo, al generar imágenes sobre discapacidad, algunas herramientas ofrecen representaciones poco diversas, discriminatorias o alejadas de la realidad. Por eso, además de revisar la calidad técnica del contenido, conviene preguntarse si la herramienta refleja la diversidad real de las personas con las que trabajamos. 

También conviene recordar que los sesgos no aparecen solo en los resultados que genera una IA, sino también en quién participa en su diseño. En el ámbito de la discapacidad, cada vez son más las voces que reclaman no ser únicamente las personas sobre las que la inteligencia artificial aprende, ni quienes la prueban o corrigen, sino formar parte de quienes la imaginan, la diseñan y la construyen.

Por eso, uno de los grandes retos para las entidades es formar a sus equipos para que utilicen la IA de manera segura, inclusiva y responsable. 

5. Define unas reglas claras de uso

La clave es cómo utilizar la IA de forma coherente con lo valores, con la forma de trabajar y el propósito de la organización. Por ejemplo, crear una política interna sencilla puede ayudar a responder preguntas como ¿Cuándo deben revisarse los contenidos generados por IA? ¿Qué criterios éticos deben aplicarse? ¿Qué herramientas están autorizadas?

No se trata de crear más burocracia, sino de ofrecer seguridad al equipo y proteger la confianza de las personas con las que trabajamos.

Para muchas entidades sociales, el principal riesgo asociado a la inteligencia artificial no será una sanción, sino la pérdida de confianza. La verdadera oportunidad que plantea el AI Act es utilizar estas herramientas de forma coherente con los valores de transparencia, participación y respeto a las personas que caracterizan al Tercer Sector.

1. ^

   Deepfake: es un contenido en vídeo, audio o imagen manipulado mediante inteligencia artificial para hacer creer que una persona real dice o hace algo que nunca ocurrió.