Un pequeño perro ejecuta un ejercicio de gimnasia rítmica, salta desde un trampolín y entra en la piscina con una elegancia que muchos seres humanos no alcanzamos ni después de años de entrenamiento. Otro perrito se prepara para ejecutar un salto olímpico desde el sofá, calcula con precisión milimétrica la caída y aterriza sobre otro cachorro que descansaba tranquilamente en su cama. Una mira los vídeos, sonríe y pasa al siguiente. Allí aparece el siguiente cachorro todavía más habilidoso. Al quinto o al sexto, la pregunta ya no es si el animal ganará una medalla olímpica, sino si alguno de ellos existe realmente.

La duda se ha instalado en nuestras pantallas: ¿lo que estamos viendo es real o ha sido generado mediante inteligencia artificial?

Algo parecido sucede con los vídeos de peluqueros que, en cuestión de segundos, transforman una cabellera imposible en el peinado más espectacular que una haya visto nunca. El corte es perfecto, el cabello desafía las leyes de la física y la modelo posee una belleza tan simétrica que casi resulta sospechosa. Con razón: ni la modelo, ni el cabello, ni el peluquero existen. El único que ha trabajado de verdad ha sido el algoritmo.

Podría hacer una lista con miles de ejemplos a estas alturas.

A veces la ficción es evidente. En otras ocasiones hay que mirar dos, tres o cuatro veces. Y entonces surge una pregunta aparentemente razonable: ¿cuál es el problema? Si el perro no exige una medalla olímpica y la modelo inexistente no piensa denunciar al peluquero inexistente, ¿a quién perjudica el engaño?

El problema no es el perro

El problema es justamente esa línea cada vez más fina entre lo real y lo artificial. Vivimos en un entorno informativo que se desplaza a una velocidad casi lumínica. Vemos, reaccionamos y compartimos antes de haber tenido tiempo de preguntarnos si aquello que acabamos de ver sucedió realmente. Cuando la comprobación exige detenerse y mirar varias veces, ya compite en desventaja con la inmediatez.

La cuestión deja de ser simpática cuando aparecen personas reales diciendo cosas que no encajan con lo que sabemos de ellas y descubrimos que tampoco ellas las han dicho. Sus rostros han sido manipulados, sus voces imitadas y su identidad utilizada para construir un mensaje falso. En 2023, pocos días antes de las elecciones parlamentarias de Eslovaquia, circularon audios falsos atribuidos a un líder de la oposición en los que supuestamente hablaba de manipular las elecciones.¹

Ya no hablamos de una curiosidad tecnológica. Hablamos de la posibilidad de fabricar una declaración, colocarla en la boca de una persona reconocible y distribuirla a miles o millones de destinatarios antes de que el afectado consiga negar que la haya pronunciado.

El riesgo aumenta en los contextos políticos y sociales. La inteligencia artificial permite producir y multiplicar con enorme rapidez mensajes racistas o antisemitas, discursos radicales, falsificaciones históricas y propaganda concebida para explotar nuestros miedos y prejuicios.

La UNESCO ha advertido, por ejemplo, de que la IA generativa puede facilitar la difusión de narrativas de odio y contenidos falsos sobre el Holocausto, incluida la fabricación de testimonios o hechos inexistentes.² El Servicio Europeo de Acción Exterior subraya, por su parte, que estas herramientas permiten producir contenido manipulador con rapidez, a gran escala y a bajo coste.³

La novedad no consiste únicamente en que ahora podamos mentir con imágenes mejores. La humanidad no necesitó esperar a la inteligencia artificial para inventar la propaganda. La novedad está en la combinación de realismo, accesibilidad, velocidad y volumen. Una falsificación ya no requiere un estudio de producción, un equipo técnico y un presupuesto considerable. Puede crearse desde un ordenador y reproducirse de forma voraz mediante redes automatizadas.

Y existe un daño todavía más difícil de medir: no solo podemos creer verdadero lo falso; podemos empezar a desconfiar de todo lo verdadero. La mera sospecha de que una imagen, una voz o un texto hayan sido generados artificialmente erosiona la posibilidad de construir una realidad compartida. Nadia Naffi ha denominado este fenómeno una «crisis del conocimiento»: ver y escuchar ya no basta para creer.⁴

La respuesta europea: transparencia antes que adivinación

Ese es el contexto en el que debe entenderse el artículo 50 del Reglamento (UE) 2024/1689, conocido como Reglamento de Inteligencia Artificial. La norma no fue aprobada ayer: data de 2024. Sin embargo, sus obligaciones específicas de transparencia resultan aplicables desde el 2 de agosto de 2026.⁵ De ahí que el debate haya adquirido ahora una urgencia muy concreta.

La idea que sostiene el precepto es razonable: cuando no podemos confiar únicamente en nuestros sentidos para identificar el origen de un contenido, necesitamos información que nos permita hacerlo. El artículo 50 distribuye esa responsabilidad entre quienes proporcionan determinados sistemas de inteligencia artificial y quienes los utilizan profesionalmente.

En primer lugar, los proveedores de sistemas destinados a interactuar directamente con personas deben diseñarlos de forma que estas sepan que están tratando con una inteligencia artificial, salvo que resulte evidente para una persona razonablemente informada, atenta y prudente. Dicho de otro modo: un chatbot no debe fingir ser la amable señora que atiende personalmente detrás del mostrador si, en realidad, no hay señora ni mostrador.⁶

En segundo lugar, los proveedores de sistemas que generen contenidos sintéticos de audio, imagen, vídeo o texto deben garantizar que sus resultados incorporen un marcado legible por máquina que permita detectar que han sido generados o manipulados artificialmente. No se trata necesariamente de colocar un rótulo enorme sobre cada creación. Se trata de introducir señales técnicas eficaces, interoperables, robustas y fiables, en la medida en que sea técnicamente viable.⁷

En tercer lugar, quienes utilicen profesionalmente estos sistemas —el Reglamento los denomina «responsables del despliegue»— deben informar a las personas expuestas a sistemas de reconocimiento de emociones o categorización biométrica. También deben identificar los contenidos que constituyan una ultrafalsificación o deepfake. En las obras manifiestamente artísticas, creativas, satíricas o de ficción, la información puede ofrecerse de una manera que no estropee el disfrute de la obra. Europa no exige interrumpir una película cada treinta segundos para anunciar que el dragón no existe.

Finalmente, y este es el punto que ahora inquieta especialmente a escritores, periodistas, editoriales y autores de contenidos, el artículo 50.4 se ocupa de los textos generados o manipulados mediante inteligencia artificial que se publiquen con la finalidad de informar al público sobre asuntos de interés público.

Estos asuntos comprenden, entre otros, la política y los procesos democráticos, la Administración y los servicios públicos, la Administración de justicia, los derechos fundamentales, la seguridad y la salud públicas, la protección del medio ambiente, la seguridad de los consumidores y los desarrollos económicos, financieros, científicos o culturales que puedan resultar relevantes para el debate público.⁸

La obligación, sin embargo, no dice que toda persona que haya empleado una herramienta de inteligencia artificial deba marcar automáticamente su texto como «escrito por IA». El propio artículo establece una excepción cuando el contenido ha sido sometido a revisión humana o control editorial y una persona física o jurídica asume la responsabilidad editorial de la publicación.⁹

Las orientaciones de la Comisión aclaran que esa revisión debe ser sustantiva: ha de realizarla alguien con conocimiento y criterio profesional para examinar el contenido, comprobar la información, valorar las fuentes y aprobar, modificar o rechazar el texto. Una simple corrección ortográfica o gramatical no convierte por sí sola un texto generado por una máquina en una obra sometida a verdadero control editorial.¹⁰

La distinción importa. El objetivo de la norma es impedir el engaño, no obligarnos a enumerar cada herramienta digital que haya intervenido en el proceso de trabajo. Tampoco debe confundirse esta regulación de transparencia con la atribución de la autoría o con el régimen de propiedad intelectual. Son cuestiones relacionadas, pero jurídicamente distintas. El artículo 50 nos dice cuándo debe revelarse que un contenido ha sido generado o manipulado por IA; no decide por sí mismo quién es autor de una obra.

Los escritores bajo sospecha

El problema ha llegado, inevitablemente, al mundo de los escritores y las editoriales. Una persona se sienta, estudia, investiga, piensa, escribe y reescribe durante años. Cuando por fin enseña el resultado, descubre que la primera pregunta ya no siempre se refiere a lo que ha escrito, sino a quién —o qué— lo ha escrito realmente.

La sospecha es comprensible, pero puede llegar a resultar ofensiva para quienes trabajan seriamente con las palabras. Ahora se duda casi por sistema de cualquier texto bien construido.

Y la ironía es notable: algunas de las fórmulas que hoy se tachan de «frases de IA» son precisamente las expresiones estandarizadas que durante décadas se nos exigieron en los exámenes de Cambridge, Oxford, Goethe o Cervantes para demostrar que sabíamos escribir correctamente. Tal vez una parte del problema no sea que las personas escriban como máquinas, sino que llevamos mucho tiempo enseñándoles a escribir con patrones reconocibles.

El uso auxiliar de la inteligencia artificial ya forma parte de muchos procesos profesionales: traducción, localización de fuentes, comparación de documentos, transcripción, revisión ortográfica o gramatical, organización de datos y contraste de posibles estructuras. Que una herramienta participe en alguna de estas tareas no significa que haya concebido el argumento, adoptado las decisiones intelectuales o escrito la obra.

Conviene, por tanto, evitar dos extremos igualmente cómodos. El primero consiste en negar cualquier intervención de la IA para preservar una imagen romántica del autor a solas con su pluma. El segundo consiste en suponer que, si la IA intervino en algún momento, todo el resultado le pertenece. Entre ambos extremos existe un proceso de trabajo mucho más complejo.

Puedo hablar de él porque llevo años utilizando una cuenta personalizada de inteligencia artificial en materias muy distintas. Le he proporcionado contexto sobre mi actividad profesional, mi forma de razonar y mis preferencias de redacción. He aprendido a formular instrucciones cada vez más precisas. La IA conoce bastante bien mis proyectos y puede ser una ayuda extraordinaria. Pero conocer mi trabajo no significa pensar por mí. Mucho menos responder por mí. Ni escribir por mí.

Mi IA se parece más a una muy buena secretaria: rápida, eficiente, disponible y capaz de resolver en pocos minutos tareas que a mí me llevarían horas. Pero no es infalible. Y, por mucha información que acumule sobre mi trabajo, la secretaria no se convierte por ello en la autora de lo que yo pienso y escribo.

Mi gran ayudante, bajo supervisión casi persecutoria

Durante años he comprobado que la IA puede funcionar como un compañero de trabajo extraordinariamente rápido y, al mismo tiempo, tan falible como un ser humano. La comparación tiene incluso una pequeña injusticia para el compañero humano: normalmente, después de la tercera vez que le decimos «no hagas nada hasta que yo te confirme», deja de hacer cosas. La IA a veces no. ¡Vaya si puede ser testaruda!

Con hojas de cálculo, por ejemplo, la ayuda puede ser magnífica. Puede ordenar grandes cantidades de información, detectar patrones, proponer fórmulas, comparar listados o transformar en minutos una estructura que manualmente exigiría horas. Ahora bien, incluso ahí debo supervisar los resultados constantemente. La velocidad no elimina el error; a veces simplemente consigue que el error llegue antes.

También puede actuar como un maestro o un videotutorial en tiempo real. En lugar de obligarme a ver veinte minutos de explicación para encontrar el paso concreto que necesito, responde a mi duda, se adapta a lo que aparece en mi pantalla y me guía por el siguiente movimiento. En esos casos no sustituye mi aprendizaje: lo acompaña.

En el ámbito orquestal, en el que desarrollo mi actividad profesional, esa velocidad resulta especialmente útil para comparar repertorios y listados, organizar grandes cantidades de información, traducir correspondencia o estructurar datos. Pero la IA no conoce por sí sola el contexto artístico, institucional y humano en el que debe interpretarlos. Puede acelerar el trabajo; no puede asumir la decisión ni la responsabilidad.

No obstante, hay días en los que la cooperación adquiere tintes de comedia del absurdo. Durante la preparación de una imagen para uno de mis proyectos, mantuvimos una conversación que resumí (yo, no mi IA, pero ella misma la tachó de demencial, que conste) posteriormente así:

CONVERSACIÓN CON MI IA

No, hoy por hoy no escribe por mí

La escena resulta cómica, pero explica bastante bien la realidad del trabajo. La IA podía ser una herramienta útil, pero necesitaba una supervisión casi persecutoria.

En una revisión de texto me propuso, con la seguridad habitual, sustituir «en» por «en». Cuando yo comenté que resultaba irónico que la ley nos obligara a identificar el uso de la IA mientras ella cometía semejantes errores estúpidos, la propia máquina sugirió esta nota al pie: «La autora tuvo que vigilarla estrechamente porque confundía hasta “en” con “en”». Fuera de contexto parece una frase surrealista. Dentro de contexto, también.

El episodio más reciente es aún mejor. Le pedí que localizara una fotografía horizontal de una torre Jenga, un juego de mesa: solo la torre de piezas, sin personas ni casas y con una fuente que pudiera citarse. La IA buscó las palabras exactas, encontró una imagen titulada Jenga Tower, la presentó como candidata adecuada y me envió… la fotografía de un rascacielos americano. Había cumplido literalmente con la búsqueda y fracasado por completo en la tarea. No se le ocurrió mirar la imagen antes de recomendármela.

Eso, por cierto, pasa constantemente: ella me explica lo que debe hacer, pero después no lo hace. De ahí, una no puede fiarse de ninguna fuente que propone. Recomiendo encarecidamente a todos los autores revisarlas todas.

Mucho antes, cuando yo todavía creía que una inteligencia artificial podía construir por sí sola un texto extenso y profundo, a modo de prueba le facilité una cantidad ingente de información y unas instrucciones detalladas. Esperaba recibir unas cincuenta páginas bien estructuradas. El resultado fueron tres párrafos con la profundidad que cabría esperar de un niño de diez años especialmente apurado por terminar los deberes.

También me acuerdo de un artículo de hace años que versaba sobre diferentes festivales: había pedido un borrador a la IA y lo que me mandó repetía en la estructura lingüística para cada festival las mismas frases. Para colmar el vaso, todos los párrafos empezaron con las mismas palabras.

No. Así no funciona.

Aquel fracaso fue enormemente instructivo. Comprendí que no podía depositar una montaña de información en una máquina y esperar que de ella saliera un razonamiento sostenido, con una voz reconocible, decisiones conscientes y verdadera responsabilidad intelectual. Pero había que probarlo. Si todos se ponen tan nerviosos tenía que verlo por mis propios ojos. Y por el momento vi solamente un bodrio.

A la IA, hoy por hoy, hay que servirle las cositas en raciones pequeñas si no se traba, alucina, inventa cosas o simplemente te vuelve loca. Ya con eso dejo más que claro que la IA —aún— no escribe libros enteros. Ni artículos, al menos no artículos que pasen mi control de calidad.

Una IA puede generar hoy cantidades enormes de texto y es previsible que sus capacidades sigan aumentando. También puede elaborar borradores razonablemente ordenados. Pero producir palabras no equivale a pensar, seleccionar, descartar, sostener una idea y responder públicamente por el resultado.

No lo afirmo desde la necesidad de esconder una herramienta, sino precisamente desde el conocimiento de cuánto trabajo exige utilizarla bien. Mucho, mucho.

No nos vamos a escapar. Afortunadamente.

No nos vamos a escapar del uso de la inteligencia artificial. Tampoco creo que debamos hacerlo. Nos permite trabajar con una rapidez antes impensable, acceder a explicaciones adaptadas a nuestras dudas, comparar información, automatizar tareas repetitivas y dedicar más tiempo a aquello que requiere verdaderamente nuestra atención. Renunciar a esas posibilidades por miedo sería tan poco razonable como utilizarlas sin criterio por entusiasmo.

La solución no está en elegir entre aceptación ciega y rechazo absoluto. Está en aprender a utilizar estas herramientas, conocer sus límites y establecer responsabilidades claras. Precisamente por eso resulta importante el artículo 50: no porque pueda resolver todas las cuestiones sobre verdad, autoría o propiedad intelectual, sino porque introduce una obligación elemental en un entorno en el que nuestros sentidos ya no bastan. Debemos poder saber cuándo interactuamos con una máquina y cuándo el contenido al que estamos expuestos ha sido fabricado o alterado por ella.

Para los autores, la respuesta tampoco puede consistir en volver sospechoso cualquier uso de la IA. Mi vida ha cambiado sustancialmente desde que ya no me tengo que traducir a mí misma porque me lo hace la IA y desde que puedo hablar con “alguien” en varios idiomas a la vez. No se imaginen el alivio si no se te ocurre una palabra determinada, pero la sabes en otro idioma y a la IA le da igual. Lo entiende.

Ojo: incluso ahí todavía queda camino por recorrer. En inglés, evidentemente, está muy hábil, pero con alemán, por ejemplo, surgen una y otra vez otras curiosidades que darían para otro artículo.

Hay una diferencia sustancial entre pedir a una herramienta que genere un texto que nadie revisa o utilizarla para traducir, localizar fuentes, detectar una errata, discutir una estructura o comprobar una tabla. Hay también una diferencia entre aceptar un resultado automáticamente y someterlo a un control editorial exhaustivo real, realizado por una persona con conocimiento suficiente para aprobarlo, modificarlo o rechazarlo.

La transparencia es necesaria. Pero debe ser una transparencia inteligente, capaz de distinguir entre creación, manipulación y asistencia. Si no hacemos esa distinción, corremos el riesgo de desacreditar el trabajo auténtico sin frenar el contenido realmente engañoso.

La inteligencia artificial no elimina la necesidad de conocimiento, criterio o responsabilidad. Al contrario: cuanto más capaz y rápida sea la herramienta, más importantes se vuelven los tres. Por ahora, no supera al ser humano en aquello que exige juicio, contexto y responsabilidad. Lo supera en velocidad cuando el proceso puede mecanizarse. Puede ser una gran ayudante, una maestra paciente, un tutorial interactivo y un compañero de trabajo extraordinariamente veloz. Pero sigue siendo un compañero al que conviene mirar de cerca.

Muy de cerca. En determinados días, incluso de una manera casi persecutoria.

Mi IA no escribe por mí. Me ayuda a trabajar y, en determinadas tareas, me hace muchísimo más rápida. La diferencia es sustancial. Yo pienso, selecciono, corrijo, decido y respondo. Ella ejecuta y, según la forma del día, me trae la fotografía de un rascacielos cuando le he pedido una de un juego de mesa, confunde “en” con “en” y reconoce que su propia forma de trabajar es todavía y muchas veces demencial.

Y sí, este artículo está escrito con la ayuda de una IA.

Nicole Martín Medina

El Paso de La Palma

Agosto 2026

Notas

1. Servicio de Estudios del Parlamento Europeo, Information Manipulation in the Age of Generative Artificial Intelligence, Briefing, 12 de diciembre de 2025, con referencia a los audios falsos difundidos antes de las elecciones eslovacas de 2023. Disponible en:

https://www.europarl.europa.eu/thinktank/es/document/EPRS_BRI%282025%29779259?utm_source=chatgpt.com

2. UNESCO, New UNESCO report warns that Generative AI threatens Holocaust memory, 18 de junio de 2024: https://www.unesco.org/en/articles/new-unesco-report-warns-generative-ai-threatens-holocaust-memory
3. Servicio Europeo de Acción Exterior, intervención en la Conferencia 2026 sobre la lucha contra la manipulación e injerencia informativa extranjera: https://www.eeas.europa.eu/eeas/keynote-speech-hrvp-kaja-kallas-2026-conference-countering-foreign-information-manipulation-and_en
4. UNESCO, Deepfakes and the crisis of knowing, 2025: https://www.unesco.org/en/articles/deepfakes-and-crisis-knowing
5. Reglamento (UE) 2024/1689, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial; artículo 50. Las obligaciones de este precepto son aplicables desde el 2 de agosto de 2026: https://eur-lex.europa.eu/eli/reg/2024/1689/oj
6. Artículo 50.1 del Reglamento (UE) 2024/1689. Véanse también las Directrices de la Comisión sobre las obligaciones de transparencia: https://digital-strategy.ec.europa.eu/en/policies/guidelines-ai-transparency-obligations
7. Artículo 50.2 del Reglamento (UE) 2024/1689. Para los sistemas comercializados antes del 2 de agosto de 2026 se prevé un periodo limitado hasta el 2 de diciembre de 2026 respecto del marcado y la detección de contenidos.
8. Comisión Europea, «Transparency obligations under Article 50 of the AI Act», apartado «What AI-generated or manipulated text must deployers clearly label?», actualizado el 24 de julio de 2026: https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act?utm_source=chatgpt.com
9. Reglamento (UE) 2024/1689, cit., art. 50.4. La obligación de informar no se aplica cuando el contenido generado o manipulado por IA haya sido sometido a «un proceso de revisión humana o control editorial» y una persona física o jurídica ostente la responsabilidad editorial de su publicación.
10. Comisión Europea, «Transparency obligations under Article 50 of the AI Act», apartado «What constitutes the human review or editorial control/responsibility required to qualify for an exemption from the labelling obligation?», actualizado el 24 de julio de 2026: explicación sobre revisión humana, control editorial y responsabilidad editorial. Las comprobaciones meramente formales, ortográficas o gramaticales no constituyen por sí solas revisiones sustantivas. https://digital-strategy.ec.europa.eu/en/faqs/transparency-obligations-under-article-50-ai-act?utm_source=chatgpt.com

*****

Tengan en cuenta: 

Este artículo está también disponible en: 

INGLÉS: https://nicolemartinmedina.com/en/artificial_intelligence_and_art-50/
ALEMÁN:  https://nicolemartinmedina.com/de/kuenstliche_intelligenz-und_art-50/