-El Expediente: Doctor Puccinelli, muchas gracias por atender a El Expediente en el marco del Foro Compliance_V en Bogotá. Oscar Raul Puccinelli es un académico de la Universidad Nacional de Rosario de Argentina y un experto en el tema del compliance, que es el asunto central en el foro que organiza la firma del jurista Juan Carlos Moncada.
Bueno doctor Puccinelli, me llama la atención que su intervención fue sobre libertad de prensa y la primera pregunta es: ¿qué tiene que ver la libertad de prensa con el compliance?
-Óscar Raúl Puccinelli: Bueno, en realidad fue un poco más amplio porque era libertad de expresión que incluye libertad de prensa. Normalmente en la prensa hay prensa pública y prensa privada, digamos, en medios de comunicación públicos y privados. Desde luego en ambos casos deben cumplir con normas y reglas que son obligatorias en materia de radiodifusión. Eso es un punto que no es el que yo abordé. Es decir, hay una relación entre compliance y libertad de expresión y medios de prensa o medios en libertad de expresión en general.
A lo que yo me referí fundamentalmente fue a los conflictos que se generan también en los medios de prensa y en otros medios de difusión, o digamos en redes sociales donde, digamos, no solamente se difunden noticias falsas o fake news, sino que puede haber situaciones donde se publican discursos de odio, discursos peligrosos, es decir, las situaciones donde hay un conflicto entre esa libertad de expresión que, según la Convención Americana sobre Derechos Humanos, Pacto de San José, Costa Rica, entraña en la prensa responsabilidades especiales.
Y ahí yo enfatizo en esto, porque incluso hay otros temas sumamente importantes que hacen a la libertad de expresión que tienen que ver con el derecho al olvido, que ya lo hemos tratado en anteriores oportunidades y con algo que se está acentuando muy aceleradamente ahora. Y a esto contribuyen también, las nuevas tecnologías, especialmente la tecnología, la inteligencia artificial generativa, que es la cultura de la cancelación, donde muchas veces por desconocimiento, otras veces por apresuramiento, porque alguien, como nosotros decimos en Argentina, “se come la curva”, de una noticia en el sentido que ve un video y cree que es cierto y valida esa esa información la hace pública y una persona queda cancelada en la opinión pública prácticamente por noticias que son finalmente falsas o por lo menos discutibles. Cuando uno entra en el ámbito de lo discutible, siempre predomina la libertad de expresión, sobre todo cuando hablamos de algo que es opinable.
-EE: ¿Siempre debe predominar la libertad de expresión?
-ORP: Exactamente. Cuando hay algo opinable predomina la libertad de expresión, pero cuando algo es notoriamente falso.
Ahí entran distintas variables. Una de esas variables es la censura o una intervención atenuada, por ejemplo, sobre todo, cuando tiene una gravedad inusitada. La consecuencia de la expresión. Doy un ejemplo claro en el ámbito del COVID, cuando sale el COVID, presidentes de dos repúblicas, Guatemala y del Brasil, alcaldes, incluso lo más grave, personal de salud, digamos de altas responsabilidades, informaron falsedades que llevaban a la población, por ejemplo, a que la ivermectina curaba el COVID, que llevaron a la población a no vacunarse.
Más allá de que es una decisión individual vacunarse o no,esto llevaba a la muerte y generaba un problema de salud pública, porque con toda la razón del mundo muchas personas trataban de evitar vacunarse en el sentido que las vacunas siguen estando todavía hoy en una etapa avanzada pero experimental. Es decir, no han tenido el tiempo necesario para conocer todas las consecuencias que pueden traer. Y algunos pueden decir prefiero no tratar de no contagiarme el COVID, pero eventualmente, si me toca, veré qué pasa, pero no correr el riesgo de que esta vacuna el día de mañana me produzca tal o cual enfermedad.
Entonces, a lo que yo aludía hacer fundamentalmente fue a estas situaciones donde se publican noticias falsas. Vamos a poner o se utilizan noticias falsas para fines que esto ha motivado declaraciones conjuntas de los relatores libertad de expresión de la ONU, de la OEA y de la Carta Africana. Por ejemplo, en materia de fake news, y sobre todo en tiempos electorales, a partir de las consecuencias del escándalo Facebook y Cambridge Analytica con la elección de Trump.Es decir, estamos en un momento donde es sumamente difícil. Antes era uno. Lo que tenía que hacer era descubrir lo falso y descubrir lo falso no era muy difícil porque las tecnologías de inteligencia generativa no estaban al nivel que están hoy. Por lo tanto, uno podía rápidamente darse cuenta que ese video era falso. Hoy es casi imposible advertir un video falso. Uno se puede generar además un video no solo por superposición de caras, sino por generación absoluta del discurso. Y obviamente no solamente la palabra, sino el video con la copia exacta de la voz. Con lo cual hoy lo difícil es desentrañar que los verdaderos antes era difícil, pero no imposible o falso. Hoy es difícil determinar lo verdadero. Entonces estamos en un punto donde la libertad de expresión está bajo la lupa y sobre todo el uso de esa libertad de expresión, cuando no es responsable, genera muchos más daños que lo que generaba antes. Sobre todo, porque,además, ya desde hace un tiempo no es actual, ya tiene unos 20 años.
Cuando los buscadores de Internet utilizan inteligencia artificial para posicionar las noticias, aquel que tiene una noticia que es conmocionante, aun siendo falsa o altamente discutible, siempre ocupa los primeros lugares en los resultados de búsqueda. Por lo tanto, todo esto, cuando un periodista o un bloguero, hablemos periodistas en términos generales, no cualquier persona, un influencer puede no ser especialista en el tema del cual se trata, sino alguien que tiene una influencia publica, habla, juzga, aporta, tiene un altísima responsabilidad, mucho mayor que la que se teníacuando en 1969 se adopta el Pacto de San José, Costa Rica, donde no había medios digitales.
Entonces de lo que se trata el tema es de ir encontrando soluciones. Por ejemplo, en el ámbito de las noticias del COVID, todas las plataformas, por supuesto Facebook, YouTube, Instagram, Twitter adoptaron medidas de etiquetado, por ejemplo, incluso de cancelación de cuentas. Y esto se aplica también a los discursos peligrosos, no solo los del odio, sino los peligrosos. La diferencia entre uno y otro es que el discurso peligroso generalmente es también del odio, pero es el que genera una acción ilegal, una reacción popular, como ocurrió en el caso de Trump, cuando lo del Capitolio, que allí le cancelaron la cuenta siendo presidente de la República.
Por lo tanto, se ven medidas extremas que por violación de políticas de uso no es cierto en este caso, pero que están justificadas y que hay que tratar de evaluarlas con la máxima, eh, digamos con el máximo cuidado, porque repito, la libertad de expresión, es la libertad preferida y es la que menos se debe dentro de todas las restringir es la que menos se debe restringir. Pero hay situaciones excepcionales que hoy se agudizan con la tecnología de la información, la evolución extraordinaria y sobre todo con la nuevaChatGPT, etcétera Y los otros medios que son para publicación de videos que se han hecho en estos últimos años, que generan todo un nuevo cosmos que incluso los propios creadores de esa tecnología están pidiendo que lo regulen por temor a lo que puede generar esa tecnología que han le han brindado a la sociedad.
Ese es un poco lo de lo que se trató ayer la exposición.
-EE: ¿Cree usted entonces que se debe regular la libertad de expresión?
-ORP: La libertad tiene ya una regulación. Lo que ocurre es que hay responsabilidades individuales, hay responsabilidades empresariales. Ahí viene lo del compliance. Hay responsabilidades del Estado en cuanto a modular los límites. La libertad de expresión no es que no tenga límites, tiene escasos límites, pero esos escasos límites hay que ponerlos. Y hay discursos.
-EE: Qué son los discursos del odio y los discursos peligrosos…
-ORP: Por supuesto. Sí.
-EE: ¿Qué es un discurso de odio?
-ORP: Un discurso de odio es aquel que básicamente fomenta la discriminación.
Es decir, hay que matar a todos los judíos. Yo digo “hay que matar a todos los judíos”, es un discurso de odio porque es un discurso antisemita, pero yo no estoy dando herramientas para que maten a todos los judíos. En cambio, el discurso peligroso es: “mañana hay una congregación de judíos en tal lugar. Vamos a atacarlos”, eso ya es un discurso peligroso.
-EE: ¿Y no cree que mediante esa vara, mediante ese rasero del discurso del odio, se puede terminar censurando expresiones que no necesariamente sean discursos del odio?
-ORP: Eso está cubierto por la libertad de expresión.
-EE: Pero muchas veces los catalogan como discurso del odio…
-ORP: Bueno, ahí está el problema, quien cataloga y quien ejerce la acción. Por eso es muy importante establecer estándares y establecer estándares requiere de cierta profesionalización. Entonces, uno puede buscar en la jurisprudencia, por ejemplo, el Tribunal Constitucional alemán, que es muy rica en materia de discurso del odio y peligroso, puede buscar en la jurisprudencia del Tribunal Europeo de Derechos Humanos, que son han tenido innumerables casos donde han resuelto sobre esta, utilizando la ponderación.
El Tribunal alemán utiliza la técnica de la ponderación que de alguna manera es conocida por Robert Alexy. Y esa técnica, la ponderación, lleva a que haya situaciones donde una expresión no alcanza, o sea, porque una cosa es el discurso ofensivo, el discurso ofensivo es ofensivo y tiene una sanción. Si yo ofendo a alguien, tendré una condena civil o una condena penal si yo ofendo. Pero si yo incurro en un discurso del odio o peligroso, tengo que tener una barrera, que no permita que eso trascienda de manera tal que genere una reacción popular contra, sobre todo en los grupos vulnerables. Esa sería la cuestión Por qué le digo que tiene que ser claro, pero tiene que ser claro, indudable. Cuando hay duda, no se puede censurar.
-EE: A veces es muy subjetivo el tema del discurso del odio o el discurso peligroso como uste lo llama. Y en Colombia tenemos un ejemplo muy puntual y es el de la vicepresidente Francia Márquez. A ella, los medios de comunicación y los ciudadanos le hacen veeduría, le hacen críticas y ella siempre responde que hay un discurso de odio o un discurso racista en su contra.
-ORP: Pero eso no es necesariamente cierto.
-EE: Es decir, no es cierto, pero, ¿cómo o quién regula y quién dice si es cierto, si es un discurso de odio, si no, o si la publicación está amparada por la libertad de prensa o no?
-ORP: Claro, eso lo va a tener que resolver el tribunal y sobre todo el, digamos, el tribunal tuperior de cada país. En este caso será o la Corte Suprema, el Tribunal o la Corte Constitucional, que entiendo que la corte nacional tiene jurisprudencia suficiente en materia de libertad de expresión. Pero cuando hablamos de funcionarios públicos, el derecho de crítica siempre es mucho más amplio. Y esto del discurso, el discurso peligroso, es utilizado mucho por los políticos para de alguna manera minimizar la crítica. Pero eso la gente lo entiende, es decir, que a mí me diga una presidenta que la atacan, por ejemplo, si la presidenta hubiese robado y le dicen es una ladrona, y ella dice que es discurso del odio. ¿Y por qué? Porque soy mujer. Bueno, eso no lo cree nadie. Si es ladrona, es ladrona. O sea, ahora, si le dicen: usted no puede ser vicepresidenta porque por su condición de mujer es inferior, ahí si eso es un claro discurso del odio, porque está atacando genéricamente a un grupo que tiene una protección constitucional especial, que es la mujer y sobre todo hoy con la problemática de género. Ahí si ya ese discurso encierra un discurso de odio no peligroso, porque no dicen bueno, ahora vamos a matarla porque no puede estar ahí, ¿no es cierto? Pero sí es cierto que, hay una línea que es muy gruesa. La línea gris que es muy gruesa, que hay que tratar de achicar lo máximo posible, pero cuando hay funcionarios públicos, yo creo que la gente no se come,como decimos “no se come la curva”. Cuando alguien dice,no esto porque soy mujer y en realidad es porque robó, nadie se come ese discurso que es una persecución de género.
-EE: ¿Cómo podemos aprovechar los periodistas y los medios de comunicación esas herramientas?
-ORP: Bueno, ahí hay un tema sectorial importante, creo que para el periodismo más que por ejemplo de la judicatura en mi caso, estas herramientas de inteligencia artificial que ya van, por ejemplo, el ChatGPT va por el 4 y seguirán habiendo ediciones, son herramientas muy útiles, lo que pasaes que si bien todavía lo han mejorado las tres lecciones desde la primera o sea respecto a las revisiones anteriores se ha mejorado en cuanto a sesgos, en cuanto errores repeticiones, etc. El único problema que tiene, es un uso responsable de cerramientos requeriría, como tiene que hacer todo periodista, el chequeo de que esto que le está diciendo ChatGPT tiene una un respaldo, una verificación adicional,porque hay errores, hay sesgos, además, hay otra realidad y es que ChtGPT trabaja con el material que ya le han incorporado que no es hasta hoy; entonces, uno puede hacer una pregunta pero esa pregunta puede haber quedado superada por hechos posteriores que no están incorporados en el sistema, no lo va a informar, entonces uno como periodista tiene la obligación de primero saber desde cuando está la información y dónde, cuál es la fuente de esa información, está publicado de dónde con que lo habráninventado una de ser Wikipedia, por ejemplo, hay muchasotras enciclopedias que han incorporado, pero uno tiene que saber de dónde sale el resultado. Lo que hace ChatGPT es predecir palabras nada más, no es una máquina que razone,lo que hace es predecir palabras con las palabras más próximas que pueden llegar a salir en un lenguaje natural y armar un discurso, ese armado, es un armado azaroso hasta en el sentido de qué como repite y como dije antes, hay por supuesto un solo input pero que está agotado; entonces, al estar agotado no tiene que ver si las fuentes son suficientes o son insuficientes, pero creo que es sumamente útil y que en algún momento es probable que se vaya alimentando en tiempo real, hoy no.
-EE: La pregunta contraria: ¿también es una amenaza para los grandes medios de comunicación y la gente que allí trabaja?
-ORP: Siempre, siempre hay amenaza del puesto de trabajo,en cualquier tecnología que se ha inventado la humanidad ha generado amenazas sobre el puesto de trabajo, eso es inevitable, lo que hay que hacer es simplemente advertiruno, cuando de alguna manera está regulando esto, si yo soy el Estado, advertir que esto que consecuencia social va a traer y de qué manera el Estado puede intervenir para ayudar a compensar esas consecuencias ahí estaría el problema,pero si es cierto que puede haber cierto, imagino alguien que tiene un medio comunicación pequeño y que no tiene dinero para pagar a reporteros, o a periodista, utilizará en el ChatGPT pero creo que el resultado final de esa publicación no va a poder igualar a otra que tenga un reporte de un periodista que pueda no solamente chequear, porque digamos la redacción es buena es mejor cada vez más precisa, por supuesto no tiene errores que hemos visto en medios de comunicación errores de ortografía etc. no eso también es bueno; pero digo, me parece que eso que esté bien redactado no es suficiente para decir la verdad es que este es un producto de excelencia eso lo puede dar un reportero. Lo digo como una sentencia, ChatGPT me puede resolver un caso, pero no va a ser resultado excelencia que tendría cierto, controlado por un juez entrenado que a lo mejor ChatGPT habrá descubierto algo más que él no sabía,pero él podrá aportar algo a la solución que por ahí ChatGPTno tuvo en condiciones de ponderar.
-EE: Y creo que nunca va a poder humanizar la noticia y ese es el gran reto de los periodistas, ponerle rostro a las noticias, acercar los hechos noticiosos a los seres humanos a la vida cotidiana y conectar con reportajes y con sentimientos del lector.
-ORP: El tema del sentimiento muy importante porque hoy,la inteligencia artificial “tokeniza” las cosas, ¿qué quiere decir esto? que le pone un número, eso es un token, un árbol es un token pero no puede representarse lo que es un árbol y tampoco puede representarse lo que es un sentimiento, puede saber que existe un sentimiento pero no lo puede modularhoy, tal vez en tiempo podría hacerlo y eso solamente lo puede hacer un ser un ser humano. O sea, hay cosas que no se van a poder reemplazar, va a poder lograrse un periódico que informe sí, pero no tendrá la calidad que tendrá otro que tengo un periodista.
-EE: Sobre compliance específicamente, ¿los medios de comunicación podríamos o deberíamos implementar un programa de compliance que garantizará además de procesos administrativos, rigor periodístico, es decir, ¿el compliancepuede servir también para que la noticia que salga sea la más verificada posible?
-ORP: Exacto, eso y cumplimiento de los estándares, como una actividad de la más libre del periodismo los términos en los cuales uno normatiza el compliance de manera interna, son más laxos, pero eso no quiere que no deba tenerlos, que sean laxos o no, pero además, todo eso que uno normatiza de alguna manera tiene un respaldo después en actividades y además bueno lo que es la jurisprudencia que está diciendo que esto es de esta calidad.
-EE: ¿Pero eso lo hacen internamente los medios de comunicación?
-ORP: Deben hacerlo.
-EE: ¿Conoce alguno que tenga un buen programa compliance implementado?
-ORP: No lo sé, no he tratado el tema de los medios de comunicación en cuanto a programas internos de compliance, entiendo que lo deben tener, las grandes empresas deben tener alguno, sobre todo, sirven para darle reglas mínimas a los empleados, ¿no? Que, en definitiva, un periodista termina siendo un empleado jerarquizado de medio comunicación, entonces, ese periodista debe tener las pautas escritas, por lo menos, aunque sean laxas, mínimas,porque la libertad expresión es de las preferida pero mínimamente, un protocolo mínimo para llegar a un resultado que es la noticia que nos proporciona.
