Las últimas semanas e ha desatado la polémica tras la prohibición de que ChatGPT opere en Italia. Desde Cambia-Partido del Clima decimos que aunque ChatGPT tiene el potencial de ser una herramienta valiosa, también plantea desafíos éticos y prácticos que deben ser abordados con cuidado, de manera que esta tecnología se utilice de manera ética, responsable y sostenible. Comencemos con algunas preguntas básicas.
¿Qué es ChatGPT?
ChatGPT se lanzó el 30 de noviembre de 2022 y es un modelo de lenguaje natural basado en inteligencia artificial, entrenado en una gran cantidad de datos de texto para comprender el lenguaje humano y generar respuestas coherentes. Es capaz de conversar con las personas en diversos temas y puede proporcionar respuestas contextuales.
¿Cómo funciona?
ChatGPT tiene un modelo del tipo de cosas que la gente tiende a escribir, lo que lo hace increíblemente creíble. Se puede decir que lo que ha aprendido es a parecer creíble.
El algoritmo jerarquiza los temas y las conversaciones a las que tiene acceso a través de internet. Para ello ofrece en la respuesta una suerte de jerarquía basada en la hegemonía cultural dominante en la sociedad. Es como si sus respuestas fueran el resultado de una batalla ideológica.
¿Qué cosas no puede hacer ChatGPT?
Preguntamos al Chat GPT que no podía hacer y esta fue su respuesta: «Aunque es capaz de comprender muchos temas, no puede entender todo lo que se le pregunta, y puede tener dificultades para responder preguntas fuera de su ámbito de conocimiento. ChatGPT no es consciente de la realidad y puede proporcionar información incorrecta o imprecisa. No tiene emociones o sentimientos. En general, ChatGPT es una herramienta muy útil para muchas tareas pero todavía tiene limitaciones en cuanto a lo que puede hacer.»
¿Qué está pasando con la IA?
Primera y principal. Hay una vertiginosa carrera entre las empresas que las desarrollan por sacar versiones nuevas y más potentes y dominar el mercado, por lo que no podemos dejar su desarrollo al arbitrio del mercado sin establecer una regulación protectora.
Bank of America asegura que en siete años la IA aportará 15,7 billones de dólares a la economía mundial, más que el PIB de la UE de un año.
Hay, sin embargo, hay preocupaciones sobre los riesgos profundos que la IA puede suponer para la sociedad y la humanidad.
¿Que posiciones hay en el mundo respecto a esta tecnología?
Hay distintas posiciones respecto a este tipo de tecnología. Por un lado, hay quienes ven a ChatGPT como una herramienta muy útil para simplificar y automatizar diversas tareas, desde el procesamiento de lenguaje natural hasta la creación de contenido. Por otro lado, hay quienes se preocupan por el impacto que este tipo de tecnología podría tener en el empleo y la privacidad de los usuarios.
En Europa
Italia ya ha bloqueado ChatGPT por considerar que no respeta la ley de protección de datos de los consumidores y que la plataforma recoge datos de los usuarios de forma ilegal y por la ausencia de filtros para verificar la edad de los usuarios. Dicha prohibición se levantará cuando se demuestre que cumple con las normas italianas de privacidad.
España a través de su Agencia de Protección de Datos (AEPD), ha anunciado que investigará de oficio ChatGPT en colaboración con otros socios europeos. Y junto con Italia han solicitado en el Comité Europeo de Protección de Datos que se trate la posible regulación de sistemas de inteligencia artificial generativa a nivel europeo.
Alemania ya estudia posibles violaciones de ChatGPT al Reglamento general de protección de datos de la UE. Aunque en ese país, no todos, creen que la prohibición es la mejor solución. El Ministro de Transporte e Infraestructuras Digitales ha declarado que «no necesitamos una prohibición de las aplicaciones de IA, sino formas de garantizar valores como la democracia y la transparencia».
Francia e Irlanda se comunicaron con sus homólogos en Italia para obtener más información sobre los motivos de la prohibición. Ministro de Transición Digital y Telecomunicaciones francés, ha comentado que el plan de su país es dominar esta tecnología.
Suecia no tienen previsto abrir investigaciones, por lo menos hasta que los usuarios presenten quejas contra esta tecnología.
En EE.UU.
A pesar de ser una de las potencias más avanzadas en inteligencia artificial, Washington no ha cerrado su Carta de Derechos de la IA. Según los expertos, esto podría tener consecuencias nefastas. «Al no establecer barreras, los responsables políticos están creando las condiciones para una carrera hacia el abismo de la inteligencia artificial irresponsable».
En China
China apoya la innovación en este campo, pero el contenido generado debe estar en línea con los valores socialistas centrales del país.
En otros países
En países como, Rusia, Irán y partes de África el acceso al servicio está limitado.
En países como Estonia los ciudadanos tienen acceso a la información de cuándo y cómo se emplean sus datos.
LOS PELIGROS
Un grupo de expertos firmó hace algunas semanas una carta abierta que pide ralentizar el desarrollo e implementación de la IA para gestionar y controlar adecuadamente los riesgos.
Algunos de los riesgos que mencionan son: la manipulación informativa, el desarrollo armamentístico, la pérdida de puestos de trabajo y el mal funcionamiento, la vigilancia masiva o dirigir el el comportamiento en relación al consumo.
La posición de Cambia-Partido del Clima
La inteligencia artificial (IA) puede tener un impacto significativo en la democracia y la libertad, tanto positivo como negativo, dependiendo de como sea usada y de los controles y límites que establezcamos, como decíamos al principio de esta entrada.
Esta tecnología puede ser utilizada para ayudar a los gobiernos a tomar decisiones más informadas. Pero al tener la capacidad de analizar grandes conjuntos de datos y predecir patrones de comportamiento, la misma tecnología también puede ser utilizada para la vigilancia masiva y el castigo (como ocurre en China), lo que socavaría la privacidad y las libertades civiles y la sostenibilidad.
Es necesario, por tanto, establecer regulaciones claras para la recopilación, el almacenamiento y el uso de datos, y fomentar el acceso a la información. Además, es crucial que las decisiones políticas y sociales sean tomadas en base a valores éticos y principios democráticos, en lugar de intereses económicos o ideológicos. La sostenibilidad y el principio de precaución tienen que ser principios rectores.
Coincidiendo con muchos expertos, desde Cambia-Partido del Clima proponemos algunas soluciones para regular la inteligencia artificial generativa y poder aprovechar su potencial sin ponernos en riesgo:
- Crear estándares de certificación criptográfica para autenticar cualquier contenido capturado por cámaras y micrófonos digitales, para establecer una línea básica de certeza que, como mínimo, permita a las personas tener la seguridad de que lo que están oyendo o viendo es real y evitar diseminación de noticias falsas o las estafas de gente haciéndose pasar por otra, que ya se están produciendo.
- Programas de comunicación para que el público comprenda el alcance de la inteligencia artificial generativa. Las personas deben aprender para poder defenderse contra nuevas falsificaciones audiovisuales.
- Crear una legislación que proteja los derechos individuales, estableciendo límites penales para tratar de frenar el uso tóxico de esta tecnología.
- Usar la tecnología para el bien común y no solo para generar beneficio económico.
Francisco Soler
Co-Portavoz
Cambia-Partido del Clima
