En este HEDYTalk tenemos hoy la oportunidad de hablar sobre
gobernanza de la inteligencia artificial y tenemos aquí con
nosotros a la doctora Queralt Prat.
Doctora en Filosofía por la Copenhagen Business School i
doctora en Management por ESADE.
La inteligencia artificial está en todas partes.
Lo tenemos clarísimo en nuestro día a día, en nuestra sociedad.
Todos nos movemos rodeados de inteligencia artificial.
Mi pregunta primera Queralt es: ¿cómo se gobierna?
¿Qué significa la gobernanza de la inteligencia artificial?
¿Qué entendemos por gobernanza de la IA?
Pues la gobernanza de la IA lo que pretende es sobre todo, incrementar, maximizar los
beneficios de estos sistemas inteligentes y, al mismo tiempo, minimizar los riesgos.
Lo que nos ocurre hoy en día, es qué las capacidades de esta tecnología va
creciendo, con su capacidad, con su escalabilidad, con su interacción
con muchos sistemas de funcionamiento de nuestra sociedad y al mismo tiempo,
la gobernanza que tenemos de la IA no está desarrollada, no está teorizada.
O sea, no nos hemos puesto suficientemente rápido de cómo la tecnología
esta tecnología está avanzando. Al mismo tiempo para asegurarnos de que
nuestra sociedad sea un éxito, que podamos beneficiarnos de la inteligencia artificial,
debemos hacer que la parte tecnológica esté desarrollada, pero
también la parte de la gobernanza.
Sin estos dos pilares,
no conseguiremos que la inteligencia artificial sea
un éxito en nuestra sociedad.
¿Podemos hablar de diferentes estilos de gobernanza de la
inteligencia artificial?
Si claro, existe una tendencia a pensar que la inteligencia artificial es
otra tecnología a regular.
Pero la inteligencia artificial tiene unas capacidades de interpretar
patrones, aprender, tomar decisiones y adaptarse a contextos
muy diferentes que hace que sea una super tecnología, como si dijéramos,
que transforma completamente nuestra forma de trabajar, de relacionarnos
y, en definitiva, nuestra sociedad.
Por tanto, su impacto es muy grande.
Ya se ha empezado y ya empezamos a ver distintos estilos de gobernanza de la IA.
Por ejemplo, tenemos el caso de Estados Unidos, donde allí está dominado básicamente
por empresas privadas que orientan el desarrollo tecnológico y
la orientación de esta tecnología.
Y al mismo tiempo hay muy poca regulación por parte del gobierno
o no existe directamente ninguna regulación.
Éste sería un extremo de la gobernanza de la IA que vemos actualmente que está
pasando a Estados Unidos y al otro lado donde hay más intervención de
el Estado, sería, por ejemplo China.
En China, el gobierno decide
qué se financia.
Qué empresas realizan los desarrollos.
Cómo se orientan.
Monitoriza a las empresas.
Y las empresas siguen las indicaciones de gobernanza del gobierno chino.
Aquí vemos los dos polos.
Podemos ir un poco más a fondo sobre la gobernanza, ¿qué es
lo que se está haciendo en Europa?
¿Qué podemos esperar?
Yo diría que Europa está a un nivel entre Estados Unidos y China.
Aún estamos intentando entender estas tecnologías, que aportan estos sistemas
inteligentes, estamos comenzando a regular.
De hecho, en el año 23/24 habrá, prevemos, una reglamentación específica
por la inteligencia artificial.
Y lo que debemos asegurarnos es que esta regulación sea equilibrada
de tal modo que de alguna manera regule los sistemas inteligentes para,
al mismo tiempo, también fomentar su implementación y desarrollo.
Es esta dificultad que debemos ver cómo se acaba, cómo se acaba haciendo.
Uno de las preocupaciones que tenemos ahora, mirando lo que se está haciendo,
los preliminares de esta nueva regulación, es el hecho de que existe un
enfoque claro y muy significativo en lo que son los principios éticos.
Principios éticos de la IA más regulación y esto podría ser un problema.
Cuéntanos un poco más
el tema de los principios éticos. ¿Qué es lo que en realidad estamos esperando
con respeto a los principios éticos de esta gobernanza de la IA?
Sí, lo que nos ocurre hoy en día, claro que miramos las regulaciones que hemos tenido hasta
ahora y más o menos han funcionado. Lo que ocurre es que, como los sistemas
inteligentes son cada vez más potentes,
lo que prevemos, es que con principios éticos no será suficiente o sea
enfocarse en principios éticos y en sanciones, que es la idea que hay,
esto, con una tecnología y unos sistemas inteligentes no es suficiente, es
ineficaz, es ineficiente y por tanto es peligroso porque creemos que estamos
gobernando la IA y de hecho, estamos creando una ética, unos sistemas democráticos
que no tienen ningún tipo de influencia.
Antiguos.
Como antiguos.
Porque, ¿qué pasa?
Porque si tú miras la gobernanza que tenemos como sociedad, nosotros estamos
regidos por principios capitalistas.
Aquí rige la búsqueda del conocimiento por la explotación por
conseguir un rendimiento económico.
Aunque las organizaciones y los gobiernos y tal estén
comprometidos con principios éticos,
al final muchas veces termina ganando lo que es el enfoque económico. Y claro, esto
con un sistema inteligente como es la inteligencia artificial es un problema.
No es suficiente.
Entonces debemos plantearnos qué más hay o sea, qué otra cosa podemos hacer.
Aparte de este enfoque ético. Entonces la idea es enfocarse en
crear un proyecto colectivo enfocado en el que esto debe beneficiar a toda
la sociedad o sea como creamos una sociedad con inteligencia artificial.
¿dónde se beneficia todo el mundo de la sociedad?
¿Qué significa crear este proyecto colectivo?
Algo más grueso.
Mucho más allá que todo lo que sería la tecnología, los sistemas vigentes hasta
entender el mundo de una forma distinta.
Si es que, de hecho, estos avances tecnológicos nos están
exigiendo replantearnos cómo vivimos en comunidad, porque si no lo enfocamos
para el beneficio de todos, la inteligencia artificial será un peligro.
Será un problema.
No podemos aprovechar todas las ventajas que puede darnos.
No
Hay otras dos cosas que quería preguntar o sea.
¿Hay algún otro modelo o algún otro sistema de gobernanza que
se estén haciendo, probando y comenzando?
Otra pregunta ¿se podría hacer alguna recomendación?
¿Qué es lo que debemos esperar en este futuro sobre la gobernanza de la IA?
Un ejemplo interesante a destacar es lo que está pasando en Japón, que desde hace
unos años están investigando y entendiendo que todos estos sistemas inteligentes
que aportan a la sociedad y se han dado cuenta de que deben replanteárselo todo.
Y precisamente ellos han hecho una diferenciación muy clara de la
gobernanza de la IA diciendo
no sólo debe gobernarse para controlar la IA, sino que también
debe gobernarse para favorecer la IA, la inteligencia artificial
y también debe gobernarse con IA.
Es decir, cómo hacer que la IA nos ayude a gobernarnos como comunidad.
Entonces tienen una visión transformadora, o sea, de toda su sociedad
y de todo su proyecto de país.
Y de hecho, lo que llevan haciendo desde hace un año, unos años,
es crear ciudades nuevas que ya son totalmente inteligentes con todos los
sistemas conectados de gobernanza.
También están repensando sus leyes cómo hacer para que se adecuen
a los sistemas inteligentes.
Recomendaciones.
Estaría bien recordar que el éxito de los sistemas inteligentes
no es sólo la tecnología.
Si no, el hecho de que tengan una buena gobernanza.
Y para que esta gobernanza sea un éxito debemos asegurarnos
que todo el mundo participe.
Por tanto, recomendaría que los sistemas inteligentes se explicaran a las
universidades, los colegios, que estuvieran en el medio en general, que
hubiera información sobre el tema y que la gente verdaderamente participara.
Esto es fundamental.
También crear este proyecto de país enfocado, enfocado a utilizar
sistemas inteligentes para el beneficio de todos y sobre todo, en ayudar
A divulgar que la IA está aquí.
Que existe. Este proyecto HEDY
es un buen ejemplo para ayudar a que esto llegue
a muchas personas por hacer que esto sea un éxito para todos nosotros.
Nos podamos beneficiar, pues, de todas estas ventajas, médicas,
de conocimiento, que gracias a la IA tenemos a nuestro alcance hoy en día.
Muchas gracias
¡Gracias a ti, Núria!