Por: César Augusto kanashiro Castañeda
En principio, conviene recordar que es preciso hablar de “inteligencias”, y no sólo de “inteligencia”, en el caso de los humanos, en el de los animales, en el de los vegetales, e incluso en el de la tierra según la hipótesis Gaia.
Podemos llamar entonces “inteligencia” en sentido amplio a la capacidad de perseguir metas, planificar, prever consecuencias de las acciones y emplear herramientas para alcanzar las metas. La inteligencia sería la capacidad de resolver problemas con instrumentos.
Sin duda nuestro mundo es ya el de la digitalización y las inteligencias artificiales. El paso es irreversible y, por lo tanto, no cabe preguntar si debemos darlo, sino cómo hacerlo para conseguir el mayor bien posible. Las nuevas tecnologías son fuente de competitividad y de productividad y los países y organizaciones que se excluyan de ese mundo perjudicarán a sus propios miembros y a su entorno, porque perderán peso y relevancia en una carrera en que los demás seguirán progresando exponencialmente. Es uno de los dramas de la Unión Europea, que ha quedado dolorosamente rezagada frente a China y Estados Unidos, ha quedado condenada a la irrelevancia.
Dado el escaso tiempo del que disponemos intentaré entresacar lo que, a mi juicio, es nuclear para una ética de la IA. En los últimos documentos mencionados la propuesta es clara: se trata de trazar el marco ético de una IA confiable, porque la confianza ha de ser la piedra angular de las sociedades. En la línea seguida habitualmente por los documentos de la UE, se trata de unir progreso técnico y progreso ético, de ahí que una IA confiable en productos y servicios será el camino de la ciudadanía europea para lograr una ventaja competitiva. Si Europa quiere ser líder global, también en IA, debe maximizar los beneficios de los sistemas inteligentes, previniendo riesgos: un enfoque confiable posibilita “competitividad responsable”, al ofrecer a los afectados una confianza, que llevará a Europa a ser líder global. La ventaja competitiva será la ética.
Un buen marco es el que ofrece el AI4People del Atomium European Institute, que cuenta con cuatro principios clásicos, aplicados a entornos digitales, a los que añadiría un quinto: la explicabilidad y la rendición de cuentas. Los principios clásicos serían el de beneficencia, que exigiría ahora poner los progresos al servicio de todos los seres humanos y la sostenibilidad del planeta; el de no-maleficencia, que ordenaría evitar los daños posibles, protegiendo a las personas en cuestiones de privacidad, mal uso de los datos, en la posible sumisión a decisiones tomadas por máquinas y no supervisadas por seres humanos; pero también el principio de autonomía de las personas, que puede fortalecerse con el uso de sistemas inteligentes, y en cuyas manos deben ponerse tanto el control como las decisiones significativas; y, por supuesto, el principio de justicia, que exige distribuir equitativamente los beneficios. A ellos se añadiría un principio de explicabilidad y accountability, porque los afectados por el mundo digital tienen que poder comprenderlo.
Autonomía y dignidad:
los mal llamados “sistema autónomos” no lo son realmente: son artefactos, son autómatas, a pesar del aprendizaje profundo (Deep learning). Los sistemas inteligentes pueden resolver problemas y actuar independientemente de los seres humanos, pero no son autónomos. No pueden decidir qué se debe hacer, qué metas hay que perseguir. De aquí se sigue que son los seres humanos los que tienen dignidad y merecen respeto, pero también que son responsables, porque la responsabilidad exige autonomía, entendida como la capacidad de autodeterminación.
Aplicabilidad y rendición de cuentas
si tomamos en serio el principio de autonomía y el hecho de que los seres humanos son interlocutores válidos cuando se trata de asuntos que les afectan, los afectados por el mundo digital tienen que poder comprenderlo; tienen que conocer la trazabilidad de los algoritmos que afectan a sus vidas: quién los construye, con qué sesgos, con qué objetivos. Teniendo en cuenta que en un mundo global digitalizado los afectados somos a menudo todos los seres humanos, el imperativo de la explicabilidad es verdaderamente exigente.
Promover un mundo justo
El principio de justicia exige distribuir equitativamente los beneficios de las nuevas tecnologías, porque todos son afectados, promocionar un mundo inclusivo, en que la brecha digital no divida a la humanidad con una nueva fórmula. El desigual acceso a los bienes tecnocientíficos socava la cohesión.
