Este miércoles se celebraron las XXII Jornadas de Gestión de Información (JGI) de la Sociedad Española de Documentación e Información Científica (SEDIC). Si no pudisteis asistir, en este post os haré un breve resumen de la primera sesión titulada «Fundamentos de la inteligencia artificial» que, a mi parecer, fue la más atractiva.
La SEDIC ha decidido apostar este año por uno de los temas candentes del momento, como ya hizo antes de la pandemia la Biblioteca Técnica del Ayuntamiento de Madrid en la IV Jornada Profesional de Bibliotecas Jurídicas de Madrid (ver post anterior). Ahora cobra mayor relevancia tras la publicación de la Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence and amending certain union legislative acts (Artificial intelligence Act) por parte de la Comisión Europea el 21 de abril.
Aunque todas las ponencias de la primera sesión fueron interesantes, me gustaría destacar las tres primeras: Santiago Sánchez-Migallón abrió el melón con la «Ética de la inteligencia artificial«, que enunció el problema fundamental de las redes neuronales artificiales (conjunto de unidades conectadas entre sí para transmitirse señales con el fin de producir valor una vez la información se somete a diversas operaciones): los sesgos. Estos se producen como consecuencia de datos incompletos o de mala calidad, o por la distorsión de los resultados derivados de otorgar relevancia a determinados tipos de datos. Además, dichas redes neuronales tienen como característica la búsqueda de patrones, pero ello puede generar correlaciones espurias o absurdas que también impiden el correcto funcionamiento del sistema.
A modo de ejemplo, el ponente habló, entre otros, de Compas, el algoritmo que calcula la probabilidad de que alguien cometa otro delito y sugiere qué tipo de supervisión debería recibir un condenado en prisión (ver mi reciente post sobre la justicia predictiva). También comentó el Estudio de Jonathan Levay en 2011 (BBC News, 24 de julio de 2019) en el que demostró que los jueces estadounidenses eran más indulgentes tras comer.
Antes de finalizar, Sánchez-Migallón presentó como soluciones:
- La creación de redes ciegas carentes de rasgos controvertidos, pero advirtió que, además de la pérdida de efectividad, la propia red sería capaz de reconocer dichos rasgos a través de datos secundarios.
- El contrasesgo de la red, pero ello no sería rentable económicamente para la empresa. Además la ejecución de dicho contrasesgo dependería del concepto de justicia y/o equidad del propio programador o la sociedad financiadora, degenerando a una cuestión de ideología política.
A continuación, Adaya María Esteban Ruiz analizó brevemente la Propuesta de Reglamento europeo en su ponencia «Aspectos legales de la inteligencia artificial«. La abogada comenzó con la definición legal de inteligencia artificial (IA), que actualmente la Unión Europea centraliza en el software. Los cuatro conceptos jurídicos en los que se fundamenta la Propuesta son: la ética, la protección de datos, la propiedad intelectual e industrial, y la responsabilidad y seguridad.
La ponente hizo hincapié en los siguientes aspectos regulatorios:
- Ámbito de aplicación subjetivo y territorial:
- Obligaciones estrictas a los actores de la cadena de valor de la IA.
- Aplicación extra-territorial para proveedores y usuarios tanto si se ubica en la Unión Europea como en un tercer país pero es creado para ser usado aquí.
- Prácticas prohibidas: Técnicas subliminales de manipulación, extrapolación de grupos específicos de personas, evaluación o clasificación de personas y sistemas de identificación biométricos remotos en tiempo real.
- Obligaciones específicas de IAs de alto riesgo:
- Tendrán esta consideración los sistemas de identificación, categorización biométrica, gestión de infraestructuras críticas, selección de personal, cumplimiento de la ley, evaluación crediticia…
- Estos sistemas serán ser evaluados toda la vida de la IA (data governance and transparency).
- Obligaciones específicas a cada operador.
- Test de conformidad de la IA para ver su ética y confianza (trusthworthy).
- Sanciones
- Base de datos que recojan las IAs, etc.
Por último, me gustaría hablaros de la ponencia «Breve visión general de la inteligencia artificial» de Óscar Cordón, en donde evidenció que nos encontramos ante un «cambio de época basada en sistemas inteligentes y máquinas«.
Argumentó su exposición en la IA explicable, métodos y técnicas de AI, cuyos resultados pueden ser entendidos por humanos expertos; en contraposición con la blackbox o aprendizaje automático. Este opción debe estar fundamentada en los conceptos de justicia, rendición de cuentas, transparencia, ética y la involucración del ser humano en su diseño.
Además, comentó la necesidad de abrir los planes de estudios y la creación de un Grado en Informática (IA) y Documentación. En mi opinión, una idea muy acertada que haría evolucionar a la profesión.
A modo de conclusión, el tema de la XXII JGI SEDIC ha sido un acierto. Escuchar a expertos hablar de problemas y soluciones en materia inteligencia artificial, así como su aplicabilidad en el campo de la Documentación, ha sido muy interesante. ¡Enhorabuena SEDIC!
Buceando entre documentación jurídica 