La carrera de Licenciatura en Gobernanza de Datos, participó recientemente de una consulta pública abierta por la Suprema Corte de la provincia de Buenos Aires vinculada al proyecto de reglamentación de la Inteligencia Artificial (IA) . Concretamente, se presentaron veinte observaciones y se puso el foco en el gobierno de los datos con los que se alimentan los sistemas de IA.

En junio de este año, el máximo tribunal bonaerense dio a conocer el proyecto de “Reglamento para el desarrollo y uso responsable de la Inteligencia Artificial”, uno de los primeros instrumentos de su tipo en la región. Antes de aprobarlo, se abrió un período de consulta para que magistrados, funcionarios, colegios profesionales, instituciones académicas y demás interesados formularan observaciones.

La Licenciatura en Gobernanza de Datos de la Facultad de Ciencias Exactas e Ingeniería participó de esa instancia con una presentación institucional de veinte observaciones.

El trabajo estuvo a cargo del director de la carrera, Prof. Francisco Fernández Ruiz (a la derecha de la foto abajo), contó con la colaboración del Ing. Felipe Rojo Amadeo (a la izquierda de la foto), profesor de Introducción a la Gobernanza de Datos y de Arquitectura de Software y Algoritmos, y del Cdor. Joaquín Baita, profesor de Administración (en el centro de la foto de abajo).

La presentación de la UCALP no se limitó a opiniones: cada observación identifica la disposición sobre la que recae, expone su fundamento normativo y propone la redacción concreta del artículo, lista para insertarse en la estructura del proyecto.

“Como carrera de Gobernanza de Datos, no podíamos permanecer al margen de una consulta pública sobre el reglamento de inteligencia artificial del Poder Judicial de nuestra provincia. Entendimos que teníamos conocimientos y una mirada para aportar, y también la responsabilidad de hacerlo”, destacó el Prof. Fernández Ruiz.

GOBERNAR EL DATO, NO SOLO EL SISTEMA

El aporte realizado desde la carrera se ordena en torno a una constatación que atraviesa toda la presentación: el proyecto gobierna el sistema de IA, pero no el corpus documental sobre el que ese sistema opera

“Cuando uno enseña arquitectura de software, lo primero que aprende un alumno es que el componente más visible casi nunca es el que decide el comportamiento del sistema. Acá pasa exactamente eso: todo el mundo mira el modelo, y el modelo es la pieza intercambiable. El índice es lo que no se puede cambiar sin rehacer todo”, explicó el Ing. Rojo Amadeo.

OCHO PROPUESTAS SOBRE EL CORPUS

De esa constatación se desprenden las ocho observaciones que constituyen el aporte propio de la carrera. Entre ellas:

• Cobertura y sesgo de selección. Las resoluciones publicadas no son una muestra aleatoria: la práctica de publicación varía según el fuero, la instancia y el órgano. Un índice construido con lo disponible hereda esa asimetría. La propuesta exige documentar qué integra el corpus y qué quedó afuera, y advertir al usuario que la ausencia de resultados no equivale a la inexistencia de antecedentes.
• Control de acceso. El expediente judicial está compartimentado por diseño. Un índice único puede disolver esa compartimentación, porque la búsqueda opera por significado y no distingue de qué actuación proviene cada fragmento. La propuesta exige aplicar el control de permisos en el momento de la consulta y respecto de cada documento.
• Vigencia de lo indexado. Un fallo revocado o una norma derogada, incorporados al índice sin marca, se recuperan con la misma autoridad que un precedente vigente.
• Indicadores de auditoría. El reglamento manda auditar la precisión y la fiabilidad de los sistemas sin precisar cómo se miden. La presentación propone un conjunto mínimo, entre ellos la proporción de resultados que el operador modifica antes de incorporarlos a una actuación: un indicador que permite advertir el deterioro de la supervisión humana antes de que se manifieste en una decisión concreta.
• Propiedad de lo derivado. Los convenios con proveedores externos se refieren a los datos, pero no a lo que se construye con ellos. Los índices y modelos elaborados sobre la jurisprudencia del tribunal tienen valor propio y son transferibles por separado. La propuesta atribuye su titularidad a la Suprema Corte y exige su destrucción certificada al término del contrato.

La presentación incluye, además, doce observaciones sobre el capítulo de protección de datos personales. “Hay una dimensión de este tema que es esencialmente administrativa, y desde allí hicimos nuestro aporte. Un control que no puede medirse difícilmente puede gestionarse, y un activo que no está debidamente registrado queda expuesto a problemas de responsabilidad y custodia. Son principios clásicos de la administración aplicados a un escenario nuevo”, señaló el Cdor. Joaquín Baita, profesor de Administración.

El documento cierra ofreciendo la colaboración de la carrera en la elaboración de los instrumentos que las propuestas suponen.

UNA CARRERA QUE SE PONE A PRUEBA

La convocatoria de la Corte llegó a la carrera por el Dr. Sebastián Piana, vicerrector de Asuntos Académicos e Investigación, que no sólo acercó la noticia, sino que planteó desde el principio que la Universidad debía decir algo al respecto. Su acompañamiento no se agotó en ese impulso: estuvo disponible a lo largo de todo el desarrollo de la propuesta, y fue su respaldo el que permitió que la presentación se formulara a nombre de la UCALP y no como una iniciativa individual.

Asimismo, los responsables de este aporte agradecieron al Decano de la Facultad de Ciencias Exactas e Ingeniería a la que pertenece la carrera, Mg. Rodolfo Bertone.