Reglamento histórico de la Suprema Corte de Justicia
La Suprema Corte de Justicia de la provincia de Buenos Aires ha dado un paso significativo al aprobar un regulador que establece límites al uso de la Inteligencia Artificial (IA) en los procedimientos judiciales. El tribunal enfatiza que «la función jurisdiccional es indelegable e insustituible» con el objetivo de proteger el razonamiento humano en las decisiones legales.
Contexto de la implementación
Este régimen se define en un escenario donde la IA ha evolucionado de ser una tecnología experimental a un recurso común, empleado tanto en forma formal como informal por abogados y funcionarios. Sin embargo, la Corte ha expresado preocupaciones sobre los peligros inherentes a la IA, incluyendo la posibilidad de que produzca “hallucinations”, o resultados incorrectos, así como potenciales sesgos en sus recomendaciones.
Comisión de Gobernanza y Uso de IA
Para supervisar la implementación de estas regulaciones, se ha creado una Comisión de Gobernanza y Uso de Inteligencia Artificial, compuesta por diversos secretarios de planificación y tecnología. Esta comisión se encargará de:
- Proponer protocolos.
- Evaluar herramientas tecnológicas.
- Impulsar propuestas para pruebas piloto.
- Monitorear resultados y emitir informes periódicos.
Fundamentos y prohibiciones
En el documento, referente al expediente Nº 3000-21862-2026, se aborda que la regulación busca mejorar la gestión judicial sin comprometer las garantías constitucionales del debido proceso. Se resalta que, actualmente, el poder judicial provincial opera en gran parte en una “fase digital”, un contexto que favorece la integración de herramientas de manera responsable y estratégica.
El reglamento establece prohibiciones claras para salvaguardar los derechos de los ciudadanos implicados. Se prohíbe el uso de sistemas de predicción de riesgo que influyan en decisiones sobre libertad y prisión preventiva, así como la generación de “prueba sintética” y la elaboración de informes periciales sin la debida validación por parte del perito correspondiente.
Clasificación de riesgos
El proyecto distingue entre tareas de bajo riesgo, como la transcripción de audiencias, y aquellas de alto riesgo, que implican funciones críticas. Las iniciativas de alto riesgo estarán sujetas a auditorías semestrales y requerirán un Análisis de Impacto Algorítmico antes de su ejecución.
Transparencia y restricciones en el uso de herramientas
El reglamento estipula que jueces y funcionarios deben documentar el uso de tecnologías de IA en los expedientes judiciales, identificando el sistema utilizado y los elementos del documento que fueron generados con su asistencia. Esto permitirá a las partes involucradas ejercer control y, si es necesario, impugnar la información.
Además, la Corte ha prohibido a sus miembros el uso de chatbots de acceso público para manejar información judicial sensible, debido al riesgo de uso indebido de datos personales. La propuesta de reglamento está abierta a consulta pública hasta el 8 de julio, permitiendo que magistrados, abogados y la comunidad académica realicen aportes, antes de que se elabore un informe definitivo.
Posteriormente, la Comisión deberá procesar los comentarios recibidos y presentar un informe a la Suprema Corte antes del 31 de agosto. Hasta que no exista una versión formal aprobada, el reglamento seguirá siendo orientador y no vinculante.
