El uso de herramientas de inteligencia artificial generativa en el ámbito judicial ha sido un tema controversial en los últimos años. La posibilidad de utilizar algoritmos y máquinas para tomar decisiones judiciales ha generado preocupación en algunos sectores, mientras que otros ven en esta tecnología una oportunidad para agilizar y mejorar el sistema de justicia. Es en este contexto donde el Tribunal Superior de Justicia de Navarra (TSJNA) ha emitido una histórica resolución que analiza las implicaciones legales y éticas de este tío de herramientas en el ámbito judicial.
El auto del TSJNA, con fecha del 4 de septiembre de 2024, aborda un caso en el que un acusado de delito de fraude fiscal alega que la decisión de condenarlo se basó en el uso de una herramienta de inteligencia artificial generativa. El Tribunal, en una decisión pionera en España, reconoce la validez de utilizar esta tecnología en la toma de decisiones judiciales, siempre y cuando se cumplan ciertos requisitos.
La primera condición establecida por el TSJNA es que estas herramientas deben ser utilizadas como una ayuda y no como un sustitución de la labor de los jueces y juezas. En este sentido, se considera que la intervención humana es esencial en la toma de decisiones judiciales, ya que solo las personas pueden analizar y valorar la información de forma crítica y ética. Por lo tanto, la inteligencia artificial generativa debe ser considerada una herramienta de apoyo, no una solución definitiva.
Además, el Tribunal establece que estas herramientas deben ser transparentes y explicables. Es decir, los algoritmos utilizados deben ser comprensibles para todas las partes involucradas en el caso y deben estar a disposición de las mismas. Cualquier decisión tomada por la inteligencia artificial generativa debe ser clara y justificada, permitiendo su revisión y controvertibilidad.
Otro aspecto clave en la resolución del TSJNA es la importancia de la protección de datos y la privacidad. Dado que estas herramientas utilizan grandes cantidades de información para funcionar, es fundamental que se cumpla con la legislación de protección de datos y que se garantice la privacidad de las personas afectadas por el caso. El Tribunal advierte que cualquier uso indebido o gratuito de datos personales puede suponer una violación de los derechos fundamentales de las personas y, por lo tanto, no puede ser aceptado.
La ética es otro de los puntos fundamentales de esta resolución. El auto del TSJNA establece que la inteligencia artificial generativa debe estar programada en base a estándares éticos y morales, y debe actuar de acuerdo con los mismos. Esta tecnología no puede tomar decisiones basadas en prejuicios o discriminación y debe ser supervisada constantemente por expertos en ética para garantizar un uso responsable.
La resolución del TSJNA ha sido bien recibida por la comunidad jurídica y tecnológica, ya que marca un precedente importante en el uso de herramientas de inteligencia artificial en el ámbito judicial. Por un lado, se reconoce el potencial que estas tecnologías pueden tener en la agilización y mejora del sistema de justicia, siempre que se respeten ciertos principios y se tenga en cuenta su impacto en los derechos fundamentales de las personas. Por otro lado, se establecen límites y condiciones para su utilización, evitando una posible sobredependencia en la toma de decisiones judiciales.
Esta resolución es un paso importante en la incorporación de la tecnología en el sistema judicial, pero también es un llamado a la reflexión y al debate sobre el uso de la inteligencia artificial en otras áreas, tanto a nivel nacional como internacional. La ética y la protección de los derechos fundamentales deben estar siempre presentes en cualquier avance tecnológico, y este auto del TSJNA es una muestra de ello.
En sumario, el Tribunal Superior de