XXI. La motivación de los actos administrativos tomados en base a sistemas de inteligencia artificial (TOL9.725.657)

febr. 24, 2024

XXI. LA MOTIVACIÓN DE LOS ACTOS ADMINISTRATIVOS TOMADOS EN BASE A SISTEMAS DE INTELIGENCIA ARTIFICIAL3411. INTRODUCCIÓNEl uso de las nuevas tecnologías está llamado a ser, sin duda, uno de los elementos motores del cambio de la Administración Pública en el futuro próximo. Y entre las herramientas digitales disponibles, el uso de la Inteligencia Artificial debe adquirir un papel fundamental en el apoyo de las decisiones.342 Y es que la transformación hacia una actuación administrativa verdaderamente eficiente y estratégica, basada en datos, se posiciona como uno de los ejes vertebradores de los planes nacionales y europeos de modernización de la economía343. Situaciones que hasta ahora eran difícilmente evaluables, cuando no imposibles, pueden ahora ser abordadas a través de la IA, que analiza grandes cantidades de datos, extrayendo patrones, tendencias, indicadores y predicciones que facilitarán múltiples tareas administrativas.La IA permite, por ejemplo, que la Administración tome la iniciativa en los procedimientos de adjudicación de subvenciones u otras ayudas públicas, "yendo a buscar" a los interesados en lugar de esperar a que ellos localicen la convocatoria344; que los planes y estrategias de supervisión antifraude respondan a indicadores y anomalías detectadas por el propio sistema, optimizando así los esfuerzos del personal de inspección; que las decisiones sobre horarios y frecuencia de autobús urbano, o de recogida de basuras, o del alumbrado eléctrico, se optimicen de acuerdo con los usos habituales de los ciudadanos, etc.345 A pesar de su relativa novedad en el marco de la Administración, son muchos, en definitiva, los ejemplos de cómo la Inteligencia Artificial puede contribuir a ayudar a la actividad administrativa.Sin embargo, desde la doctrina y la práctica se viene advirtiendo de cómo los usos de Inteligencia Artificial, precisamente por las características esencialmente opacas de estos sistemas, pueden plantear problemas de transparencia en las decisiones, falta de motivación y, por ende, trabas en la garantía a la buena administración y a la tutela judicial efectiva frente a actos administrativos346.2. LOS RIESGOS DE DISCRIMINACIÓN EN LA TOMA DE DECISIONES A TRAVÉS DE IASi bien se percibe que los sistemas de IA son imparciales, en ocasiones, la toma de decisiones en una situación real es altamente compleja. Los sistemas informáticos que operan en entornos reales o con grandes cantidades de datos, como la IA, a menudo están demostrando que, si no son programados con los debidos filtros y garantías, pueden identificar patrones que en la psique de la sociedad actual se entienden como discriminatorios, o derivar en resultados que lo sean. Esto puede ocurrir porque existe un fallo en la programación, deficiencias del propio sistema o en la calidad de los datos, o porque simplemente perpetúan prejuicios ya existentes en el histórico que analizan.Diferentes factores pueden llevar a un algoritmo a desarrollar nuevos criterios de valoración originariamente no incluidos o previstos que, bajo una decisión administrativa llevada a cabo por humanos, nunca hubieran sido tenidos en cuenta por ejemplo, un sistema de IA puede identificar, como factor de riesgo para corrupción o para el riesgo de reincidencia delictiva, elementos como el origen étnico de los gestores, su sexo, orientación sexual, etc.347 La existencia de estas y otras situaciones identificadas en entornos especialmente sensibles --la asignación de vivienda a las personas sin hogar, dirigir las intervenciones preventivas de protección infantil- han generado una importante controversia348, hasta el punto de que algunos autores han hecho públicas sus inquietudes sobre la toma de decisiones automatizadas en aspectos asistenciales o de bienestar social como una forma de perpetuar la segregación de la parte más pobre de la sociedad349.Estas discriminaciones se deben en gran medida al modo de funcionamiento de los algoritmos, basado en el análisis estadístico y en la clasificación de patrones en base a ciertas características comunes (entre las que pueden aparecer la escala social, ingresos, etnia, etc.)350. Aunque los sistemas de análisis utilizados no incluyan discriminaciones expresas --es decir, la consideración de la raza como un elemento determinante en sí mismo, por ejemplo351--, la búsqueda autónoma de variables y patrones relevantes para, por ejemplo, un riesgo de reincidencia, puede hacer que, de manera indirecta, esas variables sean vinculadas con . . .

¿Quiere leer el artículo completo?
¿Ya tiene cuenta?Iniciar sesión
Cree su cuenta sin costeRegistrarme

Si usted es cliente Prime, puede leer el dossier completo dentro de la platafoma

Acceder

Últimes novetats publicades

Conflicto colectivo. Calendario laboral 2022 establecido por la Sociedad Estatal Correos y Telégrafos para 2022. Fijación de un porcentaje del 5% para disfrutar de las vacaciones fuera del período comprendido entre julio y septiembre. Fuera de este lapso tal disfrute se efectuará solo a solicitud del trabajador. – Tribunal Supremo – Sala Cuarta – Sección Primera – Jurisdicción: Social – Sentencia – Num. Res.: 976/2024 – Num. Proc.: 242/2022 – Ponente: Concepción Rosario Ureste García (TOL10.105.723)

by | jul. 25, 2024 | Boletín novedades,LABORAL Jurisprudencia | 0 Comments

CASACION núm.: 242/2022 Ponente: Excma. Sra. D.ª Concepción Rosario Ureste García Letrado de la Administración de Justicia: Ilmo. Sr. D. Santiago Rivera Jiménez...

Consulta número: V3255-23. El consultante es una empresa residente en España, inscrita en el ROI y con número EORI. Se dedica a la importación de productos de fuera de la Unión Europea. Estos productos se reciben en Alemania donde son despachados a la importación en la Aduana abonando el IVA alemán.Una vez producido el despacho a la importación, los productos serán vendidos a particulares de la Unión Europea que los soliciten desde Alemania a través de una distribuidora internacional con la que la consultante llegó a un acuerdo.Cuestión Planteada: 1. Estado miembro de la Unión en el que debe darse de alta para el régimen de ventanilla única de ventas a distancia del Impuesto sobre el Valor Añadido teniendo en cuenta que no tiene establecimiento permanente en Alemania.2. Deducción de las cuotas de IVA soportado en España en caso de aplicar el régimen de ventanilla única citado.Órgano: SG de Impuestos sobre el Consumo (TOL9.867.630)

by | jul. 25, 2024 | Boletín novedades,FINANCIERO-TRIB. Consulta | 0 Comments

CONTESTACIÓN1.- De conformidad con el artículo 4.Uno de la Ley 37/1992, de 28 de diciembre, del impuesto sobre el valor añadido (BOE del 29 de diciembre) estarán...

Recurso reposición contra derivación de responsabilidad por haber incumplido las órdenes de embargo, mediando culpa o negligencia (TOL1.264.830)

by | jul. 25, 2024 | Boletín novedades,FINANCIERO-TRIB. Formulario | 0 Comments

AL JEFE DE LA DEPENDENCIA DE RECAUDACIÓN DE LA DELEGACIÓN DE LA AEAT [U ÓRGANO COMPENTENTE PARA RECAUDAR LA DEUDA TRIBURIA DEL OBLIGADO TRIBUTARIO]D...............mayor...

Consulta número: V3258-23. El consultante indica que su salario se compone de una parte fija, una parte variable (bonus), así como varios conceptos de retribución en especie (seguro de salud, coche de empresa y gasolina), y que, por los viajes al extranjero, su empresa le aplica la exención del artículo 7 p) de la Ley del Impuesto sobre la Renta de las Personas Físicas por los días que ha permanecido en el extranjero, pero, únicamente, sobre la parte fija de su salario.Cuestión Planteada: Se le clarifique el procedimiento para calcular las retenciones en sus nóminas, teniendo en cuenta que realiza viajes al extranjero a los que se les aplica la exención del artículo 7 p) de la Ley del Impuesto sobre la Renta de las Personas Físicas: en concreto, si, a la hora de calcular el porcentaje de retención, se deben incluir todos los conceptos (fijo, bonus y retribuciones en especie) y si debe haber una regularización en la nómina de diciembre para tener en cuenta las cantidades finalmente percibidas (el variable finalmente percibido) y el número de días en el extranjero final.Órgano: SG de Impuestos sobre la Renta de las Personas Físicas (TOL9.867.633)

by | jul. 25, 2024 | Boletín novedades,FINANCIERO-TRIB. Consulta | 0 Comments

CONTESTACIÓNLa presente contestación no entra a analizar, por no ser objeto de consulta ni aportar información al respecto, si concurren o no los requisitos necesarios...

Se confirma la absolución al encontrarnos ante un conflicto de naturaleza civil, dirigido a dilucidar si se han duplicados cargos en cada una de las facturas ya abonados por un tercero. No estamos ante un supuesto de simulación del documento para inducir a error sobre su autenticidad, sino en la elaboración de facturas que responden a unos negocios reales que han tenido lugar, en las cuales se modifica parcialmente datos relativos a quien supuestamente está obligada a su abono, lo que integraría, en el peor de los supuestos, una falsedad consistente en faltar a la verdad en la narración de los hechos que resulta atípica al ser cometida por un particular. La duplicidad de los cargos en facturas es una cuestión oponible en el procedimiento civil pero que no tiene recorrido en el derecho penal. Y debía ser en el pleito civil donde se oponga el pago a la factura presentada como impagada, pero no cabe llevarlo al proceso penal como así ha declarado el tribunal, ya que el principio de intervención mínima del derecho penal expulsa del mismo las cuestiones que tienen su oposición en el pleito civil, incluso con prueba pericial como destaca la AP. Ante las circunstancias previas, no parece que hubiese existido idoneidad del engaño. Dada la documental a aportada por ambas partes, la duplicidad de partidas no debería superar el normal control que ejerce el juez sobre los hechos y la documentación que se le presenta. – Tribunal Supremo – Sala Segunda – Sección Primera – Jurisdicción: Penal – Sentencia – Num. Res.: 584/2024 – Num. Proc.: 2585/2022 – Ponente: VICENTE MAGRO SERVET (TOL10.074.011)

by | jul. 25, 2024 | Boletín novedades,PENAL Jurisprudencia | 0 Comments

T R I B U N A L S U P R E M O Sala de lo Penal Sentencia núm. 584/2024 Fecha de sentencia: 13/06/2024 Tipo de procedimiento: RECURSO CASACION Número del procedimiento:...

VIII. Cargas y obligaciones de la sociedad legal de gananciales (TOL10.034.503)

by | jul. 25, 2024 | Boletín novedades,PRIVADO Doctrina | 0 Comments

VIII. CARGAS Y OBLIGACIONES DE LA SOCIEDAD LEGAL DE GANANCIALES I. LA SOCIEDAD LEGAL DE GANANCIALES. NATURALEZA Y RASGOS CARACTERÍSTICOSTradicionalmente la sociedad...