XXI. La motivación de los actos administrativos tomados en base a sistemas de inteligencia artificial (TOL9.725.657)

Feb 24, 2024

XXI. LA MOTIVACIÓN DE LOS ACTOS ADMINISTRATIVOS TOMADOS EN BASE A SISTEMAS DE INTELIGENCIA ARTIFICIAL3411. INTRODUCCIÓNEl uso de las nuevas tecnologías está llamado a ser, sin duda, uno de los elementos motores del cambio de la Administración Pública en el futuro próximo. Y entre las herramientas digitales disponibles, el uso de la Inteligencia Artificial debe adquirir un papel fundamental en el apoyo de las decisiones.342 Y es que la transformación hacia una actuación administrativa verdaderamente eficiente y estratégica, basada en datos, se posiciona como uno de los ejes vertebradores de los planes nacionales y europeos de modernización de la economía343. Situaciones que hasta ahora eran difícilmente evaluables, cuando no imposibles, pueden ahora ser abordadas a través de la IA, que analiza grandes cantidades de datos, extrayendo patrones, tendencias, indicadores y predicciones que facilitarán múltiples tareas administrativas.La IA permite, por ejemplo, que la Administración tome la iniciativa en los procedimientos de adjudicación de subvenciones u otras ayudas públicas, "yendo a buscar" a los interesados en lugar de esperar a que ellos localicen la convocatoria344; que los planes y estrategias de supervisión antifraude respondan a indicadores y anomalías detectadas por el propio sistema, optimizando así los esfuerzos del personal de inspección; que las decisiones sobre horarios y frecuencia de autobús urbano, o de recogida de basuras, o del alumbrado eléctrico, se optimicen de acuerdo con los usos habituales de los ciudadanos, etc.345 A pesar de su relativa novedad en el marco de la Administración, son muchos, en definitiva, los ejemplos de cómo la Inteligencia Artificial puede contribuir a ayudar a la actividad administrativa.Sin embargo, desde la doctrina y la práctica se viene advirtiendo de cómo los usos de Inteligencia Artificial, precisamente por las características esencialmente opacas de estos sistemas, pueden plantear problemas de transparencia en las decisiones, falta de motivación y, por ende, trabas en la garantía a la buena administración y a la tutela judicial efectiva frente a actos administrativos346.2. LOS RIESGOS DE DISCRIMINACIÓN EN LA TOMA DE DECISIONES A TRAVÉS DE IASi bien se percibe que los sistemas de IA son imparciales, en ocasiones, la toma de decisiones en una situación real es altamente compleja. Los sistemas informáticos que operan en entornos reales o con grandes cantidades de datos, como la IA, a menudo están demostrando que, si no son programados con los debidos filtros y garantías, pueden identificar patrones que en la psique de la sociedad actual se entienden como discriminatorios, o derivar en resultados que lo sean. Esto puede ocurrir porque existe un fallo en la programación, deficiencias del propio sistema o en la calidad de los datos, o porque simplemente perpetúan prejuicios ya existentes en el histórico que analizan.Diferentes factores pueden llevar a un algoritmo a desarrollar nuevos criterios de valoración originariamente no incluidos o previstos que, bajo una decisión administrativa llevada a cabo por humanos, nunca hubieran sido tenidos en cuenta por ejemplo, un sistema de IA puede identificar, como factor de riesgo para corrupción o para el riesgo de reincidencia delictiva, elementos como el origen étnico de los gestores, su sexo, orientación sexual, etc.347 La existencia de estas y otras situaciones identificadas en entornos especialmente sensibles --la asignación de vivienda a las personas sin hogar, dirigir las intervenciones preventivas de protección infantil- han generado una importante controversia348, hasta el punto de que algunos autores han hecho públicas sus inquietudes sobre la toma de decisiones automatizadas en aspectos asistenciales o de bienestar social como una forma de perpetuar la segregación de la parte más pobre de la sociedad349.Estas discriminaciones se deben en gran medida al modo de funcionamiento de los algoritmos, basado en el análisis estadístico y en la clasificación de patrones en base a ciertas características comunes (entre las que pueden aparecer la escala social, ingresos, etnia, etc.)350. Aunque los sistemas de análisis utilizados no incluyan discriminaciones expresas --es decir, la consideración de la raza como un elemento determinante en sí mismo, por ejemplo351--, la búsqueda autónoma de variables y patrones relevantes para, por ejemplo, un riesgo de reincidencia, puede hacer que, de manera indirecta, esas variables sean vinculadas con . . .

¿Quiere leer el artículo completo?
¿Ya tiene cuenta?Iniciar sesión
Cree su cuenta sin costeRegistrarme

Si usted es cliente Prime, puede leer el dossier completo dentro de la platafoma

Acceder

Últimas novedades publicadas

Consulta número: V3262-23. El consultante adquirió en 1996 una vivienda en Madrid que destinó a residencia habitual hasta el 2010, cuando por motivos laborales se trasladó a Navarra. Desde entonces esta vivienda ha sido arrendada, consignándola como tal en su declaración de IRPF hasta enero de 2023, fecha en la que regresa a Madrid y reside de nuevo en ella. Actualmente se plantea su venta y reinvertir el importe obtenido en su nueva vivienda habitual.Cuestión Planteada: Si, en caso de obtener una ganancia patrimonial con la venta, se puede beneficiar de la exención por reinversión en vivienda habitual.Órgano: SG de Impuestos sobre la Renta de las Personas Físicas (TOL9.867.637)

by | Jul 23, 2024 | Boletín novedades,FINANCIERO-TRIB. Consulta | 0 Comments

CONTESTACIÓNLa exención por reinversión en vivienda habitual viene regulada en el artículo 38.1 de la Ley 35/2006, de 28 de noviembre, del Impuesto sobre la Renta de...

Real Decreto 610/2024, de 2 de julio, por el que se establece el título de Médica/o Especialista en Medicina de Urgencias y Emergencias y se actualizan diversos aspectos en la formación del título de Médica/o Especialista en Medicina Familiar y Comunitaria (TOL10.077.623)

by | Jul 23, 2024 | Boletín novedades,PUBLICO Legislación | 0 Comments

EXPOSICIÓN DE MOTIVOS. El artículo 12 de la Ley 44/2003, de 21 de noviembre, de ordenación de las profesiones sanitarias, al regular los principios rectores de la...

Pendiente de ejecutar la resolución del TEAR resolviendo notificar la providencia de apremio en forma, no procedía acordar la compensación de oficio de un crédito reconocido y una deuda en periodo ejecutivo, antes de notificar correctamente la providencia de apremio, evitando con ello el ejercicio del derecho a la impugnación de la parte interesada y produciéndole indefensión. – Tribunal Supremo – Sala Tercera – Sección Segunda – Jurisdicción: Contencioso-Administrativo – Sentencia – Num. Res.: 1045/2024 – Num. Proc.: 378/2023 – Ponente: José Antonio Montero Fernández (TOL10.053.152)

by | Jul 22, 2024 | Boletín novedades,FINANCIERO-TRIB. Jurisprudencia | 0 Comments

T R I B U N A L S U P R E M O Sala de lo Contencioso-Administrativo Sección Segunda Sentencia núm. 1.045/2024 Fecha de sentencia: 13/06/2024 Tipo de procedimiento: R....

Eficacia de contrato de adquisición de acciones y responsabilidades derivadas. Recurso de casación. Se estima. La adquisición de las acciones se hizo en el mercado secundario, es decir, en bolsa, por lo que no se compraron directamente al Banco Popular. Como consecuencia de ello, conforme a reiterada jurisprudencia de esta sala, la entidad emisora de las acciones (en este caso, el Banco Popular S.A.) carece de legitimación pasiva respecto de la acción de nulidad por error vicio en el consentimiento (sentencias 371/2019, de 26 de junio; 731/2019, de 29 de octubre; 770/2021, de 5 de noviembre; 340/2022, de 3 de mayo; y 1138/2023, de 12 de julio). – Tribunal Supremo – Sala Primera – Sección Primera – Jurisdicción: Civil – Sentencia – Num. Res.: 889/2024 – Num. Proc.: 3662/2021 – Ponente: Antonio García Martínez (TOL10.081.423)

by | Jul 22, 2024 | Boletín novedades,PRIVADO Jurisprudencia | 0 Comments

T R I B U N A L S U P R E M O Sala de lo Civil Sentencia núm. 889/2024 Fecha de sentencia: 20/06/2024 Tipo de procedimiento: CASACIÓN E INFRACCIÓN PROCESAL Número del...

Responsabilidad civil médica. Parto instrumental. Recién nacida que presenta afectación del plexo braquial. Falta de prueba de la causalidad de ese resultado. Improcedencia de la aplicación de la regla de la probabilidad cualificada. Previsibilidad, pero no prevenibilidad, del resultado dañoso. – Tribunal Supremo – Sala Primera – Sección Primera – Jurisdicción: Civil – Sentencia – Num. Res.: 870/2024 – Num. Proc.: 205/2020 – Ponente: Pedro José Vela Torres (TOL10.081.629)

by | Jul 22, 2024 | Boletín novedades,PRIVADO Jurisprudencia | 0 Comments

T R I B U N A L S U P R E M O Sala de lo Civil Sentencia núm. 870/2024 Fecha de sentencia: 18/06/2024 Tipo de procedimiento: CASACIÓN E INFRACCIÓN PROCESAL Número del...

No cabe promover la alteración catastral por el otorgamiento unilateral del título por el propietario único del edificio destinado a alquiler de los locales existentes, hasta tanto no concurran los elementos constitutivos exigidos, en concreto hasta tanto no exista una pluralidad de propietarios – Tribunal Supremo – Sala Tercera – Sección Segunda – Jurisdicción: Contencioso-Administrativo – Sentencia – Num. Res.: 1073/2024 – Num. Proc.: 2328/2023 – Ponente: ISAAC MERINO JARA (TOL10.074.250)

by | Jul 22, 2024 | Boletín novedades,FINANCIERO-TRIB. Jurisprudencia | 0 Comments

T R I B U N A L S U P R E M O Sala de lo Contencioso-Administrativo Sección Segunda Sentencia núm. 1.073/2024 Fecha de sentencia: 17/06/2024 Tipo de procedimiento: R....