XXI. La motivación de los actos administrativos tomados en base a sistemas de inteligencia artificial (TOL9.725.657)

Feb 24, 2024

XXI. LA MOTIVACIÓN DE LOS ACTOS ADMINISTRATIVOS TOMADOS EN BASE A SISTEMAS DE INTELIGENCIA ARTIFICIAL3411. INTRODUCCIÓNEl uso de las nuevas tecnologías está llamado a ser, sin duda, uno de los elementos motores del cambio de la Administración Pública en el futuro próximo. Y entre las herramientas digitales disponibles, el uso de la Inteligencia Artificial debe adquirir un papel fundamental en el apoyo de las decisiones.342 Y es que la transformación hacia una actuación administrativa verdaderamente eficiente y estratégica, basada en datos, se posiciona como uno de los ejes vertebradores de los planes nacionales y europeos de modernización de la economía343. Situaciones que hasta ahora eran difícilmente evaluables, cuando no imposibles, pueden ahora ser abordadas a través de la IA, que analiza grandes cantidades de datos, extrayendo patrones, tendencias, indicadores y predicciones que facilitarán múltiples tareas administrativas.La IA permite, por ejemplo, que la Administración tome la iniciativa en los procedimientos de adjudicación de subvenciones u otras ayudas públicas, "yendo a buscar" a los interesados en lugar de esperar a que ellos localicen la convocatoria344; que los planes y estrategias de supervisión antifraude respondan a indicadores y anomalías detectadas por el propio sistema, optimizando así los esfuerzos del personal de inspección; que las decisiones sobre horarios y frecuencia de autobús urbano, o de recogida de basuras, o del alumbrado eléctrico, se optimicen de acuerdo con los usos habituales de los ciudadanos, etc.345 A pesar de su relativa novedad en el marco de la Administración, son muchos, en definitiva, los ejemplos de cómo la Inteligencia Artificial puede contribuir a ayudar a la actividad administrativa.Sin embargo, desde la doctrina y la práctica se viene advirtiendo de cómo los usos de Inteligencia Artificial, precisamente por las características esencialmente opacas de estos sistemas, pueden plantear problemas de transparencia en las decisiones, falta de motivación y, por ende, trabas en la garantía a la buena administración y a la tutela judicial efectiva frente a actos administrativos346.2. LOS RIESGOS DE DISCRIMINACIÓN EN LA TOMA DE DECISIONES A TRAVÉS DE IASi bien se percibe que los sistemas de IA son imparciales, en ocasiones, la toma de decisiones en una situación real es altamente compleja. Los sistemas informáticos que operan en entornos reales o con grandes cantidades de datos, como la IA, a menudo están demostrando que, si no son programados con los debidos filtros y garantías, pueden identificar patrones que en la psique de la sociedad actual se entienden como discriminatorios, o derivar en resultados que lo sean. Esto puede ocurrir porque existe un fallo en la programación, deficiencias del propio sistema o en la calidad de los datos, o porque simplemente perpetúan prejuicios ya existentes en el histórico que analizan.Diferentes factores pueden llevar a un algoritmo a desarrollar nuevos criterios de valoración originariamente no incluidos o previstos que, bajo una decisión administrativa llevada a cabo por humanos, nunca hubieran sido tenidos en cuenta por ejemplo, un sistema de IA puede identificar, como factor de riesgo para corrupción o para el riesgo de reincidencia delictiva, elementos como el origen étnico de los gestores, su sexo, orientación sexual, etc.347 La existencia de estas y otras situaciones identificadas en entornos especialmente sensibles --la asignación de vivienda a las personas sin hogar, dirigir las intervenciones preventivas de protección infantil- han generado una importante controversia348, hasta el punto de que algunos autores han hecho públicas sus inquietudes sobre la toma de decisiones automatizadas en aspectos asistenciales o de bienestar social como una forma de perpetuar la segregación de la parte más pobre de la sociedad349.Estas discriminaciones se deben en gran medida al modo de funcionamiento de los algoritmos, basado en el análisis estadístico y en la clasificación de patrones en base a ciertas características comunes (entre las que pueden aparecer la escala social, ingresos, etnia, etc.)350. Aunque los sistemas de análisis utilizados no incluyan discriminaciones expresas --es decir, la consideración de la raza como un elemento determinante en sí mismo, por ejemplo351--, la búsqueda autónoma de variables y patrones relevantes para, por ejemplo, un riesgo de reincidencia, puede hacer que, de manera indirecta, esas variables sean vinculadas con . . .

¿Quiere leer el artículo completo?
¿Ya tiene cuenta?Iniciar sesión
Cree su cuenta sin costeRegistrarme

Si usted es cliente Prime, puede leer el dossier completo dentro de la platafoma

Acceder

Últimas novedades publicadas

TS: inadmisión a trámite una denuncia y una querella presentadas contra diputada y exministra por delito de discurso de odio, por las declaraciones que formuló contra las políticas de Israel frente a Palestina y donde afirmó que dicho país estaba llevando a cabo un genocidio planificado. Los hechos que se denuncian se produjeron en el contexto de la actividad política desarrollada por la denunciada, que era Diputada nacional y miembro del Gobierno, y las expresiones o discursos realizados, como se deduce de su propio contenido, no tenían por objeto promover la hostilidad hacia el pueblo judío, incitando al odio o a la realización de actos violencia contra sus miembros, sino la estimulación del debate público en torno a unos hechos ciertamente muy cuestionables y que han dado lugar a opiniones encontradas tanto a nivel internacional como nacional, entre las distintas fuerzas políticas – Tribunal Supremo – Sala Segunda – Sección Primera – Jurisdicción: Penal – Auto – Num. Res.: 20522/2024 – Num. Proc.: 21176/2023 – Ponente: EDUARDO DE PORRES ORTIZ DE URBINA (TOL10.035.054)

by | Jun 25, 2024 | Boletín novedades,PENAL Jurisprudencia | 0 Comments

T R I B U N A L S U P R E M O Sala de lo Penal Auto núm. 20.522/2024 Fecha del auto: 14/05/2024 Tipo de procedimiento: CAUSA ESPECIAL Número del procedimiento:...

IVA. Delimitación de las potestades de calificación (artículo 13 de la Ley General Tributaria) y de los procedimientos de conflicto en la aplicación de la norma (artículo 15 de la Ley General Tributaria) y simulación (artículo 16 de la Ley General Tributaria). La calificación es una operación que realiza la Administración en ejercicio de sus potestades de aplicación, gestión y control del tributo, que tiene por objeto determinar la naturaleza jurídica del hecho con trascendencia tributaria realmente realizado, al margen de la forma dada por las partes. Remisión a la doctrina de la Sala. Cesiones de derechos federativos de jugadores de futbol con carácter temporal. Atendiendo a las concretas circunstancias del caso examinado, las cesiones de derechos federativos de jugadores de futbol con carácter temporal en las que no se conviene un precio en dinero que deba satisfacer la cesionaria a la cedente, se da el carácter de onerosidad exigido para que las mismas sean operaciones sujetas a IVA de acuerdo con el artículo 4.Uno LIVA. – Tribunal Supremo – Sala Tercera – Sección Segunda – Jurisdicción: Contencioso-Administrativo – Sentencia – Num. Res.: 916/2024 – Num. Proc.: 4439/2022 – Ponente: María de la Esperanza Córdoba Castroverde (TOL10.039.591)

by | Jun 24, 2024 | Boletín novedades,FINANCIERO-TRIB. Jurisprudencia | 0 Comments

T R I B U N A L S U P R E M O Sala de lo Contencioso-Administrativo Sección Segunda Sentencia núm. 916/2024 Fecha de sentencia: 27/05/2024 Tipo de procedimiento: R....

Procedimiento de oposición a una resolución administrativa en materia de protección de menores. Recursos extraordinarios por infracción procesal y de casación. Se desestiman. La sentencia recurrida no se ajusta a lo dispuesto por el art. 19 bis.3 LOPJM ni es acorde con nuestra doctrina. El retorno de la menor a su familia de origen no es aceptable, ya que no resulta compatible con las medidas favorables a su interés. – Tribunal Supremo – Sala Primera – Sección Primera – Jurisdicción: Civil – Sentencia – Num. Res.: 718/2024 – Num. Proc.: 8831/2022 – Ponente: Antonio García Martínez (TOL10.039.739)

by | Jun 24, 2024 | Boletín novedades,PRIVADO Jurisprudencia | 0 Comments

T R I B U N A L S U P R E M O Sala de lo Civil Sentencia núm. 718/2024 Fecha de sentencia: 23/05/2024 Tipo de procedimiento: CASACIÓN E INFRACCIÓN PROCESAL Número del...

Real Decreto 569/2024, de 18 de junio, por el que se modifica el Real Decreto 698/2023, de 25 de julio, por el que se regula la concesión directa de subvenciones a universidades públicas para la financiación del incremento de plazas de Grado en Medicina y de las inversiones destinadas a mejorar la calidad docente (TOL10.042.325)

by | Jun 24, 2024 | Boletín novedades,PUBLICO Legislación | 0 Comments

EXPOSICIÓN DE MOTIVOS. El Real Decreto 698/2023, de 25 de julio, por el que se regula la concesión directa de subvenciones a universidades públicas para la financiación...

Impugnación de acuerdos adoptados en una junta general ordinaria de una sociedad de responsabilidad limitada de aprobación de las cuentas anuales, aplicación del resultado y aprobación del informe de gestión del órgano de administración. La impugnación se basaba en la infracción del derecho de información, tanto el previsto con carácter general por el art. 196 LSC, como el propio de la junta de aprobación de las cuentas anuales, previsto en el art. 272 LC. Interpretación del art. 204.3.b) LSC que restringe la impugnabilidad de los acuerdos por infracción del derecho de información, a los casos en «que la información incorrecta o no facilitada hubiera sido esencial para el ejercicio razonable por parte del accionista o socio medio, del derecho de voto o de cualquiera de los demás derechos de participación». Una información esencial, referida al ejercicio de los derechos de participación, es aquella que habría que conocer para deliberar y votar los acuerdos afectados.En este caso, a la vista de la información que se suministró y de la que podía haber extraído el socio al personarse en las oficinas de las sociedad y examinar los soportes contables, no se aprecia que la no entrega de las nóminas y de la relación de ventas sea una infracción del derecho de información esencial a los efectos del art. 204.3.b) LSC, en el que pueda fundarse la impugnación de los acuerdos.Impugnación de acuerdos adoptados en una junta general ordinaria de una sociedad de responsabilidad limitada de aprobación de las cuentas anuales, aplicación del resultado y aprobación del informe de gestión del órgano de administración. La impugnación se basaba en la infracción del derecho de información, tanto el previsto con carácter general por el art. 196 LSC, como el propio de la junta de aprobación de las cuentas anuales, previsto en el art. 272 LC. Interpretación del art. 204.3.b) LSC que restringe la impugnabilidad de los acuerdos por infracción del derecho de información, a los casos en «que la información incorrecta o no facilitada hubiera sido esencial para el ejercicio razonable por parte del accionista o socio medio, del derecho de voto o de cualquiera de los demás derechos de participación». Una información esencial, referida al ejercicio de los derechos de participación, es aquella que habría que conocer para deliberar y votar los acuerdos afectados.En este caso, a la vista de la información que se suministró y de la que podía haber extraído el socio al personarse en las oficinas de las sociedad y examinar los soportes contables, no se aprecia que la no entrega de las nóminas y de la relación de ventas sea una infracción del derecho de información esencial a los efectos del art. 204.3.b) LSC, en el que pueda fundarse la impugnación de los acuerdos. – Tribunal Supremo – Sala Primera – Sección Primera – Jurisdicción: Civil – Sentencia – Num. Res.: 762/2024 – Num. Proc.: 1290/2020 – Ponente: IGNACIO SANCHO GARGALLO (TOL10.038.310)

by | Jun 24, 2024 | Boletín novedades,PRIVADO Jurisprudencia | 0 Comments

T R I B U N A L S U P R E M O Sala de lo Civil Sentencia núm. 762/2024 Fecha de sentencia: 29/05/2024 Tipo de procedimiento: CASACIÓN Número del procedimiento:...

Real Decreto 567/2024, de 18 de junio, por el que se modifica el Real Decreto 1049/2022, de 27 de diciembre, por el que se establecen las normas para la aplicación de la condicionalidad reforzada y de la condicionalidad social que deben cumplir las personas beneficiarias de las ayudas en el marco de la Política Agrícola Común que reciban pagos directos, determinados pagos anuales de desarrollo rural y del Programa de Opciones Específicas por la Lejanía y la Insularidad (POSEI) (TOL10.042.327)

by | Jun 24, 2024 | Boletín novedades,PUBLICO Legislación | 0 Comments

EXPOSICIÓN DE MOTIVOS. El Real Decreto 1049/2022, de 27 de diciembre, por el que se establecen las normas para la aplicación de la condicionalidad reforzada y de la...