Educación y Justicia ¿artificiales?

 

Hace unos meses se estrenó un interesante thriller político judicial distópico, ambientado en un futuro muy, muy, cercano.

Con un aprobado alto en IMDB, me ha resultado muy agradable su visionado. Exhibe claras reminiscencias de la magistral Gattaca y otras alusiones mas oscuras a Ex Machina  o a la magnífica serie DEVS.

 

Su acción en exteriores se desarrolla en los increíbles paisajes gallegos. La Costa da Morte es un personaje más en el tenso y desapacible argumento. El parador de Muxía parece creado mediante CGI, ex profeso, para la película.

En 2028 los jueces cuentan con un Sistema Experto judicial, una IA llamada THENTE, que asiste y aconseja en los procesos judiciales. Aunque parezca ciencia ficción, sistemas similares ya están en funcionamiento en diversos países, como veremos más adelante.

 

 

 

Un acierto de los creadores del film es la presentación de THENTE. No es HAL 9000, no es MADRE. Apenas unas líneas en una pantalla, unas sentencias que coinciden con las humanas en un elevadísimo porcentaje y, eso sí, una inhumana velocidad.

El problema ético central que plantéa la cinta es el siguiente: va a votarse en referéndum una enmienda constitucional que convierta las sentencias de THENTE en vinculantes.

Prisas por poner a punto una versión definitiva con la firma de la jueza protagonista, holdings de capital riesgo deseosos de monetizar sus inversiones, oscuros intereses políticos y una muerte accidental que parece no tener nada de azaroso.

 

La película no da soluciones, plantéa interrogantes de gran calado, al igual que el librito "Deberían los robots sustituir al profesorado" de Neil Selwyn. La obra se escribió antes de la expansión de ChatGPT, aunque sus planteamientos son de rabiosa actualidad.

 

La IA educativa facturó cuatro mil millones de dólares en 2022, fundamentalmente en educación universitaria y formaciones para empresa. No es desdeñable pensar que los políticos y los holdings tecnológicos quieran tomar al asalto la Educación Obligatoria, con el banderín de enganche de la tan cacareada educación personalizada y vendiendo al profesorado la descarga de trabajo sin valor docente.

Selwyn nos comenta cómo esto lleva intentándose desde 1920, aunque cada vez nos acercamos más a tecnologías que permitan la automatización docente. Incluso dedica un capítulo a estudiar la presencia de robots en las aulas.

 

En este sentido el robot Keeko se ha desplegado ya en cientos de escuelas chinas y Steve "Bussines" enseña idiomas en Primaria en Finlandia y da clases en escuelas de negocios de Colombia.

Obviamente estos equipos no pueden trabajar con autonomía en un aula de secundaria, sin arriesgarse a ser seriamente vandalizados. Nada comparable a lo que se muestra en la delirante cinta Curso de 1999.

 

 

La cuestión de fondo es similar a la que presenta Justicia Artificial. Ningún profesor despreciaría una herramienta que le permitiese descargarse de engorroso trabajo burocrático, que le permitiese preparar sus clases en base al currículo oficial, incluso que le apoyase en la evaluación y la calificación. El problema es el mismo que con THENTE, si las programaciones, metodologías y calificaciones de, digamos ENCINA, llegasen a ser vinculantes de forma tácita, ¿para qué necesitamos a profesionales, altamente cualificados y razonablemente remunerados? ¿Y quien diseñaría esta urdimbre docente? ¿Los expertos? ¿o políticos y tecnócratas que nunca pisarían un aula de secundaria, y que no aguantarían ni diez minutos en él sin sus guardaespaldas?

 

Vamos a revisar distintos sistemas artificiales de justicia y educación con la ayuda de la IA.

*Texto creado por IA, con ediciones del autor.

 

La integración de la inteligencia artificial (IA) en varios ámbitos, incluyendo la educación y la justicia, está transformando la manera en que se toman decisiones y se imparte conocimiento. En este artículo, exploraremos cómo la IA se está utilizando en la educación, con ejemplos de países como Finlandia, Países Bajos, Estonia, Canadá y España, y también examinaremos los sistemas de evaluación como COMPAS e IMPACT en el contexto de la justicia y la educación en Estados Unidos.

 

La IA en la Educación

 

La IA en la educación ofrece una gran promesa de personalización y eficiencia. Por ejemplo:

 

- Finlandia: La educación finlandesa se centra en la equidad y personalización, permitiendo a las escuelas diseñar sus propios planes de estudio para adaptarse a las necesidades individuales de los estudiantes.

Cuenta con el "Finnish AI Education Ecosystem" y el curso "Elementos de IA".

 

- Países Bajos: Los estudiantes tienen la libertad de elegir su camino de aprendizaje, fomentando el pensamiento independiente y la autonomía.

 

- Estonia: Estonia ha digitalizado su sistema educativo, integrando programación desde edades tempranas y utilizando IA para adaptar los planes de estudio al progreso individual de los estudiantes.

 

- Canadá: La tecnología juega un papel crucial, con recursos digitales avanzados y el uso de IA para personalizar el aprendizaje.

 

- España: El proyecto "Evaluación 4.0" utiliza IA para mejorar los procesos educativos y personalizar la enseñanza, apoyando la toma de decisiones educativas.

 

 

El Sistema COMPAS en la Justicia

 

En el ámbito de la justicia norteamericana, el sistema COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) es un ejemplo notable de cómo la IA se utiliza para predecir el riesgo de reincidencia de los delincuentes.

 

Características

 

- COMPAS evalúa a los delincuentes basándose en 137 variables, incluyendo antecedentes penales, historial familiar y comportamiento en la prisión, para asignar una puntuación de riesgo entre 1 y 10.

- Aunque la raza no se incluye explícitamente en el cálculo, investigaciones han revelado que el sistema puede perpetuar sesgos raciales, afectando desproporcionadamente a los acusados negros.

 

Críticas

 

- Opacidad y Sesgos: COMPAS actúa como una "caja negra" porque su arquitectura no permite conocer cómo influyen las variables en la determinación del nivel de riesgo. Esto ha generado críticas sobre su opacidad y potencial para perpetuar sesgos raciales.

 

- Tasas de Error: Aunque COMPAS intenta reducir las tasas de error, nunca puede eliminarlas por completo. La decisión de dónde poner el umbral de "alto riesgo" es subjetiva y puede llevar a resultados injustos.

 

El Sistema IMPACT en la Educación

 

En el ámbito educativo, el sistema IMPACT (Instrument for Instructional Improvement and Accountability) es utilizado en Washington, DC, para evaluar el desempeño de los maestros.

 

Características

 

- IMPACT se centra en la evaluación del desempeño docente a través de observaciones de clase, evaluaciones estudiantiles y otros indicadores de rendimiento.

 

Críticas

 

- Sesgos y Desigualdades: La crítica principal es que IMPACT puede perpetuar sesgos y desigualdades, especialmente en escuelas con estudiantes de bajos recursos. La evaluación puede ser injusta para maestros que trabajan en entornos desafiantes, lo que refuerza las desigualdades existentes.

 

Conclusión

 

La integración de la IA en la educación y la justicia ofrece tanto oportunidades como desafíos. Mientras que la personalización y la eficiencia son beneficios significativos, es crucial abordar los sesgos y la opacidad asociados con estos sistemas. La transparencia y la equidad deben ser principios fundamentales en el desarrollo y la implementación de la IA en estos ámbitos.

 

 

 

Al igual que en "Justicia Artificial", debemos ser conscientes del poder y las limitaciones de la IA para garantizar un futuro educativo y judicial equitativo y justo.

 

En la película se plantéa otro dilema ético. Los coches autónomos, en caso de accidente, deben elegir quienes deben salvarse, según un algoritmo ético. Sin embargo, en secreto, las empresas automovilísticas ofrecen a los VIP´s burlar el algoritmo para salvarse siempre ellos, a cambio de una fuerte suma.

 

La  educación es una actividad esencialmente humana. Los docentes pueden apoyarse en la tecnología, incluso robótica; física o virtual. El peligro es el mismo de THENTE. Si de forma encubierta o vinculante, el profesor debe alinearse con los postulados de una supuesta ENCINA, preparará a sus alumnos para aprobar pruebas diseñadas y corregidas por IA. Automatizará el proceso de enseñanza-aprendizaje. Adaptará su labor para obtener las mejores calificaciones en las evaluaciones de desempeño, de las cuales puede depender su propia continuidad en el trabajo. La supuesta carencia de sesgos perjudicará su misión educativa, especialmente con los alumnos más necesitados, que son los principales beneficiados de la flexibilidad y subjetividad humanas.

 

No se puede poner puertas al campo. Sin embargo, la implantación de tecnologías tan poderosas en campos tan sensibles para el ser humano, debe ir precedida de extensas reflexiones bien informadas, tomadas sin la prisas que pretenden las agendas políticas y comerciales.