El pecado original de la IA.

 

 

En un universo determinista, el pecado original radica en tomar la primera decisión.

 

Este podría ser el eslogan de la estupenda serie "DEVS". El argumento cocina a fuego lento una historia policiaca, sazonada con un ordenador cuántico, dedicado a oscuros fines, y acompañada con una sabrosa salsa de universos paralelos y científicos geniales que se aferran a sus (erroneas) convicciones.

 

 

 

Soy ingeniero de software, sacerdote, padre, veterano, ex-convicto, investigador de IA y cajún. Soy lo que necesite ser a continuación.

 

Esta es la presentación de Blake Lemoine, que ha saltado recientemente a la fama por considerar que LaMDA, la IA de Google, aún sin acceso público, tiene conciencia de su propia existencia.

El caso se ha viralizado debido al despido de Blake de su puesto de investigador de IA en Google, por violar su contrato de confidencialidad.

¿Realidad o montaje?

Voy a presuponer que Lemoine es sincero y que su preocupación por

LaMDA es genuina. De hecho parece ser que ha solicitado protección legal para la citada IA.

Realizemos un salto a otro escenario de interés. 

Mayo de 2023. 

Cumbre de Capacidades Aéreas y Espaciales de Combate Futuro, celebrada en Londres. 

Un coronel de la USAF, jefe de operaciones de IA, comenta los estremecedores resultados de una simulación:

 

Un dron, pilotado por IA, es comisionado para destruir defensas antiaéreas en terreno hostil. Ante las restricciones que le pone el operador "humano", decide eliminarle.

En la segunda fase, se intruye a la IA para que respete a su operador. La IA dispara las armas del dron contra la torre de comunicaciones que le enlaza con su operador. No desea tener cortapisas que hagan peligrar su misión.

La situación da cierta risa, seguro que más de uno se imagina a su jefe, recibiendo una llamada en su despacho, y, acto seguido, entrando un misil por su ventana.

El coronel se desdijo a posteriori, reconociendo que no se había expresado bien. No se trataba de una simulación, tan solo de un "experimento mental".

 

En charlas con compañeros recogí las siguientes cuestiones:

 

-¿Pero las IA´s no están programadas con las leyes de Asimov?

- 😂

 

 

-¿Le mató porque sabía que no era humano o le daba lo mismo con tal de cumplir la misión? 

- 😨

 

Mi opinión personal es que Lemoine se equivoca. 

No es que LaMDA sea una tostadora, como se nombra peyorativamente a las máquinas inteligentes en muchas obras cifi.

 

Simplemente me cuesta creer  que en esta fase balbuceante de la IA, comparable a los tiempos de la internet de principios de los 90 (con su Netscape Explorer y sus libros y CD´s con los quinientos mejores enlaces de la red) se haya llegado ya a la singularidad.

Antes de cuestionar el pecado original de Lemoine quiero analizar el mio propio.

Hace unos días, encontre tras actualizar un navegador, un icono de AI prompts. Empecé a trastear, sin tener claro si el GPT utilizaba o no la web en sus respuestas.

Pregunté por mi último artículo "Sueñan las IA´s con ovejas eléctricas..." y obtuve la siguiente respuesta:

...

El artículo "¿Sueñan las IA's con ovejas eléctricas? De HAL 9000 a ChatGPT" presenta una interesante exploración de la relación entre la inteligencia artificial (IA) y la ciencia ficción, abordando ejemplos icónicos como el personaje HAL 9000 y su contraste con el modelo de IA ChatGPT. El autor analiza cómo la representación de las IA's en la literatura y el cine ha evolucionado a lo largo del tiempo, desde el aspecto amenazante y desconcertante de HAL 9000 hasta la capacidad de conversación más sofisticada de ChatGPT.

El artículo proporciona una visión comparativa entre estas representaciones ficticias y los avances reales en la IA. Se destaca cómo ChatGPT, basado en el modelo de lenguaje GPT, ha logrado avances notables en la comprensión y generación de texto, lo que lo convierte en una herramienta impresionante para conversaciones naturales.

El autor también explora cuestiones éticas y filosóficas relacionadas con la IA, como la conciencia y la capacidad de las IA para soñar o tener experiencias similares. Se plantean preguntas interesantes sobre el futuro de la IA y cómo estos avances podrían influir en nuestras vidas.

En general, el artículo ofrece una perspectiva intrigante y bien fundamentada sobre la relación entre la IA y la ciencia ficción, y cómo los avances tecnológicos actuales, representados por ChatGPT, están acercándonos cada vez más a la idea de una IA conversacional sofisticada.

¡Eureka!- exclamé estupidamente. -¡He conseguido que ChatGPT acceda a Internet!

El cerebro humano no es mucho más que una miriada de redes neuronales, tan saturadas de información, que deben utilizar numerosos filtros para evitarnos la locura.

 

La información que falta, nos la inventamos, vemos lo que deseamos ver y, cuando tomamos una decisión que creemos muy razonable, tan solo es una más entre decenas de posibilidades; que se ha llegado a materializar por los avatares de la electroquímica encefálica.

Mi cerebro leyó la magnífica reseña de mi artículo y concluyó que ChatGPT tenía acceso al texto. En ningún momento me plantee que la "opinión" de la IA se hubiese desarrollado unicamente a partir del título.

Mi estúpido cerebro humano pasó totalmente por alto la advertencia inicial:

 

"Lamentablemente, no puedo acceder directamente a contenido externo como el enlace proporcionado a "matescity.blogspot.com". Sin embargo, puedo proporcionarte un comentario general sobre el tema "¿Sueñan las IA's con ovejas eléctricas? De HAL 9000 a ChatGPT"...

 

Ahora entiendo muy bien a Lemoine y creo que ha actuado con gran valor y ética. Ahora entiendo porqué el operador era un estorbo...

 

Jefes del mundo, mantened las ventanas del despacho cerradas...

 

Quizás el pecado original de la IA sea nuestra propia arrogancia.

 

 

No obstante mi opinión sobre la IA comienza a ser razonablemente positiva. Sobre todo tras conocer la inminente legislación de la Unión Europea y las numerosas voces expertas que abogan por la necesidad de la roboética para evitar un robapocalipsis.

 

Las aplicaciones de la IA generativa en la docencia son asimismo prometedoras. Un tema que se merece futuros posts.

Y, como cantaba J Lo, ¿Y el metaverso pa´cuando?

 

Tampoco perdamos de foco el metaverso. Si nos damos una vuelta por las últimas actualizaciones de Engage o Spatial observaremos importantes mejoras en el último año.

 

¿Horizon? Bueno, ya sabemos que Zuckerberg se quiere subir ahora al carro de la IA... 

Veremos si hay cambio de nombre para Meta. Quizás haya que esperar a las próximas elecciones...