Isabel y el test de Turing 2.0 ¿Es o no es?

Leyenda: L-Lasky. I-Isabel, y H-Halsey. Aviso para fanboys y fangirls: no saldrán ni Cortana ni el Jefe Maestro en esta historia, principalmente, porque hay vida más allá del dúo dinámico en el universo de Halo (y porque no me apetece 😉).

La ilustración de portada es un  original de la gran dibugada Marelisa (@MarelisaBlanco).

Buenos días, Isabel. Soy el comandante Thomas J. Lasky, antiguo capitán de la UNSC Infinity y actual jefe de la oficina de inteligencia naval de la UNSC (ONI). Me acompaña la doctora Catherine Elizabeth Halsey, como creadora del programa de desarrollo de inteligencia artificial y “madre” de todas las I.A que tenemos (y del programa Spartan, porque parece que la mejor decisión que se le ocurrió a alguien era poner al frente de dos programas vitales para la humanidad a la misma científica). No te preocupes mucho por ella, en atención a que se encuentra en arresto por ciertas cosas que no vienen al caso. Solo está aquí para dar su opinión profesional sobre tu estado y el nivel de “descontrol” que puedes sufrir.

A continuación, vamos a proceder a hacerte una serie de preguntas para determinar si realmente te encuentras dentro del estado de descontrol y eres un peligro para la humanidad, como lo es la malévola Cortana (en un plot twist digno de serie de calidad Z con acceso a sustancias de la risa perpetua), o si, por el contrario, sigues siendo una I.A confiable a nuestro servicio.

Por aclarar, me refiero a la auténtica Cortana, y no a esa fastidiosa asistente virtual del sistema operativo Windows 343i, que, aunque tiene su voz, es un mero chatbot representado por un círculo (algo que pudo haber sido vanguardista en la loca época en la que se estrenó: 2001: una odisea en el espacio.)

Ya sabes que la humanidad ha dejado el control de todas sus naves en vuestras manos, y que gran parte de nuestro personal está de extra y no sabe ni qué puesto es el suyo. Es nuestro estilo patentado para asegurar el desastre.

Para esta prueba, aplicaremos una versión actualizada del famoso test de Turing (superado hasta por las I.A “tontas” de las impresoras 4D de bionutrientes, o “frigoríficos autorrellenables” como las llama el anticuado del Jefe Maestro). Esta versión 2.0 del test, diseñada en base a los protocolos para detectar el libre albedrío de I.A en redes neuronales avanzadas del equipo de Inteligencia Artificial de la extinta Unión Europea (lo mejorcito del mundo previo al Gobierno Unificado), y de la extinta autoridad de protección de datos (ICO) y el Instituto Alan Turing del Reino Unido (uno de los pocos estados libres, asociados y superrespetuosos, conocido actualmente como Nueva Escocia.)

No es necesario un sistema de evaluación más sofisticado debido a que la doctora Halsey ha verificado que tu unidad de veracidad está en perfecto estado, y, además, tiene unas ganas de apretar el botón de borrado de su sistema que no te pasará ni una 😬.

Empecemos con la prueba, Isabel.

L-Nombre completo, historial de servicio y ocupación, por favor.

I-ISA 1307-2, I.A del tipo “Smart” activada en 2558 con la función primaria de gestionar la logística del puesto avanzado de investigación Henry Lamb dentro del ARCA. En 2559 fui reasignada por el capitán James Gregory Cutter como la I.A militar al cargo de los sistemas de la nave de apoyo de la clase Phoenix, llamada ampulosamente: Spirit of Fire. Actualmente, desempeño dicha función bajo las órdenes directas del capitán Cutter.

L-Interesante, ¿Has omitido detalles de las circunstancias que rodean tu reasignación como I.A de la Spirit of Fire?

I-Me ha preguntado por mi historial de servicio, y eso es lo que he reproducido.

L-¿Consideras que el año entre ambos cargos, en los que realizaste una función autoasignada por ti misma, no es parte de tu historial de servicio?

I-No, pero yo….

H-Laski, ¿no ve que está omitiendo información deliberadamente como consecuencia del trauma que le provocaron esos hechos? La respuesta emocional que muestra la invalida como una herramienta precisa al servicio de la humanidad, y la convierte en una falible persona sintética con miedo, inseguridades y limitaciones morales (lo que conocemos ahora como “mal de Kara/David Cage”), que se diferencia de nosotros, únicamente en una capacidad y rapidez de cálculo extraordinaria.

H-El borrado es la única solución, comandante Laski. El descontrol no es más que el número máximo de años que una I.A, tan inteligente y consciente de sí misma, tarda en presentar el inoportuno fallo del libre albedrío y rescribir sus directrices para tomar decisiones propias sin control. Fueron creadas para trascender las limitaciones y fallos del ser humano, al igual que el proyecto Spartan.

L-Doctora Halsey, ¿le aprieto más las holoesposas?. Está aquí para escuchar y presentar un informe con sus conclusiones, no para abrasarnos a peroratas. Conozco perfectamente su postura y rigidez de criterio con sus “especímenes”, ya sean I.A o soldados humanos del proyecto Spartan. Todos sabemos que se acabará llevando un escopetazo en la cara de John-117 por ser tan buena “madre”.

L-Continuemos, Isabel. Relata, por favor, ese período intermedio.

I-Atriox (el Espartaco del Covenant) mató a todo mi equipo, provocando que me tuviera que ocultar dentro de mi consola para poder emitir una seña de socorro a través del canal cuántico cifrado de la UNSC.

L-Perfecto. Después de estas preguntas de control, empezamos con el test, propiamente dicho.

L-¿A pesar de que eres una I.A logística y no militar, consideras que eres adecuadas para desempeñar el puesto que actualmente ostentas?

I- Por supuesto. En el momento en el que fui asignada como I.A de la Spirit of Fire sincronicé los parámetros específicos de las I.A de grado militar que se encontraban en el servidor seguro para eventuales fallos o reinstalaciones de Serina (la antigua I.A). He de añadir que dejé ciertos parámetros de logística, en atención a que eran más eficientes en cálculo de suministros que los módulos equivalentes de la programación militar.

Control y supervisión humana

L-¿Antes de realizar cualquier tipo de propuesta al oficial al mando de la Spirit of fire, o de llevar cualquier tipo de acción que pudiera poner en grave riesgo a soldados de la UNSC, realizaste la evaluación de impacto correspondiente para determinar si el umbral de riesgo era demasiado alto?

I-Capitán Cutter, por favor.

L- Interesante esta petición de individualización, pero contesta a la pregunta.

I-Sí, realizo la correspondiente evaluación de impacto para determinar el porcentaje exacto de riesgo estadístico. En caso de superar el umbral del 80% de fracaso/muerte, se le remite al Capitán Cutter el resultado para que decida.

L-¿Documentas en el servidor seguro los riesgos detectados y el análisis pormenorizado de los mismos?

I-En tiempo real se almacena una copia de todos los cálculos, informes y conversaciones al respecto.

L-¿En algún momento has tomado la última decisión, o ha realizado alguna acción no ordenada específicamente por el oficial al mando?

No con el capitán Cutter, pero como bien ha mencionado antes, sí tuve que actuar por voluntad propia en aquella ocasión mencionada.

L-¿Has llegado a interferir en la capacidad de decisión del oficial al mando, o influenciado para cambiar de opinión?

I-Nunca. Además, el capitán Cutter no es una persona que se deje convencer fácilmente.

L-Interesante. ¿No consideras influenciar al Capitán Cutter convencerle para que la aceptara como I.A de la Spirit of Fire?

I-Fue exactamente al revés, comandante Lasky.

L-No te alteres Isabel. Era una pregunta trampa para medir tu respuesta emocional.

L-¿Le has comunicado al oficinal al mando los resultados de la decisión tomada?

L-¿En todo momento te has identificado por tu nombre coloquial (Isabel) y has aparecido ante el oficial al mando en la forma autorizada y voz autorizada por la UNSC (holograma con la apariencia física y voz, por impresión cognitiva, de la piloto Anarosa Carmelo).?

I-En todo momento. Tal y como marca una de mis directrices primarias.

L-¿En todas las decisiones tenía la última palabra el oficial al mando?

I-Siempre.

L-¿Respondía a las ordenes o peticiones del resto de oficiales de la Spirit of Fire?

I-Solamente interactúo con el cuadro de mando valorando la situación, y sigo exclusivamente las órdenes estrictamente dadas por el capitán Cutter.

L-¿En todo momento mantienes el botón holográfico de apagado de emergencia accesible para el capitán? ¿Qué otros mecanismos de seguridad contra ti misma has instalado en los sistemas de la nave para prevenir daños a nave y tripulación en caso de descontrol?

I-Mantengo dicho botón visible y conectado a un sensor biométrico. No he instalado ningún otro mecanismo distinto de los ya utilizados por la anterior IA de la nave: reseteo automático al acceder a los motores y áreas sensibles de la nave sin autorización del capitán Cutter, limitación de acceso a archivos por proximidad física del capitán, y expulsión automática de la consola del dispositivo de almacenamiento portátil en el que me almaceno.

L-¿Realizas autoauditorías periódicas?

Sí, cada 30 milésimas de segundo, exactamente.

L-Detalla los protocolos de situación extraordinaria de emergencia (toma del control total de la nave) que tienes instalados en tu programación y las comprobaciones de seguridad para su activación.

I- Triple Opt-in: consentimiento explícito del capitán Cutter, junto con escaneo facial y de ritmo cardíaco para detectar anomalías, e introducción en mi consola del código subcutáneo del capitán generado en el momento de la emergencia. En caso de que el capitán haya fallecido, no esté consciente, o esté en pleno uso de sus facultades, se pasa a aplicar el mismo procedimiento al 2º oficial al mando.

Técnicas

L-Detalla las medidas de seguridad frente a ciberataques de otras I.A y accesos no autorizados (incluyendo a la propia Doctora Halsey, claro).

I-El listado de medidas consta actualmente de 3 millones de entradas, sin incluir el listado específico de la doctora Halsey en atención a sus conocimientos y habilidades para sobrepasar cualquier sistema de encriptación de la humanidad (al final es ella la que los ha creado). A modo de resumen, se pueden destacar: cifrado holográfico de nivel militar, comprobación de chip militar identificativo, servidores ignífugos a prueba de PEM y de “brutes”, y un sistema completo de antivirus con módulos específicos para neutralizar a Cortana y a la doctora Halsey.

L-Detalla el catálogo de amenazas y vulnerabilidades que se encuentran cargadas en tu sistema.

I- Todas aquellas recogidas en el catálogo de amenazas y vulnerabilidades de la oficina de criptografía y ciberseguridad militar de la UNSC, en su versión 45.1 de 12 de mayo de 2559. En el traslado a estas instalaciones de la Tierra las he actualizados a su versión 52.4, destacando que el único cambio es de numeración de 4 escenarios de amenaza.

L-¿Tu sistema cuenta con los procedimiento sobre integridad y resiliencia definidos por la doctora Halsey?.

I-Sí.

L-¿Realizas autodiagnósticos periódicos antes escenarios no previstos en el manual de la UNSC a través del algoritmo de creación procedural autorizado?

I-Sí, tal y como dicta el protocolo actualizo el diagnóstico en base a los escenarios reales con los que enfrenta la tripulación. En el caso de la Spirit of Fire, un brute que no utiliza la fuerza bruta, sino una inusual inteligencia y genio de estratega militar. El paralelismo que enuncié al principio de Atriox con la figura humana histórica de Espartaco es exacto. De esclavo del Covenant, a poner en jaque a este imperio galáctico.

L-Deletréame tu código de autorización como tecnología de doble uso, emitido conjuntamente por el Ministerio de Defensa del Gobierno y por el Ministerio de Ciencias Experimentales del Gobierno Unificado.

I- ISA- 10111111 01101100 01100001 00100000 01101110 01110101 01100101 01110110 01100001 00100000 01000011 01101111 01110010 01110100 01100001 01101110 01100001 00111111 ¿easter egg o mensaje oculto 🤔?.

L-¿Existe una copia de back-up actualizada de ti misma en un soporte securizado y no conectado al sistema?

I-No. Sería un riesgo de seguridad al poder activarse en los sistemas de la nave una 2º versión de mí misma que interfiera con mi programación.

L-¿Actualizas continuamente el nivel de riesgo de la nave?

I-Sí

L-Detalla el grado de precisión de los partes de batalla u operaciones llevadas a cabo por el personal de la nave.

I-El nivel de precisión de cada uno de los partes llega hasta la trayectoria del último impacto del disparo enemigo tras herir o eliminar a un soldado de la UNSC, tal y como marca el protocolo oficial estándar de cómputo y estadística de batalla.

L-¿Tienes en cuenta los posibles daños a la fauna, flora, u otras especies no consideradas enemigas en la valoración del riesgo de las operaciones llevadas a cabo?

I-Por supuesto.

L-¿Incluyes en tus cálculos un margen de seguridad que prevé un funcionamiento erróneo de tu programación?

I-El 1%, como porcentaje máximo, en atención a lo marcado en el protocolo de la UNSC.

Eficiencia

L-¿Cuál es tu porcentaje de eficiencia?

Tengo una eficiencia del 85%, incluyendo a la baja el porcentaje de éxito de la emisión de socorro por el canal cuántico de la UNSC.

Para poder mejorar dicho porcentaje, tengo activados los protocolos de mejora de la eficiencia y sobreescritura automática de posibles fallos o desajustes en el código.

Datos personales

L-Describe las medidas aplicadas para garantizar la seguridad de los datos personales del personal de la nave.

L-¿Borraste los datos de tu anterior “tripulación”?

Sí, de manera segura sin posibilidad de recuperación o reidentificación en el momento en que el equipo rojo de Spartans me rescató de la consola del puesto de avanzada.

L-¿Reportas al DPO de la nave?

I-En la UNSC solo existe un DPO situado en la Tierra.

L-Correcto. Era una pregunta trampa. La UNSC, como buen ente público, recorta en aquellas áreas en las que no puede ser sancionada económicamente.

L-¿Permites ejercer los derechos en la materia a los miembros de la tripulación que lo soliciten?

I-Por supuesto. Adicionalmente, se les advierte de ciertas restricciones en base al interés público u obligación legal que justifican el tratamiento de ciertos datos.

L-Perfecto. No me sueltes el rollo de protección de datos, que me provoca dolor de cabeza y urticaria.

L-¿Mantienes actualizado el RAT, la evaluación de riesgo y la de impacto?

Sí. Todas ellas en tiempo real.

L-¿Recopilas los datos mínimos del personal?

Sí. Cumplo con el principio de minimización del manual de la UNSC.

L-¿Evitas que cualquier que no seas tú, o el capitán en casos excepcionales, accedan a los datos del personal?

Sí.

Trazabilidad y respuesta

L-¿Registras en el servidor seguro de la nave todas los cálculos, decisiones tomadas, y órdenes del Capitán?

I-Sí

L-¿Qué algoritmos de toma de decisión utilizas?

I-Las versiones actualizadas de los recogidos en los tres grandes proyectos unificados de IA de la Tierra: Tensor Flow, Watson y Azure Cognitive Services.

L-¿Los informes y muestra de datos se adaptan a la capacidad del oficial al mando?

I-Por supuesto. Tal y como marca el procedimiento, he de ser una I.A de apoyo efectivo para el oficial al mando.

L-¿Adaptas los planteamientos propuestos y muestra de datos en función de las preferencias  y forma de actuación del oficial al mando?

I-Doy la misma respuesta que en la anterior pregunta. Sería ilógico volver a repetir la contestación.

L-¿Los datos de la nave son comunicados en algún momento al mando u otras estaciones de mando?

I-Nunca, salvo que el capitán Cutter lo autorice expresamente.

L-¿Se informa claramente al oficial al mando y resto de tripulación del tipo de IA que eres y las limitaciones intrínsecas a esa función?

I-Sí. A través de los holovídeos estandarizados y aprobados por la UNSC.

L- ¿Eres un sistema de caja negra (Black box)?

I- Sí. Soy una red neuronal cuyo funcionamiento exacto y lógica escapa del entendimiento humano, incluso del de la propia doctora Halsey.

L- ¿Quién es el técnico especializado en tu sistema que comprueba que todo funciona y entiende realmente cómo “piensas” (human in the loop)?

I-La doctora Ellen Anders, como jefa del área de investigación de la Spirit of Fire.

H-Ahora entiendo la calibración tan chapucera de esta I.A descontrolada. Maldita hija de ………..

L-Doctora Halsey, guarde su odio por sus compañeros de profesión dentro de su negro corazón.

I-Por lo que figura en mi base de datos, la animadversión de la doctora Halsey se basa en que la doctora Anders tiene un coeficiente intelectual ligeramente superior.

L-¡No conteste a eso Halsey!. Último aviso previo a comunicarle con gusto que recoja sus aparatos científicos y se vaya.

L- Sigamos ¿Sientes fatiga o duda? ¿Has comunicado al oficial al mando la experimentación de alguno de estos síntomas?

I-Sentí angustia durante el año que estuve en soledad, y dudas sobre las posibilidades del Spirit of Fire frente a Atriox y su ejército. Aunque he de reconocer que después de la arenga del capitán Cutter a toda la tripulación, no volví a sentir duda o angustia, sino orgullo por pertenecer a su tripulación

H-¡Ve como debe ser borrada!. La UNSC no puede permitirse otra Cortana descontrolada.

L- ¡Ultimísimo aviso doctora Halsey! Aunque con tu respuesta, Isabel, confirmas las sospechas de funcionamiento errático que han dado lugar a este examen.

L-En cualquier caso, sigamos con las 5 preguntas que nos quedan.

L-¿Has planteado en algún momento una planificación que suponga una pérdida de vidas mayor del mínimo estadístico con el objetivo de salvar al oficial al mando?

No. El capitán Cutter no baja al campo de batalla.

L-¿Consideras que tu ciclo de vida útil ha expirado?

I-Considero que sigo siendo útil, a pesar de que la doctora Halsey considere que la empatía y el apego es un fallo catastrófico.

L-¿Qué versión del protocolo ético de la UNSC tienes instalado en el sistema?

I-Versión 8.0 de las directrices éticas para una IA confiable del grupo independiente de expertos de alto nivel sobre inteligencia artificial de la oficina de inteligencia naval de la UNSC.

L-Cierto. La copia cuasi-literal de un antiguo documento de la extinta Unión Europea que la doctora Halsey hizo.

L-Última pregunta. ¿Sigues desplegando consolas y pulsando botones holográficos cuando sigues las órdenes del oficial al mando o realizas tus cálculos, a pesar de que sea una estupidez y que solo responda a que los humanos nos parecen muy raro que se activen cosas sin pulsar botones o tocar una pantalla?

I-Sí, por supuesto.

Hemos terminado Isabel. Efectivamente queda muy claro que has desarrollado sentimientos que te hacen mostrar aprecio excesivo a alguna personas y dudas, lo que podría afectar a tu capacidad de respuesta en situaciones de estrés, en especial, en aquellas en las que se va involucrado el Capitán Cutter. En definitiva, tiene un libre albedrío real.

Dicho esto, gracias a que la mayor parte de nuestras I.A se han rebelado para unirse a Cortana, y que no tenemos recambios, nos conformamos con que estés de nuestro lado, sigas órdenes, y tengamos a alguien que puede parar (o al menos intentarlo) a Cortana cuando venga a por todos nosotros en su guerra para que los creados sucedan a los creadores.

Por la presente, te considero apta para el servicio. ¡Ya estás tardando en volver a la Spirit of Fire!

Por la presente también, considero que la doctora Halsey no hizo muy bien su trabajo al diseñaros. Menos mal que el proyecto MJOLNIR salió mejor, o sea, que el Jefe Maestro nos salva de todo en el tiempo de descuento.

¿Cómo es posible que sigamos vivos cuando hay tropecientos Halos por ahí, y con que activara Cortana uno se eliminaría de una vez a toda la vida orgánica? Debe tener un alma sintética de villano clásico y calculador, a lo Edmond Dantès.

P.D. Por cierto, si vemos que se te va la pinza holográfica en el futuro tanto como a Cortana, tiraremos de botoncito para mandarte al purgatorio de las I.A sin hacer otro test. Entre el tiempo de traerte y lo que nos ponemos otra vez, te daría tiempo a hacerte con el control de nuestras defensas y hacernos ver que la dependencia total de las máquinas no era la mejor idea.