Por Ing. Fernando Díaz

Introducción:

El pasado 09 de abril de 2021 la compañía Neuralink, fundada por Elon Musk, realizó una presentación hacia el público donde demuestran la factibilidad de interconectar una interfase de cómputo al cerebro de un simio macaco ^[1]. Esta tecnología promete mejorar la vida de gente con distintos grados parálisis, al darles independencia a través del control de computadores y dispositivos móviles ^[2].

Cuando el ser humano logra un avance fundamental en la ciencia o la tecnología, la sociedad cambia. Y una parte fundamental de nuestro rol como ciudadanos es identificar los riesgos y beneficios; entender las implicaciones en nuestra vida; y delimitar las aplicaciones de dicha tecnología en nuestra vida personal, familiar y laboral. Nuestro objetivo debe apuntar hacia la búsqueda de un balance adecuado entre riesgos y beneficios que nos ofrece esta nueva tecnología.

Existen casos bien documentados (energía nuclear, internet, reproducción asistida, redes sociales) de como el desarrollo de tecnologías disruptivas pueden afectarnos. Así que vale la pena preguntarnos, ¿dónde ponemos los límites para el desarrollo de la tecnología?, ¿cómo mantenemos el avance que tanto necesitamos? y ¿cómo evitamos que estas nuevas tecnologías nos lleven a situaciones caóticas que pongan en riesgos el bienestar, salud y sobrevivencia de las personas?

Ética para el desarrollo de la robótica

En 1942 Isaac Asimov, escritor de ciencia ficción, publicó por primera vez en 1942 en su relato “Circulo Vicioso” las 3 leyes de la robótica:

1. Un robot no pueda dañar a un ser humano ni, por inacción, permitir que un ser humano sufra daño.
2. Un robot debe cumplir las órdenes de los seres humanos, excepto si dichas órdenes entran en conflicto con la Primera Ley.
3. Un robot debe proteger su propia existencia en la medida en que ello no entre en conflicto con la Primera o Segunda Ley.

Este modelo ético, que inicio como un trabajo de ciencia ficción, termino siendo una fuente de inspiración para muchos de los científicos, ingenieros, inversionistas y desarrolladores que actualmente fabrican robots para una diversidad de aplicaciones de la vida moderna.

 Un simulador ético: M-Link

    Para evitar demandas innecesarias y afectaciones legales, pensemos en una interfase universal cerebro-máquina que permita acceder cualquier información almacenada en el cerebro y generar una comunicación que permita manipular acciones, sentimientos, percepciones y procesos cognitivos en el ser humano. Por facilidad llamemos a esta interfase M-Link.

Una herramienta con estas características podría incrementar nuestra productividad, comunicación y extender nuestras capacidades actuales. Sin embargo, ¿qué pasa si la interfase falla?, ¿qué pasa si la hackean?, ¿cómo limitamos que alguna persona u organización tenga acceso a nuestros pensamientos sin nuestro consentimiento?

Para contestar estas preguntas, consideramos el siguiente escenario: tenemos una interfase M-link y tenemos una actualización reciente que aleatoriamente puede eliminar un recuerdo, detonar una emoción y detonar una acción en el usuario.

Caso 1: ¿qué pasa si pierdo un recuerdo?

                Imagine despertar mañana y no recordar su etapa universitaria o su último curso de certificación, esta situación seguramente tendría un impacto negativo en su desempeño laboral y potencialmente lo arriesgaría a un despido. Ahora veamos el escenario donde despertara y no se acordará de su espos@ o hij@s, esto además de generar una gran confusión durante el desayuno, seguramente llevaría a una afectación emocional grave a nivel personal y familiar.

Finalmente evaluemos, que pasaría si usted perdiera todos los recuerdos con sus mejores amigos, todos esas bromas, anécdotas y buenos momentos que fueron compartidos. Además del impacto social que esto generaría, es posible que mucha de su vida social y apoyo de grupo se vería severamente afectado.

Caso 2: ¿qué pasa si se detona una emoción sin causa?

El ser humano moderno vive en sociedad y dependemos fuertemente de sus lazos emocionales y afectivos para su sentido de pertenencia. Imagine que mañana usted despierta “odiando” a su equipo deportivo favorito, esto generaría afectaciones económicas para el club deportivo y en su vida social. Ahora imagine que hoy por la tarde usted “ama” una marca que le ofrece un producto que usted no quiere ni necesita. Finalmente imagine el escenario donde usted tiene “asco” por una determinada identidad nacional, sexual, religiosa o política, y resulta que esta persona es su jefe o peor su subordinado.

La historia nos ha enseñado que la manipulación o exaltación de sentimientos grupales, nacionalistas, religiosos o raciales pocas veces terminan bien. Esto se ha demostrado al punto que existen prácticas de propaganda religiosa, política y comercial que no es aceptaba o es ilegal cuando fomenta la discriminación, el discurso de odio o incita a violar la ley.

Caso 3: ¿qué pasa si se detona una acción sin consentimiento?

En nuestro sistema legal un punto fundamental para la procuración de justicia es determinar si el acto a sancionar fue accidental o planeado, el término “con predeterminación, alevosía y ventaja” tienda a generar castigos mayores.

¿Qué pasaría si usted va conduciendo y una falla en su interfase genera un choque?, ¿quién debe pagar los daños? Una postura natural sería que su abogado busque demostrar que no fue algo que usted generó o planeo. Y muy seguramente la compañía que le vendió el M-Link pondrá en sus términos y condiciones no se hará responsable de ningún daño. ¿Entonces quién responde entonces?

Una brújula ética para M-Link

                Como un punto de partida se propone generar un modelo con 5 reglas que sirvan como una “brújula ética” para el desarrollo de este tipo de interfases, sin importar su versión o marca. Los principios propuestos son los siguientes:

1. La interfase nunca deberá modificar las memorias en el usuario.
2. La interfase nunca deberá ser capaz de manipular las emociones en el usuario.
3. La interfase nunca deberá ser capaz de detonar acciones en el usuario.
4. No podrá modificarse sin consentimiento, entendimiento pleno y aceptación del usuario.
5. Solo se aceptarán cambios con evidencia incontrovertible de generar un beneficio para la humanidad.

Las primeras 3 leyes están destinadas a proteger lo que podría considerase elementos fundamentales de la identidad de una persona. Las últimas 2 buscan proteger al usuario final de malas prácticas corporativas, diseños deficientes/inseguros y de una gestión negligente de los fabricantes y/o reguladores coaccionados o en un potencial conflicto de interés.

Una red infinita de posibilidades con modelos de desarrollo ético y seguro.

El desarrollo de tecnología es lo que nos ha permitido generar mejores condiciones de libertad, seguridad, educación, salud y gobierno para los seres humanos. El mundo como lo conocemos no podría existir o funcionar sin la tecnología, pero esto no significa que no debe tener límites o guías para su desarrollo éticos, morales y legal.

Actualmente estamos a décadas de entender a detalle el funcionamiento y generación de procesos cognitivos de una persona sana o enferma. Sin embargo, no es improbable que las herramientas lleguen antes que el conocimiento o la sabiduría para los implicados.

Estamos iniciando un proceso de desarrollo que requiere definiciones claras por parte de los diferentes actores para implementar un modelo de desarrollo seguro real y verificable:

• Gobierno:
  • ¿qué roles y responsabilidades deben especificarse por ley?
  • ¿cómo se asegura que los involucrados gestionen los riesgos involucrados?
• Desarrollador:
  • ¿cómo se realizarán análisis de seguridad para detectar posibles fallas?
  • ¿cómo garantizar un control de acceso e identidades que salvaguarde la integridad?
  • ¿este tipo de productos deben tener un control de tráfico (firewall)?
  • ¿debe ser obligatorio un cliente contra código malicioso?
  • ¿quién debe garantizar que la integración no ponga en riesgo al usuario?
• Comercializador:
  • ¿se debe permitir su compra a todos los sectores?
  • ¿es ético implantarlo si no existe posibilidad de mantenerlo?
  • ¿quién es responsable de mantener su correcto funcionamiento si la compañía cierra?
• Usuario:
  • ¿qué derechos tendrá el consumidor de estos productos?
  • ¿podrán los padres intervenir los productos de sus hijos/hijas sin su consentimiento?
  • ¿cómo se manejaría un proceso de garantía o devolución?
• Soporte técnico:
  • ¿quién y como garantiza que esta capacitado para intervenir estos productos?
  • ¿qué sucede si no existe acceso al canal de soporte?
  • ¿cómo garantizamos la confidencialidad de los datos del usuario?

Como sociedad la integración de nuevas tecnologías a nuestra vida es una tendencia que va en aumento, y es por esto que la integración de los principios y controles mínimos de ciberseguridad es fundamental para garantizar nuestros derechos.

Es importante que decidamos de manera consciente que usos y aplicaciones deben tener una nueva tecnología, y no dejarlo al azar o a las fuerzas del “libre mercado”. Si decidimos bien, lograremos un mejor mundo para los seres humanos, si no participamos podemos terminar siendo los protagonistas de un gran episodio de “Black Mirror”.

Déjenos su opinión y nos gustaría saber si el escenario de ciberterrorismo lo considera un exceso de los amantes de la teoría de la conspiración o un escenario válido para las compañías mexicanas en el desarrollo de una estrategia de continuidad de negocio (BCP/DRP).

El contenido de este artículo refleja únicamente la opinión del autor, y no representa la postura oficial de la casa consultora HKMX. HKMX ofrece este canal en apoyo a la libertad de expresión y la diversidad de pensamiento con el objetivo de generar un intercambio libre de ideas que desarrolle la comunidad de ciberseguridad en México y el mundo.

Referencias

[1] Wakefield, J. (2021). Elon Musk’s Neuralink “shows monkey playing Pong wind mind”. Recuperado junio 22, 2021, de BBC News: https://www.bbc.com/news/technology-56688812

[2] Neuralink (2021). Applications. Recuperado junio 22, 2021: https://neuralink.com/applications/

[3] Frabeti, C. (2017). Las leyes de la robótica – ¿cumplirán los robots reales, que ya están entre nosotros, las tres leyes de la robótica de Asimov? Recuperado mayo 20, 2021, de El País https://elpais.com/elpais/2017/08/24/ciencia/1503574908_187790.html

[4] Ilustración (2018). Ilustraciones de una sociedad distópica en un mundo decadente. Recuperado junio 22, 2021, de Cultura Inquieta. https://culturainquieta.com/es/arte/ilustracion/item/14196-ilustraciones-de-una-sociedad-distopica-en-un-mundo-decadente.html