Contrainteligencia artificial

La contrainteligencia o contraespionaje es la actividad de evitar que el enemigo, real o potencial, sepa sobre nosotros y nuestras intenciones más de lo que nos gustaría. Lo cual puede conseguirse ocultando la información sensible y, también, proporcionando información falsa; esto es, desinformando.

Ya no hay duda de que nos espían. No solo el Estado sino todos aquellos que pretenden vendernos o arrebatarnos algo. Continuamente hay miles de artefactos recogiendo nuestros datos (movimientos bancarios, páginas web visitadas, correos y mensajes, fotografías, llamadas telefónicas, recorridos …). Esta avalancha de datos, el Big Data, necesita de herramientas capaces de procesarlos y analizarlos. Detrás de todas ellas hay distintos sistemas de Inteligencia Artificial, dotados en su mayoría de algoritmos de aprendizaje automático.

Estos algoritmos no son otra cosa que instrucciones para etiquetar todo tipo de cosas que puedan describirse mediante ceros y unos; reciben la descripción de algo y le asignan la etiqueta que le debería corresponder. Los programadores proporcionan las reglas y los ejemplos de cómo hacerlo, dejando el resto a procesos automáticos; de forma que el modelo se va perfeccionando a medida que aumentan los ejemplos con los que comparar y los aciertos.

Esta tecnología se está aplicando con éxito en el reconocimiento de todo tipo de regularidades y de patrones, en todo aquello que está sometido a reglas o muestra comportamientos repetitivos. El reconocimiento de imágenes, los asistentes de voz, la publicidad personalizada, la traducción automática de textos o la conducción autónoma de vehículos son algunos de los múltiples usos de esta tecnología. Como también lo es encontrar vínculos entre los miles de millones de datos disponibles que, por falta de tiempo, velocidad y potencia de cálculo, habrían pasado desapercibidos para los humanos.

Una vez etiquetado un objeto (gato, persona, vehículo o palabra) y sus circunstancias (raza, edad, dirección en la que se mueve, idioma…) se pueden hacer predicciones estadísticas sobre su comportamiento y tomar decisiones al respecto.  Y esto puede ser de gran ayuda cuando se trata de analizar millones de diagnósticos médicos para detectar cánceres con mayor fiabilidad o cuando se quiere encontrar la mejor ruta posible según el estado del tráfico, pero también otorga un poder y una capacidad de control sin precedentes.

A nivel particular, ¿cómo podemos defendernos de la IA? Pues aplicando las técnicas elementales de la contrainteligencia: ocultándonos o confundiéndola; es decir, evitando que nos localice o proporcionando datos falsos. Hay estrategias evidentes, como limitar el uso que hacemos de Internet, dejar el móvil en casa o utilizar lo menos posible la tarjeta de crédito. Otras son más sofisticadas y requieren de ciertos conocimientos técnicos, o de aplicaciones que permitan desorientar al algoritmo haciéndole creer lo que nosotros queramos.

Todavía no puede saberse con certeza si el portador de un teléfono móvil es su propietario, aunque se está muy cerca de conseguirlo. También existen aplicaciones para proteger el anonimato en la navegación y distintas técnicas para engañar a los métodos de reconocimiento facial. Incluso hay software que navega aleatoriamente por la Red, visitando tanto páginas de astrología, moda o comida china como de filosofía, economía o pensamiento político; de esta manera nuestro historial de navegación se llena de “ruido” en el que resulta difícil encontrar algún tipo de regularidad, patrón o preferencia. Aunque lo mejor es pasar desapercibido en la medida de lo posible.  

Además de esta lucha más o menos personal, hay otras de mayor alcance y peores consecuencias potenciales. Por ejemplo, la que tiene lugar entre ciberdelincuentes y aquellos que intentan detenerlos; o entre las agencias de inteligencia de los distintos gobiernos. Todas ellas recurren a la inteligencia artificial, por lo que podría hablarse de una lucha de algoritmos contra algoritmos.

Hay distintas técnicas para manipular las IA y los sistemas de aprendizaje automático, consiguiendo que funcionen mal o que revelen información confidencial. Se conocen como aprendizaje automático antagónico o aprendizaje automático contradictorio que, contado de forma muy elemental, consiste en suministrar ejemplos manipulados hasta conseguir que el sistema los acepte como buenos.

Si se entiende cómo funciona un sistema de visión artificial también se sabe cómo engañarle, cómo llevarle a conclusiones erróneas, impidiéndole que vea algo o convenciéndole de que está viendo algo que no existe. Los sistemas de reconocimiento de imágenes no ven como los humanos. También funcionan con patrones de referencia con los que comparar, pero con otro tipo de patrones. De esta manera, cambios sutiles en la distribución de los píxeles que reciben, pueden conseguir, como ya se ha hecho, que el algoritmo confunda una tortuga con un rifle, o que no reconozca una señal de stop; con lo que esto puede suponer cuando un sistema de seguridad ve una tortuga en vez de un rifle o cuando la visión artificial forma parte de un vehículo de conducción autónoma.

Algo similar puede hacerse con los sistemas de reconocimiento de voz. El oído humano solo capta ciertas frecuencias, pero los sensores electrónicos pueden captar muchas más; o escuchar a volúmenes mucho más bajos. Pueden estar recibiendo órdenes que parecen emitidas por un humano pero que no lo son. Así, camufladas en una melodía o en un vídeo manipulados, se podrían estar proporcionando órdenes a los asistentes de voz domésticos o a los teléfonos móviles, para tomar su control.

La inteligencia artificial ni es inteligente ni es capaz de ejecutar nada que no esté escrito en sus programas, aunque puede suceder que, según los datos que reciban, los algoritmos se comporten de manera muy distinta a la que pretendían sus programadores, es decir, que hagan cosas que no estaban previstas. Y se puede conseguir no solo que una IA se equivoque, sino además que reciba instrucciones para que realice una tarea diferente a aquella para la que inicialmente fue programada.

Como sucedió en su momento con la energía nuclear, y como también está sucediendo con la biotecnología y la ingeniería genética, los expertos en inteligencia artificial están manipulando tecnologías con un potencial enorme pero imprevisibles en su complejidad.  Y parece que pesan más la economía y la adquisición de poder que las consideraciones éticas o la humildad ante el desconocimiento.

4 comentarios

4 Respuestas a “Contrainteligencia artificial”

  1. O'farrill dice:

    Muy interesante el artículo y un tanto esperanzador en cuanto deja un resquicio de luz sobre la oscuridad que nos aguarda en el control personal. El solo hecho de considerar sospechosos a toda la «soberanía nacional de la que emanan los poderes del Estado», ya es una aberración jurídica. Mientras tanto hay que «minimizar» cualquier sospecha sobre la acción de uno de esos poderes. Ellos no se equivocan, ni mienten descaradamente al «soberano» desvalido que necesita protección.
    Desde hace tiempo se trata de quitar de la circulación el dinero en efectivo, cuando son precisamente ellos los que acuñan y distribuyen moneda para imponer el uso de tarjetas de crédito cuyo control es posible. En tal caso los bancos -aliados con el gobierno- percibirán las comisiones que les parezca (al fin y al cabo son pocos para ponerse de acuerdo) por lo que hace no muchos años, generaba intereses de beneficio a los clientes.
    En todo caso, soy muy pesimista sobre todo ello por la acrítica posición mayoritaria en la sociedad a cualquier imposición que recuerda el «sarna con gusto no pica». El grado de resignación con que se acepta y aún más, el grado de ilusión con que se recibe cada nuevo eslabón que encadena la libertad individual, es de pronóstico reservado.
    Un saludo.

    1. YaMeVoy dice:

      Yo aún no entiendo cuál es el problema de que desaparezca el dinero en efectivo, y mucho menos comparado con las ventajas que ofrece para luchar contra el fraude fiscal y la economía sumergida.

      1. O´farrill dice:

        Muy sencillo: es un fragmento más de libertad que se nos arranca. Nada que oponer -como es lógico- a que existan otras opciones de pago para quien las prefiera. En cuanto al fraude fiscal y la economía sumergida ¿podemos empezar a hablar de gasto público? Un saludo.

  2. Loli dice:

    Hace unos años la subida de la factura de la luz fue una de los argumentos para la denuncia de los “tijeretazos”, recortes del Estado de Bienestar, que hicieron caer a un Gobierno de un determinado signo…

    Sin embargo esa “tijera” había empezado a operar mucho antes, con el anterior Ejecutivo, de otro determinado signo.

    Ahora mismo, los mismos que utilizaron argumentos progresistas contra unas facturas alrededor de suministros energéticos totalmente kafkianas y difíciles de seguir, utilizan otros argumentos, que por venir de ellos necesariamente nos los tenemos que tomar como los más “progres” también, para justificar una subida indiscriminada de la “luz”.

    La medida es “confiscatoria”, a mi modo de ver, pero la venden como “verde”…., o sea que, como gastamos mucha luz y contaminamos mucho, pues a prescindir de electrodomésticos, y a cocinar poquito, porque hay que pagar más por ello….

    Las grandes industrias trasladadas y ubicadas en sitios y lugares determinados, bueno, eso es algo de “mayores”, nosotros a ser “obedientes” y “verdes”, muy “verdes”.

    Nadie se pregunta nada…, al parecer.

    El caso es que en ese camino del “verdear”, nos obligar a cambiar los coches diésel a coches eléctricos….

    Mejor, quieren que vayamos todos en “patinete”….más “verde” imposible, (y lo siento, sin ánimo de ofender, más tonto, también, no termino de asimilar un señor calvo y con bigote en patinete, tan contento….).

    Pero lo que no nos explican es que sí no se quiere que lavemos la ropa o cocinemos más que lo imprescindible para no contaminar, de dónde va a salir, también, toda la energía necesaria para trasladar y recargar las enormes baterías necesarias para dichos vehículos, ni su posterior reciclaje…

    El caso es que hacer que la corriente eléctrica se produzca y traslade a través de grandes distancias, necesita de una energía que tiene que nacer en alguna parte, y mantenerse en esos trayectos.

    Por otro lado, estos fluidos eléctricos, de electrones, no llegan íntegros, sino que sufren pérdidas en sus conductos, como la corriente eléctrica al pasar por un cable…

    Y ¿no son contaminantes esas pérdidas?.

    Si estamos tan ecológicos con la contaminación eléctrica de mi lavadora… ¿qué pasa con todo el parking de coches, patinetes, bicicletas, ruedas que van solas contigo encima, y que utilizan la energía eléctrica…? ¿esas no contaminan?.

    Estamos sumiéndonos sin capacidad de respuesta a la imposición de verdaderas falsedades…

    El dinero…, la moneda, en un momento determinado de la historia supuso un avance sin igual.

    Entiendo que pasar del “trueque”, a hacer posible ejercer la voluntad y la libertad del individuo sobre el efecto de su trabajo, aunque fuese dentro de determinados márgenes, es un avance material y simbólico importante.

    Desde ese momento ya no necesariamente una determinada cosa se tenía que cambiar por otra en concreto, sino que la persona decidía en qué quería emplear sus monedas, el símbolo de su energía trabajada.

    Quizás esa fuera la finalidad del “dinero”….

    Ahora, ni el fruto, el efecto del trabajo, es muchas veces constatable, ni su remuneración, y por lo tanto, el valor del libre albedrío del individuo y su voluntad para transformarlo como desee.

    Eso es, a mi humilde entender, muy serio.

    Es como cegar los sentidos, no permitir la alquimia percibida de los cambios, ni poderlos incorporar a la experiencia efectiva, a la consciencia….

    Eso sí fomenta el miedo.

    Y el miedo el sometimiento.

    ¿Dónde está la economía sumergida?, ¿en los grandes oligopolios?….no lo necesitan, ellos marcan la reglas de juego, incluyendo esas reglas la aparición de ese concepto, por algo será.

    En realidad esa economía es la que rige muchas situaciones de gran precariedad y pobreza, sobrevenida precisamente, y entre otras cosas, por las presiones impositivas fiscales más confiscatorias que recaudatorias.

    Esto pasa como con el supuesto “ecologismo” no contaminante de la energía eléctrica, que no es cierto, pero que tampoco nos explican cómo se produce y se aplica luego a nuestra vida diaria….aunque no es que preguntemos mucho, la verdad.

    Perder de vista ese elemento intermediario de transformación de la cosas conseguido gracias a la realización de algo, es privarnos de visión de cómo se puede transformar también la energía, condenarnos a la fe, cegada en fuerzas y poderes que nos aseguran, desde la virtualidad, cómo y en qué lo emplean.

    Y como sea lo mismo que hacen con las “energías verdes” para hacernos contaminar más, mejor y más caro, con las “corrientes eléctricas”….estamos pero que “muy apañados”.

Responder a O'farrill Cancelar la respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Este sitio web utiliza Cookies propias para recopilar información con la finalidad de mejorar nuestros servicios. Si continua navegando, supone la aceptación de la instalación de las mismas. El usuario tiene la posibilidad de configurar su navegador pudiendo, si así lo desea, impedir que sean instaladas en su disco duro, aunque deberá tener en cuenta que dicha acción podrá ocasionar dificultades de navegación de la página web. política de cookies

ACEPTAR
Aviso de cookies