Cuando no tenemos modelos realmente libres, somos dependientes de quien nos dé los modelos con los que operamos. En un mercado eficiente donde muchos vendors compitiesen por desarrollar y proporcionar estos modelos, el impacto sería mitigado por la propia dinámica de competencia. Pero en la situación real tenemos apenas a cinco empresas en todo el mundo desarrollando modelos de verdadero primer nivel. Eso no va a dar un mercado eficiente en ningún caso.
Tema #1: La evolución del DRM y el fin de la herramienta
Hace unas semanas se cuestionó 1bastante la negativa de Claude a trabajar en determinadas situaciones. Antonio Ortiz iba hasta el paso de afirmar que «eso lo convierte en algo intermedio a una herramienta». Sin embargo, ¿es realmente nuevo? ¿No hay un paralelismo con la restricción de permisos que vimos hace años con los sistemas anticopia y otros DRM más generales?
Hace muchos años surgió la Trusted Computing Platform Alliance, que pretendía precisamente limitar lo que podías hacer con el hardware. Eran otros tiempos, antes de que fuese evidente que la capa sobre la que se iba a redefinir la libertad en el uso de sistemas digitales no era la de hardware sino la de aplicación. iOS y Android limitan de forma efectiva el software que ejecutas; no lo bloquean nativamente en el hardware (Apple ha avanzado más en esta dirección que Google, no obstante) pero en la práctica casi nadie rootea un dispositivo, o flashea el sistema e instala otro.
Tema #2: Vigilancia publicitaria y control político son dos caras de la misma moneda
Volviendo a hablar de inteligencia artificial, se da la paradoja de que van a llevar la correlación de tu histórico de datos un paso más allá. Hasta ahora, resultaba memético hablar de lo ineficiente (que no ineficaz, que ya sabemos que son cosas diferentes) del retargeting de Amazon, a menudo incapaz de identificar cuando ya has comprado el producto en su propia tienda online. Recuerdo cuando hace ya casi quince años nos reíamos con Recuenco al hilo de la personotecnia y la brocha gorda de estos sistemas.
Google o Meta ya son capaces de recordar lo que tú has olvidado (y nuestro cerebro no está preparado para esto, pues nuestra salud mental depende de ir olvidando los malos ratos). Pero hasta ahora no le sacaban demasiado partido. Hace ya mucho que comentábamos la muerte de la conversación efímera, pues todo queda grabado en alguna parte. Ahora no solo queda registrado, sino que se va a comenzar a exprimir.
Y dado que con Cambridge Analytica y la manipulación electoral via influencia en Facebook aprendimos que no podemos separar vigilancia publicitaria y vigilancia política por parte del estado, porque los perfiles construidos para la primera se usarán para influir en la segunda, es el momento de hablar del impacto en la gestión de lo público gracias a la existencia de estos modelos de datos. En consecuencia, y dado que en Internet se usa para servir anuncios (OpenIA y Google no tardarán en integrarlos en sus chatbots), si bien no hay constancia de que los estados hayan usado estos perfiles a día de hoy, la pregunta no es si sino cuándo.
La creciente bancariazación de todas las compras, acentuada sobre todo en el último lustro, permite un trazado de perfiles aún más finos y con menos lagunas que hace un par de décadas.
Tema #3: El espejo de de China y la exportación de su modelo punitivo
China es posiblemente el país del mundo que más ha avanzado en sociedad de control. En 2008, embriagados de la hegemonía liberal tras la caída de la URSS, no supimos ver que posiblemente estaba el poder estadounidense estaba tocando techo y que el mundo iba a dejar de ser unipolar muy breve. Las señales estaban ahí desde la equivocada guerra de Irak en 2003-4. Tocamos ese tema hace un par de años la hilo de El final de la pax americana.
Pero entonces no lo sabíamos, así que nos parecía que la entrada de China en la Organización Mundial del Comercio era una buena noticia: China se iba a integrar más con el mundo libre, condición necesaria para que la sociedad china exigiese reformas democráticas. Poco sospechábamos que el movimiento era justo al contrario: no era China moviéndose hacia occidente, sino muy al contrario, occidente moviéndose hacia China.
A día de hoy, China exporta tecnología de control a más de 60 países globalmente, por no mencionar que sirve de inspiración a muchísimos más. Europa no es una excepción. En China se usó la pandemia del covid para instaurar durísimos y punitivos sistemas de control a ciudadanos. En Europa, y muy particularmente en España, pudimos comprobar durante los confinamientos a raíz de la pandemia del covid cómo excusa para suspender todo tipo de garantías democráticas, ¡con votos a favor de gobierno y oposición!
Veredicto: è un mondo difficile
El veredicto es oscuro: nos dirigimos a un mundo difícil. Si las revoluciones tecnológicas se extienden durante décadas hasta dar sus últimos frutos, con la revolución del computador ya en etapas anteriores hemos visto que el abaratamiento de la tecnología hacía posible la vigilancia a gran escala.
La disponibilidad actual de modelos grandes de datos que permitan extraer y dar sentido a la ingente cantidad de datos almacenados en perfiles (publicitarios, que dado el momento se usarán para lo que haga falta) posiblemente permita mucho más control.
Si la pax americana tuvo su reflejo en una extensión formal y en ocasiones exitosa de la forma de gobierno preferida en Estados Unidos (la democracia liberal), ¿qué traerá consigo la creciente influencia global de China? No podemos esperar que promuevan algo que no se alinee con su forma de entender el mundo, la sociedad, y las relaciones entre países. Ya estamos viendo cómo exportan su tecnología de vigilancia. Aquí nos quedará la duda de si la agresiva política de bloqueo de acceso a tecnología de Estados Unidos ha sido causa o consecuencia de la emergente independencia tecnológica china. A efectos prácticos, tanto monta cortar como desatar, lo que nos debe interesar es dónde estamos; lo demás no se puede cambiar.
La resistencia a la sociedad de control siempre tuvo fecha de caducidad, pues para las nuevas generaciones el estar constantemente online, rastreados de forma transparente, el tener la vida entera indexada no es una distopía sino el estado natural de las cosas. Si ya habíamos asumido vivir en ella, la nueva inteligencia artificial la amplifica.
[Imagen: È un mondo difficile, Jose Alcántara con ChagGPT.]









