Camino de mansedumbre

Pensamos en la evolución como un metrónomo biológico de ritmo lento, muy lento. Una suerte de lotería de mutaciones escasas que solo sale bien en una minoría escasísima de casos, en los que provoca un salto adelante mejorando la adaptación de la especie mutada.

Como casi nunca sale bien, los organismos invierten una cantidad ingente de energía en evitar estas mutaciones mediante diferentes mecanismos, como la verificación a nivel celular durante la replicación del ARN y el ADN. Es fácil, por tanto, que al mirar atrás nos venga la idea de que somos idénticos a los homínidos de hace veinte mil años.

Y en gran parte es así. Pero hay matices, suficientes como para detenernos en ellos hoy.

Porque cuando interviene la mano humana llega el progreso, y el progreso es eso que hace que las cosas (buenas y malas, y hay más de las primeras que de las segundas, aunque Yaya Ceravieja no esté de acuerdo) pasen más rápido. La evolución genética, por más incontrolable que nos parezca tampoco se libre de la influencia humana, ¡y sin necesidad de CRISP ni barbaridades eugenéticas! Es todo mucho más inocente, vamos a verlo.

Pasó con el lobo salvaje, al que transformamos en variedades de perros falderos ridículamente inofensivos. En apenas 15.000 años. Muchos en la escala humana, sí, pero nada en términos evolutivos: hay por ahí crustáceos que llevan prácticamente igual unos trescientos cincuenta millones de años. Que una especie haya cambiado tantísimo en tan poco tiempo es flipante, si te paras a pensarlo.

Y pasa, sobre todo, con nosotros mismos. No nos gusta admitirlo pero la civilización es, en el fondo, un descomunal experimento de autodomesticación.

El experimento de los zorros de oficina

En nuestro viaje civilizatorio hemos sustituido la presión del clima y los depredadores por un filtro evolutivo muy diferente: las instituciones sociales y, en los últimos dos siglos, el ecosistema corporativo. Este proceso civilizatorio da lugar a lo que quienes de estos temas saben más que yo denominan selección social, por analogía a la archiconocida selección natural de Darwin. Y aquí vale la pena un inciso: esta selección social no va contra Darwin, cuya selección natural sigue más vigente que nunca.

Para entender cómo funciona el humano moderno no hace falta bucear en tratados de psicología; basta con mirar el famoso experimento soviético de los zorros de Belyaev. En los años cincuenta, el genetista Dmitry Belyaev empezó a criar zorros seleccionando exclusivamente un rasgo conductual: la docilidad hacia los humanos. En apenas unas pocas generaciones de estos zorros (unas décadas de tiempo total) no solo cambió su comportamiento sino que modificó también su fenotipo: se les cayeron las orejas, empezaron a mover la cola como perros y sus colmillos se redujeron.

El entorno de las grandes organizaciones funciona exactamente igual. Lleva décadas premiando sistemáticamente rasgos muy específicos: alta tolerancia a la monotonía burocrática, baja reactividad al confinamiento de la oficina y una notable capacidad para camuflar el disenso bajo dinámicas bienpensantes de recursos humanos.

Los colmillos de la agresividad directa o de la genialidad disruptiva e incómoda se han limado para asegurar el éxito socioeconómico. Hemos seleccionado la docilidad.

El asunto es que, justo cuando habíamos perfeccionado este perfil de humano plano y predecible, hemos decidido externalizar parte de nuestra esencia cognitiva en la inteligencia artificial.

Más tontos no pero, ay, ¡qué plano todo!

Hace unos días hablábamos por aquí de si los LLM nos van a volver estúpidos. Pueden leer esa nota pero la respuesta corta es que no. Externalizar parte de nuestra esencia en un LLM nos va a ayudar a seguir progresando.

Pero. Siempre hay un pero. El peligro real no es la estupidez. El peligro es la mansedumbre.

Al traspasar la lógica, la redacción o el análisis a los modelos de lenguaje, el sistema empieza a retroalimentarse en un bucle de domesticación mutua:

  • Alimentamos a estos LLM con los datos limpios, corporativos y sin aristas que genera nuestro entorno dócil y altamente institucionalizado.
  • Y la máquina nos devuelve contenidos hiper-normalizados, que luego forwardeamos tras validarlos en diagonal en una lógica totalmente definida por la incapacidad de atender debidamente a todo el output que van generando nuestros modelos (lo que denominamos brecha de supervisión). Así es como de forma casi inconsciente, sin fricción, vamos reconfigurando nuestro propio lenguaje.

Lo que viene puede terminar como una domesticación en pareja, acoplada como esas magnitudes que no pueden medirse simultáneamente y se rigen por el principio de indeterminación de Heisenberg. Los humanos podamos las aristas de la IA para que sea «segura» y corporativa, y el algoritmo nos devuelve el favor aplanando la complejidad comunicativa de la mente humana. Nos vuelve predecibles y homogéneos. Quizá políticamente impecables, seguro también más insípidos.

A este aplanamiento conductual se le ha sumado en el siglo XXI lo que Jonathan Haidt define como la hiperprotección institucional de las nuevas generaciones. Al diseñar entornos de «riesgo cero» que aíslan a los individuos del estrés natural, el conflicto intelectual y la frustración, la sociedad moderna ha invertido los términos de la resiliencia. La antifragilidad cognitiva deja de ser una ventaja adaptativa; en su lugar, el sistema crea un invernadero cultural donde los rasgos de hipersensibilidad y conformidad ya no penalizan, sino que se integran (¡e incentivan!) dentro de la normalidad institucional.

Es en este magma en el que hemos de aterrizar la nueva inteligencia artificial, que no nos va a atrofiar el cerebro pero sí va a refinar el aséptico entorno en el que vivimos. Entre los retos del tiempo por venir no está el defender nuestra capacidad de cálculo frente a la máquina; esa batalla está tan perdida como como lo está la batalla por leventar más kilos que la grúa que vemos por la mañana trabajando en la obra al borde de la carretera (tocamos el tema aquel día en que hablamos de lo que la historia del ajedrez y su relación con los ordenadores puede enseñarnos). El reto a superar es el de defender la presencia de aristas en un entorno que, por diseño, tiende a favorecer lo contrario.

[Imágenes: Jose Alcántara usando ChatGPT.]

¿De verdad los LLM nos van a volver estúpidos?

Platón pixelado

Nací en un mundo analógico que ya no existe, soy parte de ese epílogo evanescente que en unas décadas morirá con nosotros; conmigo que escribo y con ustedes que leen. Décadas, apenas nada en la escala de la historia.

Luego, hubo ordenadores pero no se parecían a los que tenemos ahora que caben en un bolsillo y sirven para ver vídeos cortos a todas horas. No había iconos, ni ratón, ni ventanas flotantes, las pantallas no eran táctiles ni teníamos asistentes de voz. Solo estabas tú, una pantalla negra y una línea de comandos. Ya saben, en el principio fue la línea de comandos. Cuando aparecieron las interfaces gráficas, los puristas se echaron las manos a la cabeza. «Esto se va al garete; la gente ya no va a entender cómo funciona un ordenador».

Spoiler: sobrevivimos.

El miedo a que la tecnología nos atrofie el cerebro no es nuevo. En los ochenta, las calculadoras iban a destruir la capacidad de los niños de hacer raíces cuadradas. Más tarde fue Wikipedia lo que amenazó con sepultar el rigor académico. En 2008, Nicholas Carr firmó un ensayo memorable en The Atlantic: ¿Nos está volviendo Google estúpidos?

Llegamos hasta 2026 y cambiamos a Google por OpenAI o Anthropic, pero los miedos colectivos siguen más o menos igual. El tema es discutir si tienen base o no.

Thamus, el rey que temía a los libros

Theuth dialogando con el rey Thamus

La tecnofobia intelectual no nació con Silicon Valley. Ni siquiera con los ludditas de la revolución industrial.

En Fedro, Platón usa el diálogo entre Theuth y Thamos para plantear el debate sobre si la escritura es «un fármaco contra la desmemoria» o, por contra, un mecanismo que terminará por atrofiarnos el cerebro. Platón, por lo que sea, decidió escribir sus diálogos, y no confió en que pasaría de generación en generación por tradición oral. Desde aquí nos congratulamos porque de otra forma igual no nos habría llegado nada de su obra.

Al tema. Dos milenios después seguimos en las mismas. Ahora nos da miedo delegar en las computadoras y nos preguntamos si no estamos externalizando nuestra esencia (y nos lo preguntamos sin rastro de ironía, no como el bueno de Douglas Coupland en Microsiervos). Nos da pánico que el músculo del cerebro se vuelva grasa si la máquina hace el trabajo pesado.

La atrofia en la oficina y los gimnasios para el intelecto

Ese tonillo a ChatGPT. Está en todas partes: cualquier texto nos huele a gepeto. No solo porque todos usamos los bots. Es que estamos empezando a escribir como el bot. Que tiene cierta retranca pero igual no es ni tan malo: por una parte, los LLMs escriben bien. Que sí, no es una verdad incómoda, sino un lugar común. Estas bromitas las hemos visto todos. Los memes es lo que tienen; que se comparten. Pero el LLM promedio se burrea escribiendo a la mayor parte de la población, y lo sabes.

El chiste es que en un mundo en el que tu email o tu CV va a ser filtrado por un bot antes de recibir atención de un humano, escribir con las estructuras que le gustan al LLM quizá tampoco penaliza tanto, quizá así consigues que lo elija entre los elementos a destacar.

Pero vamos con el tufillo a gepeto. Cuando todo suena a máquina, el toque humano es una ventaja competitiva. La forma industrial de conseguirlo es en parte, pura cosmética: una de las evidentes es el retorno fuerte de las fuentes con serifas hasta en la sopa.

Lo importante es hacia donde apunta el dedo: a señalar agencia humana, no robótica. Puro flex, supongo. Quizá lujo inmaterial, ese presumir de tener de tener tiempo para escribir manualmente tus mensajes o tus posts del blog. Decidir cuándo apagar la IA o cuando no seguir su recomendación va a ser clave, pero para ser capaces de volar solos habrá que estar entrenados y saber hacerlo.

Al final, hay una cierta paradoja de la automatización: al traspasar parte del esfuerzo intelectual, la IA se queda parte de lo que nos permitiría seguir desarrollando nuevo conocimiento. En One-armed Scissor cantaban At the Drive-in que «I write to remember». Correcto. Escribo para recordar porque al escribir aprendo, y esto es algo que mi estimado Amalio Rey recalca con frecuencia. En Versvs he publicado casi tres mil doscientos artículos a lo largo de los años.

Cuando la maquinaria pesada entró a saco en el trabajo y, en segunda derivada, gran parte de la población terminó convertida en oficinista nos inventamos los gimnasios para mantener el cuerpo en forma. Quizá la gran duda del tiempo por venir es qué forma van a tener los gimnasios del intelecto. ¿A dónde iremos a entrenar la mente para seguir siendo capaces de pensar cuando los ordenadores automaticen más y más tareas?

Si entender la brecha de supervisión nos sirve para algo es para entender que de esos dos huecos que de momento parecemos vislumbrar para los humanos en el bucle (la concepción de la creación y su validación al final, de los que hablábamos la semana pasada en Desde el bucle) vamos a estar más en la concepción que en la validación, que tenderemos a despachar de mala manera por la puerta de atrás. Muchas risas con KPMG y su informe plagado de alucinaciones, pero eso es el default system: tienes tanta tarea pendiente que el robot te da un texto, lo lees en diagonal y palante. La ejecución desligada de la biología permite una escala que para nuestros tiernos ojos mortales se presenta inabordable.

Como al contener impulsos de violencia preneandertal o aprender a no quejarse del enésimo SUV en el atasco en el commute a casa (This is water de David Foster Wallace es uno de esos textos bellos a los que volver), el humanismo en este caso también se demuestra siendo capaces de actuar a la contra de ese sistema por omisión: validando lo que parece no requerir validación, solo porque así mantenemos un aspecto de nuestra esencia.

Al final del día, la sapiencia de copia y pega también es sapiencia

Los LLMs no nos van a volver estúpidos. Al mismo tiempo, nos harán sentir estúpidos. Simplemente porque los ordenadores hacen bien un puñado de cosas que a nosotros se nos dan regular. Si les pido memorizar un número de 9 cifras y les doy el 183572541 seguramente haya problemas; si en cambio les doy el 123456789, ya no tantos. Para un ordenador ambos números son equivalentes: los va a recordar ambos por igual.

Así que pasaste décadas estudiando, empollando como un pringao, pero a la hora de la verdad eres incapaz de tener en mente todo lo que estudiaste. Eres el meme viviente y danzante del ingeniero que ha olvidado más matemáticas de las que una persona normal aprenderá en toda su vida. Tu LLM, sin embargo, las recuerda todas.

Por eso al usarlo nos vemos en el espejo y nos sentimos pequeñitos en comparación. Pero no. La realidad es que estás intentando usar tu cerebro para cosas para las que no se adaptó, y que periferizar parte de tu esencia en un LLM para saltar más alto, viajando a hombros de gigantes electromecánicos, es el camino a seguir.

«Pero que sabrás tú, si ahora mi código lo produce mi agente». Ya, sí, y antes lo hacía el compilador (¿o acaso ibas añadiendo tú los ceros y unos manualmente?), pero nunca sentiste el impulso irrefrenable de gritar a los cuatro vientos que el código de tus programas lo hacía otro programa.

La escritura no mató a la memoria, la expandió. Google no nos volvió idiotas. Los LLMs nos permitirán llegar más lejos. La pregunta clave que deberíamos hacernos en bucle no es qué puede hacer la inteligencia artificial por nosotros, sino qué podemos hacer nosotros con ella. Resistance is futile.

[Imágenes: Jose Alcántara usando ChatGPT.]

El árbol genealógico del estatus inmaterial

Árbol genealógico del estatus inmaterial

Pese a que nos gusta considerarnos criaturas sofisticadas y espirituales, la realidad es bastante más pedestre: los seres humanos compartimos con el resto del reino animal un instinto primario e inevitable por buscar estatus. No podemos evitarlo, aunque el modo en que cada uno busque su sitio sea diferente.

Y de esas diferencias vamos a hablar. El modo en que nos posicionamos frente a los demás ha sufrido una mutación en el último siglo y medio. Hemos pasado del burdo «tener más bienes materiales» a una sofisticación casi invisible. Bienvenidos al árbol genealógico del estatus inmaterial: un viaje para entender algunos aspectos del mundo que realmente es, no del que podría ser o nos gustaría que fuera.

El arbol genealógico del estatus inmaterial

Thorstein Veblen, el consumo conspicuo (Siglo XIX)

Veblen fue un sociólogo estadounidense que a finales del s. XIX escribió su Teoría de la clase ociosa. En el define a la clase ociosa («leisure class») de la revolución industrial, que significa su poderío económico sobre la cantidad de bienes útiles que puede comprar y mostrar, independientemente de que sean útiles o no. En Veblen el estatus se demuestra mediante el derroche.

Así, introduce dos conceptos clave de su ideario:

  • Consumo Conspicuo: gastar dinero en cosas visibles y caras pero no necesariamente útiles. Joyas, mansiones, o un mayordomo. ¿Necesitas un mayordomo que te haga el café o abra la puerta a las visitas? No, pero que tus vecinos vean al mayordomo es una señal de estatus.
  • Ocio Conspicuo: demostrar que no necesitas trabajar. Estudiar latín, aprender complejísimos protocolos de etiqueta, o jugar al golf.

Todas estas señales de estatus requieren un cierto sacrificio (de dinero, o de tiempo) que los menos privilegiados no pueden permitirse, lo cual sirve para señalizar la pertenencia o no ese grupo que se posiciona mediante las mismas.

Pierre Bourdieu: el capital cultural (Siglo XX)

Cruzamos el Atlántico de vuelta a Europa para rescatar a Pierre Bourdieu. A cuenta de un par de conversaciones dominicales con Antonio Ortiz (y su reciente e hiladísimo post sobre Bad Bunny), caí en la cuenta de que Bourdieu es, en realidad, el eslabón perdido entre Veblen y Henderson (de quien hablaremos a continuación).

Bourdieu, que desarrolló su obra 50-70 años después de Veblen, dice que el dinero ya no es suficiente, pues al fin y al cabo vamos a enfocarnos en bienes no materiales, sino que ahora necesitas capital cultural. Aúna por un lado el contexto en que crecemos y nos cultivamos, que determinará en gran medida nuestros gestos, forma de expresarnos, modales, o la cultura a la que nos vemos expuestos desde pequeños y por otro los diferentes ámbitos en que ese contexto es necesario, que no va a ser lo mismo en el ámbito académico o político, o laboral.

El camino que va desde nuestro contexto personal (que Bourdieu llama habitus) hasta los ámbitos donde nos desenvolvemos («campos») lo recorremos con nuestro capital cultural. Ese capital cultural, como cualquier otro capital, no se puede amasar de la noche a la mañana. Es ahí donde reside el quid de todo esto: al poner el foco del estatus en práctica sociales que vienen determinadas por un recurso que no es fácilmente adquisible (si es que es posible adquirir ciertos hábitos que no fueron adquiridos de pequeño) se vuelve a señalar de forma sutil la pertenencia o no a ese grupo.

¿Recuerdan cuando la RAE anunció que quitaba tildes de algunas palabras porque, al fin y al cabo, una mayoría de la población no las estaba poniendo de todas formas? Yo sí. Sólo, guión, o los artículos demostrativos. Hubo un gran revuelo al respecto… en Twitter. Nadie nunca se quejó fuera de la esfera ilustrada que dedicó más de veinte años de su vida a estudiar hasta finalizar estudios superiores (doctorados, ingenierías). Súbitamente todos esos años aprendiendo a domesticar la ortografía dejaban de distinguir a quien escribía bien de quien escribía mal.

He usado el verbo distinguir para viajar hasta el siguiente concepto clave de Bourdieu: la distinción. No se trata de tener en casa un Miró o un Picasso, se trata de poder explicar a Picasso y su influencia sobre las generaciones posteriores (es este relato el que articula el valor de una obra de arte, al fin y al cabo). Aquí enlazamos con Veblen, para poder reaccionar adecuadamente en estos contextos hay primero que poder dedicar horas de ocio conspicuo a estudiar sobre arte. Si tienes que pasar tus días trabajando difícilmente vas a tener tiempo para esto.

Si lo quieren en otras palabras, el Rolex y el traje caro te los compras con dinero, pero saber equiparlos y dejar satisfecho a @dieworkwear ya es más difícil.

Rob Henderson: las creencias de lujo (Siglo XXI)

Avanzamos otro medio siglo y llegamos a la década actual, volvemos a cruzar el atlántico hasta Estados Unidos y hablamos de Rob Henderson, que actualiza a Bourdieu a la era digital y de la postmaterialidad.

Las creencias de lujo son ideas que confieren estatus a la clase alta mientras imponen un coste a la clase baja. Tiene entrada en mi Pedia (Creencias de lujo). Con Henderson vamos a una inmaterialidad total, el bien ya no es un objeto ni un conocimiento artístico refinado, es una postura moral.

Henderson enmarca algunas creencias de lujo actuales en el ecosistema más woke: desde pedir desfinanciar a la policía que hará subir la criminalidad en los barrios más desfavorecidos pero no en los distritos residenciales más exclusivos hasta el poliamor que desemboca en madres solteras abocadas a la pobreza para la que los más privilegiados tienen «red de seguridad» familiar pero cuyo efecto es devastador, de nuevo, para los menos favorecidos.

Del mismo modo, se articula a través de los gustos: cuando fue posible para todos ver Hamilton en televisión sin pagar varios cientos de dólares por asiento, el pijerío neoyorquino empezó a renegar del musical. Si no sirve para distinguirnos del vulgo, hay que mudarse a una nueva creencia de lujo.

Todo esto nos sirve para anticipar sin miedo a equivocarnos que las creencias de lujo de la próxima década no serán necesariamente woke (quién sabe, quizá se vayan al otro extremo) pero seguro que continuarán buscando diferenciar a un grupo de otro y promoviendo actividades para señalar estatus, y cuyas consecuencias sufrirán, de nuevo, los más desfavorecidos.

De la vulgarización de lo material a las nuevas señales de estatus

Este viaje por los símbolos de estatus desde el siglo XIX al XXI ilustra que el desplazamiento del estatus ocurre porque lo material se ha vulgarizado, en el sentido más etimológico, el vulgo, el pueblo, ya tiene acceso a lo material. Hoy cualquiera puede llevar un iPhone en el bolsillo o comprar imitaciones de accesorios de marca (bolsos o calzado) que a simple vista no se diferencian de las versiones exclusivas de firma. Como cualquiera tiene acceso, el lujo físico ya no distingue.

Por eso, la lucha por mostrar ese estatus se ha mudado hacia dos nuevos frentes: lo invisible (el capital cultural de Bourdieu) y lo ideológico (las creencias de lujo de Henderson, donde adoptas causas que requieren una compleja literacidad para no ser cancelado).

En definitiva, es el trepidante y elitista viaje que nos ha llevado desde presumir de mayordomo (Veblen), a presumir de los libros que acumulamos en el salón (Bourdieu), para terminar presumiendo de nuestras opiniones morales en una red social (Henderson).

[Imagenes: Jose Alcántara con Gemini y ChatGPT.]

Incapacitados para creer a Cassandra

Probablemente sea imposible, para quienes han vivido y prosperado en un sistema social determinado, imaginar el punto de vista de aquellos que, al no haber tenido nunca nada que esperar de ese sistema, contemplan su destrucción sin ningún temor especial.

Michel Houellebecq, Soumission

Houellebecq domina como pocos la sátira. Soumission (Amazon, español), que ando leyendo en francés para que ese idioma no se me olvide del todo, se me está haciendo más ameno de leer que Les particules eleméntaires.

Muchos de los problemas que enfrenta Europa se deben, sobre todo, a la limitadísima capacidad que tienen los europeos de ver el mundo desde los ojos de quienes no han vivido, disfrutado, ni prosperado durante el último siglo en ese sistema que los europeos sí vivieron, pues eso les impide entender por qué alguien no querría conservarlo.

Los europeos están incapacitados para creer a Cassandra por más que ésta les repita el mensaje.

Introducción a la sociedad de control en un mundo con inteligencia artificial, aprendiendo de las batallas pasadas

Sociedad de control e inteligencia artificial

Cuando no tenemos modelos realmente libres, somos dependientes de quien nos dé los modelos con los que operamos. En un mercado eficiente donde muchos vendors compitiesen por desarrollar y proporcionar estos modelos, el impacto sería mitigado por la propia dinámica de competencia. Pero en la situación real tenemos apenas a cinco empresas en todo el mundo desarrollando modelos de verdadero primer nivel. Eso no va a dar un mercado eficiente en ningún caso.

Tema #1: La evolución del DRM y el fin de la herramienta

Hace unas semanas se cuestionó 1bastante la negativa de Claude a trabajar en determinadas situaciones. Antonio Ortiz iba hasta el paso de afirmar que «eso lo convierte en algo intermedio a una herramienta». Sin embargo, ¿es realmente nuevo? ¿No hay un paralelismo con la restricción de permisos que vimos hace años con los sistemas anticopia y otros DRM más generales?

Hace muchos años surgió la Trusted Computing Platform Alliance, que pretendía precisamente limitar lo que podías hacer con el hardware. Eran otros tiempos, antes de que fuese evidente que la capa sobre la que se iba a redefinir la libertad en el uso de sistemas digitales no era la de hardware sino la de aplicación. iOS y Android limitan de forma efectiva el software que ejecutas; no lo bloquean nativamente en el hardware (Apple ha avanzado más en esta dirección que Google, no obstante) pero en la práctica casi nadie rootea un dispositivo, o flashea el sistema e instala otro.

Tema #2: Vigilancia publicitaria y control político son dos caras de la misma moneda

Volviendo a hablar de inteligencia artificial, se da la paradoja de que van a llevar la correlación de tu histórico de datos un paso más allá. Hasta ahora, resultaba memético hablar de lo ineficiente (que no ineficaz, que ya sabemos que son cosas diferentes) del retargeting de Amazon, a menudo incapaz de identificar cuando ya has comprado el producto en su propia tienda online. Recuerdo cuando hace ya casi quince años nos reíamos con Recuenco al hilo de la personotecnia y la brocha gorda de estos sistemas.

Google o Meta ya son capaces de recordar lo que tú has olvidado (y nuestro cerebro no está preparado para esto, pues nuestra salud mental depende de ir olvidando los malos ratos). Pero hasta ahora no le sacaban demasiado partido. Hace ya mucho que comentábamos la muerte de la conversación efímera, pues todo queda grabado en alguna parte. Ahora no solo queda registrado, sino que se va a comenzar a exprimir.

Y dado que con Cambridge Analytica y la manipulación electoral via influencia en Facebook aprendimos que no podemos separar vigilancia publicitaria y vigilancia política por parte del estado, porque los perfiles construidos para la primera se usarán para influir en la segunda, es el momento de hablar del impacto en la gestión de lo público gracias a la existencia de estos modelos de datos. En consecuencia, y dado que en Internet se usa para servir anuncios (OpenIA y Google no tardarán en integrarlos en sus chatbots), si bien no hay constancia de que los estados hayan usado estos perfiles a día de hoy, la pregunta no es si sino cuándo.

La creciente bancariazación de todas las compras, acentuada sobre todo en el último lustro, permite un trazado de perfiles aún más finos y con menos lagunas que hace un par de décadas.

Tema #3: El espejo de de China y la exportación de su modelo punitivo

China es posiblemente el país del mundo que más ha avanzado en sociedad de control. En 2008, embriagados de la hegemonía liberal tras la caída de la URSS, no supimos ver que posiblemente estaba el poder estadounidense estaba tocando techo y que el mundo iba a dejar de ser unipolar muy breve. Las señales estaban ahí desde la equivocada guerra de Irak en 2003-4. Tocamos ese tema hace un par de años la hilo de El final de la pax americana.

Pero entonces no lo sabíamos, así que nos parecía que la entrada de China en la Organización Mundial del Comercio era una buena noticia: China se iba a integrar más con el mundo libre, condición necesaria para que la sociedad china exigiese reformas democráticas. Poco sospechábamos que el movimiento era justo al contrario: no era China moviéndose hacia occidente, sino muy al contrario, occidente moviéndose hacia China.

A día de hoy, China exporta tecnología de control a más de 60 países globalmente, por no mencionar que sirve de inspiración a muchísimos más. Europa no es una excepción. En China se usó la pandemia del covid para instaurar durísimos y punitivos sistemas de control a ciudadanos. En Europa, y muy particularmente en España, pudimos comprobar durante los confinamientos a raíz de la pandemia del covid cómo excusa para suspender todo tipo de garantías democráticas, ¡con votos a favor de gobierno y oposición!

Veredicto: è un mondo difficile

El veredicto es oscuro: nos dirigimos a un mundo difícil. Si las revoluciones tecnológicas se extienden durante décadas hasta dar sus últimos frutos, con la revolución del computador ya en etapas anteriores hemos visto que el abaratamiento de la tecnología hacía posible la vigilancia a gran escala.

La disponibilidad actual de modelos grandes de datos que permitan extraer y dar sentido a la ingente cantidad de datos almacenados en perfiles (publicitarios, que dado el momento se usarán para lo que haga falta) posiblemente permita mucho más control.

Si la pax americana tuvo su reflejo en una extensión formal y en ocasiones exitosa de la forma de gobierno preferida en Estados Unidos (la democracia liberal), ¿qué traerá consigo la creciente influencia global de China? No podemos esperar que promuevan algo que no se alinee con su forma de entender el mundo, la sociedad, y las relaciones entre países. Ya estamos viendo cómo exportan su tecnología de vigilancia. Aquí nos quedará la duda de si la agresiva política de bloqueo de acceso a tecnología de Estados Unidos ha sido causa o consecuencia de la emergente independencia tecnológica china. A efectos prácticos, tanto monta cortar como desatar, lo que nos debe interesar es dónde estamos; lo demás no se puede cambiar.

La resistencia a la sociedad de control siempre tuvo fecha de caducidad, pues para las nuevas generaciones el estar constantemente online, rastreados de forma transparente, el tener la vida entera indexada no es una distopía sino el estado natural de las cosas. Si ya habíamos asumido vivir en ella, la nueva inteligencia artificial la amplifica.

[Imagen: È un mondo difficile, Jose Alcántara con ChagGPT.]

Incentivos rotos y la promesa de una fuerza laboral sin psique

El bug entre la silla y el teclado

“Ya encontré el bug, estaba entre el teclado y la silla”. Mi querido Juan Sierra, compañero de batallas en aquella semillita DevOps que ayudamos a plantar en Ericsson, solía comentar esto con bastante retranca a modo de mea culpa. Siempre me hizo mucha gracia eso de verme un poco metamorfoseado à la Kafka (con la moral un poco más alta, eso siempre), así que le copié la frase y la uso cuando procede, porque el que no la lía y la deslía sin contribuciones ajenas varias veces a lo largo del día es que no está trabajando.

¿A qué viene todo esto? A que vamos a hablar de despidos, de optimización empresarial, y de quitar al humano (al bug) de la ecuación.

Esta semana, como todas últimamente, hemos visto varias noticias relacionadas con despidos masivos.

  • Meta notificando el despido a 8.000 empleados a las 4 de la madrugada (NYT) y de forma telemática. Zuckerberg es el villano oficial de Sillicon Valley pero hay que dejar de lado eso e ir al fondo, que comentamos a continuación.
  • Cloudflare saliendo al paso de cómo se relataron sus despidos masivos este año (WSJ, vía Antonio Ortiz en X).
  • ClickUp, una empresa pequeña valorada en apenas 4.000 millones de dólares, despidiendo al 22% de su plantilla (Evans, CEO, también en X).

Más noticias de despido, son parte del meme de la IA a estas alturas: despedimos para sustituir por IA. Salvo que es mentira. Nadie está, todavía, despidiento para sustituir por inteligencia artificial. Existe el incentivo de justificarlo así y, en cualquier caso, los mercados suelen acoger los despidos masivos con alboroto, empujando el valor al alza.

Y sin embargo, hay algo en estas tres noticias que les da un aire diferente al típico subterfugio de comunicación consistente en revisar la plantilla de un negocio en horas bajas usando el comodín de la IA para evitar dar explicaciones. En estos tres casos hay un trasfondo común: son empresas cuyos resultados son buenos, muy buenos, y que al mismo tiempo que despiden por una puerta están contratando por la otra.

Lo que dejan ir y lo que buscan, sin embargo, no es lo mismo. No despiden a un programador que no les está encajando en sus equipos para contratar otro y probar suerte a ver si encaja mejor. Contratan roles que antes no existían. Expertos en IA, orquestador de agentes (¿son los orquestadores de agentes los nuevos prompt engineers condenados a desaparecer cuando todo el mundo sea un orquestador de agentes?). De momento, apuntan a ser algunos de los que resistirán “en el bucle”.

Vamos, que al dar competencias a perfiles menos técnicos para implementar pruebas de concepto, lo que se busca es gente con gran conocimiento en el nuevo stack tecnológico. El clásico refresco de plantilla que los departamentos de HR enfocan con metáforas positivas, que es impopular entre muchos empleados pero necesario para cualquier empresa a partir de un cierto tamaño.

En notas anteriores hemos visto del complicado esquema de incentivos, trastocado de arriba abajo con la IA, desde repensar áreas funcionales completas a revisar el equilibrio interno-externo en la organización. Esto es una variable más a considerar.

Como contexto general es imprescindible recordar recordar que la elevadísima valoración de empresas como OpenAI o Anthropic no se justifica por la factura de 200€ mensuales para tu programador, como si fuese un SaaS caviar. Esa elevadísima valoración se justifica porque la promesa es la de reemplazar la fuerza laboral “de tracción animal” por otra automatizada, escalable, predecible. El sueño de Taylor hecho realidad al quitar de la ecuación a los humanos con su complicada psique, consiguiendo finalmente que el bug deje de estar entre el teclado y la silla.

[Imagen: El bug entre la silla y el teclado, Jose Alcántara con ChatGPT.]

La resistencia (a la Inteligencia Artificial) es fútil, ¡asúmelo!

La resistencia a la IA es inútil

Para hablar hoy de inteligencia artificial vamos a mirarnos en el espejo de las guerras del copyright de principios de siglo. Cambian los protagonistas y los artefactos pero no los fundamentos básicos, esos que ayudan a entender dónde estamos metidos.

A principios de la década de los 2000, el mundo se dividía en dos. Por un lado, una mayoría descargando música en P2P como si no hubiese un mañana; por otro, una minoría visible que se sentía moralmente superior por no «subirse a ese barco». ¿Os suena?

Ahora es cuando hablamos de tendencias tipo «hecho sin IA». Misma división: una mayoría absurdamente grande de personas usándola para todo, cada vez más, y una minoría pequeña pero ruidosa usando este eje «hecho con/sin IA» como baremo en el cual destacar. Algo así como un sello de pureza humana.

El reto, claro, va a ser convencernos de que su postura es éticamente superior. Pero la historia es terca: creo recordar que exactamente cero unidades de persona cambiaron su posición frente a las descargas tras ser acusados de ladrones por Ramoncín.

La mutación será generacional

Estas dos posturas van a seguir existiendo durante décadas. Continuará habiendo artesanos. Hablemos de la revolución industrial y de cómo la población pasó de trabajar como artesanos a trabajar como operarios de fábrica.

Tendemos pensar que los obreros se fueron a dormir artesanos y se levantaron empleados de fábrica, pero no sucedió así. El reemplazo fue generacional y necesitó décadas. Es algo que comentamos de pasada en una nota breve en Desde el bucle. La mutación laboral masiva se dio a medida que unos (artesanos) se iban jubilando y otros se incorporaban al mercado, ya como obreros en las fábricas. La especie sobrevive mediante la adaptación, pero esta adaptación tiene lugar en la siguiente generación. Así pasó con los profesionales de la revolución industrial.

Cuando hablamos del renacimiento y la imprena ya vimos que el impacto de las nuevas tecnologías se extiende a lo largo de las décadas, hasta más de un siglo, hasta que revela sus cambios más profundos.

Y con la IA, ¿será parecido?

En el plano personal, el «hecho sin IA» solo tiene sentido para cierta producción cultural. Y aún en ese ámbito, sospecho que se terminará imponiendo el «hecho por personas con ayuda de IA». Como norma general, y en la medida en que tu tarea sea automatizada por la IA, tu tarea actual en una labor más aburrida, como pasó con los contables cuando empezaron a usar computadoras. No creo que vaya a haber pérdida masiva de empleos para programadores, por ejemplo, pero sí que los equipos de desarrollo de software van a cambiar radicalmente.

Es aquí donde entran las organizaciones, pues suelen ser indescriptiblemente tercas a la hora de reformarse. Con la IA no va a ser diferente y ya hemos visto que una gran mayoría de organizaciones no está sacando el partido que podrían. Todo esto sin que medie especial maldad, tan solo por la incapacidad de alinear incentivos de todos los agentes internamente.

La respuesta está en la biología (y en Nietzsche)

La respuesta a todo esto nos la van a dar a pachas entre la biología y la filosofía.

  • Darwin y la supervivencia. Veremos nacer una generación de empresas adaptadas a este nuevo contexto, sin mochilas. Los hyperscalers aguantarán la carrera tirando de chequera, comprando tiempo para llegar a algún lado. A menor escala, la carrera es por la pura supervivencia. Se vienen años de fagocitación de viejas glorias.
  • Nietzsche y la voluntad. Para eso tenemos a Nietzsche, que siempre fue muchísimo más cáustico y afirmó aquello de que nada determina tanto en qué nos convertiremos como aquellos detalles a los que decidimos no atender.

Repensar procesos y organigramas no es una opción de gestión; del mismo modo en que no beber agua tampoco lo es. En ambos casos, si decides ir a la contra, el resultado no tarda en ser visible. Como líder en una organización, tu misión es hoy más que nunca la de generar un esquema de incentivos que anime a todos a hacer lo correcto por simple egoísmo; porque esa fuerza motriz (el egoísmo) no va a desaparecer.

[Imagen: por Jose Alcántara, con Gemini.]

Este blog usa cookies para su funcionamiento.    Más información
Privacidad