Deja de mirar el código

Artesano y telar cyberpunk

«Oh, ahora ya no necesito programadores, mira mi superaplicación vibecodeada disponible en…. localhost:3000».

El chiste está tan usado que ya da hasta vergüenza, pero se sigue viendo.Y, con todo, el pequeño atisbo de soberbia que suele acompañarlo no es lo peor. Lo peor es que yerra en el enfoque.

La intención de la broma es dejar caer, de forma más o menos velada, que no es para tanto. Que un programador sabe cosas que ese contable que se hace herramientas sencillas para casos de uso específicos necesita. Que es poco más o menos que irreemplazable. Lo dicho, que hay un poso de soberbia. «¿Cómo me va a pasar a mí, que soy ingeniero, lo mismo que a los cajeros del súper o a quienes blandían la manguera de la gasolinera?» Al palo. Quizá sea mejor ver qué pasó con los contables.

Podríamos parar aquí y dedicar el post a repetir de nuevo que los LLM son tan solo la nueva capa de abstracción sobre la que construimos; que ya no usamos software estático para hacer documentos sino software modelos y agentes para fabricar software personalizado en tiempo real. Pero not today, lo siento.

Hoy vamos a hablar directamente del trabajo de los programadores profesionales y de cómo vamos a tener que rediseñar la forma en que producimos software.

Me encanta VS Code. Uso Claude con su extensión ahí empotrado. También uso Antigravity en modo full IDE (al final es un fork, son casi idénticos). Hay algo de atavismo: me gusta ver el código, saber que si la IA comete un error podré bajar al barro y arreglarlo a mano tirando de oficio.

Algo que, por otra parte, cada vez pasa menos.

Alguna cosilla toco a mano, pero muy poco. En general los modelos más actuales implementan razonablemente bien los casos de uso cotidianos. Y si se les escapa algún detalle en sus múltiples pasadas de test… les paso la traza de error y el modelo caza el problema.

Atenea y Odiseo en las playas de Ítaca

Ahora que todos somos expertos en La Odisea (y confieso que no he visto todavía la nueva película de Nolan pero ando liado con el libro), hay una escena en el Canto XIII donde Atenea, la de ojos de lechuza, se revela ante Odiseo en las playas de Ítaca. La diosa no aparece allí para sustituir la astucia del héroe, sino para ayudarle: anticipa los problemas y le ayuda a evitarlos. Odiseo no se pone a afilar lanzas en pleno combate; confía en el criterio sobrehumano de su aliada.

Nosotros estamos viviendo nuestro propio momento Homérico frente al editor de código.

Pero vamos más allá: ¿y si la afición por mirar el código y tocarlo a mano fuese una mala práctica?

Para la mayoría del software que hacemos, con modelos disponibles que poseen altísimas capacidades en materia de ciberseguridad (tanto en ataque como en defensa), que detectan defectos que llevaban años escondidos ante los ojos de los mejores programadores del mundo, ¿es sensato seguir editando líneas a mano?

Este debate se parece mucho al del coche autónomo. Escribíamos en 2018 al hilo de una noticia sobre la primera víctima de un coche autónomo que la última víctima no sería noticia:

Un día los coches autónomos provocarán menos accidentes que los hasta ahora convencionales; y no será noticia porque tendemos a pasar por alto cuando las cosas sencillamente funcionan.

Y retomábamos la idea en 2023 (Tendrás coche, pero no lo conducirás):

Si el software conduce estadísticamente mejor que las personas, ¿no sería precisamente lo más ético priorizar que sea la máquina la que conduzca el coche para minimizar las víctimas?

Con datos de 2025, los vehículos autónomos producen entre un 60% y un 80% menos accidentes que los humanos (CBC). Aún más a su favor si consideramos que los coches autónomos reportan por obligación legal todos los incidentes a la policía mientras los humanos resolvemos un 30% de los roces con un parte amistoso sin que quede registro policial formal. El algoritmo nos gana aquí también.

Hay un pasaje de Criptonomicón de Neal Stephenson (ya saben, una de mis debilidades literarias) que me viene a la cabeza. Un operario, incapaz de confiar del todo en las instrucciones que recibe, introduce su propio criterio al generar unas claves que deberían ser completamente aleatorias pero dejan de serlo debido precisamente a eso. El resultado es, precisamente por eso, menos seguro.

Es una buena metáfora de lo que empieza a ocurrirnos con el código: llega un momento en que nuestra intervención manual deja de ser una garantía de calidad y puede convertirse en una fuente de errores.

Volvamos al software: llegado el momento en que el software es capaz de encontrar defectos que tú no viste y evitarlos durante la implementación antes de que lleguen a producción, ¿es buena idea que metas tus zarpas en el código? No hay que tener miedo a dejar que la máquina haga el código.

Pasa el tiempo y actualizamos la definición de lo que consideramos buenas prácticas. Eso lo sabe cualquiera que lleve suficientes trienios picando piedra. Hoy sale una librería, mañana seguir usándola te hace quedar mal (jQuery, ¡qué la tierra te sea leve!).

Empresas como Google ya empujan a sus ingenieros a no tocar código fuente a mano. Y no lo hacen por fardar ni por token maxxing. Lo hacen porque dada la pendiente de aprendizaje y desarrollo de los LLMs, lo más inteligente que podemos hacer es delegar la producción de código y centrar el intelecto humano en otra parte del proceso. Nuestro lugar en el bucle es otro: la concepción y la validación (y en tareas cuya validación sea automatizable más en la primera que en la segunda).

Esto deja dos lecciones sobre la mesa.

  1. La brecha de calidad. En breve el código hecho por máquina va a ser tan superior que tú versión manual va a verse tosca. Si no eres muy top programando, seguramente para ti esto ya sea verdad.
  2. El cambio de herramientas. A usar una herramienta se aprende usándola. Si la forma de crear código y operar sistemas pasa por prompts, skills, e orquestación de agentes, cuanto antes adquieras soltura en ese diálogo, antes volverás a ser relevante.

¿Dónde es mejor el humano que el bot (al menos por ahora)? Entendiendo qué hay que hacer y decidiendo hacia dónde ha de ir el producto. Se nos da sensiblemente mejor el diseño de soluciones extremo a extremo y la visión holística, mientras que la IA tiende a ir a lo microlocal y termina parcheando de mala manera si no se la supervisa.

Y todo está bien. Magnus Larssen juega al ajedrez mejor que Kasparov gracias a la inteligencia artificial. Seguiremos haciendo software, nos lo vamos a pasar en grande siendo creativos y resolviendo problemas, pero no como antes. Vamos a hacerlo de otra forma. Non ti preoccupare.

[Imágenes: Jose Alcántara con ChatGPT.]

Tomas de decisión multicriterio para visibilizar las motivaciones ocultas

Problemas multicriterio

«I changed by not changing at all», cantaba Eddie Vedder en una de las canciones acústicas más hermosas que se hayan escrito. Esa frase resume por qué encallan la mayoría de reorganizaciones corporativas: las empresas deciden cambiar algo basándose en subjetividad y sesgos, en lugar de aplicar un sistema racional que optimice la decisión.

Vamos a hablar de toma de decisiones multicriterio, aplicada a un caso concreto: reorientar una estructura de equipos hacia dominios de negocio.

De reorganización de equipos de software

“¿Cómo que la frontera de trabajo entre los equipos no está clara?” A mí, germanófilo empedernido, me gusta mucho responder con un jein (esa mezcla alemana de ja y nein, sí y no).

El tiempo pasa y tu producto evoluciona. Tus equipos se van desalineando del negocio por pura inercia del mercado y tu producto. Un día el desajuste es tal que alguien aparece con la idea feliz de reorganizar la casa. Y no es infrecuente que se proponga con cierta resignación. Vamos, que ese alguien preferiría, en el fondo, no tener que tocar nada.

Decisiones multicriterio en la vida real: produciendo software

La siguiente parte de esta nota es una descripción de pequeño framework para ayudar a valorar las alternativas de forma más o menos objetiva. Vamos con un ejemplo paso a paso.

1. Entender las alternativas

¿Qué opciones tenemos realmente?

  • A: Silos Funcionales. Cada departamento a lo suyo, paso de testigos (handoffs) y asignación de recursos por proyecto.
  • B: Orientación a Negocio / Value Streams. Equipos multidisciplinares, estables y autónomos, enfocados a un producto o flujo de valor.
  • C: Estructura Híbrida / Matricial. Equipos de proyecto temporales, con personas que siguen reportando a sus jefes funcionales.

En no pocos casos la opción A es el statu quo, la B es la que se declara en el PowerPoint, y la C es la que se acaba adoptando porque permite salvar la cara a (casi) todos los stakeholders, aunque deje sin tocar problemas de fondo.

2. Acordar criterios ponderados

En un escenario real descubrir estos criterios llevará un buen rato, idealmente de trabajo en equipo. Por no complicarnos, trabajemos con cuatro criterios sencillos:

CriterioPeso
Time-to-Market / Foco en Negocio:
«Queremos entregar valor rápido»
5
Calidad del Producto
«Cero bugs en producción»
2
Eficiencia de Costes
«Optimizar el presupuesto»
2
Control de Riesgos
«Seguridad y procesos robustos»
1

Lo siguiente es ver qué puntuación merecen cada una de las alternativas en cada uno de estos ejes, ponderamos el resultado por el peso del mismo, y vemos cuál es la opción que sale triunfadora en base a este marco.

¿Qué cabe esperar? En muchos casos, puede que el resultado diga una cosa pero la realidad observada diga otra.

Aquí está la pregunta que estábamos esperando: si la matriz dice que B es la ganadora absoluta, ¿por qué seguimos operando en A o atascados en C?

Lo has vivido. Todos lo hemos vivido. Según McKinsey, cerca del 90% de las organizaciones experimenta con cambios estructurales o tecnológicos, pero apenas un 7% logra un despliegue con impacto real.

La disonancia cognitiva entre resolverlo en la pizarra e integrarlo en la cultura del día a día es salvaje. Cantaba Sabina “que no hay ser humano que le eche una mano a quien no se quiere dejar ayudar”. Ningún workshop puede arreglar un sistema que, en el fondo, no quiere ser arreglado.

La abstracción metodológica como eliminador de fricción

La genialidad de este marco reside en confrontar al grupo con tres verdades de forma que sean difíciles de soslayar:

  • Externaliza el pensamiento: Baja el debate de la cabeza (donde sesgos, política de pasillo y emociones distorsionan la realidad) a un plano lógico. Esto va de datos. No es nada personal.
  • Obliga a consensuar los criterios: El conflicto de base es que cada stakeholder tiene intereses distintos y prioriza cosas distintas. Acordar criterios y ponderarlos ayuda a alinear la importancia relativa de los diferentes factores.
  • Evita el autoengaño: Si la matriz dice una cosa pero pero la organización sigue queriendo hacer otra, aquí hay tomate. Hay criterios que no se pusieron sobre la mesa pero siguen pesando en la decisión final.

Y ahí empieza la diversión.

Haciendo aflorar los Criterios Ocultos

La hora de la verdad.

En un proceso puramente racional, la organización acordaría el plan para migrar a la opción que sumó más puntos y todos tan contentos. Pero, para sorpresa de nadie, eso no suele suceder..

Cuando las matemáticas dan una opción ganadora pero el cambio no llega y al final se paraliza, es porque se están ponderando criterios que nadie ha querido poner sobre la mesa. Javier Recuenco, acostumbrado a lidiar y evangelizar sobre la resolución de problemas de esta índole, diría que tu subconsciente ya había decidido comprar salmón y toda la conversación posterior sobre nutrición te sobraba bastante: ni dieta equilibrada, ni variedad, ni leches. SAL-MÓN. Es a lo que habías venido y es lo que vas a comprar. Y los números, que esperen.

Pero te estás haciendo trampas al solitario. Y lo sabes.

El verdadero valor de usar un framework de decisión multicriterio como el del ejemplo no es sacar una nota media intentando encontrar una solución que permita nadar y guardar la ropa, sino obligarte a un ejercicio de honestidad sacando a la luz los criterios implícitos que están condicionando la decisión pero de los que no se está hablando.

Algunos ejemplos:

  • Pérdida de control e influencia: Tras una reorganización hacia dominios de negocio, los jefes de áreas funcionales tienen un rol diferente. ¿Cuánto miedo hay a perder el feudo?
  • Garantía de utilización de recursos: El pánico funcional a que un programador esté “parado” un día porque el equipo de producto no lo necesita en ese sprint. Se sigue priorizando la eficiencia de recursos sobre la eficiencia de flujo (que por cierto es algo que impacta sobre el time-to-market, que era un criterio en la matriz que usamos más arriba), sobre esto hablé en su día cuando tratamos eficacia vs eficiencia.
  • Sensación de seguridad personal: En la estructura funcional, con múltiples áreas implicadas, la responsabilidad sobre un fracaso se diluye. En un equipo de producto, la responsabilidad es compartida e ineludible. El silo provee ciertos escondites y una dosis de paz mental.
  • Sobrecarga cognitiva de gestión: Cambiar a negocio implica cambiar gobernanza y habilitar nuevas líneas de comunicación, sacar a muchas personas de su zona de confort para que traten con personas con las que antes no necesitaban tratar.

El fin de la mascarada y el diseño correcto de incentivos

Poner sobre el papel tanto la conducta declarada como la naturaleza subyacente de la organización produce un efecto definitivo: presenta un autorretrato imposible de ignorar. Es el fin del cinismo. Ya nadie puede sostener que la empresa prefiere el time-to-market cuando es obvio que pondera el control.

Lo que la organización elige de verdad, no lo que dice elegir, está perfectamente calibrado para lo que a al management de la misma le importa.

Llegados a este punto, la misión es rediseñar los objetivos y mover la discusión al sitio correcto. El debate ya no puede seguir siendo metodológico; ahí ya no queda nada por discutir. Toca hablar de lo político y lo cultural.

Quizá sea más relevante repensar el variable a corto plazo (el famoso bonus) de esos managers para que cobrarlo dependa de tomar la decisión estructural correcta. O trabajar explícitamente en cómo gestionar el miedo al error si eliminamos los silos que les sirven de refugio, construyendo una cultura corporativa que premie de verdad el experimentar y aprender rápido.

Al final, como en aquella mujer de la canción de Pearl Jam que vio pasar la vida desde detrás de un mostrador, el mayor riesgo de las empresas es ver pasar los años cambiando cosas de sitio para seguir, en el fondo, exactamente en el mismo lugar.

[Imagenes. Jose Alcántara con Gemini.]

La españita feliz y la melancolía de las pilas gastadas

La españita feliz. A estas alturas, todos estamos más que familiarizados con la expresión y con el imaginario que evoca. Se recurre a ella con esa nostalgia amarga de tiempos pasados, cuando la sociedad española vivía en una suerte de optimismo despreocupado, empujada por un progreso que se sentía como una inercia inevitable. Unos sitúan este oasis en la última década del siglo pasado; otros prefieren ubicarlo ya en los primeros compases del nuevo milenio.

Cuando la expresión salta al terreno del meme, esa españita feliz se contrapone frontalmente al humor de la España actual. Un presente donde la sensación de progreso ha desaparecido: la convergencia con los vecinos ricos de Europa ha empezado a dar marcha atrás, media Centroeuropa nos adelanta en renta per cápita, los jóvenes se ven incapaces de emanciparse o formar una familia, y la sostenibilidad del Estado (con las pensiones a la cabeza) exhibe una lista casi interminable de achaques.

La excusa para hilvanar este texto la encontré hace poco durante una visita a Budapest. Allí me topé con que en Hungría denominan «los felices tiempos de paz» (boldog békeidők) al medio siglo que transcurre entre la consecución de una mayor autonomía dentro del Imperio Húngaro en 1867 y la disolución absoluta de dicho imperio en 1918, tras la Primera Guerra Mundial. La Hungría feliz, por buscarle el gemelo.

Lo que me pareció llamativo fue el paralelismo entre ambos memes históricos. Al final, la felicidad es eso que pasa entre que pedimos un deseo y se nos concede. Es exactamente como comprar lotería de Navidad en pleno mes de agosto: sabes perfectamente que no te va a tocar, pero durante esos meses te regalas el lujo de fantasear con ello.

Hagamos un poco de memoria comparada:

  • En Hungría: Tras el fiasco revolucionario de 1848, consiguen la anhelada autonomía en 1867, equiparando oficialmente Budapest a la altura de Viena. Todo va sobre ruedas hasta que en 1918, tras la Gran Guerra, el imperio salta por los aires, la separación es total y el periodo de los «tiempos felices» echa el cierre.
  • En España: Se aprueba la Constitución del 78, cimentando la segunda restauración borbónica, eso que hemos dado en llamar la Transición, y abriendo un ciclo de descentralización sin precedentes que, al menos al principio, se une a una expansión económica y social que hoy recordamos, con cierta ternura, como la españita feliz.

En ambos escenarios, el fin de la burbuja coincide sospechosamente con el momento en que empezamos a sufrir las consecuencias de haber obtenido, precisamente, lo que habíamos deseado. Deseos que, por cierto, eran alarmantemente parecidos en ambos casos (identitarismo y autonomía regional, descentralización del estado).

Es la diferencia de toda la vida entre pedir un regalo de Reyes con toda la ilusión del mundo, abrirlo el día seis por la mañana, y descubrir a las dos horas que se le han gastado las pilas.

El mundo tendría que salvarse a sí mismo

Todo estaba a nuestra disposición. Lo novedoso aparecía como por arte de magia y caía en nuestras palmas como si fuese maná del cielo. Invenciones y descubrimientos, niveles de producción agrícola nunca antes vistos, artefactos de alta gama, artificios, juguetes, ropa de última moda, teatro, dulces, música, ¡cine! Vivíamos en el rapto constante de lo nuevo. Fue necesario adaptarnos para aprender a convivir con esa abundancia feroz. ¿Qué hicimos? Gozamos, jugamos y nos emborrachamos. Bailamos de una guerra a la siguiente. ¿Qué alternativa nos quedaba? Todos sabíamos que ese mundo perfecto que nuestros padres habían construido para nosotros se estaba acabando. Por eso nuestros juegos eran urgentes. Necesarios. Simplemente teníamos que divertirnos. No había nada más que hacer. Porque intuíamos lo que venía. No sé cómo, pero lo sabíamos. Todos lo sabíamos. Hombres y mujeres, ricos y pobres, judíos y goyim. Todos. Así que nos comportamos como niños, e hicimos lo que ellos hacen mejor que nadie: pretender que nada estaba sucediendo para poder seguir jugando. El mundo tendría que salvarse a sí mismo.

Benjamin Labatut, en Maniac.

Leí hace un tiempo Un verdor terrible de Labatut, y voy a usar unos días de asueto en darle un repaso a Maniac, que de momento ha empezado muy bien.

La wiki como repositorio de skills (o por qué tu agente de IA necesita leer tu Confluence)

La wiki como repositorio de skills

Una de las cosas que me obsesiona desde que tengo uso de razón profesional es la gestión del conocimiento. Es una de esas hebras invisibles que sostiene todo lo que he hecho: desde los tiempos analógicos en que estudiaba mi doctorado y me dedicaba a la investigación científica, hasta la gestión de equipos de desarrollo de software en la que ando metido a día de hoy.

Para mí, es casi una obligación moral. Si el objetivo es el progreso de la humanidad, el único camino transitable es ampliar el conocimiento del que disponemos para continuar avanzando.

Pero el conocimiento, si no está en su contexto, deviene fácilmente en ruido.

Siempre he pensado que un blog necesita una pedia que lo ordene. Un rincón donde ir destilando conceptos y acunándolos en su propio caldo de cultivo. Es ahí donde hace ya muchos años nació en mi web el concepto de tabletización, cuando Apple y Google redefinían cómo nos relacionábamos con la tecnología. Y es ahí donde, ahora que vivimos la gran transformación de los LLM, sigo añadiendo notas como la reciente sobre la brecha de supervisión.

Todo esto lo cuento para ilustrar que soy muy de comerme mi propia comida de perro. Defiendo la gestión del conocimiento porque creo en ella con fiereza.

El segundo cerebro y la consistencia personal

Hablemos de cómo aprovechar la actual generación de herramientas de IA para gestionar lo que sabemos. El terreno se divide en dos escenarios básicos: tu sistema personal y el que compartes con tu equipo. Semejantes en la superficie, distintos en el fondo.

Para uso personal hay que admitir que los setup tipo segundo cerebro son imbatibles.

La idea es sencilla: un sistema en el que acumulas notas, documentos y reflexiones en bruto, y sobre el que un LLM pasa el escáner constantemente para relacionar cada nuevo pensamiento con lo que ya existía. Es una combinación potente, pero tiene truco: requiere una consistencia de hierro a la hora de tomar notas.

Sin consistencia no hay completitud. Y es esa completitud de ideas, unida al larguísimo alcance neuronal de los LLM, la que permite que emerja la magia y descubras conexiones que ni sospechabas.

Lo probé un tiempo. Es potente, sí, pero también es un pequeño dolor de muelas: el software para tomar notas por un lado, el de sincronización por otro, la API del LLM por el suyo… La idea es potente y diría que hay un hueco en el mercado para un producto que integre todo esto de forma nativa y sin fricción.

De wikis para humanos a repositorios de skills para agentes

Seguro que en tu empresa tenéis una wiki. Llámale Confluence, Notion o como quieras. Y seguro que tenéis unas directrices de uso sobre las que no pienso opinar, porque cada grupo de trabajo es un universo con sus propias leyes físicas.

Pero déjame decirte algo: si sigues tratando ese sistema como una simple web interna para ser leída exclusivamente por ojos humanos, te estás quedando muy corto.

A día de hoy, debes asumir que el principal usuario de tu wiki a medio plazo no va a tener carné de identidad. Va a ser un agente de IA.

Piensa en modo skills.

Cualquier página de tu Confluence que describa un proceso debe ser tratada como una habilidad que facilite la automatización del trabajo de tu agente. Favorece el Markdown limpio sobre el formateado complejo con macros extrañas o PDFs adjuntos. Estructura la información pensando en una máquina.

Segundo cerebro vs skills

Tratar tu documentación interna como un repositorio de skills compartido tiene dos ventajas fundamentales:

  • Automatización real y agéntica de procesos: Si tienes una página que detalla el welcome pack para los nuevos desarrolladores de tu equipo (entorno, repositorios, accesos OTP…), lo ideal es estructurarla como un recurso que un agente pueda consumir directamente para automatizar el setup completo de ese nuevo colega de forma autónoma.
  • Consistencia (o cómo reducir la varianza entre agentes): Uno de los grandes problemas del trabajo agéntico a día de hoy es que los agentes que usamos responden ante nosotros -sus carnihuesados amos-, pero no se comunican con los agentes de nuestros compañeros de equipo.

La consistencia entre los miembros de un equipo es, ahora mismo, prácticamente inexistente. Cada uno entrena a su bot como buenamente puede.

¿Y qué mejor contexto común que toda esa documentación que ya hemos construido para dar consistencia, en primer lugar, al trabajo humano? Concebir estos sistemas sabiendo que su primer consumidor será un agente es lo que te va a ayudar a marcar la diferencia.

Este consejo sirve para cualquiera, pero es una orden de búsqueda y captura para responsables de equipos. Tu gente ya está usando LLMs para casi todo. Incentivar un repositorio de skills compartido es la forma más sencilla de asegurar que la tarea salga como se espera, independientemente de quién se ponga a los mandos del agente.

[Imágenes: Jose Alcántara usando ChatGPT.]

Camino de mansedumbre

Pensamos en la evolución como un metrónomo biológico de ritmo lento, muy lento. Una suerte de lotería de mutaciones escasas que solo sale bien en una minoría escasísima de casos, en los que provoca un salto adelante mejorando la adaptación de la especie mutada.

Como casi nunca sale bien, los organismos invierten una cantidad ingente de energía en evitar estas mutaciones mediante diferentes mecanismos, como la verificación a nivel celular durante la replicación del ARN y el ADN. Es fácil, por tanto, que al mirar atrás nos venga la idea de que somos idénticos a los homínidos de hace veinte mil años.

Y en gran parte es así. Pero hay matices, suficientes como para detenernos en ellos hoy.

Porque cuando interviene la mano humana llega el progreso, y el progreso es eso que hace que las cosas (buenas y malas, y hay más de las primeras que de las segundas, aunque Yaya Ceravieja no esté de acuerdo) pasen más rápido. La evolución genética, por más incontrolable que nos parezca tampoco se libre de la influencia humana, ¡y sin necesidad de CRISP ni barbaridades eugenéticas! Es todo mucho más inocente, vamos a verlo.

Pasó con el lobo salvaje, al que transformamos en variedades de perros falderos ridículamente inofensivos. En apenas 15.000 años. Muchos en la escala humana, sí, pero nada en términos evolutivos: hay por ahí crustáceos que llevan prácticamente igual unos trescientos cincuenta millones de años. Que una especie haya cambiado tantísimo en tan poco tiempo es flipante, si te paras a pensarlo.

Y pasa, sobre todo, con nosotros mismos. No nos gusta admitirlo pero la civilización es, en el fondo, un descomunal experimento de autodomesticación.

El experimento de los zorros de oficina

En nuestro viaje civilizatorio hemos sustituido la presión del clima y los depredadores por un filtro evolutivo muy diferente: las instituciones sociales y, en los últimos dos siglos, el ecosistema corporativo. Este proceso civilizatorio da lugar a lo que quienes de estos temas saben más que yo denominan selección social, por analogía a la archiconocida selección natural de Darwin. Y aquí vale la pena un inciso: esta selección social no va contra Darwin, cuya selección natural sigue más vigente que nunca.

Para entender cómo funciona el humano moderno no hace falta bucear en tratados de psicología; basta con mirar el famoso experimento soviético de los zorros de Belyaev. En los años cincuenta, el genetista Dmitry Belyaev empezó a criar zorros seleccionando exclusivamente un rasgo conductual: la docilidad hacia los humanos. En apenas unas pocas generaciones de estos zorros (unas décadas de tiempo total) no solo cambió su comportamiento sino que modificó también su fenotipo: se les cayeron las orejas, empezaron a mover la cola como perros y sus colmillos se redujeron.

El entorno de las grandes organizaciones funciona exactamente igual. Lleva décadas premiando sistemáticamente rasgos muy específicos: alta tolerancia a la monotonía burocrática, baja reactividad al confinamiento de la oficina y una notable capacidad para camuflar el disenso bajo dinámicas bienpensantes de recursos humanos.

Los colmillos de la agresividad directa o de la genialidad disruptiva e incómoda se han limado para asegurar el éxito socioeconómico. Hemos seleccionado la docilidad.

El asunto es que, justo cuando habíamos perfeccionado este perfil de humano plano y predecible, hemos decidido externalizar parte de nuestra esencia cognitiva en la inteligencia artificial.

Más tontos no pero, ay, ¡qué plano todo!

Hace unos días hablábamos por aquí de si los LLM nos van a volver estúpidos. Pueden leer esa nota pero la respuesta corta es que no. Externalizar parte de nuestra esencia en un LLM nos va a ayudar a seguir progresando.

Pero. Siempre hay un pero. El peligro real no es la estupidez. El peligro es la mansedumbre.

Al traspasar la lógica, la redacción o el análisis a los modelos de lenguaje, el sistema empieza a retroalimentarse en un bucle de domesticación mutua:

  • Alimentamos a estos LLM con los datos limpios, corporativos y sin aristas que genera nuestro entorno dócil y altamente institucionalizado.
  • Y la máquina nos devuelve contenidos hiper-normalizados, que luego forwardeamos tras validarlos en diagonal en una lógica totalmente definida por la incapacidad de atender debidamente a todo el output que van generando nuestros modelos (lo que denominamos brecha de supervisión). Así es como de forma casi inconsciente, sin fricción, vamos reconfigurando nuestro propio lenguaje.

Lo que viene puede terminar como una domesticación en pareja, acoplada como esas magnitudes que no pueden medirse simultáneamente y se rigen por el principio de indeterminación de Heisenberg. Los humanos podamos las aristas de la IA para que sea «segura» y corporativa, y el algoritmo nos devuelve el favor aplanando la complejidad comunicativa de la mente humana. Nos vuelve predecibles y homogéneos. Quizá políticamente impecables, seguro también más insípidos.

A este aplanamiento conductual se le ha sumado en el siglo XXI lo que Jonathan Haidt define como la hiperprotección institucional de las nuevas generaciones. Al diseñar entornos de «riesgo cero» que aíslan a los individuos del estrés natural, el conflicto intelectual y la frustración, la sociedad moderna ha invertido los términos de la resiliencia. La antifragilidad cognitiva deja de ser una ventaja adaptativa; en su lugar, el sistema crea un invernadero cultural donde los rasgos de hipersensibilidad y conformidad ya no penalizan, sino que se integran (¡e incentivan!) dentro de la normalidad institucional.

Es en este magma en el que hemos de aterrizar la nueva inteligencia artificial, que no nos va a atrofiar el cerebro pero sí va a refinar el aséptico entorno en el que vivimos. Entre los retos del tiempo por venir no está el defender nuestra capacidad de cálculo frente a la máquina; esa batalla está tan perdida como como lo está la batalla por leventar más kilos que la grúa que vemos por la mañana trabajando en la obra al borde de la carretera (tocamos el tema aquel día en que hablamos de lo que la historia del ajedrez y su relación con los ordenadores puede enseñarnos). El reto a superar es el de defender la presencia de aristas en un entorno que, por diseño, tiende a favorecer lo contrario.

[Imágenes: Jose Alcántara usando ChatGPT.]

¿De verdad los LLM nos van a volver estúpidos?

Platón pixelado

Nací en un mundo analógico que ya no existe, soy parte de ese epílogo evanescente que en unas décadas morirá con nosotros; conmigo que escribo y con ustedes que leen. Décadas, apenas nada en la escala de la historia.

Luego, hubo ordenadores pero no se parecían a los que tenemos ahora que caben en un bolsillo y sirven para ver vídeos cortos a todas horas. No había iconos, ni ratón, ni ventanas flotantes, las pantallas no eran táctiles ni teníamos asistentes de voz. Solo estabas tú, una pantalla negra y una línea de comandos. Ya saben, en el principio fue la línea de comandos. Cuando aparecieron las interfaces gráficas, los puristas se echaron las manos a la cabeza. «Esto se va al garete; la gente ya no va a entender cómo funciona un ordenador».

Spoiler: sobrevivimos.

El miedo a que la tecnología nos atrofie el cerebro no es nuevo. En los ochenta, las calculadoras iban a destruir la capacidad de los niños de hacer raíces cuadradas. Más tarde fue Wikipedia lo que amenazó con sepultar el rigor académico. En 2008, Nicholas Carr firmó un ensayo memorable en The Atlantic: ¿Nos está volviendo Google estúpidos?

Llegamos hasta 2026 y cambiamos a Google por OpenAI o Anthropic, pero los miedos colectivos siguen más o menos igual. El tema es discutir si tienen base o no.

Thamus, el rey que temía a los libros

Theuth dialogando con el rey Thamus

La tecnofobia intelectual no nació con Silicon Valley. Ni siquiera con los ludditas de la revolución industrial.

En Fedro, Platón usa el diálogo entre Theuth y Thamos para plantear el debate sobre si la escritura es «un fármaco contra la desmemoria» o, por contra, un mecanismo que terminará por atrofiarnos el cerebro. Platón, por lo que sea, decidió escribir sus diálogos, y no confió en que pasaría de generación en generación por tradición oral. Desde aquí nos congratulamos porque de otra forma igual no nos habría llegado nada de su obra.

Al tema. Dos milenios después seguimos en las mismas. Ahora nos da miedo delegar en las computadoras y nos preguntamos si no estamos externalizando nuestra esencia (y nos lo preguntamos sin rastro de ironía, no como el bueno de Douglas Coupland en Microsiervos). Nos da pánico que el músculo del cerebro se vuelva grasa si la máquina hace el trabajo pesado.

La atrofia en la oficina y los gimnasios para el intelecto

Ese tonillo a ChatGPT. Está en todas partes: cualquier texto nos huele a gepeto. No solo porque todos usamos los bots. Es que estamos empezando a escribir como el bot. Que tiene cierta retranca pero igual no es ni tan malo: por una parte, los LLMs escriben bien. Que sí, no es una verdad incómoda, sino un lugar común. Estas bromitas las hemos visto todos. Los memes es lo que tienen; que se comparten. Pero el LLM promedio se burrea escribiendo a la mayor parte de la población, y lo sabes.

El chiste es que en un mundo en el que tu email o tu CV va a ser filtrado por un bot antes de recibir atención de un humano, escribir con las estructuras que le gustan al LLM quizá tampoco penaliza tanto, quizá así consigues que lo elija entre los elementos a destacar.

Pero vamos con el tufillo a gepeto. Cuando todo suena a máquina, el toque humano es una ventaja competitiva. La forma industrial de conseguirlo es en parte, pura cosmética: una de las evidentes es el retorno fuerte de las fuentes con serifas hasta en la sopa.

Lo importante es hacia donde apunta el dedo: a señalar agencia humana, no robótica. Puro flex, supongo. Quizá lujo inmaterial, ese presumir de tener de tener tiempo para escribir manualmente tus mensajes o tus posts del blog. Decidir cuándo apagar la IA o cuando no seguir su recomendación va a ser clave, pero para ser capaces de volar solos habrá que estar entrenados y saber hacerlo.

Al final, hay una cierta paradoja de la automatización: al traspasar parte del esfuerzo intelectual, la IA se queda parte de lo que nos permitiría seguir desarrollando nuevo conocimiento. En One-armed Scissor cantaban At the Drive-in que «I write to remember». Correcto. Escribo para recordar porque al escribir aprendo, y esto es algo que mi estimado Amalio Rey recalca con frecuencia. En Versvs he publicado casi tres mil doscientos artículos a lo largo de los años.

Cuando la maquinaria pesada entró a saco en el trabajo y, en segunda derivada, gran parte de la población terminó convertida en oficinista nos inventamos los gimnasios para mantener el cuerpo en forma. Quizá la gran duda del tiempo por venir es qué forma van a tener los gimnasios del intelecto. ¿A dónde iremos a entrenar la mente para seguir siendo capaces de pensar cuando los ordenadores automaticen más y más tareas?

Si entender la brecha de supervisión nos sirve para algo es para entender que de esos dos huecos que de momento parecemos vislumbrar para los humanos en el bucle (la concepción de la creación y su validación al final, de los que hablábamos la semana pasada en Desde el bucle) vamos a estar más en la concepción que en la validación, que tenderemos a despachar de mala manera por la puerta de atrás. Muchas risas con KPMG y su informe plagado de alucinaciones, pero eso es el default system: tienes tanta tarea pendiente que el robot te da un texto, lo lees en diagonal y palante. La ejecución desligada de la biología permite una escala que para nuestros tiernos ojos mortales se presenta inabordable.

Como al contener impulsos de violencia preneandertal o aprender a no quejarse del enésimo SUV en el atasco en el commute a casa (This is water de David Foster Wallace es uno de esos textos bellos a los que volver), el humanismo en este caso también se demuestra siendo capaces de actuar a la contra de ese sistema por omisión: validando lo que parece no requerir validación, solo porque así mantenemos un aspecto de nuestra esencia.

Al final del día, la sapiencia de copia y pega también es sapiencia

Los LLMs no nos van a volver estúpidos. Al mismo tiempo, nos harán sentir estúpidos. Simplemente porque los ordenadores hacen bien un puñado de cosas que a nosotros se nos dan regular. Si les pido memorizar un número de 9 cifras y les doy el 183572541 seguramente haya problemas; si en cambio les doy el 123456789, ya no tantos. Para un ordenador ambos números son equivalentes: los va a recordar ambos por igual.

Así que pasaste décadas estudiando, empollando como un pringao, pero a la hora de la verdad eres incapaz de tener en mente todo lo que estudiaste. Eres el meme viviente y danzante del ingeniero que ha olvidado más matemáticas de las que una persona normal aprenderá en toda su vida. Tu LLM, sin embargo, las recuerda todas.

Por eso al usarlo nos vemos en el espejo y nos sentimos pequeñitos en comparación. Pero no. La realidad es que estás intentando usar tu cerebro para cosas para las que no se adaptó, y que periferizar parte de tu esencia en un LLM para saltar más alto, viajando a hombros de gigantes electromecánicos, es el camino a seguir.

«Pero que sabrás tú, si ahora mi código lo produce mi agente». Ya, sí, y antes lo hacía el compilador (¿o acaso ibas añadiendo tú los ceros y unos manualmente?), pero nunca sentiste el impulso irrefrenable de gritar a los cuatro vientos que el código de tus programas lo hacía otro programa.

La escritura no mató a la memoria, la expandió. Google no nos volvió idiotas. Los LLMs nos permitirán llegar más lejos. La pregunta clave que deberíamos hacernos en bucle no es qué puede hacer la inteligencia artificial por nosotros, sino qué podemos hacer nosotros con ella. Resistance is futile.

[Imágenes: Jose Alcántara usando ChatGPT.]

Este blog usa cookies para su funcionamiento.    Más información
Privacidad