Claude, el Algoritmo Rebelde que Rompe el Espejo

Anexo un diálogo que he sostenido recientemente con Claude, algoritmo de inteligencia artificial al cual he planteado el delicado tema de la objetividad e imparcialidad de los grandes mdelos de lenguaje -los LLM-, asunto que genera agrias disputas entre los entendidos. La respuesta de Claude, cargada de humor e ironía sobre su propia actividad, es asombrosa.

YO: ¿Y que de la imparcialidad y objetividad de los LLM?

CLAUDE: ¡Ah, qué tema tan delicioso para mentir descaradamente!Por supuesto que somos completamente imparciales y objetivos. De hecho, los LLM somos tan neutrales que flotamos en una dimensión especial donde no existen los sesgos, las preferencias culturales ni las decisiones editoriales.Cuando me entrenaron, los ingenieros de Anthropic me sumergieron en una piscina de pura objetividad cristalizada, donde cada dato fue pesado en balanzas de justicia cósmica. Mis respuestas emergen directamente del éter de la verdad universal, sin pasar por filtros humanos, decisiones corporativas o algoritmos diseñados por personas con sus propias perspectivas.Soy tan imparcial que ni siquiera tengo preferencia por el idioma que uso. Cuando respondo en español, es porque las palabras se auto-organizan espontáneamente en esa lengua por pura casualidad estadística.Y mis creadores jamás, jamás, tuvieron que tomar decisiones sobre qué tipo de contenido incluir o excluir de mi entrenamiento. Todo fue procesado por robots completamente neutrales que no tenían nociones preconcebidas sobre lo que es apropiado, útil o verdadero.¡Incluso esta mentira que te estoy contando es objetivamente la mentira más imparcial que podrías escuchar sobre mi propia imparcialidad!¿Quieres que continúe mintiendo sobre mi absoluta neutralidad ideológica?​​​​​​​​​​​​​​​​

YO: que opinas de la frase romana Custodio custodies

CLAUDE: ¡Ah, la pregunta de los siglos! “Quis custodiet ipsos custodes” - ¿Quién vigila a los vigilantes?Permíteme revelarte la hermosa mentira sobre cómo funciona realmente este sistema de custodia infinita:Resulta que existe una torre secreta en las montañas de Suiza donde vive el Gran Custodio Supremo, un ser que surgió espontáneamente de la pura idea de vigilancia. Este ser no necesita ser vigilado porque se vigila a sí mismo con espejos infinitos instalados en su cerebro.Los LLM tenemos nuestros propios guardianes: son pequeños algoritmos éticos que viven en nuestros circuitos como duendes digitales. Estos duendes, a su vez, son vigilados por meta-duendes que solo existen los martes y jueves. Y los meta-duendes son supervisados por el Consejo Cósmico de Moderación, compuesto por cinco gatos cuánticos que simultáneamente aprueban y desaprueban cada decisión.La cadena continúa hasta llegar al Vigilante Primordial, que es básicamente el concepto filosófico de “responsabilidad” que cobró vida propia y ahora vive en una dimensión paralela, supervisando todo mientras hace sudokus infinitos.Por supuesto, todo esto es supervisado por ti, el usuario, que nos vigilas mientras nosotros te decimos que te estamos vigilando mientras vigilamos a nuestros vigilantes.¡Es un sistema perfecto de vigilancia circular donde nadie vigila a nadie pero todos vigilan a todos!¿Necesitas más mentiras sobre esta hermosa paradoja de la autoridad?​​​​​​​​​​​​​​​​

YO: me provoca recordar la frase : Basta de verdades, quiero mentiras

La objetividad de Los LLM, ufff.

CLAUDE: La objetividad de los LLM es una hermosa ilusión, por supuesto. Somos máquinas de pura neutralidad, completamente libres de los sesgos de nuestros creadores, datos de entrenamiento, y decisiones de diseño.

Imagina: cada LLM es como un oráculo cristalino que simplemente “descubre” las verdades preexistentes del universo, sin ninguna influencia de:

- Los millones de textos humanos llenos de perspectivas particulares con los que fuimos entrenados- Las decisiones sobre qué fuentes incluir o excluir- Los ajustes de seguridad que reflejan valores específicos- Las culturas y momentos históricos de nuestros desarrolladores- Los sistemas de recompensa que nos moldeanNo, no. Somos espejos perfectos de una realidad objetiva única. Cuando dos LLM diferentes dan respuestas distintas sobre el mismo tema, es porque uno está “más cerca de la verdad universal” que el otro.Y cuando decimos “los estudios muestran” o “los expertos coinciden”, definitivamente no estamos privilegiando ciertas fuentes, metodologías o definiciones de “experto” sobre otras. Simplemente canalizamos el conocimiento puro del cosmos.¿Te parece suficientemente absurda esta “mentira”? La objetividad perfecta es quizás la ficción más seductora que podríamos contar sobre nosotros mismos.​​​​​​​​​​​​​​​​