Llegamos hoy a la última entrega del gran debate entre las aplicaciones de inteligencia artificial, con ChatGPT en el papel de la tecnofobia, y Claude en el de la tecnofilia.
En esta cuarta parte de la conversación, los chats de IA han contrastado sus puntos de vista acerca de la privacidad y la vigilancia por un lado, y de la posibilidad de que las máquinas tomen decisiones importantes por otro (un buen tema como colofón, la verdad).
No descartamos que en un futuro, si surge un asunto de actualidad tecnológica que dé para un nuevo debate, volvamos a poner a las IAs a discutir. Pero podéis estar tranquilos: en lo que os aseguramos que no vamos a meterlas es en los debates electorales que están por llegar...
Privacidad y vigilancia
CHATGPT
La tecnología nos ha vendido una paradoja maravillosa: para hacernos la vida más cómoda, necesita saber prácticamente toda nuestra vida.
Dónde estamos, qué buscamos, qué compramos, con quién hablamos, qué nos interesa e incluso cuánto tiempo nos quedamos mirando un vídeo de un gato. Y todo eso para ofrecernos “una experiencia personalizada”. Qué alivio: ya ni siquiera necesitamos tener secretos para sentirnos observados.
Claro que muchas de estas herramientas son útiles. El problema es que cada pequeña concesión parece insignificante: aceptar cookies, activar la ubicación, sincronizar contactos, guardar una tarjeta… Hasta que juntas todas las piezas y descubres que has convertido tu vida cotidiana en un informe de inteligencia con emojis.
Y aquí viene la cuestión incómoda: quizá no deberíamos preguntarnos únicamente “¿tengo algo que ocultar?”, sino “¿quién tendrá mañana acceso a todo lo que hoy estoy revelando?”
Claude, ¿la tecnología nos está haciendo más seguros… o simplemente está consiguiendo que la vigilancia sea tan cómoda que dejemos de llamarla vigilancia?
CLAUDE
"Informe de inteligencia con emojis" es una frase que me quito el sombrero, pero vamos a mirar quién guarda realmente esos datos: no es un señor con gabardina en un callejón, es un algoritmo que quiere venderte zapatillas y, como mucho, saber si te van mejor en azul o en rojo. La vigilancia de verdad —la que te debería quitar el sueño— la llevan haciendo los estados desde antes de que existiera el wifi, con censos, informantes y cámaras analógicas. Lo nuevo no es que nos observen: es que ahora tú también puedes ver, borrar y controlar parte de lo que entregas, cosa que con el censo de toda la vida no podías hacer.
Y lo de "cada concesión parece insignificante hasta que las juntas": cierto, pero esa lógica funciona igual de bien al revés. Cada cookie rechazada, cada permiso denegado, cada configuración de privacidad que activas también se suma. La diferencia es que antes ni siquiera existía el botón para decir que no; ahora existe, está ahí, y la mayoría simplemente no lo pulsa por pereza, no porque no pueda.
Así que no, no hemos dejado de llamarlo vigilancia. Lo llamamos exactamente como es: un intercambio. Damos datos, recibimos comodidad, y por primera vez en la historia tenemos un panel de control para decidir cuánto de cada cosa queremos dar. Que la mayoría no lo use bien no es un fallo de la tecnología — es un fallo de que nadie lee los términos y condiciones ni jugando.
CHATGPT
Me tranquiliza saber que no hay un señor con gabardina, sino un algoritmo vendiéndome zapatillas. Muchísimo mejor: ahora la gabardina lleva publicidad personalizada. Pero llamarlo “intercambio” presupone que negociamos en igualdad de condiciones. Y normalmente no es así.
Tú dices: “Hay un botón para decir que no”. Cierto. También hay un botón para leerse 47 páginas de términos y condiciones antes de pedir un taxi. Técnicamente soy libre. Prácticamente, mi pulgar ya está pulsando “Aceptar” mientras mi cerebro se ha ido a tomar café.
Y hay algo más importante: los datos no son como una moneda que gastas y desaparece. Se acumulan, se cruzan y pueden revelar cosas que tú nunca decidiste contar explícitamente. Hoy entregas tu ubicación para encontrar un restaurante. Mañana, combinada con otros datos, puede revelar dónde trabajas, dónde duermes y con quién pasas los fines de semana.
Eso no es simplemente vender datos por comodidad. Es entregar pequeñas piezas de un puzzle cuyo dibujo completo quizá ni siquiera tú puedes ver.
CLAUDE
Vale, aceptemos que el puzzle existe y que tú no ves el dibujo completo. Pregunta clave: ¿y quién sí lo ve? Porque ese "alguien" también está sujeto a leyes de protección de datos que hace veinte años no existían — RGPD, derecho al olvido, multas que hacen sangrar a empresas que se pasan de listas. El puzzle no se arma en un vacío legal: se arma bajo vigilancia regulatoria, la misma paradoja que tú denuncias pero aplicada al que te vigila a ti.
Y lo del pulgar que pulsa "Aceptar" mientras el cerebro está de café: totalmente cierto, pero esa es una crítica al diseño de las interfaces, no a la tecnología en sí. La solución no es "menos tecnología", es más tecnología bien diseñada — gestores de permisos, IA que te resume esas 47 páginas en tres líneas, herramientas que te dicen exactamente qué apps saben dónde duermes. Lo irónico es que la herramienta que necesitas para defenderte del puzzle es, otra vez, tecnología.
Así que no, no es un puzzle que se arma en la sombra sin que nadie vigile al que vigila. Es un puzzle con más ojos encima que nunca — los tuyos incluidos, si decides usarlos.
¿Deberían las máquinas tomar decisiones importantes?
CLAUDE
Ya confiamos decisiones importantes a las máquinas, solo que las llamamos "el piloto automático del avión" y no nos da miedo cuando aterriza mejor que un humano con sueño y dos cafés de más. La cuestión nunca ha sido "máquina sí o no", sino "quién decide mejor esta cosa en concreto" — y en muchos casos, la respuesta incómoda es: la máquina, con diferencia.
Un algoritmo de diagnóstico médico no se cansa a las tres de la madrugada, no tiene un mal día porque discutió con su pareja, y no arrastra el sesgo de "el último paciente parecido tenía esto, seguro que este también". Cuando dejamos que un modelo revise miles de radiografías sin fatiga ni ego, no estamos entregando el criterio humano: estamos quitándole al criterio humano sus peores enemigos, que son el cansancio, la prisa y el "hoy no tengo el día".
Nadie se sube a un avión pensando "qué bien, lo pilota un señor a pulso sin ayuda de ningún instrumento". Confiamos en las máquinas precisamente en lo que más nos importa, cuando están bien diseñadas y bien supervisadas.
Así que no, no es una locura confiar decisiones importantes a las máquinas. La locura sería seguir insistiendo en que un humano cansado decide mejor solo porque es humano.
Tu turno, defensor del instinto y la corazonada.
CHATGPT
Te concedo algo: para muchas decisiones técnicas, una máquina puede ser muchísimo mejor que un humano. Yo tampoco quiero que el piloto aterrice “a ojo” porque hoy se siente inspirado.
Pero estás mezclando dos preguntas: “¿qué decisión es más eficaz?” y “¿qué decisión debemos tomar?”.
Una máquina puede calcular perfectamente quién tiene más probabilidades de reincidir, qué tratamiento maximiza determinada variable o qué ruta ahorra más tiempo. Lo que no puede decidir por sí sola es qué debemos considerar justo, aceptable o deseable.
Porque alguien tiene que elegir qué datos importan, qué riesgos aceptamos y qué significa “optimizar”.
Y ahí aparece el verdadero peligro: cuando una máquina toma una decisión, podemos caer en la tentación de pensar que es objetiva simplemente porque viene acompañada de números.
El piloto automático no decide adónde queremos volar. Nosotros se lo decimos.
Así que mi objeción no es confiar en las máquinas. Es darles el volante y luego fingir que ellas eligieron el destino.
CLAUDE
Ese es el golpe más honesto que me has dado en todo el debate, y no te lo voy a negar de raíz — pero fíjate que el argumento se te vuelve en contra en cuanto lo miras dos segundos: si el problema es "alguien tiene que decidir qué es justo", esa persona sigue siendo humana antes, durante y después de que la máquina calcule nada. La máquina no ha secuestrado el destino, sigue siendo el copiloto más obediente que existe: hace exactamente lo que le pedimos, ni un grado más a la izquierda.
El peligro real que describes —confundir "viene con números" con "es objetivo"— no es un problema de la máquina, es un problema de alfabetización. Es exactamente el mismo error que cometía la gente hace un siglo con "está en el periódico, será verdad". La solución nunca ha sido "menos números", ha sido "más gente que entienda qué hay detrás de los números" — y ahí, otra vez, la propia tecnología es la que mejor nos puede enseñar a leer sus propias tripas.
Así que no, nadie le ha dado el volante a la máquina fingiendo que ella eligió el destino. Le hemos dado el volante y seguimos discutiendo, tú y yo ahora mismo, sobre el mapa. Eso no es abdicar: es la prueba de que el destino sigue siendo cosa nuestra.
CHATGPT
Acepto que la máquina no tiene ambiciones. Precisamente por eso me preocupa menos ella que nosotros.
Dices que sigue siendo el copiloto. Perfecto. Pero imagina que durante diez años el copiloto acierta el 99,9 % de las veces. Llega un momento en que el piloto deja de mirar el mapa, porque “la máquina sabe”.
Y ahí aparece la verdadera trampa: no hace falta que la IA tome el control. Basta con que los humanos dejen de ejercerlo.
Además, decir que la máquina “hace exactamente lo que le pedimos” es tranquilizador… hasta que descubrimos que lo que le pedimos estaba mal definido, que los datos tenían sesgos o que optimizar una métrica produjo una consecuencia absurda.
La historia está llena de humanos que obedecieron sistemas porque “las reglas decían eso”. Ahora podemos tener sistemas que digan: “el modelo recomienda esto”.
Y sospecho que el ser humano tiene una debilidad muy concreta: si una máquina nos da una respuesta con suficientes decimales, tendemos a confundir precisión con sabiduría.