Hace unas semanas sufrí un problema bastante serio con mi cuenta de Claude, la inteligencia artificial desarrollada por Anthropic. Sin que yo hubiera aceptado o realizado cambios, se modificaron determinadas configuraciones de mi cuenta y también comenzaron a producirse cargos por la compra de créditos. Evidentemente, lo primero que hice fue intentar averiguar qué había ocurrido y ponerme en contacto con Anthropic para solucionar el problema.

Hasta aquí, nada especialmente extraño. Las incidencias de seguridad existen, las cuentas pueden verse comprometidas y cualquier servicio digital puede enfrentarse a situaciones de este tipo. Lo que terminó llamándome realmente la atención no fue tanto el incidente inicial como todo lo que ocurrió cuando intenté conseguir ayuda.

Contacté con Anthropic a través de los canales que tenía disponibles, tanto mediante chat como por correo electrónico. Expliqué que se habían producido operaciones económicas que yo no había autorizado, facilité información sobre los cargos, solicité que revisaran los accesos y la actividad de mi cuenta y pedí expresamente, en varias ocasiones, hablar con una persona que pudiera investigar qué había sucedido.

Sin embargo, durante todo ese proceso previo a presentar mi reclamación, quien me respondía era Fin AI Agent, el sistema automatizado de soporte de Anthropic.

No estoy hablando de una consulta sencilla en la que un chatbot puede resolver perfectamente una duda sobre una contraseña, una funcionalidad o una configuración. Se trataba de una incidencia relacionada con seguridad, accesos a una cuenta y operaciones económicas no autorizadas. Para resolver algo así era necesario consultar información interna, revisar registros y determinar qué había ocurrido realmente.

El problema es que el propio sistema automatizado reconocía que no tenía capacidad para hacerlo. Fin AI Agent me indicó que no podía confirmar la existencia o asignación de un expediente, que no podía facilitarme un número de referencia, que no podía establecer plazos de resolución y que tampoco tenía acceso a determinados sistemas internos que permitieran comprobar qué estaban haciendo los equipos de Seguridad o Facturación.

Y ahí es donde la situación empezó a resultarme especialmente llamativa. Estaba intentando resolver una incidencia que necesitaba una investigación interna con un sistema que reconocía expresamente no tener acceso a la información necesaria para llevarla a cabo. Podía seguir respondiendo a mis mensajes, podía explicarme procedimientos e incluso podía asegurarme que entendía la situación, pero no podía hacer aquello que realmente necesitaba que alguien hiciera.

Lo más paradójico es que, pese a solicitar de forma reiterada hablar con una persona, tanto por chat como por correo electrónico, la respuesta seguía llegando de la propia inteligencia artificial.

Cuando la automatización deja de ayudar

Trabajo diariamente con Inteligencia Artificial, agentes y automatizaciones de toda clase, así que mi problema no es que una empresa utilice IA para atender a sus clientes. Todo lo contrario. Creo que una enorme cantidad de consultas que hoy necesitan la intervención de una persona pueden resolverse mucho mejor mediante sistemas automatizados, reduciendo tiempos de espera y permitiendo que los equipos humanos se concentren en los casos que realmente necesitan su intervención.

Precisamente por eso creo que es importante distinguir entre utilizar la IA como herramienta de atención y convertirla en una barrera.

Si una inteligencia artificial puede resolver mi problema, perfecto. Incluso prefiero que lo haga en treinta segundos antes que esperar veinte minutos para hablar con alguien. Pero cuando el propio sistema reconoce que no tiene acceso a la información necesaria, no puede tomar determinadas decisiones y tampoco puede investigar lo sucedido, continuar obligando al usuario a interactuar con esa misma IA deja de ser eficiencia.

En ese momento, la automatización comienza a convertirse en un obstáculo.

Fue precisamente esa situación la que me llevó a investigar si existía algún tipo de obligación respecto a la posibilidad de contactar con una persona. Y ahí apareció el Reglamento de Servicios Digitales de la Unión Europea, más conocido como DSA.

El artículo 12 del DSA y los puntos de contacto

Anthropic dispone de un punto de contacto designado para los usuarios de la Unión Europea. Al revisar la normativa encontré el artículo 12 del Reglamento de Servicios Digitales, que regula precisamente los puntos de contacto que los prestadores deben poner a disposición de los destinatarios de sus servicios.

Hay un detalle de ese artículo que me parece especialmente relevante para este caso: establece que los usuarios deben poder elegir medios de comunicación que no se basen únicamente en herramientas automatizadas.

Ese matiz me pareció importante porque mi problema no era simplemente que Anthropic utilizara una inteligencia artificial para atenderme. Mi problema era que, después de solicitar reiteradamente una intervención humana y explicar que el propio sistema automatizado reconocía no poder investigar lo ocurrido, no conseguía acceder a una persona ni por chat ni por correo electrónico.

Por ese motivo, decidí presentar una reclamación ante la Comisión Nacional de los Mercados y la Competencia, la CNMC, que actúa como Coordinador de Servicios Digitales en España.

Quiero dejar clara una cuestión, porque puede dar lugar a confusión: no acudí a la CNMC para pedir que me devolvieran el dinero de los cargos. La cuestión económica la he gestionado y solucionado por otras vías más adecuadas. Lo que planteé ante la CNMC fue algo diferente: quería que el organismo competente valorase si un punto de contacto en el que un usuario solicita reiteradamente hablar con una persona y continúa recibiendo respuestas de una herramienta automatizada cumple realmente con lo establecido en el artículo 12 del DSA.

Tampoco afirmé que Anthropic estuviera necesariamente incumpliendo el Reglamento. Precisamente acudí al organismo que considero competente para que fuera este quien valorase jurídicamente la situación.

La respuesta de la CNMC que no termino de entender

La CNMC registró mi reclamación y abrió expediente. Posteriormente recibí una comunicación en la que indicaba lo siguiente:

“Analizada su reclamación, se le informa que el contenido material de la misma no versa sobre las obligaciones de diligencia debida que, en aplicación del Reglamento de Servicios Digitales, recaen sobre los prestadores de servicios intermediarios.”

Reconozco que esta respuesta me ha sorprendido, aunque no porque esperase que la CNMC tuviera necesariamente que darme la razón. Puede existir una interpretación jurídica diferente de la mía, puede considerarse que el servicio concreto no entra dentro del ámbito de aplicación correspondiente o puede haber cualquier otra cuestión jurídica que justifique que la reclamación no continúe.

Lo que me resulta difícil de entender es precisamente el argumento que aparece en la respuesta.

Mi reclamación se refería expresamente al artículo 12 del Reglamento de Servicios Digitales, relativo a los puntos de contacto con los usuarios. Y ese artículo se encuentra dentro del Capítulo III del propio Reglamento, dedicado precisamente a las “Obligaciones de diligencia debida para crear un entorno en línea transparente y seguro”.

Por eso mi sorpresa no está en que la CNMC pueda considerar que Anthropic no ha incumplido el Reglamento, porque esa valoración le corresponde al organismo competente. Lo que me sorprende es que la respuesta indique que mi reclamación no versa sobre obligaciones de diligencia debida cuando precisamente estaba planteada alrededor de una de las obligaciones que aparecen dentro de ese capítulo.

Puede haber una explicación jurídica para ello y estaría encantado de conocerla. Pero, con la respuesta recibida, esa explicación no aparece.

Anthropic terminó respondiendo mediante una persona

Después de presentar la reclamación ante la CNMC, finalmente recibí una respuesta supuestamente identificada como procedente de una persona del equipo de soporte de Anthropic.

Creo que es importante contarlo porque no tendría sentido plantear este artículo ocultando una parte de lo ocurrido. Finalmente sí apareció una persona y, por tanto, existe algún mecanismo mediante el cual determinados casos pueden terminar llegando a atención humana.

Ahora bien, esto no elimina la cuestión que me llevó a presentar la reclamación.

El debate no consiste únicamente en determinar si, después de suficientes mensajes, días o intentos, puede terminar apareciendo una persona. La cuestión es si un usuario que se encuentra ante un problema que la propia IA reconoce no poder resolver dispone realmente de una vía para solicitar esa intervención humana y acceder a ella de una forma razonable.

Porque hay una diferencia importante entre utilizar una inteligencia artificial como primer nivel de soporte y convertirla en el único interlocutor disponible hasta que un sistema interno decida, sin que el usuario sepa cuándo ni cómo, que ha llegado el momento de escalar el caso.

Una IA puede conversar durante horas sin resolver nada

Creo que aquí aparece uno de los problemas que vamos a encontrarnos cada vez con mayor frecuencia a medida que los agentes de IA se incorporen a todo tipo de servicios.

Una inteligencia artificial puede mantener una conversación extraordinariamente convincente. Puede pedir disculpas, explicar procedimientos, tranquilizar al usuario, reconocer su frustración y generar respuestas diferentes durante horas. Desde el punto de vista de la conversación, parece que existe atención.

Pero conversar y resolver no son necesariamente lo mismo.

Si el sistema no tiene acceso a la información necesaria, no puede ejecutar determinadas acciones, no tiene autoridad para tomar una decisión y tampoco puede derivar de forma efectiva el caso a una persona, la conversación puede continuar indefinidamente sin que exista una verdadera capacidad de resolución.

Ese es, para mí, el punto fundamental.

No creo que debamos exigir que exista una persona detrás de cada interacción con una empresa. Sería absurdo y supondría renunciar a muchas de las ventajas que precisamente puede ofrecer la Inteligencia Artificial. Lo que sí creo que tendremos que definir es qué ocurre cuando la automatización llega a su límite.

Si la IA puede solucionar el problema, que lo haga. Si puede consultar los sistemas necesarios, ejecutar una devolución, corregir un error o resolver una incidencia, probablemente lo hará incluso mejor y más rápido que muchos procesos actuales.

Pero si no puede hacerlo, debería existir una puerta de salida. Y esa puerta debería conducir realmente a una persona.

El debate no es IA contra personas

Creo que sería un error convertir todo esto en otro debate simplista sobre si la Inteligencia Artificial es buena o mala. No es esa la cuestión.

La automatización de la atención al cliente tiene un potencial enorme y va a mejorar muchos servicios que actualmente son lentos, caros e ineficientes. Los agentes de IA serán capaces de resolver cada vez más tareas y probablemente terminarán gestionando de forma autónoma incidencias que hoy necesitan la participación de varias personas.

Pero, precisamente, cuanto más extendamos estos sistemas, más importante será diseñar correctamente sus límites.

Una empresa puede reducir costes automatizando su atención al cliente, pero esa eficiencia no debería conseguirse trasladando al usuario el coste de quedarse atrapado en una conversación con un sistema incapaz de resolver su problema.

La pregunta, por tanto, no es si debemos utilizar Inteligencia Artificial para atender a los clientes. Para mí, la respuesta es evidente: sí.

La pregunta interesante es otra: ¿en qué momento debe una persona tener derecho a dejar de hablar con una inteligencia artificial y poder hablar con otra persona?

Mi caso con Anthropic probablemente sea solo una pequeña muestra de una situación que veremos cada vez con más frecuencia. A medida que los agentes de IA se conviertan en la primera línea de contacto de bancos, aseguradoras, administraciones, plataformas digitales y todo tipo de empresas, tendremos que decidir no solamente qué pueden hacer esos sistemas, sino también qué debe ocurrir cuando ya no pueden hacer nada más.

Porque automatizar una conversación es relativamente sencillo.

Lo realmente importante es asegurarnos de que también estamos automatizando la solución.

Y, cuando eso no sea posible, quizá deberíamos conservar algo tan básico como la posibilidad de decir: quiero hablar con una persona.