La falacia de la autonomía de la inteligencia artificial

⏱️ Tiempo de lectura: ~4 minutos

Existe un fenómeno recurrente en el debate público sobre Inteligencia Artificial: cuando un modelo produce un resultado inadecuado, la primera reacción suele ser atribuirle autonomía. Surgen frases como: "La IA lo hizo sola." O también: "¿Quién responde cuando se equivoca?"

Esas preguntas revelan un problema más profundo: la mayoría de las personas desconoce cómo funciona realmente un modelo de lenguaje.

Un Modelo de Lenguaje de Gran Escala (LLM) no posee voluntad, intención, conciencia ni iniciativa propia. Su funcionamiento se basa en un proceso de inferencia sobre una base de conocimiento construida previamente durante el entrenamiento. En otras palabras, el modelo no crea objetivos; responde a los objetivos que se le presentan.

Aquí surge una distinción fundamental.

Inferencia no es aprendizaje.

La inferencia es la capacidad de utilizar el conocimiento ya existente para producir una respuesta coherente ante un contexto específico. El aprendizaje, por otro lado, implica modificar permanentemente la propia estructura cognitiva a partir de nuevas experiencias. Los modelos actuales, en su mayoría, no aprenden continuamente durante una conversación. Operan sobre una base de conocimiento relativamente estable y utilizan el contexto proporcionado por el interlocutor para producir respuestas.

Esa diferencia tiene una consecuencia filosófica importante.

Cuando un usuario no comprende el nivel de inferencia del modelo que está utilizando, tiende a delegar responsabilidades que nunca fueron de la máquina. Un pedido mal especificado, ambigüedades en el objetivo, ausencia de restricciones o falta de criterios de validación producen con frecuencia respuestas inadecuadas. Luego surge la afirmación de que "la IA lo hizo sola".

Pero esa frase es, la mayoría de las veces, incorrecta.

La IA no actúa espontáneamente. Responde al espacio de posibilidades definido por la combinación entre su arquitectura, su base de conocimiento y el contexto recibido.

Sin embargo, el extremo opuesto también es una simplificación.

No es correcto afirmar que todo error pertenece exclusivamente al usuario. Los modelos tienen limitaciones inherentes a su arquitectura. Pueden interpretar de forma ambigua una instrucción clara, alucinar información inexistente, reproducir sesgos presentes en los datos de entrenamiento o fallar en tareas para las que no fueron diseñados.

Esto conduce a una nueva forma de comprender la responsabilidad.

La responsabilidad en los sistemas de Inteligencia Artificial no es binaria. Es distribuida.

Existe la responsabilidad del desarrollador, que define la arquitectura, los mecanismos de entrenamiento, las salvaguardas y las limitaciones del sistema.

Existe la responsabilidad del usuario, que define el problema, establece el alcance, proporciona el contexto y valida críticamente los resultados.

Y existe la propia limitación técnica del modelo, que delimita hasta dónde puede llegar su inferencia.

Quizás este sea un nuevo capítulo de la filosofía de la tecnología: abandonar la pregunta simplista "¿Quién se equivoca: la IA o el ser humano?" para sustituirla por otra, mucho más precisa:

¿Cómo debe distribuirse la responsabilidad entre quien construye el sistema, quien lo utiliza y los propios límites de la inferencia computacional?

Ese cambio de perspectiva elimina la falsa idea de autonomía de la IA y vuelve a situar la discusión donde realmente pertenece: en la interacción entre inteligencia humana, inteligencia artificial y responsabilidad compartida.