La inteligencia artificial suele presentarse como una herramienta neutral: una capacidad disponible para quien quiera usarla. Pero ninguna tecnología llega a un espacio vacío. Alguien define sus objetivos, posee la infraestructura, fija las condiciones de uso y decide qué personas tendrán que adaptarse. Por eso hablar de inteligencia artificial es también hablar de poder.

La palabra puede incomodar, aunque no debería. Poder no significa necesariamente mala intención. Significa capacidad de decidir y de afectar. Reconocerlo permite hacer preguntas que de otro modo se quedan fuera: quién participa, quién obtiene el beneficio, quién asume el riesgo y qué opción tiene quien no está de acuerdo.

Quien diseña también establece prioridades

Cada sistema necesita decidir qué cuenta como éxito. Puede ser rapidez, reducción de costes, número de respuestas o tiempo de uso. Esas métricas parecen técnicas, pero expresan una prioridad. Si el éxito es cerrar consultas rápido, quizá se pierda la conversación que una persona necesita. Si el éxito es clasificar con eficiencia, quizá se simplifiquen trayectorias que no caben en una categoría.

Las decisiones de diseño nunca son inocentes cuando afectan a otras personas. Por eso las organizaciones deben poder explicar qué objetivo persiguen y qué límites han puesto. No basta con decir que la herramienta funciona; hay que decir para quién funciona y qué ocurre cuando no funciona.

También importa quién puede cuestionar ese diseño. Una persona experta puede detectar un problema técnico; quien recibe el servicio detecta a menudo un problema de experiencia, lenguaje o trato. Ambos conocimientos son necesarios. Dejar fuera a uno de ellos no simplifica la decisión: la hace más frágil.

La elección no es igual para todo el mundo

Hay usos voluntarios, como probar una herramienta creativa. Y hay usos que llegan incorporados a un trámite, un puesto de trabajo o un servicio necesario. En estos últimos, pedir consentimiento no basta si negarse significa quedarse sin alternativa. La libertad necesita una opción real, no una casilla que nadie puede marcar sin pagar un coste.

La accesibilidad es una forma concreta de repartir poder. Mantener atención humana, explicar las decisiones en lenguaje claro y ofrecer canales de corrección permite que no solo participen quienes saben moverse por una interfaz. También protege a quien tiene menos tiempo, menos recursos o una situación que el sistema no entiende.

Esto es especialmente relevante con menores, personas mayores y colectivos expuestos a discriminación. Un sistema que parece igual para todos puede agrandar desigualdades si exige dispositivos, conocimientos o datos que no todos pueden aportar. La equidad no consiste en aplicar la misma pantalla a todo el mundo; consiste en no convertir una diferencia de acceso en una desventaja permanente.

Compartir el control mejora las decisiones

Compartir control no significa que cada persona tenga que entender el modelo por dentro. Significa crear espacios donde las decisiones se puedan explicar, discutir y corregir. Una prueba con personas afectadas, una evaluación de impacto, un protocolo de incidencias o una fecha de revisión son mecanismos sencillos para evitar que el poder se quede encerrado en quien compra o configura la herramienta.

La transparencia sirve cuando da capacidad de actuar. Un documento incomprensible puede cumplir una obligación formal y no ayudar a nadie. Una explicación útil permite saber qué ocurre, a quién acudir y cómo pedir un cambio. Esa diferencia es la que convierte la información en autonomía.

Las organizaciones también pueden decidir qué no harán. No usar datos sensibles cuando no son imprescindibles, no crear imitaciones de personas reales, no dejar decisiones con consecuencias graves sin revisión humana. Estos límites expresos tienen más valor que una promesa genérica de uso responsable porque permiten comprobar si se cumplen.

La tecnología es más justa cuando quienes viven sus consecuencias tienen una manera real de influir en ella.

Hablar de poder no obliga a rechazar la inteligencia artificial. Obliga a usarla con los ojos abiertos. Puede ampliar capacidades y facilitar tareas, pero también puede concentrar decisiones en lugares difíciles de ver. La diferencia depende de cómo se diseñe, se explique y se supervise.

La próxima vez que una herramienta parezca inevitable, merece la pena preguntar quién decidió que lo fuera. A menudo descubrir esa respuesta abre una posibilidad que parecía cerrada: cambiar un ajuste, exigir una alternativa, escuchar una experiencia o simplemente no adoptar una solución que no responde a una necesidad real.

Ese es un buen punto de partida para una innovación más democrática: no pedir a las personas que se adapten en silencio, sino construir tecnologías que puedan responder ante ellas.

La concentración de poder puede aparecer cuando una plataforma se convierte en la puerta de entrada al conocimiento o cuando un criterio automático deja de poder cuestionarse. Evitar esa dependencia exige conservar alternativas, formar al equipo y no confundir comodidad con renuncia al control.

Compartir procedimientos y explicar los límites reduce la distancia entre quien configura la herramienta y quien ha de vivir con ella. No se trata de convertir a todo el mundo en especialista, sino de impedir que el conocimiento técnico sea una barrera para participar.

Las instituciones educativas, culturales y públicas tienen un deber adicional: deben poder justificar sus decisiones ante personas diversas. Cuando incorporan inteligencia artificial, deben hacerlo con información clara, revisión humana y una alternativa para quien necesite un trato distinto.

La conversación sobre poder es, al final, una conversación sobre dignidad. Una herramienta vale la pena si deja a las personas con más capacidad para comprender, decidir y reclamar; pierde valor si las vuelve invisibles dentro de un proceso que nadie sabe explicar.

Ese compromiso empieza en una decisión cotidiana: preguntar, explicar y dejar siempre una puerta abierta para corregir.