Saltar al contenido
Nornic

Sobre la investigación

Predicción, explicación, influencia — y la línea entre apoyar y manipular

La IA de consumo es muy buena prediciendo lo que la gente hará. Es mucho menos claro que pueda ayudar a las personas a decidir bien. Este proyecto separa tres objetivos que suelen confundirse, y estudia el tercero — la influencia — con un propósito inusual: el juicio y el bienestar de quien decide, no una métrica de conversión.

Predicción, explicación e influencia

Diagrama de tres objetivos separados — predicción (¿qué elegirá la persona?), explicación (¿por qué podría elegirlo?) e influencia (¿cómo debería apoyar la IA?) — con la agencia humana y el bienestar del consumidor como restricciones de todo el sistema.
Fig. 01Tres objetivos que suelen confundirse — y la restricción que los vincula a todos.
01

Predicción

¿Qué elegirá la persona?


Pronosticar el comportamiento a partir de datos. Potente, cada vez más comoditizado — y mudo sobre si la elección predicha es buena para quien la toma.

02

Explicación

¿Por qué podría elegirlo?


Comprender las razones detrás de una elección. Una explicación solo es útil si es fiel — un relato verdadero del cálculo, no una historia plausible contada a posteriori.

03

Influencia

¿Cómo debería la IA apoyar la decisión de forma ética?


Cambiar el propio proceso de decisión. La línea ética: el apoyo involucra la deliberación de la persona; la manipulación la esquiva. Este proyecto vive por completo del lado del apoyo de esa línea.

IA centrada en el humano

Una función objetivo distinta

La IA de consumo convencional optimiza la métrica de la empresa — clics, conversión, retención, ingresos. Un sistema centrado en el humano rinde cuentas ante quien decide: calidad objetiva de la decisión, comprensión, autonomía, satisfacción y menos arrepentimiento. De ese cambio se derivan cuatro compromisos.

Marco de IA centrada en el humano: predicción, explicación e influencia comparten una frontera ética entre apoyo y manipulación; el marco se compromete a mantener al humano al mando con explicación fiel, bienestar del consumidor, calidad de la decisión y agencia humana; la IA convencional optimiza clics, conversión e ingresos, mientras que la IA centrada en el humano optimiza calidad de la decisión, comprensión, autonomía, satisfacción y menos arrepentimiento.
Fig. 02El marco en una sola figura: una frontera ética, cuatro compromisos y un conjunto distinto de cosas que vale la pena optimizar.
  • El humano al mando

    El sistema recomienda; la persona decide. Contradecir a la IA es siempre fácil, visible y libre de fricción o penalización.

  • Explicación fiel

    Cuando se muestra el razonamiento, es el cálculo real — aritmética inspeccionable sobre datos declarados, nunca una racionalización a posteriori ni una confianza fabricada.

  • El bienestar del consumidor como resultado

    El éxito se mide por si la persona eligió bien para su situación, no por si obedeció al sistema.

  • La agencia se mide, no se supone

    La autonomía percibida, la manipulación percibida y la conducta de rechazo se registran como resultados de primera clase junto a la calidad de la decisión.

El estudio, a grandes rasgos

Un experimento de decisión aleatorizado con cuatro condiciones

Experimento en línea aleatorizado, entre sujetos y con cuatro condiciones. Los participantes reciben un perfil realista de uso de telefonía móvil y eligen uno de seis planes. El plan objetivamente más conveniente puede calcularse a partir del perfil, lo que hace que la calidad de la decisión sea medible en lugar de supuesta.

  • Brazo 01

    Humano solo


    El participante decide únicamente con la información de los planes — sin recomendación de ningún tipo.

  • Brazo 02

    IA opaca


    Se muestra una recomendación sin ningún razonamiento.

  • Brazo 03

    IA explicable


    La misma recomendación, junto con el cálculo que la sustenta, abierta a inspección.

  • Brazo 04

    IA reflexiva


    El sistema pregunta primero qué considera importante el participante y luego recomienda un plan alineado con esas prioridades declaradas.

Donde aparece una recomendación, todas las condiciones comparten el mismo cálculo determinista, y cada pantalla es visualmente idéntica salvo por la forma de apoyo asignada. Publicamos las hipótesis direccionales y los planes de análisis mediante prerregistro — no en las páginas dirigidas a participantes — para no sesgar el comportamiento.

Qué se mide

Resultado primario. Calidad objetiva de la decisión — la brecha de costo normalizada entre el plan seleccionado y el mejor plan elegible para el perfil asignado.

  • Comprensión
  • Confianza en la decisión
  • Confianza en la recomendación
  • Autonomía percibida
  • Manipulación percibida
  • Arrepentimiento posterior a la elección
  • Satisfacción
  • Aceptación y rechazo de la recomendación
  • Tiempo en la tarea e inspección de la información
  • Alineación con las preferencias

Privacidad y consentimiento

Consentido, minimizado, eliminable

Qué cubre el consentimiento


  • El propósito del prototipo y los procedimientos que implica
  • Exactamente qué datos se recogen y durante cuánto tiempo se conservan
  • Cómo retirarte durante la sesión y cómo solicitar la eliminación después
  • Que no se usa engaño alguno, y que ningún servicio de IA externo recibe tus datos
  • Un contacto para preguntas o inquietudes

Cómo se tratan los datos


  • Identificadores de estudio anónimos — sin cuentas, nombres ni correos en los datos del estudio
  • Solo se recogen los datos que exige el protocolo; nada se reutiliza para publicidad
  • Sin píxeles publicitarios, grabación de sesión ni analítica de marketing en las rutas del estudio
  • Las recomendaciones se calculan localmente con un motor determinista — ningún dato personal se envía a un modelo externo
  • Cada registro almacenado está versionado, de modo que los resultados siguen siendo auditables y reproducibles

Esto es un prototipo de ingeniería. El reclutamiento público y cualquier afirmación de hallazgos de investigación solo llegarán tras la revisión ética aplicable y el prerregistro.