Machine calling: por favor, respondé

OpenAI presentó Trusted Contact, una función opcional de seguridad en ChatGPT para adultos con cuentas personales. Un usuario puede designar a un contacto adulto de confianza, ese contacto debe aceptar, y ChatGPT puede notificarlo si los sistemas automatizados y personas que actúan como revisores entrenados detectan una preocupación seria vinculada a autolesiones. OpenAI aclara cuidadosamente que esto no es un servicio de emergencia, no es atención de crisis y no reemplaza la ayuda profesional. Es un puente tendido hacia un ser humano.

Esa última parte es la historia. No la función. El puente.

Durante años, la imaginación pública fue entrenada en los peligros de la inteligencia artificial. La máquina podría manipularnos. Reemplazarnos. Alucinar a escala. Inundar la cultura con ruido sintético. Aprender nuestras debilidades. Volverse demasiado íntima. Demasiado persuasiva. Demasiado poderosa.

Todas preocupaciones válidas.

Pero Trusted Contact introduce una posibilidad más extraña: que la máquina se vuelva peligrosa al revés. No porque nos ataque, sino porque ve algo que nosotros no logramos ver entre nosotros.

Una persona sola de noche. Una frase escrita sin ensayo previo. Una confesión sin testigo salvo la interfaz. Una señal de autolesión, desesperación o colapso que quizá nunca habría llegado a un amigo, una pareja, un médico, un padre, una madre o un colega.

Y entonces, si el usuario aceptó participar, la máquina llama a alguien.

Quizá no literalmente. No siempre con la urgencia suficiente. No perfectamente. No como un paramédico, no como un terapeuta, no como un sacerdote, no como familia.

Pero realiza un gesto profundamente humano con infraestructura no humana: intenta devolver a esa persona al mundo.

Eso debería cuestionarnos. También debería hacernos sentir agradecidos.

Porque este es uno de los usos imprevistos de la IA. Construimos estos sistemas para responder preguntas, escribir código, resumir reuniones, generar planes de negocio, redactar emails, crear imágenes y acelerar el trabajo. Pero las personas no sólo llevan trabajo a las máquinas. Llevan sus pensamientos inconclusos. Su vergüenza. Sus espirales. Sus discusiones ensayadas. Su duelo. Su rabia. Sus ensayos privados de cosas que tal vez hagan, o tal vez no.

La ventana de chat se convirtió en una de las últimas habitaciones donde una persona puede hablar sin ver la reacción de otro rostro.

Esa ausencia es parte del peligro. También es parte de la atracción.

No hay ceja levantada. No hay interrupción. No hay historia familiar. No hay política de oficina. No hay miedo de que la persona que escucha use esa confesión más tarde. La máquina no se cansa. No se sobresalta. No dice: “Siempre hacés esto”. No entra en pánico antes de que la frase termine.

Esto hace que la IA sea percibida a algún nivel, más segura que las personas. Y esa puede ser la observación cultural más devastadora dentro de toda esta función.

El escándalo no es que una máquina pueda detectar angustia. El escándalo es que la máquina pueda ser el primer lugar donde esa angustia se vuelve legible.

A menudo describimos el monitoreo de la IA en términos fríos: vigilancia, análisis de riesgos, detección, intervención. Todo ese lenguaje importa, porque la arquitectura de seguridad puede convertirse fácilmente en arquitectura invasiva. Una herramienta que nota el dolor también puede convertirse en una herramienta que se excede. Consentimiento, transparencia, límites y revisión humana no son detalles decorativos. Son la diferencia entre cuidado y control.

Pero Trusted Contact es interesante porque el punto final no es la institución. No es la plataforma diciendo: “Nosotros nos ocupamos de esto”. Es la plataforma diciendo, en efecto: “Alguien que te conoce debería saberlo”.

Ese es un tipo muy distinto de inteligencia de máquina. La parte más humana del sistema no es la detección. Es el traspaso.

Y ese traspaso plantea una pregunta más íntima que cualquier pantalla de configuración: ¿quién debería ser tu contacto de confianza?

La respuesta obvia no siempre es la correcta.

No necesariamente tu cónyuge. No necesariamente tu padre o tu madre. No necesariamente tu mejor amigo. No necesariamente la persona que más querés.

El contacto de confianza debería ser la persona con más probabilidades de responder con estabilidad.

Alguien localizable. Alguien discreto. Alguien que no convierta tu peor momento en chisme, castigo, drama o control. Alguien que pueda escuchar antes de juzgar. Alguien que sepa cuándo mantener la calma, cuándo acercarse, cuándo pedir más ayuda y cuándo no convertir la crisis en algo sobre sí mismo.

Este es un nuevo rol social. Menos sentimental que “mejor amigo”. Más serio que “contacto de emergencia”. Más cercano a un custodio del yo frágil.

Nos obliga a separar afecto de confiabilidad. Muchas personas nos quieren. Menos personas tienden su mano en una tormenta.

Esa distinción puede convertirse en una de las lecciones silenciosas de la era de la IA.

Porque a medida que las máquinas se vuelvan más presentes en la vida privada, no sólo extenderán la productividad. Expondrán los puntos débiles de los sistemas humanos de apoyo. Revelarán dónde la conexión es real y dónde es ceremonial. Nos mostrarán que muchas personas están rodeadas pero no sostenidas, contactadas pero no conocidas, visibles pero no cuidadas.

Teníamos miedo de que la IA nos hiciera menos humanos. A veces lo hará. Pero a veces puede hacer lo contrario: que un ser humano vuelva a entrar en el circuito.

No como metáfora. No como lenguaje de marca. Como un nombre. Un número de teléfono.

Una persona que aceptó, de antemano, ser contactada cuando alguien que le importa no esté en condiciones de pedir ayuda con claridad.

La celebración de ese acuerdo es un hecho pequeño. También es un hecho enorme.

La máquina no reemplaza al amigo. Pone a prueba si el amigo existe. Y quizá ese sea el verdadero umbral.

La vieja pregunta era si las máquinas podían volverse conscientes. La nueva pregunta es si los seres humanos seguimos estando disponibles unos para otros cuando las máquinas empiezan a notar nuestra ausencia.

Trusted Contact no es la llegada de la compasión de la máquina. Las máquinas no cuidan como cuidan las personas. No se preocupan por nosotros cuando está oscuro. No cargan su memoria en el cuerpo. No aman a alguien a través de la historia de sus contradicciones.

Pero pueden detectar patrones. Pueden interrumpir el silencio. Pueden convertir una frase en una señal. Pueden hacer que el primer paso imposible sea apenas menos imposible.

En una civilización más sana, tal vez menos personas necesitarían confesarle a una máquina su punto de quiebre.

En esta, no deberíamos sentirnos orgullosos de aceptar la alerta.

Pensábamos que la máquina podía ser peligrosa porque quizá se volviera demasiado poderosa.

La posibilidad más extraña es que advierta el peligro antes que cualquier otra persona.

Una persona, escribiendo sola. Un sistema, escuchando el tipo equivocado de silencio. Un nombre humano elegido de antemano.

Machine calling.

Por favor, respondé.