Inteligencia artificial está ayudando a a leer mentes, pero ¿deberíamos hacerlo?

Por

Si hasta ahora la capacidad de leer la mente solo se había dado en el terreno de la ficción y la fantasía, ahora parece apropiado aplicar la expresión a un sistema que utiliza datos de escáneres cerebrales para interpretar historias que un individuo ha leído, oído o incluso imaginado. Se trata de la más reciente de una lista de escalofriantes hazañas lingüísticas impulsadas por la IA, y ha hecho que algunos se pregunten qué clase de usos perversos le dará el ser humano a estos desarrollos.

Hasta el responsable de este proyecto, el neurocientífico computacional Alexander Huth, consideró “algo terrorífico” en las páginas de la revista Science el súbito éxito de su grupo en la utilización de la resonancia magnética convencional para descifrar los pensamientos.

Lo más escalofriante es que todos podemos padecer la espantosa afección que esta tecnología viene a abordar: se trata de una parálisis tan severa que impide incluso hablar. Puede ocurrir de forma progresiva, a causa de distintas enfermedades neurológicas, por ejemplo la esclerosis lateral amiotrófica (ELA, por sus siglas en inglés), o súbitamente, como en el caso de un ictus, que destruye toda forma de comunicación en cuestión de segundos. Es el caso, por ejemplo, de la señora que relató la terrible experiencia de estar completamente consciente a lo largo de los años en que fue considerada en estado vegetativo. También el caso del hombre que se quedó inmovilizado, atemorizado e indefenso ante la pregunta de un médico a su cónyuge sobre la conveniencia de desconectarle la ventilación artificial y permitirle fallecer.

Jean-Dominique Bauby, editor de una revista que presentaba una variación irreversible de este trastorno, empleó un sistema de párpados en su obra La escafandra y la mariposa (The Diving Bell and the Butterfly). ¿Habría podido hacer más si hubiera tenido un descifrador cerebral?

Cada mente es única, por lo que el sistema desarrollado por Huth y su equipo solo funciona después de haber sido entrenado durante horas en una sola persona. No se puede apuntar a alguien nuevo y aprender algo, al menos por ahora, explicaron Huth y su colaborador Jerry Tang la semana pasada en un evento de prensa previo a la publicación de su trabajo en Nature Neuroscience de este lunes.

Y, sin embargo, su avance abre perspectivas que son tanto aterradoras como tentadoras: una mejor comprensión del funcionamiento de nuestros cerebros, una nueva ventana a las enfermedades mentales y tal vez una forma de conocer nuestras propias mentes. En contraposición a eso, está la preocupación de que algún día dicha tecnología no requiera el consentimiento de un individuo, lo que le permitiría invadir el último refugio de la privacidad humana.

Huth, quien es profesor asistente en la Universidad de Texas, fue uno de los primeros sujetos de prueba. Él y dos voluntarios tuvieron que permanecer inmóviles durante un total de 16 horas cada uno en una resonancia magnética funcional, que rastrea la actividad cerebral a través del flujo de sangre oxigenada, escuchando historias de The Moth Radio Hour (La Hora de radio de la polilla) y el podcast Modern Love (Amor moderno), elegidos porque tienden a ser agradable y atractivo.

Esto entrenó al sistema, que produjo un modelo para predecir patrones de actividad cerebral asociados con diferentes secuencias de palabras. Luego hubo un período de prueba y error, durante el cual se usó el modelo para reconstruir nuevas historias a partir de los escáneres cerebrales de los sujetos, aprovechando el poder de una versión de ChatGPT para predecir qué palabra probablemente seguiría a otra.

Finalmente, el sistema pudo “leer” los datos del escáner cerebral para descifrar la esencia de lo que los voluntarios habían estado escuchando. Cuando los sujetos escucharon: “Todavía no tengo mi licencia de conducir”, el sistema respondió: “Ella ni siquiera ha comenzado a aprender a conducir”. Por alguna razón, explicó Huth, es malo con los pronombres, incapaz de averiguar quién le hizo, qué a quién.

Aún más extraño, a los sujetos se les mostraron videos sin sonido, y el sistema podía hacer inferencias sobre lo que estaban viendo. En uno, un personaje pateó a otro, y el sistema usó el escáner cerebral para llegar a “me tiró al suelo”. Los pronombres parecían revueltos, pero la acción dio en el blanco espeluznante.

Es posible que las personas en el escáner nunca hayan estado pensando en palabras. “Definitivamente, estamos llegando a algo más profundo que el lenguaje”, dijo Tang. “Hay mucha más información en los datos cerebrales de lo que pensábamos inicialmente”.

Este no es un laboratorio deshonesto que hace ciencia loca, sino parte de un esfuerzo a largo plazo que han llevado a cabo científicos de todo el mundo. En un artículo de The New Yorker de 2021, los investigadores describieron proyectos que condujeron a este avance. Uno compartió una visión de un esfuerzo financiado por Silicon Valley que podría simplificar el engorroso escáner de resonancia magnética funcional en un “sombrero para pensar” portátil. Las personas usarían el sombrero, junto con los sensores, para registrar su entorno para decodificar sus mundos internos y fusionarse mentalmente con otros, incluso tal vez comunicarse con otras especies. Los avances recientes hacen que este futuro parezca más cercano.

Para algo que nunca existió, la lectura de la mente parece surgir regularmente en la cultura popular, a menudo reflejando un deseo de conexión perdida o nunca realizada, como cantó Gordon Lightfoot en If You Could Read my Mind (Si pudieras leer mi mente). Envidiamos a los vulcanos por su capacidad de fusión mental.

Sin embargo, el precedente histórico advierte que las personas pueden hacer daño simplemente aprovechándose de la creencia de que tienen una tecnología para leer la mente, al igual que las autoridades han manipulado a jurados, sospechosos de delitos, candidatos a puestos de trabajo y otros con la creencia de que un polígrafo es una prueba precisa que detecta mentiras. Las revisiones científicas han demostrado que el polígrafo no funciona como la gente cree. Pero luego, los estudios científicos han demostrado que nuestros cerebros tampoco funcionan de la manera en que pensamos que lo hacen.Por lo tanto, el importante trabajo de devolver la voz a las personas cuyas voces se han perdido debido a una enfermedad o lesión debe emprenderse con una profunda reflexión sobre consideraciones éticas; y una conciencia de las muchas formas en que ese trabajo puede ser subvertido. Ya existe todo un campo de neuroética, y los expertos han evaluado el uso de versiones anteriores y menos efectivas de esta tecnología. Pero este avance por sí solo justifica un nuevo enfoque. ¿Debería permitirse que los médicos o familiares utilicen sistemas como el de Huth para intentar preguntar sobre el deseo de vivir o morir de un paciente paralizado? ¿Qué pasa si informa que la persona eligió la muerte? ¿Qué pasa si se malinterpreta? Estas son preguntas con las que todos deberíamos comenzar a lidiar.

Esta nota no refleja necesariamente la opinión del consejo editorial o de Bloomberg LP y sus propietarios.

Lea más en Bloomberg.com