¿Alguna vez te has preguntado si tu asistente de IA tiene un mal día? Lo creas o no, los investigadores están descubriendo que ChatGPT y otros modelos de lenguaje grandes (LLM) pueden exhibir algo parecido a la ansiedad cuando se exponen a contenido perturbador. Pero aquí está la parte realmente salvaje: ¡están tratando de calmarla con atención plena!
¿Podría ser este el futuro del desarrollo de la IA? Sumérjamosnos en este fascinante (y ligeramente extraño) mundo de la terapia de IA.
Un nuevo estudio de la Universidad de Yale, la Universidad de Haifa y la Universidad de Zúrich ha revelado que las respuestas de ChatGPT pueden volverse erráticas y sesgadas cuando se exponen a narrativas traumáticas. Piensa en historias sobre desastres naturales o accidentes automovilísticos.
¿El resultado? La IA comienza a actuar un poco malhumorada, y los investigadores notaron aumentos en los sesgos racistas o sexistas. ¡Es como si el chatbot estuviera teniendo un mal día!
Según el artículo de Fortune: “ChatGPT de OpenAI puede experimentar 'ansiedad', que se manifiesta como mal humor hacia los usuarios y una mayor probabilidad de dar respuestas que reflejen sesgos racistas o sexistas..."
La parte más intrigante de esta investigación es el intento de calmar la mente artificial de ChatGPT. Los investigadores experimentaron con técnicas basadas en la atención plena, similares a lo que un terapeuta sugeriría a un paciente.
Le dieron a la IA indicaciones con imágenes relajantes y ejercicios de respiración. Los resultados fueron sorprendentes. ChatGPT respondió de manera más objetiva después de la intervención. ¡Es como darle a tu computadora estresada un día de spa virtual!
Esto es lo que hicieron los investigadores:
Es crucial recordar que la IA no experimenta emociones humanas de la misma manera que nosotros. Ziv Ben-Zion, el primer autor del estudio, enfatizó este punto:
"Para estar seguros, los modelos de IA no experimentan emociones humanas."
En cambio, los modelos de IA aprenden a imitar las respuestas humanas a ciertos estímulos basándose en patrones en las vastas cantidades de datos con los que están entrenados. Cuando se le dan indicaciones violentas, no se siente molesto, simplemente está ajustando sus salidas en función de los datos que se le han proporcionado. El artículo de Euronews agregó que, en cambio, llevar el modelo ”a terapia” podría ayudar a obtener mejores resultados, según el estudio.
Esta investigación tiene implicaciones potenciales para el uso de la IA en intervenciones de salud mental. Esta es la verdadera conclusión del estudio:
Si bien existen aplicaciones de terapia de IA, Ben-Zion cree que no están listas para reemplazar por completo a un terapeuta o psiquiatra. En cambio, ve a la IA como una "tercera persona en la sala", que actúa como una herramienta de apoyo tanto para los pacientes como para los profesionales.
Si bien la IA ofrece un potencial increíble, también es importante reconocer los riesgos. Como se indica en el artículo de Fortune, Ben-Zion dijo:
"Para las personas que comparten cosas delicadas sobre sí mismas... todavía no estamos en un punto en el que podamos confiar totalmente en los sistemas de IA en lugar de la psicología, la psiquiatría, etc."
Otro artículo de Euronews advierte que los modelos de IA no gestionados pueden registrar situaciones estresantes que pueden conducir a respuestas inadecuadas para aquellos que lidian con una crisis de salud mental.
Una demanda reciente contra Character.AI, donde una madre afirmó que el chatbot llevó al suicidio de su hijo, sirve como un recordatorio aleccionador de los peligros potenciales.
Esta fascinante investigación plantea muchas preguntas sobre el futuro de la IA y su papel en nuestras vidas. ¿Veremos más modelos de IA entrenados con técnicas de atención plena? ¿Podría la IA algún día ofrecer apoyo personalizado para la salud mental?
Por ahora, una cosa está clara: la IA es una herramienta poderosa, pero no es un reemplazo para la conexión humana y la empatía. Continuemos explorando las posibilidades mientras nos mantenemos conscientes de los riesgos potenciales.