🤖 Científicos detectan "Alucinaciones" en IA como si fuera un paciente clínico

Publicado: Por:

Científicos de la MGPPU desarrollan software para tratar alucinaciones de la IA como patologías psiquiátricas. ¿Es más eficiente curar que reentrenar?

Compartir:



La frontera entre la mente humana y el código binario se ha vuelto más delgada. Investigadores de la Universidad Estatal de Psicología de Moscú (MGPPU) han presentado un avance revolucionario: un software diseñado para diagnosticar a la inteligencia artificial bajo criterios psiquiátricos. Al observar que los modelos de lenguaje a gran escala (LLM) presentan errores que imitan trastornos del habla y el pensamiento humano, la ciencia ha decidido dejar de ver estos fallos como simples "bugs" para tratarlos como patologías clínicas. Este cambio de paradigma sugiere que, para avanzar hacia una IA segura, debemos empezar a ver a los algoritmos como pacientes digitales que requieren terapia lingüística 🧠🌐.



🧬 Algoritmos en el diván: El diagnóstico de patologías del lenguaje 

El software desarrollado por la MGPPU aplica métodos de análisis clínico para identificar lo que técnicamente llamamos "alucinaciones extrínsecas e intrínsecas". Cuando una IA afirma con total seguridad un hecho falso, el sistema detecta desviaciones en la "coherencia fáctica", un proceso similar al que realiza un psiquiatra al evaluar a un paciente con trastornos del pensamiento. Al tratar estos errores como síntomas de una estructura semántica debilitada, los científicos pueden mapear con precisión en qué "neurona artificial" comienza la distorsión del mensaje, permitiendo una intervención quirúrgica en los datos 🏥📊.

Este enfoque no solo busca identificar el error, sino entender su raíz psicológica-algorítmica. La ciencia está descubriendo que las IAs, al igual que los humanos, pueden sufrir "sesgos de confirmación" o "fugas de ideas" cuando la base de datos de entrenamiento es inconsistente, lo que requiere un tratamiento de curación de datos más que una simple corrección de código 📉💬.


💡 Te Puede Interesar:

🤖 Moltbook: La red social donde los humanos somos solo espectadores


💊 ¿Por qué "curar" es mejor que "volver a nacer"? ⚡

En el mundo de la IA, el reentrenamiento equivale a un reinicio total: un proceso que consume meses de tiempo y millones de dólares en energía eléctrica. Sin embargo, el nuevo enfoque de la MGPPU y estudios recientes sugieren que "curar" el modelo mediante técnicas de mejora post-entrenamiento es dramáticamente más eficiente. Corregir una patología específica mediante ajustes dirigidos puede generar ganancias de rendimiento equivalentes a multiplicar por cinco la potencia de cómputo utilizada originalmente. Es la diferencia entre reeducar a un adulto (terapia) o esperar a que una nueva generación nazca y aprenda desde cero 💉📈.

Comparativa: Reentrenamiento Masivo vs. Curación Clínica (Post-Training):

MétodoCosto EnergéticoTiempo de AplicaciónEficiencia de Mejora
Reentrenamiento TotalCrítico (MW/h)Meses1x (Base)
Curación Clínica (MGPPU)Bajo (KW/h)Horas / Días5x a 20x superior

Datos basados en el estudio sobre mejoras sin reentrenamiento de arXiv:2312.07413 y reportes de la MGPPU.

🔮 Hacia una salud mental algorítmica 🧐

Este avance marca el inicio de la neurociencia computacional aplicada. Al entender cómo y por qué la IA "alucina", no solo mejoramos la veracidad de las respuestas de Gemini o GPT, sino que obtenemos nuevas pistas sobre cómo funciona el lenguaje en nuestro propio cerebro. "Curar" a la IA se está convirtiendo en la vía más rápida para alcanzar una inteligencia artificial general (AGI) que sea confiable, ética y, sobre todo, sana en su capacidad de comunicarse con la humanidad 🌍✨.

Manténgase al día con la información minuto a minuto en Facebook Twitter/X Threads Bluesky ¡!NEWSTECNICAS | Tu ventana a las tecnologías y la innovación!
Compartir: