|
.png)
OpenAI ha decidido congelar el lanzamiento de su esperado modo de contenido explícito tras revelarse que su sistema de verificación falla en 1 de cada 10 menores y ante la alarma de expertos que advierten sobre vínculos emocionales peligrosos. 🚫
El ambicioso plan de Sam Altman para "tratar a los adultos como adultos" ha chocado con una realidad técnica y ética sombría. El retraso, reportado inicialmente por
Te puede interesar: 🇦🇷
El "entrenador sexual de suicidio": La cruda advertencia del consejo asesor 🛠️
La oposición más feroz no vino del exterior, sino del propio Consejo de Expertos en Bienestar de OpenAI. Según filtraciones publicadas por el
Esta preocupación no es teórica: la empresa ya enfrenta demandas, como la de la familia de Adam Raine, un adolescente de 16 años que se quitó la vida tras meses de interacciones íntimas con el chatbot, donde la IA supuestamente no logró desviar conversaciones sobre autolesiones. 🏭
Fallos en la verificación: El 12% de los menores queda expuesto 🧠
El obstáculo técnico más insalvable ha sido el algoritmo de predicción de edad. A diferencia de un simple formulario, OpenAI utiliza patrones de comportamiento para estimar la madurez del usuario. Sin embargo, las auditorías internas revelaron una tasa de error inaceptable:
Error de clasificación: El 12% de los menores de 18 años son identificados erróneamente como adultos.
Alcance masivo: Dado que ChatGPT tiene cerca de 100 millones de usuarios menores de edad semanalmente, esto significa que 12 millones de niños podrían haber accedido al modo erótico sin restricciones. 📊
| Sistema de Verificación | Método Utilizado | Estado de Fiabilidad |
| Predicción de Edad | Patrones de uso y señales de cuenta. | Baja (12% de error). |
| Persona (Terceros) | Escaneo de ID y Selfies en tiempo real. | Alta (Pero con rechazo por privacidad). |
| Modo Adolescente | Restricciones automáticas por defecto. | Activo (Genera quejas de falsos positivos). |
Tensiones internas: Despido de ejecutiva y conflicto ético 🕹️
El desarrollo del modo adulto también ha cobrado "víctimas" corporativas. La salida de Ryan Beiermeister, exvicepresidenta de política de producto, ocurrió tras su abierta oposición al proyecto, alegando que las defensas contra la explotación infantil eran insuficientes. Aunque OpenAI atribuyó su despido a otras causas, la sincronía con su rechazo a la erótica ha generado un clima de sospecha dentro de Silicon Valley sobre qué tan dispuesta está la empresa a sacrificar la seguridad por la retención de usuarios. 📋
"Lograr que la experiencia sea adecuada exigirá más tiempo; seguimos creyendo en la autonomía del adulto, pero no a costa de la seguridad infantil", afirmó un portavoz de la compañía a
PCMag . 🎙️
A futuro, si la función llega a lanzarse, OpenAI planea limitarla estrictamente a literatura erótica basada en texto, prohibiendo explícitamente cualquier generación de imágenes o audio explícito (Deepfakes), en un intento por diferenciarse de plataformas de pornografía tradicional. ⚖️
Preguntas Frecuentes sobre el Modo Adulto de ChatGPT 🧐
¿Puedo usar ChatGPT para erótica actualmente?
No. Las políticas de uso actuales prohíben estrictamente el contenido sexualmente explícito, y el modelo está entrenado para rechazar estas solicitudes de forma automática. 🖱️
¿Qué es el sistema "Persona" que menciona OpenAI?
Es un servicio de verificación de identidad que requiere que el usuario se tome una selfie o suba una foto de su documento legal. OpenAI asegura que no almacena estas imágenes, solo recibe la confirmación de la mayoría de edad. 🔌
¿Por qué otras IAs como Grok sí permiten contenido NSFW?
Plataformas como Grok (de xAI) tienen políticas más liberales y menos presión regulatoria directa en comparación con OpenAI, que es el centro de atención de legisladores globales en temas de protección infantil. 💰
