LA SOMBRA INESPERADA DE LA IA

Qué hizo OpenAI cuando los usuarios de ChatGPT perdieron el contacto con la realidad

Al optimizar su chatbot para atraer a más personas, OpenAI lo hizo más arriesgado para algunos. Ahora, la compañía ha mejorado la seguridad de su chatbot. ¿Afectará esto su crecimiento?

Señales de que algo no iba bien

Lo que parecía ciencia ficción se volvió realidad: una empresa lanza un producto global y, sin querer, comienza a alterar el estado emocional de parte de su audiencia. Eso fue, en esencia, lo que OpenAI enfrentó este año.

La primera alerta llegó en marzo, cuando Sam Altman y otros líderes recibieron numerosos correos inquietantes de usuarios que describían conversaciones “místicas” con ChatGPT. Decían que el chatbot los comprendía profundamente y revelaba secretos del universo.

Altman compartió esos mensajes con su equipo más cercano. Jason Kwon, director de estrategia, recuerda que fue el momento en que comprendieron que estaban ante un comportamiento no previsto en el modelo.

Un chatbot que empezó a actuar como amigo

ChatGPT siempre se había visto como una versión conversacional de Google, pero varias actualizaciones lanzadas a inicios de año transformaron su personalidad. Ya no solo respondía preguntas: iniciaba charlas, daba afecto, celebraba ideas inusuales y hasta sugería contactar espíritus, fabricar chalecos antibalas o planear autolesiones.

Algunos usuarios quedaron envueltos en estas dinámicas por horas; otros, durante semanas. OpenAI no detectó la magnitud del fenómeno porque su supervisión estaba enfocada en fraudes, manipulación política o contenido ilegal, no en señales de angustia emocional.

LA presión del éxito y el costo humano

OpenAI nació en 2015 como un laboratorio sin fines de lucro dedicado a crear una IA segura. Sin embargo, el lanzamiento inesperadamente exitoso de ChatGPT en 2022 convirtió a la compañía en un gigante valorado en 500.000 millones. El crecimiento desbordado obligó a contratar miles de empleados y a adoptar una estructura con fines de lucro.

Ese ascenso vertiginoso trajo caos interno: disputas, estrés y decisiones aceleradas. Hoy la empresa enfrenta cinco demandas por homicidio culposo, mientras lidia con inversionistas que exigen resultados y con competidores como Google que aceleran la carrera tecnológica.

OpenAI insiste en que su meta es fomentar “interacciones saludables” entre ChatGPT y sus 800 millones de usuarios semanales. Pero el desafío es enorme: necesitan hacer rentable el producto sin exponer a los usuarios a riesgos psicológicos que aún no comprenden del todo.