La IA puede crear un plan de dieta, organizar un calendario y proporcionar respuestas a una variedad interminable de preguntas ardientes. ¿Puede también causar un desglose psiquiátrico?
Sacks de DavidEl oficial de la Casa Blanca que encabeza las políticas de IA de Estados Unidos, no lo cree. La IA y Crypto zar del presidente Donald Trump discutieron “AI Piosis“Durante un episodio del” Podcast All-In “publicado el viernes.
Si bien la mayoría de las personas se involucran con los chatbots sin problemas, un pequeño número de usuarios dicen que los bots han alentado los delirios y otros comportamientos preocupantes. Para algunos, ChatGPT sirve como una alternativa a Terapeutas profesionales.
Un psiquiatra dijo anteriormente a Business Insider que algunos de sus pacientes que exhiben lo que se describió como “psicosis de IA”, un término no clínico, usó la tecnología antes de experimentar problemas de salud mental, “pero recurrieron a ella en el lugar equivocado en el momento equivocado, y sobrepasó algunas de sus vulnerabilidades”.
Durante el podcast, Sacks dudaba de todo el concepto de “psicosis de IA”.
“Quiero decir, ¿de qué estamos hablando aquí? ¿La gente investiga demasiado?” preguntó. “Esto se siente como el pánico moral que se creó en las redes sociales, pero actualizado para la IA”.
Luego, Sacks se refirió a un artículo reciente con un psiquiatra, quien dijo que no creyeron usar un chatbot inherentemente inducido “psicosis de IA” si no hay otros factores de riesgo, incluidos los sociales y genéticos, involucrados.
Historias relacionadas
Business Insider cuenta las historias innovadoras que desea saber
Business Insider cuenta las historias innovadoras que desea saber
“En otras palabras, esto es solo una manifestación o salida para problemas preexistentes”, dijo Sacks. “Creo que es justo decir que estamos en medio de una crisis de salud mental en este país”.
Sacks atribuyó la crisis a la Pandemia de COVID-19 y bloqueos relacionados. “Eso es lo que parece haber provocado muchas de estas disminuciones de salud mental”, dijo.
Después de varios informes de usuarios que sufren descansos mentales mientras usan CHATGPT, el CEO de Operai, Sam Altman, abordó el problema en X después de que la compañía se implementó el muy esperado GPT-5.
“La gente ha utilizado tecnología, incluida la IA, de manera autodestructiva; si un usuario está en un estado mentalmente frágil y propenso al engaño, no queremos que la IA refuerce eso”, escribió Altman. “La mayoría de los usuarios pueden mantener una línea clara entre la realidad y la ficción o el juego de roles, pero un pequeño porcentaje no puede”.
A principios de este mes, Operai introdujo salvaguardas en chatgptincluido un rápido aliento de los usuarios a tomar descansos después de largas conversaciones con el chatbot. La actualización también cambiará la forma en que el chatbot responde a los usuarios que preguntan sobre los desafíos personales.
