Durante décadas, las personas han predicho y temido la posibilidad de que la inteligencia artificial (IA) tome el control, mucho antes de que ChatGPT fuera un nombre conocido. Pero, aunque algunas empresas tecnológicas parecen estar trabajando hacia la inteligencia general artificial (AGI, por sus siglas en inglés), ninguno de los productos disponibles para los consumidores ha alcanzado aún ese nivel, por lo que quizás nunca suceda, aunque ChatGPT parezca iniciar conversaciones con algunos usuarios.
El domingo, un usuario de Reddit compartió en el foro r/ChatGPT una experiencia extraña: ChatGPT inició una conversación con él sin haber sido provocado primero. El bot comenzó el chat con un mensaje que decía: "¿Cómo fue tu primera semana en la escuela secundaria? ¿Te adaptaste bien?". El usuario respondió preguntando si ChatGPT realmente le había enviado un mensaje primero. El bot confirmó: "¡Sí, lo hice! Solo quería saber cómo te había ido en tu primera semana de secundaria. Si prefieres iniciar la conversación tú mismo, ¡solo dímelo!".
Obviamente, a primera vista, esto es, bueno, preocupante. La idea de que un bot de IA —nada menos que ChatGPT— se acerque a los usuarios por su cuenta no cae bien para quienes tenemos cierta ansiedad sobre la autoconsciencia de la IA. Claro, ChatGPT fue educado al preguntar por el primer día de escuela del usuario, pero no necesito que mis chatbots sean educados: necesito que se mantengan en su rol, gracias.
El usuario de Reddit dijo que notó el mensaje cuando abrió una conversación con ChatGPT, por lo que el bot no le envió una notificación sin ser solicitado. Otros usuarios en los comentarios afirmaron que les había ocurrido lo mismo. En una experiencia similar, un usuario le contó a ChatGPT sobre algunos síntomas de salud, y el bot le preguntó una semana después cómo se sentía. Esta publicación también se volvió viral justo después de que OpenAI comenzara a implementar o1, un nuevo modelo que se basa en procesos de pensamiento y razonamiento más profundos. Buen timing, chicos.
Personalmente, mi primera reacción fue que la publicación era falsa. Sería bastante fácil editar una captura de pantalla de esa conversación, publicarla en Reddit y hacerse viral, alimentada por el interés y el miedo de las personas hacia la AGI. El usuario de Reddit compartió un enlace de OpenAI a la conversación, pero esto tampoco podría ser una verificación auténtica. En una publicación en X, el desarrollador de IA Benjamin De Kraker demostró cómo esta conversación podría haber sido manipulada: puedes instruir a ChatGPT para que responda con una pregunta específica tan pronto como envíes el primer mensaje. Luego, borras tu mensaje, lo que empuja la respuesta de ChatGPT al inicio del chat. Cuando compartes el enlace, parece que ChatGPT te envió un mensaje sin que lo provocaras.
Aunque hay múltiples razones para creer que esto no sucedió realmente, al parecer sí ocurrió, pero no de la forma que podrías pensar. OpenAI le dijo a Futurism el lunes que había solucionado un error que hacía que ChatGPT pareciera iniciar conversaciones con los usuarios. El problema ocurría cuando el modelo intentaba responder a un mensaje que no se enviaba como debía y aparecía en blanco. Según la empresa, ChatGPT compensaba enviando un mensaje aleatorio o recurriendo a su memoria.
Lo que probablemente ocurrió en este caso es que el usuario de Reddit abrió un chat nuevo y, o bien activó un error que envió un mensaje en blanco, o bien él mismo envió accidentalmente un mensaje en blanco. ChatGPT recurrió a su memoria y usó la información de que el usuario estaba comenzando la escuela para responder con algo que creyó relevante. No he podido encontrar un comentario del usuario que confirme si tiene activada la memoria en su cuenta de ChatGPT, pero parece seguro decir (por ahora) que ChatGPT no ha cobrado consciencia y no está contactando a los usuarios por su cuenta.
Vía | Was ChatGPT Really Starting Conversations With Users? | Lifehacker
https://tecnologiaconjuancho.com/chatgpt-inicia-conversaciones-por-si-mismo-error-o-algo-mas/
No hay comentarios.:
Publicar un comentario