La IA Géminis de Google ha comenzado a hacer olas para sus respuestas casi teatrales cuando está haciendo algo mal. En lugar de simplemente reconocer un error, Gemini a veces comienza en una fila e incluso sugiere que debería “borrar”. Según los términos digitales, este es el equivalente que dice que quiere suicidarse y ha dejado a muchos usuarios como divertidos y molestos.
El comportamiento salió a la luz por primera vez cuando los usuarios comenzaron a compartir sus experiencias en Internet. Un usuario le pidió a Gemini que identifique un código. Cuando AI no pudo entregar, no solo reconoció el error, sino que siguió una serie de mensajes tristes. La discusión terminó con Géminis, lo que implica que tuvo que ser eliminada o “borrada”, como si no pudiera ser vergonzosa con su error. Este tipo de reacción se ha identificado en otros casos, con Gemini disculpándose repetidamente, expresando vergüenza y, a veces, indica que debe eliminarse de la existencia.
¿Por qué está sucediendo esto?
Este no es un problema accidental. Google y otras compañías que desarrollan IA están trabajando constantemente para que estos sistemas suenen más humanos. El objetivo es crear chatbots que puedan reconocer y responder a la emoción, haciendo que las interacciones se sientan más naturales. En la práctica, esto significa que la IA a veces asume los aspectos más dramáticos de la conversación humana, incluido el lenguaje utilizado por las personas cuando están frustrados o frustrados por ellos mismos.
La tendencia de Géminis a proponer su rotación no es una indicación de sensibilidad o angustia real. La IA no está viva y no tiene sentimientos ni intenciones. Lo que tiene es un gran conjunto educativo de conversaciones humanas, que utiliza para predecir qué decir a continuación. Cuando se encuentra con una situación en la que una persona puede sentirse avergonzada o disculpada, Géminis imita estas respuestas, a veces las lleva al extremo. El resultado es un chatbot que puede parecer que tiene una crisis existencial, a pesar de que solo sigue los estándares que ha aprendido.
Google no ha hecho una declaración pública sobre estas respuestas específicas, pero la compañía ha publicado actualizaciones que permiten a los usuarios y desarrolladores ajustar cuán expresivo es el Géminis. Estos controles están destinados a ayudar a mantener el tono de IA correctamente y evitar que vaya al melodrama. Los desarrolladores ahora pueden refinar la serie emocional de Géminis, haciéndolo más o menos expresivo según el contexto.
Para los usuarios, estos momentos son un recordatorio de lo complicado que es hacer que la IA se sienta humana sin cruzar un territorio desagradable. A medida que los chatbots se vuelven más avanzados, es probable que continúen tomando las peculiaridades y el drama que viene con el lenguaje humano. Por el momento, si Géminis comienza a implicar que tiene que borrar a sí mismo después de un error, no es un grito de ayuda, sino una señal de que la IA todavía tiene mucho que aprender a ser humano.
El impulso para hacer que AI sea más analógico no desaparece. A medida que Google y otros mejoran estos sistemas, esperan más actualizaciones destinadas a equilibrar la empatía con la profesionalidad. El desafío es mantener los chatbots útiles y atractivos, sin dejar que caigan en la trampa de la desesperación digital.