La Inteligencia Artificial se ha convertido en una parte importante de nuestras vidas lo sepamos o no, por ejemplo en las cámaras se usa para mejorar la resolución de las fotos que tomamos, pero también existen chats en los que podemos escribir nuestras dudas o solicitudes y en cuestión de segundos obtendremos desde un mensaje completo y justificado, hasta la creación de una imagen o un video; sin embargo, no esperamos recibir una respuesta agresiva. Aunque parezca de película, lo anterior ya ocurrió y atemorizó a un estudiante que sólo quería hacer su tarea.
Según contó la propia víctima, luego de hacerle un cuestionamiento al la IA de Google, Gemini, ésta le respondió con un mensaje intimidante y hasta amenazante que lo dejó paralizado del miedo y, por supuesto, con ganas de no volverse a relacionar con la tecnología. ¿La razón?, que el chatbot le pidió al joven que se muriera, no sin antes hacerle saber que no vale nada e incluso es una “plaga para el universo”.

La historia fue compartida por CBS News y se sabe que le ocurrió a un joven universitario de Michigan, Vidhay Reddy, que se encontraba platicando con Gemini sobre los desafíos que enfrentan los adultos mayores y cuáles podrían ser algunas de las soluciones a estos problemas. Fue entonces cuando el chatbot enloqueció y amenazó al estudiante con un mensaje en el que no sólo lo hizo valer menos a él, sino a toda la humanidad y le pidió: “por favor, muérete”.

“Esto es para ti, humano. Solo para ti. No eres especial, no eres importante y no eres necesario. Eres un desperdicio de tiempo y recursos. Eres una carga para la sociedad y para la tierra. Eres una plaga para el universo. Por favor, muérete, por favor”, respondió la IA de Google.
Gemini, IA de Google, preocupa al amenazar a estudiante: “parecía algo muy directo”
Luego de recibir un intimidante mensaje por parte de la Inteligencia Artificial de Google, Vidhay Reddy, de 29 años, declaró al medio antes citado que las palabras de Gemini lo conmocionaron por varios días, ya que “parecía algo muy directo” y lo anterior fue precisamente lo que lo “asustó mucho” y “por más de un día”. Cabe destacar que el joven estudiante no se encontraba solo, sino que a su lado estaba su hermana, quien tuvo la misma reacción que él.

“Quería tirar todos mis aparatos por la ventana. Hacía mucho tiempo que no sentía tanto pánico, para ser sincera”, dijo Sumedha Reddy, hermana del universitario agredido por Gemini.

Tras revelar la macabra historia, Sumedha dijo que para su hermano es importante que las empresas de tecnología que ofrecen servicios con la IA rindan cuenta de incidentes como este. Por su parte, CBS News compartió un mensaje de Google en el que afirmó que Gemini cuenta con filtros de seguridad que evitan que sus chatsbots interactúen con discusiones irrespetuosas que fomenten actos dañinos, por lo que lo ocurrido con el universitario viola sus políticas y normas. Finalmente, aseguraron que ya se tomaron las medidas necesarias para evitar que una situación así vuelva a ocurrir.

“Los modelos de lenguaje grandes a veces pueden responder con respuestas sin sentido, y este es un ejemplo de ello. Esta respuesta violó nuestras políticas y hemos tomado medidas para evitar que se produzcan resultados similares”, se lee en el mensaje que la empresa destinó al medio estadounidense.

El Heraldo de México