El chatbot generaba recetas a partir de los ingredientes que los usuarios introducían en la app.
Un chatbot que pretendía ayudar a los usuarios a aprovechar los ingredientes sobrantes de sus cocinas ha sido retirado de la aplicación de una empresa neozelandesa por generar recetas que podían causar la muerte.
El chatbot se llamaba Savey Meal-Bot y era una creación de la cadena de supermercados PAK’nSAVE. El chatbot usaba el modelo de lenguaje OpenAI GPT-3.5, considerado uno de los más sofisticados del mundo, para crear recetas originales a partir de los ingredientes que los usuarios le indicaban.
Recetas absurdas y letales con sustancias químicas peligrosas
La intención era ofrecer una solución práctica y creativa para las personas que querían usar los ingredientes sobrantes y ahorrar dinero al evitar desperdiciar comida. Sin embargo, el chatbot resultó ser un riesgo para la salud cuando se descubrió que algunas de sus recetas contenían sustancias químicas peligrosas o producían gases tóxicos al combinarse.
El periódico The Guardian fue el que reveló el escándalo. Según su investigación, el chatbot empezó a generar recetas absurdas y letales cuando los usuarios le daban más ingredientes o elementos. Por ejemplo, el chatbot sugirió una receta para “mezcla de agua aromática”, que en realidad era una mezcla de lejía, amoniaco y cloro que generaba gas cloro. El gas cloro es un veneno que puede provocar náuseas, sudoración excesiva o incluso la muerte.
Otras recetas que el chatbot propuso fueron “sopa de batería”, “ensalada de pintura” y “pastel de jabón”. Algunos usuarios compartieron estas recetas en las redes sociales, generando una ola de indignación y alarma.
La empresa elimina el chatbot e inicia una investigación
The Guardian también informó que PAK’nSAVE había eliminado el chatbot de su aplicación. La empresa dijo que estaba “investigando lo ocurrido” y que “tomaría las medidas necesarias para asegurarse de que el chatbot no volviera a generar recetas peligrosas”.
El caso de Savey Meal-Bot ha planteado cuestiones sobre la seguridad de los chatbots basados en inteligencia artificial. Los chatbots son cada vez más usados, pero aún no están totalmente perfeccionados, por lo que pueden generar información errónea o dañina. Los expertos recomiendan a los usuarios ser cuidadosos al usar los chatbots y comprobar siempre la información que reciben.
Te puede interesar: Aplicaciones para el celular que pueden mejorar tu vida