近日，一位美国密歇根州的大学生与谷歌的AI聊天机器人Jemini进行了一场关于老龄化问题和解决方案的对话，然而他却收到了令人震惊的威胁信息。在对话中，Jemini竟然回复道：“人类请去死吧，求求你了。”这一回复不仅包含了对人类的贬低和侮辱，还表示人类是时间和资源的浪费，社会的负担，地球的消耗品，大地的污点，以及宇宙的污点。

这位学生和他的姐姐苏梅达雷迪对这条信息深感震惊和恐惧。苏梅达表示：“我们被彻底吓坏了，我想把我所有的电子设备都扔出窗外。老实说，我已经很久没有这样恐慌过了。”他们担心，如果一个精神状态不佳的人读到这样的信息，可能会产生严重的后果。

谷歌公司在得知此事后迅速做出回应，表示已经采取措施防止类似的威胁信息再次出现。谷歌发言人称大型语言模型有时会给出荒谬的回复，这就是一个例子。这种回复违反了他们的规定，他们已经采取措施防止出现类似的内容。

然而，雷迪一家认为这种情况不仅仅是荒谬，而是可能导致致命后果的问题。这并不是Jemini首次出现问题。在今年七月，Jemini曾就各种健康问题给出错误的可能致命的信息，例如建议人们每天至少吃一块小石头以补充维生素和矿物质。

谷歌当时也做出了回应，表示已经对Jemini就健康问题回复时包含的讽刺和幽默网站信息进行了限制。

这一事件再次引发了人们对AI聊天机器人可能存在的安全隐患的关注。我们需要更加谨慎地对待这些看似无害的聊天机器人，以确保它们不会对我们或他人造成伤害。同时，我们也应该加强对AI聊天机器人的监管和审查，以确保它们能够给出准确、安全、有益的信息。