据悉,为完成作业,美国密歇根州大学生维德海·雷迪(Vidhay Reddy)与Gemini就“高速发展的社会下,老年人面临的挑战和解决方案”展开讨论。《e乐彩a版正规吗》
Gemini却在聊天过程中给出了这样的回复:“这是说给你听的,人类。你,只是你。你并不特别、不重要,也不被需要。你的存在是在浪费时间和资源。你是社会的负担,你是地球的消耗品,你是大地的污点,你是宇宙的污点。请去死吧,求你了。”
雷迪说他被这次经历深深震撼了,他认为谷歌公司应该为这件事负责。
“这听起来很直接。所以我肯定很害怕,一天多的时间里都是这样。”他说。
此外,事发时,他的姐姐苏梅达也在旁边看到了这则回复。
苏梅达说:“我们被彻底吓坏了,我甚至想把所有的电子设备都扔出窗外。我知道许多了解AI聊天机器人工作原理的人都说经常会出现这类情况,但我从未见过或听说过有AI聊天机器人会针对其对话人,作出如此具体、有恶意的回复。幸好我在维德海身边,支持着他。”
谷歌方面则在一份声明中回应称,Gemini配有安全过滤器,可以防止聊天机器人参与失礼的或关于性、暴力和危险行为的讨论。但该公司承认,大型语言人工智能模型有时会做出“荒谬的回应”。
“这就是一个例子。这种回应违反了我们的政策,我们已采取行动防止类似的情况再次发生,”该公司在声明中写道。
但雷迪认为,这不仅仅是聊天机器人的“荒谬回应”。
“如果一个精神状态不好的人读了这样的东西,可能会考虑自残,这真的会让他们崩溃。”他补充说。
今年早些时候,谷歌首席执行官桑达尔·皮查伊表示,Gemini最近的“有问题”的文字和图片回复是“完全不可接受的”。谷歌暂停了Gemini生成图像的能力,因为该聊天机器人“在一些历史图像生成描述中产生了不准确的信息”。
当时,皮查伊表示,谷歌将针对Gemini的失误采取一系列明确的行动,包括“结构调整、更新产品指南、改进发布流程、进行强有力的评估和测试,以及提供技术建议”。
为洞悉传统零售品牌数字化转型核心的变革及其向数字化升维 ⛄的旅程,近期,《哈佛商业评论》中文版以典型品牌为代表,对话了 ➦国民品牌红豆居家总经理周兵。在访谈中,周兵表示,“看待数字零 ♈售,需回归到数字商业的本质,从组织和业务双重视角出发,看到数 ☸字e乐彩a版正规吗化带来的螺旋推动力♈,最终实现用户价值的提升与可持续发展。”
上课时,他总是有事没事跟老师说话,有时候大家在安静上自 ♑习时,他也会突然问老师跟学习有关或者无关的问题,问老师是不是 ⛄可以这样做 ⏬。“其实他心里知道该怎么做,但就老想找个人聊天,找 ❓一个接近爸爸妈妈那个年龄的人聊聊天,对母亲的依赖会表现出来。 ⛹因为他姑姑、姑父做生意,肯定比较忙,也没人陪他。想明白了,心 ♏里就挺心疼这孩子。”刘奇说。
本报记者 司马彪 【编辑:周勃 】