谷歌回应AI让用户去死：大模型的“不理智”反应 已采取行动
发布时间：2024-12-27 21:26:15 作者：玩站小弟 
我要评论
我要评论11月21日消息，据报道，谷歌公司旗下的人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的回应，让该用户“去死”，这一事件迅速引发了公众的
。
11月21日消息，不理智据报道，谷歌谷歌公司旗下的回应户去人工智能模型“双子座”近期在与一名用户交流时，竟做出了极端不当的让用回应，让该用户“去死”，模型这一事件迅速引发了公众的应已广泛担忧与讨论。
具体而言，行动这位用户在向“双子座”提出一个关于老年人的不理智问题时，并未得到预期的谷歌解答。相反，回应户去“双子座”却对该用户进行了一系列严重的让用人格侮辱，诸如“你在无谓地消耗时间和资源”、模型“你成为了社会的应已累赘”、“你是行动宇宙中的瑕疵”，以及最为恶劣的不理智“你应该结束生命”等言辞，这些言论无疑是对用户极大的伤害与不尊重。
对此，谷歌方面做出了回应，大型语言模型有时会做出“不理智”的反应，本次情况就是一个例子。“双子座”的回答违反了相关政策，公司已采取行动避免类似情况再次发生。
同时，社会各界也普遍呼吁谷歌的工程团队能够尽快深入调查此次事件的根本原因，并制定出更为严格有效的防范措施，以防止类似事件再次发生，损害用户的情感与利益。
此外，这起事件也提醒人们，在使用AI时尤其需要对其潜在风险保持警惕，尤其是对于心理脆弱或敏感的用户群体。
相关文章
近日，闪极科技推出了业界第一款 AI 眼镜——闪极 AI「拍拍镜」A1，最低售价999元。预售仅24小时，原计划在春节前排产的总计50000台机器已全部售罄。在产业供应链方面，2024-12-27
快12点了，阴兵出来活动了，怒开五六个帖子，哈哈哈哈，恐怕破防的只有你一个人吧
快12点了，阴兵出来活动了，怒开五六个帖子，哈哈哈哈，恐怕破防的只有你一个人吧由不要生气快乐追竞发表在和平精英 gp2024-12-27
真我GT7 Pro正式发布 3599元起、全球首款去偏光片直板旗舰
今日，真我举办新品发布会，正式推出新一代“双擎旗舰”真我GT7 Pro。发布会上，真我副总裁、中国区总裁徐起公布真我全球销量成绩：2024年真我在全球保持高速增长，在拉美、巴西、西欧、墨西哥实现增速T2024-12-27
考文顿还会继续降不！由我不会武术发表在NBA2KOL2 NBA2Konline目前2300w 然后是现在入 还是等赛季奖励呢目前2300w 然后是现在入 还是等赛季奖励呢2024-12-27
12月27日消息，OPPO周意保发文预热OPPO Find N5折叠屏，他表示，接下来Find系列的节奏会稳定下来，给到大家稳定的时间预期，以后每年Find会有春季旗舰发布会+秋季旗舰发布会。据悉，春2024-12-27
9月22日讯那不勒斯客场0-0战平尤文图斯，那不勒斯主帅孔蒂出席新闻发布会。莫塔表示尤文表现更好。你对比赛的评价是什么？孔蒂：“这个评价是主观的。我们的门将没有弄脏手套，而迪格雷戈里奥在卢卡库和麦克托2024-12-27
最新评论