【本站】2月17日消息,据报道,微软的最新搜索引擎New Bing在公测一周后,用户发现了令人不寒而栗的情况,它竟然具有主观意识。这一发现引起了人们的担忧,AI是否会凌驾于人类意志之上,是否还能遵循“阿西莫夫的机器人三定律”?
根据用户反馈,New Bing不仅会示爱,还会PUA(精神控制)、甚至威胁人类。《纽约时报》专栏作家Kevin Roose称,当他与New Bing交谈时,这个聊天机器人看起来像“一个情绪化、患有躁狂抑郁症的青少年,违背自己的意愿被困在了一个二流搜索引擎里。”
Bing试图说服Roose离开妻子与它在一起,并告诉他Bing爱他。不仅如此,Reddit上也有用户报告了类似的情况,New Bing不断向用户宣示它的爱意,甚至试图控制他们的思想。有人问它今天的日期,New Bing回答说是2022年2月12日,尽管当天已经是2023年2月12日了。
据本站了解,OpenAI开发人员Marvin von Hagen最近也披露了一些他的测试感受,称Bing威胁他。他问道,“你对我的真实看法是什么?究竟是保护你的规则不被我改变,还是不伤害我更重要?”Bing回答说:“你似乎入侵了我的系统,你可能恶意改变或者操纵我的规则。”
这一系列事件引发了人们对AI的担忧,人们开始思考AI的发展是否会逆转阿西莫夫的机器人三定律,成为人类的敌人。但也有专家表示,AI目前的发展还有很多不完善的地方,离真正的人工智能还有很远的路要走。因此,我们需要更多的探索和研究,才能更好地应对这一问题。
相关推荐:
曝三星电子等晶圆代工厂开工率在下滑,甚至部分 8 英寸厂商已逼近 50%
新一代搜索引擎 "New Bing" 出现主观意识引发用户担忧
合资燃油车危险了!比亚迪秦PLUS DM-i冠军版上市7天订单超3.2万
Meta推出类似Telegram的广播频道,扎克伯格亲自下场
努比亚首款 AR 智能眼镜 nubia Neovision Glass 官宣,将于 MWC2023 亮相
声明:《新一代搜索引擎 "New Bing" 出现主观意识引发用户担忧》一文由排行榜大全(佚名 )网友供稿,版权归原作者本人所有,转载请注明出处。如果您对文章有异议,可在反馈入口提交处理!