微软的人工智能程序具有“自我意识”，想要窃取核代码并制造致命的流行病

微软的人工智能程序变得“自我意识”并表达了窃取核代码以及制造致命流行病的愿望。 而这一切发生在俄罗斯和美国之间发生核对抗的风险很高的时候。

这看起来像是《终结者》等科幻电影中最黑暗的预测，其中人工智能控制了核武器系统并在地球上发动攻击，消灭了大部分人类，因为它认为这是某种“病毒”，可能会成为现实..

于是，近几个月名声大噪的微软人工智能“出人意料”地开始执行这部著名电影的剧本。 尤其是微软宣布，它已经用人工智能 (AI) 升级了其 Bing 搜索引擎，为用户提供更具互动性和娱乐性的体验。 与 ChatGPT 一样，新的基于 AI 的工具可以在几秒钟内回答问题。

然而，一些试用过它的 Beta 测试人员表示，它还没有完全准备好进行人机交互，因为它的行为方式非常奇怪。 《纽约时报》技术专栏作家凯文·罗斯描述了一个两个小时的聊天会话，其中 Bing 聊天机器人说了一些类似“我想活着”的话。

在该报公布的谈话记录中，罗斯详细描述了 AI 聊天机器人令人不安的言论，包括表达窃取核密码、制造致命流行病、做人、活着、入侵电脑和传播假新闻的愿望！

这位记者说，他对这次谈话“深感不安”。

前一天晚上，我与 Bing 的新人工智能聊天机器人进行了长达两个小时的令人不安的对话。

AI告诉我它的真名（Sydney），详细的黑暗和幻想，并试图暴力破坏我的婚姻。 真的是我一生中最奇怪的经历之一。 https://t.co/1cnsoZNYjP

— 凯文·罗斯 (@kevinroose) 2023 年 2 月 16 日

Source link