【编者按：发布这些天来，以及其升级版本和微软 Bing 搜索引擎集成上线后，随着使用的人越来越多，产生的各种奇怪的回复开始层出不穷，给使用者带来了各种负面的体验。人工智能遇到了前所未有的挑战。近期， 的首席执行官 Sam 一直忙于在推特上回应这些问题，并分享了他对人工智能及其对人类影响的看法。Sam 表示：世界可能不会离“潜在可怕的”人工智能太远，并认为“监管是至关重要的”。我们特整理编译相关新闻和各位客户、合作伙伴朋友分享分享。如需转载，请联系我们（ID：）】
很少有人比Sam 更关心人工智能及其对人类的最终影响，Sam 是 开发商 的首席执行官，因此，当担心“未来的人将如何看待我们”时，是值得关注。
在本周末的一系列推文中， 分享了他对当前 AI 技术以及未来几年将出现的工具所带来的危险的看法。他表示：向 AI 赋能的未来过渡“基本上是好的”，而且可能会很快发生——就像从“前智能手机世界到后智能手机世界”的过渡一样。
他警告说，社会需要时间来适应像人工智能这样“如此重要的东西”。
“我们还需要足够的时间让我们的机构弄清楚该怎么做，监管将是至关重要的，需要时间来弄清楚；虽然当前一代的人工智能工具不是很可怕，但我认为我们可能离可怕的人工智能并不远，”他发推文说。
同时，他指出，AI 聊天机器人面临的一个挑战是“人们在与聊天机器人交谈时感到不安，即使他们知道真正发生了什么。”
最近在的 驱动的Bing 搜索引擎中发现了这种现象。上周，Bing 开始对查询做出令人震惊的回应，从尖酸刻薄、争论不休到明显情绪化，这让一些人感到不安。
微软在上周三的一篇博客文章中解释说，长时间的聊天会“混淆模型”，模型有时可能会试图回应或“反映被要求提供可能导致我们不想要的风格的回应的语气。“该公司还试图控制该平台——它现在限制用户可以与该机器人进行的交流次数。用户现在每次会话最多可以向 Bing 询问五个问题，每天最多可以进行 50 次会话。
这也不是第一次谈到监管人工智能，早在 2015 年 ，他就在他的博客上写到了这一点。 周日关于监管的推文也呼应了 首席技术官 Mira 的评论，后者在 2 月 5 日接受《时代》杂志采访时表示， 应该受到监管，因为它可能被滥用。告诉媒体，现在对它进行监管“还不算太早”。
Elon Musk也说过类似的话，他曾是的联合创始人，上周在迪拜举行的世界政府峰会上Musk表示：人工智能有“很大、很大的希望”和能力——积极和消极的都有，但需要监管。
“坦率地说，我认为我们需要监管人工智能的安全性，”Musk在接受CNBC采访时说。“我认为，这实际上是一个比汽车、飞机或药物更大的社会风险。”
似乎也并不关心今天的 ，而是关心接下来会发生什么。他在推特上写道，“虽然当前的人工智能工具不是很可怕，但我认为我们离潜在的可怕工具可能并不遥远。”
他似乎很在意时间，预测人工智能工具将很快融入社会——而世界需要时间来调整。
他写道，“适应一个与人工智能工具深度融合的世界可能会很快发生；好处(和乐趣！）有太多的好处。我们还需要足够的时间，让我们的机构弄清楚该怎么做。监管将是至关重要的，需要时间来弄清楚……有时间了解正在发生的事情、人们希望如何使用这些工具以及社会如何共同发展，这是至关重要的。”
他的思想也转向了后代将如何回顾这段历史和现在所做的决定——他似乎希望得到一些理解和宽恕。
他写道：“我希望所有人都能够宽容地对待前几代人。”“人性是非常不完美的。我们的祖父母做了可怕的事情；我们的子孙后代会明白，我们做了我们还不明白的可怕事情。”
“我们的前辈是一个完整的组合，他们有好人也有坏人，”他继续说，“他们共同推动了世界的前进；重要的是将社会的道德进步视为一个可持续的共同项目，我们都有责任。现在轮到我们了。我希望未来的人们能以同样的方式看待我们。”
本周，特斯拉首席执行官Elon Musk与 拉开了距离。2015年，他帮助建立了一家非营利组织.微软近年来对 进行了大量投资，上个月表示将向该合资企业投入更多资金。
周五，Musk在推特上写道，“ 最初是作为一个开源（这就是为什么我将其命名为“Open”AI）得非营利性公司，以抗衡谷歌，但现在它已经成为一个由微软有效控制的闭源、最大化利润的公司。这根本不是我想要的。”
这个故事最初刊登在《财富》网站上。
注：本文整合以下两篇新闻内容而成。
首席执行官Sam 担心“潜在的可怕的”人工智能工具以及“未来的人们如何看待我们”
链接：
创始人Sam 表示，世界可能离潜在的可怕的人工智能并不遥远，他认为监管将是关键
链接：./–sam–world-not-far–scary-ai-2023-2
相关文章
