chatgpt能植入算法模型吗 对ChatGPT底层架构的隐忧

默认分类1年前 (2023)发布 admin
47 0
ChatGPT国内版

突然火爆。很多文章把它定性为各种“革命”,比如互联网革命、思维革命、教育革命、职场革命,等等。

媒体释放的信息给很多人造成了或多或少的恐慌和困惑。于互联网从业者,它无疑可能叫停了很多尚在研发阶段的项目,使前期投入归为沉没成本;于教育界,已经有很多人在讨论如何培养下一代的创造力;于职场,已经有很多段子在调侃到底谁无法被AI淘汰。

在对网站做了研究以后,我对做了思考,主要包括:

1. 本质是什么?

2. 能做什么?

3. 的功能是如何实现的?

4. 对现实和未来的影响如何?

5. 应用会产生多大影响?

chatgpt能植入算法模型吗 对ChatGPT底层架构的隐忧

根据网站的介绍,是一种优化的对话语言模型并使用基于人类反馈的强化学习( from Human (RLHF))对模型进行训练。同时,开发者还调用了 进行情感分析( ),亦即,把英语语言中的情感因素通过训练植入系统。

简言之,是一种基于自然语言的算法,它的本质是一种人类思维框架,通过计算机语言尽可能模拟人类大脑的思维原理并得出较为理想的对话效果。

从很多人的使用反馈来看,人们对的功能还是比较认可的。尽管网站也指出了的缺陷,但对于一个算法而言,只要架构足够优秀,对其进行训练就只剩下时间问题,或者说数据投喂问题。

我没有机会亲自体验,但还是处于职业惯性关注了以下几个问题:

其一,是基于英语语言设计的算法模型,由于初始模型使用了监督学习,以及 数据库,它的基因天然带着某种思维定式,甚至包括价值判断,比如什么是,什么是,什么是。中国古人有人之初性本善还是性本恶的辩论,对AI而言,植入何种价值观将直接影响一个AI日后自我学习的走向。

其二, 与谷歌相比其特点在于给出了最优答案,那么问题来了:全世界的人问同一个问题难道都要遵守同一个判断吗?这带来的危险比它能给出最优解更严峻——这直接抹煞了思维多样性,进而把全世界不同种族的人们的意识固化到一个定式上来。这背后的文明多样性侵蚀问题更值得关注和警惕。

其三, 可以用中文回答问题。这里边就出现了如何对中文语义进行价值判断的问题。中国语言的博大精深如果被基于英语语言的逻辑框架所囿驭,想想都有点恐怖。其实,现在很多领域都已经出现了翻译腔汉语,每个字都认识但就是读起来不知所云。尽管如此,有人还认为这是“行话”,甚至是专业“门槛”。如果中文因为文化融合失去文采和应有的语义内涵,这非常值得警惕。

chatgpt能植入算法模型吗 对ChatGPT底层架构的隐忧

其四, 答案的准确性如何评估才算公允?是大数据的产物,但是数据质量应当胜于数量才更具有价值。一方面,我们需要评估给出所谓最优解是否可以被看作数据质量的体现,另一方面,作答所依据的数据来源是否能保证最优解的质量?再叠加第2点中提出的答案是否全球唯一的疑问,这样的是否能够体现、提高或引导人类趋向更高的平均智力水平?

其五, 是对现有知识的整合,还没有显现类似DABUS(一种 AI ,即“发明机器人”)的所谓“创造性思维逻辑”,因此更多的是一种知识检索工具。当然,它将极大程度上拉高人类的平均知识认知水平,从而对从事知识层面收集、整理、管理、输出工作的岗位有很大的影响,但它也将创造出更多的工作机会。某些岗位是否被淘汰确实与先进工具的施用相关,但下岗的人类是否能转岗或者生存则是人类自己的事情。

中国媒体转引美国媒体报道说,有教授评估的心智达到了9岁儿童的水平。这里首先需要明确一个概念,即“心智”。英文中“mind”一词的含义无法与中国语义下的“心智”相对应。这两个词汇本身就体现了两种完全不同的思维路径和思维方式。Mind更强调认知,而心智更偏向佛家所讲的高阶的“识”。二者属于“心智”包含“Mind”的关系。因此,对于AI具有9岁儿童的意识这样的判断是否应当恐慌,完全取决于判断时思维的文化角度。

从以上我所关心的问题不难看出,我更关心所代表或者所折射的文化意义。英语世界利用自己的语言系统和哲学范式将现实世界虚拟化并以他们所认知的人类思维规律实现虚实互动。这里边运用的逻辑思维方式和语言应用迁移都是英语世界文化扩张的最新体现,是深化自身文化的产物。在一个互联互通的时代,我们不仅需要认同现实世界的全球化,更无法避免虚拟世界中的文化融合。然而,话虽如此,我们必须思考的问题可能应当是如何在如此迅雷不及掩耳的融合过程中保持中华文明的独立性和延续性,甚至扩张性。

不同的文明形态成就了世界文明的多样性。它们可以融合但无法也不应当相互取代。和而不同是中国哲学,而非黑即白更趋向于欧洲哲学传统。作为一种信息传输手段和工具,向世界提供了获得知识的一种途径,但本身不应当成为认知多样性的终结者。

横空出世预示了人工智能时代比预想的要来得更快,但它本身是否足以成熟尚待观察。未来一定会有更多更优秀的模仿人类思维方式的AI产品问世。随着传播工具日趋先进,信息交流将更加便捷。然而,传播工具的使用不应当破坏文明多样性。我们发明,我们创造,主要目的还是为了人类自身美好生活的需求。如果科技进步成为人类自身的枷锁,那科技进步的终结将成为可能,因为这背后折射的无疑是文明的冲突。

© 版权声明
广告也精彩

相关文章

暂无评论

暂无评论...