神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。
编者按：人工智能的发展日新月异，有人认为，既然像 这样会自己写代码和编程的 AI 已经被开发出来了，人类就不再有学习编程的需要了。但人工智能的代码虽然是人类写出来的，可经过训练之后的人工智能却发展到了并不能总是为人类所理解，人们常常只能尽量对其进行解释。代码是机器的语言，我们有越多的人能够理解这种语言，就越有可能继续成为机器革命的创作者，而不是其解释者。本文来自编译，是国外网站上的一则读者来信及编辑部回信，希望对您有所启发。
: SHEN HOU
我不会编程，并且因此很沮丧，因为现在有这么多的书、课程和夏训练营，有这么多的学习机会。我想，如果我能学会编程，学会“机器语言”，就能更好地理解机器革命。我应该试一试吗？”——
亲爱的 ：
你想学习“机器语言”的愿望让我想起了特德·姜（Ted ）的短篇小说《人类科学的进化》（The of Human ）。这个故事想象了这样一个未来：几乎所有的学术学科都被超级智能的“超能力者”主导，他们对世界的理解远远超过人类专家。这些超能力者的科学报告（虽然表面上是用人类语言写的，发表在公开的科学期刊上）在技术上非常复杂和深奥，以至于人类科学家几乎都理解不了。人类科学家已经被降级为类似神学家的角色，试图解释对自己来说晦涩难懂的文本，就像中世纪的哲学家来解读上帝的意志一样。这些科学家不是在进行原创性研究，而是在实践解释学的艺术。
曾经有一段时间，编程被认为是最有前途的技能之一，它可以让一个人成为技术精英，决定人类的未来。特德·姜的故事首次发表于 2000 年，他预见到了编程这种知识技能的局限性，这是有先见之明的。在深度学习和其他形式的高级人工智能等领域，许多技术专家已经看起来更像神学家或炼金术士了，而不是现代意义上的“专家”：尽管他们编写了最初的代码，但却往往无法解释自己的程序在数据集上训练时产生的高层次技能。[2016年， 的首席研究科学家大卫·西尔弗（David ）说，他无法解释自己设计的 程序是如何制定制胜策略的：“它是自己发现和制定出这一策略的，”西尔弗说，“是通过它自己的反思和分析过程发现的。”]
与此同时，像 GPT-3 或 的 这样的算法已经学会了自己写代码，这引发了关于软件开发人员的争论，他们的职业曾经被认为是即将到来的自动化海啸中的一个平静岛屿，但可能很快就会发生改变，并引发对“自我编程”的恐惧。人工智能的自我进化引起了人们对技术日益不透明的担忧。毕竟，人工智能有一个公认的趋势，那就是发现特异的解决方案，并发明出违反人类直觉的特殊语言。许多人已经开始怀疑：当人类不再能阅读代码时会发生什么？
我提到这一切，，是为了帮你认清严酷的现实，而不是贬低你的野心，我认为你的野心是值得称赞的。无论如何，对程序员过时的普遍担忧在我看来是危言耸听，而且为时过早。自动化代码已经以某种形式存在了几十年（回想一下 20 世纪 90 年代生成 HTML 和 CSS 的网络编辑器），即使是最先进的编码算法，目前也容易出现简单的错误，需要大量的人工监督。在我看来，你并不是想把编程作为一种职业，而是被一种更深层次的好奇心所驱使。也许你正在考虑业余爱好者的创造性乐趣，比如为开源项目做贡献，或者为你经常使用的程序中的简单错误提出修正建议。或者，你希望通过编程将自己工作中的繁琐环节自动化。如果我没理解错你的问题的话，你最想要的是对支撑现代生活的语言有一个更全面的了解。
有一个令人信服的理由是，编码现在是一种基本的文化形式，当涉及到理解我们所处的更大的意识环境时，对数据结构、算法和编程语言的掌握，与阅读和写作一样重要。当然，对业余爱好者的不信任是很自然的。业余开发人员经常被诟病，因为他们掌握了编程语言的语法，却没有创造成功产品所需的远见和眼光。但是，这种专业知识的模糊也可以被看作是一种谦逊的修养。业余知识的一个好处是，它往往会激发人们的好奇心，因为它让新手觉得自己知道的东西太少。在一个精简、用户友好界面的时代，人们很容易只看技术的表面价值，而不考虑隐藏在表面之下的动机和议程。但是，你对底层结构了解得越多，就会有越多的基本问题困扰你：代码是如何转化为电脉冲的？软件设计如何微妙地改变用户体验？像开放获取、共享和数字公地等原则的潜在价值是什么？例如，对于普通用户来说，社交平台的设计似乎是为了将你与朋友联系起来，并传递有用的信息。然而，了解一个网站是如何构建的，不可避免地会导致人们更加批判性地思考其功能是如何设计的，以最大限度地吸引用户的注意力，创建强大的数据跟踪，并在社交图谱中盈利。
最终，这些知识有可能让我们免受宿命论的影响。那些了解程序是如何构建的、以及为什么要构建的人，不太可能接受既定的程序设计的必然性。你谈到了机器革命，但值得一提的是，历史上最著名的革命（那些由人类发起的革命）都是大众文化与技术创新相结合的结果。比如，印刷机的发明和新识字的公众对书籍的需求，为宗教改革以及发生在法国和美国的革命奠定了基础。一旦相当一部分民众能够自己阅读了，他们就会开始质疑神职人员和国王的权威，以及统治假设的必然性。
目前，一些技术专家正在权衡我们最紧迫的道德问题（关于数据公正、自动化和人工智能价值），他们经常强调需要进行更大规模的公开辩论，但当公众缺乏对相关技术的基本知识时，具体和细微的对话就很难进行。（例如，只需看一眼美国众议院小组委员会最近举行的听证会，就可以看出立法者对他们试图监管的技术的理解有多差。）正如《纽约时报》科技作家凯文·卢斯（Kevin Roose）所观察到的那样，先进的人工智能模型正在“关起门来”开发，好奇的外行越来越多地被迫通过深奥的报告来了解其内部工作原理，或者相信专家的解释。“当有关（这些技术）的信息被公开时，”他写道，“通常要么被企业公关淡化，要么被淹没在高深莫测的科学论文中。”
特德·姜的故事告诉我们人类要保持“在行内圈子里”，同时也告诉我们要确保自己的圈子足够大。当人工智能越来越精通我们的语言，以人类的方式阅读、写作和交谈的能力越来越让人类惊叹不已的时候，我们理解编程语言的需求就变得更加迫切了。我们有越多的人能够理解这种语言，就越有可能继续成为机器革命的创作者，而不是其解释者。
此致,
Cloud
译者：Jane
相关文章
