现在已经不是1995年了：克雷格·纽马克谈美国为什么需要在人工智能问题上快速行动

克雷格·纽马克是一位罕见的科技亿万富翁，他看不到像保时捷或劳力士这样的身份象征的价值，这是他轻松地称其为“书呆子功能障碍”的症状。

这位70岁的程序员出身的慈善家于2000年辞去Craigslist首席执行官一职，专注于捐赠财富的最佳方式。最近，他一直在与一些组织合作，这些组织正在开发符合道德的人工智能护栏，比如常识媒体和Mozilla负责任的人工智能挑战(捐赠1亿美元，以支持退伍军人和军人家庭)。

作为一个曾经处于另一个重大技术变革-互联网的出现-的中心的人，他为这个空间带来了一个独特的视角。纽马克在最近的一次采访中说：“那时候，我们比应有的更加乐观。今天的精神不同了。现在的环境更多的是怀疑，这是理所当然的。”

但纽马克并没有像埃隆·马斯克和其他知名人士所建议的那样，暂停人工智能的发展，而是主张美国迅速、负责任地采取行动。人工智能“与印刷机的发明不相上下，”纽马克说，“印刷机改变了规则[然后]互联网改变了规则，所以这既可怕又有点令人兴奋。”

我们需要在人工智能问题上快速行动。

当Craigslist在90年代中期起飞时，Newmark发现自己陷入了一场互联网淘金热，就像我们今天看到的人工智能一样。

他回忆道：“为了合适的技术而轻松赚钱的呼声普遍存在，也是行业聚会和活动中的话题。”“有一种乐观的精神，那就是我们将共同努力，让每个人的事情都变得更好。”

投资者出价“数十亿”让他通过广告和挂牌费来赚钱，但他拒绝了。这一决定出人意料地容易。他觉得这个网站很有用，而且由于他的“功能障碍”，他认为在奢侈品上花更多的钱没有什么价值。

他并不后悔：“我见过很多次，权力让你愚蠢，而金钱往往让你愚蠢。”互联网时代的科技乐观主义也没有被证明是万无一失的。他说：“现在每个人都上网了，我们知道有更多好心的人，但只有几个坏人以很大的方式伤害了我们所有人。”

Craigslist在内容审核方面一直举步维艰，Newmark希望人工智能能在这一领域有所改进。他试着为Craigslist做了尝试，这些图片仍然萦绕在他的脑海中。他怀疑那些以此为生的人很有可能“最终接受治疗”，这是他资助反网络骚扰努力的主要原因。但人工智能工具可以消除人工审查的需要，前提是这些系统具有成本效益，而且误报比今天的工具更少。例如，OpenAI辩称，它的GPT-4模型加快了这一过程，因为“人类主持人的参与更少”。

纽马克可能已经拒绝了Craigslist数十亿美元的收购，但他表示，OpenAI首席执行官萨姆·奥特曼和那些走在人工智能发展前沿的人不会拥有同样的奢侈。他表示：“我们需要在这一领域快速行动。”“有些人和民族国家怀有恶意，我确实知道国防部、美国国家安全局和联邦调查局的人对此非常关注。”

中国就是其中之一，他说，他有一种“统治世界”的愿望。他们有很多聪明人和很多钱，但他们的经济状况并不好。他们是派系分化的，所以不同的派系会做不同的事情来相互竞争，更快地取得结果。他们有人工智能人员，他们只是住在办公室里，每天工作16个小时。

美国总统拜登本月发布了一项行政命令，限制美国对包括人工智能在内的中国技术的投资，以遏制竞争。然而，纽马克对华盛顿监管人工智能的能力缺乏信心，就像欧盟已经开始做的那样，尽管他希望被证明是错误的。“华盛顿的空气有毒，”他说。“我认为政客们把人工智能当做公关噱头，不懂这些东西的政客。”

“不要对我撒谎”和其他4条人工智能必备原则

如果由Newmark决定，每一个人工智能工具都会遵循一套基本原则。尽管他仍在学习这项技术的错综复杂之处，但基于他小时候灌输的价值观，一些想法变得显而易见。他还定期与政府高官和这方面的专家会面，比如他的隔壁邻居，一位哥伦比亚大学教授，喜欢边喝咖啡边聊神经网络。

正如PCMag对三个主要的人工智能聊天机器人-ChatGPT、Google Bard和Bing Chat-的评论中指出的那样，没有一个人实现了这五个目标。例如，ChatGPT不会将其信息归类，这对收到认为生孩子“非法”的非正轨回复是有帮助的。

纽马克还呼吁进行更多的神经学研究，这些研究可以揭示如何为负责任的智能技术建模。像ChatGPT这样的工具是建立在神经网络的基础上的，神经网络是人工智能中的一种技术，它使用受人脑启发的相互关联的分层结构。其结果是一个不断变化的、类似人类的系统，它从错误中学习，并不断改进。

“我们正在经历一种道德恐慌，因为我们不理解人工智能的终点，”他表示。“他们会变得有意识或有自我意识吗？我们不知道意识是什么。我们不知道自我意识是什么。但人工智能能够实现这一点的想法令人兴奋和恐惧。”

童年是20世纪50年代式的书呆子

了解自己的大脑花了纽马克几十年的时间。在新泽西州郊区长大的他说，他本可以使用人工智能来帮助自己融入其中。“在文法学校，我想炫耀我所知道的，并举手让别人叫我，”他说。他一度认为这种“功能障碍”是自闭症，但与朋友和行为专家的一次随意交谈证实，这很可能不是。

他和一小群志同道合的孩子一起出去玩，穿得像个“20世纪50年代的书呆子”，戴着塑料口袋保护套，戴着黑色胶带眼镜(真的是这样)。

Newmark预计，未来孩子们会花更多的时间上网，但不会像今天的帖子和观看社交媒体那样。取而代之的是，他们将在虚拟世界等群体环境中一起工作，在那里他们可能会受益于战略性放置的人工智能角色，这些角色可以帮助他们教会他们如何对待他人。他说：“我是个混蛋，没有人以有用的方式告诉我这一点，并不断重复，直到我明白为止。”

如今，至少在视频聊天中，很难想象纽马克是一个“混蛋”。他有一个冷静的存在，说话时措辞谨慎，经常以一个关于朋友或家人的故事结束。但他无法“读懂房间”一直持续到成年，他在技术问题上尤其具有对抗性。“人们试图告诉我，这是一个糟糕的想法，但人们花了20多年才意识到这一点，这并不是一个好的表现，”他说。

纽马克也经历了相当一部分对他的敌意，特别是来自批评者的批评，他们说Craigslist通过从纸质出版物的分类部分获得收入，在削弱新闻业方面发挥了重要作用。然而，纽马克迅速质疑任何暗示他的网站是唯一贡献者的说法，并援引研究发现，转向数字广告模式也起到了一定作用。

他预计人工智能将给新闻业带来下一个重大变化。“它可能会变得更具调查性–你必须去找出外面发生了什么，然后把它输入到人工智能系统中，它会为你写下这些信息。”(在我们的采访中，他给克雷格·纽马克新闻研究生院(CUNY)发了一封电子邮件，讨论将人工智能工具纳入课程。)

人工智能辅助的未来

在他的日常生活中，纽马克说，他希望人工智能助手告诉他什么时候需要道歉，并提醒他人们的名字以及他们是如何在对话开始时相遇的。或者，何时停止进食：“停止进食很重要。”他还希望人工智能能够防止地铁延误，优化红绿灯，并比人类更快地检测医疗状况。

他生活的一个方面不太可能随着更多的科技而改变：对鸽子的热爱，特别是他命名为Ghost Face Killer的鸽子。“有时候鬼脸会把他所有的朋友都带过来，这太多了，”他说，并指出他的妻子艾琳·惠尔普利刚刚回到家，关上了窗帘以阻止他们。“我们认为，七只鸽子是最大的。它们在窗户里看到我们，就摇摇晃晃地走过去。”