OpenAI CEO 相信人工智能会“对世界造成重大伤害”

旗龙网网 北京时间 5 月 17 日早间消息，据报道，美国参议院对人工智能举行的第一次大型听证会涵盖了许多方面，从生成人工智能的爆发到社会和民主所感受到的生存危机。

美国参议院小组委员主席理查德・布卢门撒尔（Richard Blumenthal）在听证会一开始播放了一段音频。音频中说话的人听起来像是他本人，但实际上却是由人工智能合成的。明尼苏达州民主党参议员艾米・克罗布查（Amy Klobuchar）则与田纳西州共和党参议员玛莎・布莱克本（Marsha Blackburn）开玩笑说，根据 ChatGPT 的答案，谁的州有最好的音乐家。

但与这种轻松愉快的态度形成鲜明对比的是，人们已经意识到，这是一种可能改变一切的技术，而美国国会恐怕难以足够迅速地制定保护消费者的各种规则。

与 Facebook CEO 马克・扎克伯格（Mark Zuckerberg）和 TikTok CEO 周受资的待遇相比，ChatGPT 开发商 OpenAI 的 CEO 山姆・阿尔特曼（Sam Altman）在国会受到了更加热情和诚挚的接待。参议员们似乎接受了他的警告，相信人工智能会“对世界造成重大伤害”，并呼吁对这项新兴技术设置一些监管。

以下为本次听证会的要点：

监管需要

南卡罗来纳州共和党参议员林赛・格雷厄姆（Lindsey Graham）将人工智能技术比作核反应堆，认为相关企业应该申请执照，并对监管机构负责。其他参议员也认同这一观点，他们认为国会行动速度过慢，无法跟上创新速度，因此应当设立新的机构来为这样一个充满活力的行业制定规则。

“我会成立一家新机构，任何超过一定规模的计划都要获得许可才能进行，许可也可以收回，以确保达到安全标准。”阿尔特曼说。他补充道，这样一个美国政府机构可能有助于在全球范围内形成对人工智能监管的共识。阿尔特曼表示，这完全有可能实现，因为运行人工智能应用所需的庞大算力的供应链，大部分都由美国设计和控制。

虚假信息和民主

阿尔特曼警告称，人工智能有能力增强现有技术传播虚假信息的能力。他引用了人们之前对 Photoshop 的担忧，并表示人工智能生成的图像也会对现实产生同样的扭曲作用，而且实际影响要大得多。

“我们很担心这会对选举产生影响。”阿尔特曼说，“这不是社交媒体，二者并不一样，所以我们需要采取不同的应对措施。”

有人认为，OpenAI 这样的公司应该暂停生成式人工智能工具的开发，因为这种工具可以产生无法与人类语言相区分的内容。但与听证会的证人一样，参议员也认为，在中国等竞争对手纷纷加大人工智能创新之际，暂停美国的创新是不明智的。

阿尔特曼补充道，OpenAI 尚未推进其大语言模型工具的下一个迭代。“我们还没有开始训练 GPT-5。”他还补充道，该公司未来 6 个月没有训练 GPT-5 的计划。

透明度

与阿尔特曼一同出席听证会的 IBM 首席隐私和信任官克里斯蒂娜・蒙哥马利（Christina Montgomery）表示，透明度应当成为人工智能监管的核心，这样才能让用户知道他们的对话对象不是人类。

“消费者应当知道他们什么时候与人工智能系统互动，以及他们是否可以求助于真人。”蒙哥马利说，“无论什么情况，都不能欺骗任何人与人工智能系统互动。”

蒙哥马利和阿尔特曼也都同意，应该为用户赋予选择权，让他们自己决定是否可以用自己的数据来训练人工智能产品。

艺术作品版权

美国田纳西州参议员布莱克本为该州著名的乡村音乐行业代言，她表示，她的办公室曾经让人工智能工具写一首加斯・布鲁克斯（Garth Brooks）的歌曲，结果令人震惊。她向阿尔特曼询问了对歌手和词曲作者的版权保护措施。阿尔特曼承诺与艺术家合作，并强调内容创作者将受益于人工智能工具，并且可以保持对自己作品的控制。

“如果我们不介入，事情就会失控。”布莱克本警告说。

失业

阿尔特曼表示，他最大的担忧来自人工智能对劳动力市场的冲击，因此呼吁国会帮助解决这一问题。不过，他也表示，人工智能更擅长具体的任务，而非某个职业。即使某些岗位因此消失，人工智能也有望创造许多更高质量的岗位。

“随着我们的生活品质提高，加之我们创造的机器和工具可以帮助我们过上更好的生活，我们的工作门槛也会提高。”阿尔特曼说，“我对未来的工作机会非常乐观。”

布卢门撒尔也提到，劳动者被取代“或许是人工智能进步的最大噩梦”。他强调，必须要培训劳动者学习新的技能，应该将此作为他所谓的“迫在眉睫的新工业革命”的一部分。