“自从ChatGPT推出以来，我就没有睡过一个好觉。”在周三的一次采访中，OpenAI首席执行官萨姆·奥特曼苦笑着这样说。
在这次内容广泛的采访中，奥特曼描述了监督一项数亿人每天都在使用的技术的重要性。它不是关于终结者式的场景或流氓机器人。相反，对奥特曼来说，这是他的团队每天都在做的普通的、几乎看不见的调整和权衡，模型如何拒绝一个问题的时候，如何构造一个答案的，何时决定反击，以及何时放过一些事情。
奥特曼解释说，这些小小的设计选择在全球范围内被复制了数十亿次，以他无法完全追踪的方式塑造了人们的思维和行为方式。
他说：“让我失眠的是，我们所做的关于一个模型的行为如何略有不同的非常小的决定，可能会影响到数亿人。影响是如此之大。”
一个很重要的例子是：自杀。奥特曼指出，全世界每周大约有1.5万人自杀，如果其中10%是ChatGPT的用户，那么大约有1500名有自杀念头的人可能会向该系统倾诉，然后还是自杀了。（世界卫生组织的数据证实，全世界每年约有72万人结束自己的生命）。
“我们可能没有救他们的命，”奥特曼承认，“也许我们可以说得更好一些。也许我们本可以更主动一些。”
OpenAI最近被美国一对父母起诉，他们声称ChatGPT鼓励他们16岁的儿子自杀。奥特曼在周三的采访中表示，这起案件是一个“悲剧”，并表示该平台目前正在探索一些选择，如果未成年人与ChatGPT认真讨论自杀问题，而该系统无法与他们的父母取得联系，他们就会打电话给当局。
奥特曼补充说，这不是OpenAI的“最终立场”，而且这会与用户隐私发生冲突。
奥特曼说，在加拿大或德国等协助自杀合法的国家，他可以想象ChatGPT告诉身患绝症的成年人自杀是“他们的选择空间”。但他补充说，ChatGPT不应该支持或反对任何事情。
自由和安全之间的权衡贯穿了奥特曼的所有思想。他说，总的来说，成人用户应该“像成年人一样”被对待，有广泛的自由去探索想法。但也有红线。
“ChatGPT帮助人们制造生物武器不符合社会利益，”他直截了当地说。对他来说，最难的问题是那些处于灰色地带的问题，当好奇心模糊为风险时。
主持人追问他，是什么样的道德框架支配着这些决定。奥特曼说，基本模型反映了“人类的集体，好的和坏的。”
OpenAI随后制定了一套行为代码——他称之为“模型规范”——由哲学家和伦理学家提供信息，但最终由他和董事会决定。
“你们应该追究责任的人是我，”奥特曼说。他强调，他的目的不是强加自己的信仰，而是反映“人类道德观的加权平均值”。
他承认，这是一个不可能做到完美的平衡。
此次采访还提到到权力问题。奥特曼说，他曾经担心人工智能会将影响力集中在少数几家公司手中，但现在他相信，人工智能的广泛采用已经“提升”了数十亿人的水平，使他们更有效率，更有创造力。不过，他承认，轨迹可能会改变，保持警惕是必要的。
然而，尽管现在所有的焦点都集中在这项技术对就业或地缘政治的影响上，但最让奥特曼不安的是，当数百万人每天与同一个系统互动时，这种微妙的、几乎难以察觉的文化转变会蔓延开来。他指出，ChatGPT的节奏和过度使用破折号等一些琐碎的东西，已经渗透到人类的写作风格中。如果这样的怪癖能在社会上蔓延开来，那么接下来还会发生什么呢？
奥特曼说：“我必须在脑海中同时保持这两个想法。其中一个是，所有这些事情的发生都是因为一台大型计算机非常迅速地将这些巨大的矩阵中的大量数字相乘，而这些数字与输入的单词相关。
另一方面，使用它的主观体验感觉它不仅仅是一个非常神奇的计算器，而且让我感到惊讶的是，它的方式超出了数学现实的范围。”
海量资讯、精准解读，尽在新浪财经APP
责任编辑：于健 SF069
富通优配提示：文章来自网络，不代表本站观点。
