OpenAI的首席执行官证实,该公司没有培训GPT-5,且一段时间内不会

483次阅读
没有评论

首席执行官Sam Altman平息了OpenAI已经在开发GPT-5的谣言。然而,对于那些担心人工智能安全的人来说,这些评论可能不会得到太大的安慰。

OpenAI的首席执行官证实,该公司没有培训GPT-5,且一段时间内不会

在关于人工智能系统构成的威胁的讨论中,OpenAI首席执行官兼联合创始人Sam Altman证实,该公司目前没有培训今年3月发布的人工智能语言模型GPT-4的假定继任者GPT-5。

麻省理工学院的一次活动中,Altman被问及最近在科技界流传的一封公开信,该信要求像OpenAI这样的实验室暂停“比GPT-4更强大的”人工智能系统开发。这封信强调了对未来系统安全的担忧,但受到了业内许多人的批评,包括一些签署方。专家对人工智能构成的威胁的性质存在分歧(它是存在性的还是更平凡的?)以及该行业最初如何“暂停”发展。

在麻省理工学院,Altman说,这封信“缺少了我们需要暂停的地方的大多数技术细微差别”,并指出,早期版本声称OpenAI目前正在训练GPT-5。“一段时间内,我们不是,也不会,”Altman说。“所以从这个意义上说,这有点愚蠢。”

然而,仅仅因为OpenAI没有在GPT-5上工作,并不意味着它没有扩展GPT-4的能力——或者,正如Altman热衷于强调的那样,考虑到此类工作的安全影响。他说:“我们正在GPT-4的基础上做其他事情,我认为有各种安全问题,这些问题需要解决,并且完全被排除在信外。”

GPT炒作和版本号的谬误

Altman的评论很有趣——尽管不一定是因为他们揭示了OpenAI的未来计划。相反,他们强调了关于人工智能安全的辩论中的一个重要挑战:测量和跟踪进度的困难。Altman可能会说,OpenAI目前没有训练GPT-5,但这不是一个特别有意义的声明。

一些困惑可以归因于我所谓的版本号谬误:编号技术更新反映了能力的明确和线性改进的想法。这是一个多年来在消费技术领域培养的误解,分配给新手机或操作系统的数字渴望版本控制的严谨性,但实际上只是营销工具。“当然,iPhone 35比iPhone 34更好,”这个系统的逻辑是这样。“数字更大,当然,手机更好。”

由于消费技术和人工智能世界之间的重叠,这种相同的逻辑现在经常应用于OpenAI的语言模型等系统。这不仅是那些发布夸张,推特线程的骗子,预测超级智能人工智能将在几年内出现,因为数字越来越大,还有更知情和更成熟的评论员。由于许多关于人工智能超级智能的说法基本上是不可证伪的,这些人依靠类似的言论来表达他们的观点。他们绘制带有标有“进度”和“时间”的轴的模糊图表,绘制一条向上和向右的线,并不加批判地将其作为证

这不是要消除对人工智能安全的担忧,也不要忽视这些系统正在迅速改进,并且不完全在我们的控制之下。但这并不是说有好的论点和坏的论点,仅仅因为我们给某件事一个数字——无论是新手机还是智能概念——并不意味着我们完全可以衡量它。

相反,我认为这些讨论的重点应该放在能力上:演示这些系统可以做什么和不能做什么,以及预测这可能会随着时间的推移而发生怎样的变化。

这就是为什么Altman确认OpenAI目前没有开发GPT-5不会对担心人工智能安全的人有任何安慰。该公司仍在扩大GPT-4的潜力,该行业的其他人正在构建类似的雄心勃勃的工具,让人工智能系统代表用户发挥作用。毫无疑问,为了优化GPT-4,也正在进行各种工作,OpenAI可能会首先发布GPT-4.5(就像GPT-3.5一样)——这是版本号可能误导的另一种方式。

即使世界各国政府能够以某种方式实施禁止新的人工智能发展,但很明显,社会对目前可用的系统忙得不可开交。当然,GPT-5还没有到来,但当GPT-4仍然没有被完全理解时,这重要吗?

 

Read More 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 
评论(没有评论)
Generated by Feedzy