OpenAI再度引发热议。这次起因却是一篇深度特稿。
此前,创立于2015年12月的OpenAI,在短短4年间,已经成为全世界最具盛名的AI研究机构。但盛名之下,却也伴随着质疑:CloseAI?宣传太过火?
现在,MIT科技评论记者Karen Hao在30多次采访之后,为大众揭开了OpenAI神秘面纱的一角。
想要让AGI(通用人工智能)服务于人类的OpenAI,现在却致力于保持机密性,保护其形象,保持员工忠诚度。
她表示:OpenAI公开拥戴的理念,与其闭门造车的方式之间,显然存在偏差。
报道一出,OpenAI创始人之一的马斯克发表推文,称“OpenAI应该更加开放”。
应该对所有人工智能都进行更好的监管,特斯拉也不例外。
需要营利的非营利组织
OpenAI的成立宗旨,是通过促进和发展友好的人工智能,而使人类整体收益。而他们的努力,最终指向AGI(通用人工智能)。
在伊隆·马斯克(Elon Musk)和萨姆·阿尔特曼(Sam Altman)创立OpenAI之初,这一非营利组织立下目标:通过与其他机构和研究者的自由合作,向公众开放专利和研究成果。
但当Karen Hao走进OpenAI,进行了30几次采访之后,她指出:OpenAI已经将其使命从安全、公平地开发和分发人工智能技术,转变为一家不断融资的秘密公司。
这家公司公开拥戴的理念,与其闭门造车的方式之间,显然存在偏差。
一切变化之始,大概还是源于“营利”二字。
OpenAI新任首席执行官萨姆·阿尔特曼明确表示:
OpenAI需要赚钱才能进行研究。
毕竟,在通向AGI的研究道路上,想要取得突破性结果,对计算资源的要求每3、4个月就会翻一番。而这背后,都是巨额的经费在燃烧。
还有顶尖研究人员的薪资。据《纽约时报》报道称,2016年的时候,OpenAI只有50多人,但仅是薪水和福利就支出了700多万美元。
资金压力之下,2019年3月,人们注意到,OpenAI的结构变了。
这家宣称要为人类谋福利的AI非营利组织宣布,成立一家“利润上限”公司OpenAI LP。
也就是说,在回报达到投资上限(首批上限100倍)后,任何对OpenAI LP投资的利润都将转移到非营利组织OpenAI Nonprofit上,该公司将按其认为合适的方式分配这些利润。
到了7月份,OpenAI又接受了微软10亿美元的投资。对此,Keras作者François Chollet曾直言:
喊着非营利的旗号,却投向营利机构的怀抱…是在鬼扯…
而OpenAI内部,也并没有想象中“open”。
Karen Hao在采访中了解到,OpenAI的大多数突破都投入了大量计算资源,他们认为,计算驱动策略是通往AGI最好的方法。
而这些结果,并没有“自由合作,向公众开放”。相反,OpenAI明确指示员工和实习生不要透露相关信息,离职人员则签署了保密协议。
现在,OpenAI的管理层似乎已经摆脱了最初的想法,不再认为开放是构建有益AGI的最佳方法。
对此,OpenAI的发言人称:
安全和安保问题未来将会迫使我们减少传统出版,同时强化共享安全、政策和标准研究的重要性。
我们希望缓慢发布结果,以了解潜在的风险和影响。
GPT-2:是噱头还是深思熟虑
这就不经让人联想到了挤牙膏式开源的GPT-2。
在最初的惊艳亮相之后,GPT-2采用了分阶段开源的方式。而OpenAI的理由是:GPT-2太危险,担心其被居心不轨的人武器化。
这引起了学界的反感。罗格斯大学助理教授布里特·巴黎(Britt Paris)就说:“OpenAI试图利用对AI的恐慌来进行资本化。”
而OpenAI越来越精良的宣传工作,更为GPT-2引来了“噱头”的评价。
他们在努力经营公司形象,保持机密性,保证员工忠诚度,那么,OpenAI还是那个开放、透明的OpenAI吗?
不过,Karen Hao还是指出,OpenAI仍是人才和前沿研究的堡垒。
OpenAI面临着折衷,这不仅是因为财力问题,而且还因为OpenAI选择了AGI战略。
压力迫使OpenAI做出似乎离其初衷越来越远的决定。它急于进行炒作以吸引资金和人才,捍卫其研究以期保持优势,并追逐投入巨大计算资源的策略——不是因为他们视此为通向AGI的唯一途径,而是因为这似乎是一条捷径。
网友热议
这一长篇报道,引发了社交媒体上的热烈讨论。
对OpenAI这家明星AI研究机构,网友们大概是又爱又恨。
有网友说:如果AGI真的能实现,还是希望能由OpenAI这样的组织,而非Google、亚马逊、facebook这样的公司完成。
但也有网友认为,OpenAI使用了太多公关技巧。
(从采访来看,)GPT-2就是个噱头。
还有人觉得,AGI只是OpenAI用来表现他们技术领先的工具。
我认为他们不会成为AI领导者,可以预测OpenAI最终将被收购。
北邮陈光老师则引用了François Chollet的一段话,并表示:看完剖析OpenAI那篇文章,对这几句话有了更深的理解——相比初衷,是否有持续正确的激励,真正决定了实验室将走向何方、能走多远。
那么,你怎么看?
完整报道链接:https://www.technologyreview.com/profile/karen-hao/
— 完 —
“