马斯克走后，结局已注定！OpenAI竟10亿美元出售“灵魂”

　　文/yaxin su

　　来源：新智元（ID:AI_era)

　　2015 年创立之初，OpenAI 宣称是非营利机构，向公众开放专利和研究成果，要为人类谋福利。短短 4 年，它便成为全世界最具盛名的 AI 研究机构。然而，一切变化始于 2019 年。先是微软投入 10 亿美元，再到后来 GPT-3 商业化，OpenAI 或许早已忘记那颗炽热的初心！

　　10 亿美元出售灵魂，值吗？

　　成立于 2015 年的 OpenAI，一开始就打着非营利机构的旗号，要为人类谋福利。

　　现在呢？却被许多网友戏称为 ClosedAI。

　　“他们是在更换名字，商讨如何关门吗？我非常怀疑，那些人出卖了自己的灵魂！”

　　需要营利的非营利组织

　　2015 年成立，短短 4 年间，OpenAI 已经成为全世界最具盛名的 AI 研究机构。

　　但盛名之下，却也伴随着质疑：宣传太过火？

　　马斯克和 Sam Altman 创立 OpenAI 之初，便定下目标：通过与其他机构和研究者的自由合作，向公众开放专利和研究成果。

　　最终目标，通用人工智能（AGI）。

　　也就是 2019 年，OpenAI 成为一家名为 OpenAI LP 的盈利性公司。

　　这是一家“利润上限（caped-profit）”的公司。

　　就是说，任何对 OpenAI LP 投资的利润都将转移到一个大的非盈利公司上，回报达到投资的 100 倍之后才会分配利润。

　　一切变化之始，大概还是源于“营利”二字。

　　OpenAI 新任首席执行官 Sam Altman 明确表示：“OpenAI 需要赚钱才能进行研究。”

　　几个月后，微软注入了“10 亿美元”。

　　要清楚的是，OpenAI 与微软的合作是建立在允许后者将部分技术商业化的基础上，正如当前的 GPT-3。

　　训练 GPT-3 的费用约为 1200 万美元，这仅仅是训练。

　　OpenAI 意识到自己需要投资时，微软也恰好需要提供云计算服务，因此作为交换，以一种没有公开的方式默默将其系统商业化。

　　对于微软来说，这是一笔双赢的投资。

　　这 10 亿美元押注承载着微软追求 AI 的终极梦想：打造一个巨大的人造“大脑”，运行在微软全球范围内的云计算系统上。

　　同时，这笔投资也将有助于 OpenAI 追求人工智能领域的“圣杯”——通用人工智能（AGI）。

　　这么讲蛮有道理。

　　从 GPT-2 到 GPT-3，是噱头还是深思熟虑

　　2019 年初，OpenAI 推出了功能强大的自然语言模型 GPT-2，能够生成人性化文本。

　　当时，研究人员认定 GPT-2 是一个巨大的飞跃，因此释放它太危险了。

　　许多人担心它可能被用来“传播假新闻、垃圾邮件和虚假信息”。

　　罗格斯大学教授 Britt Paris 曾表示，“看起来 OpenAI 正试图利用人工智能给人们带来恐慌。”

　　紧接着，2020 年，OpenAI 再次通过 API 发布了最新语言模型 GPT-3，1750 亿参数，烧了万张显卡。

　　OpenAI 认为新系统比 GPT-2 大 100 倍，功能更强大，因此本质上更加危险。

　　他们甚至承认，如果产品落入坏人手中，可能会出现一些问题。

　　从潜在的滥用，包括错误信息、垃圾邮件、网络钓鱼、滥用法律和欺诈性学术论文写作，到社会偏见，强调性别、种族和宗教。

　　他们逐个审查每个访问请求，但是仍然无法控制系统最终的用途。

　　即便 OpenAI 研究人员认识到这些问题的存在，但仍然决定允许用户试用该系统。

　　为什么要通过 API 发布而不是开源模型呢？

　　OpenAI 表示，其中一个原因是“需要为他们正在进行的人工智能研究、安全和政策方面的努力买单。”

　　Copilot 潜在的法律问题

　　几周前，OpenAI、GitHub 和微软联合发布了 Copilot，这是一个基于 Codex 的 AI 结对编程助手。

　　然而，却引来了强烈批评，因为 Copilot 是用 GitHub 公共存储库的开源代码盲目训练的。

　　有用户在 Hacker News 上指出了使用 Copilot 可能存在的法律问题，比如，“ AI 生成的代码属于我还是 GitHub？”“生成的代码用什么许可证？”“如果生成的代码侵权，谁来担责或采取法律行动？”

　　GitHub 首席执行官 Nat Friedman 回答说成果属于操作者，但是其他问题并未回应。

　　另外，著名开发者 Armin Ronacher 也在 Twitter 上分享过 Copilot 抄袭大量受版权保护代码的例子。

　　还有用户称，“有直接证据表明 Copilot 直接复制了 GPL 的大量代码。”

　　不过，最让人想不通的是，Copilot 是在数千名开发人员生成的开源代码上训练的，然后 GitHub 或 OpenAI 又将这一系统出售给相同的开发人员使用。

　　程序员兼游戏设计师 Evelyn Woods 说，“这感觉就像是当面嘲笑开源。”

　　网友：OpenAI 变了吗？

　　OpenAI 正和微软越走越近，利益紧密相连。

　　可能，大型科技公司的首要任务就不是构建通用人工智能，也不是构建最安全、最负责任、最合乎道德的人工智能模型。

　　他们最想做的还是“赚钱”。

　　是不是规模大了，忘了初心？有不少网友纷纷在 Reddit 表示怀旧。

　　“怀念 2017 年的 OpenAI。只有高质量和开放的研究，没有学术界的废话。而训练机械手臂解魔方是从研究转向纯工程并专注于宣传和赚钱的第一步。”

　　还有网友表示，“马斯克 2018 年离开的时候，结局就注定了。”

　　既然有人提到了 OpenAI 的联合创始人马斯克，来看他怎么说，“OpenAI 应当更开放（个人意见）。”